گوگل در اقدامی جنجالی، مدل هوش مصنوعی جدیدی به نام PaliGemma 2 را رونمایی کرد که ادعا می‌شود قادر به تشخیص احساسات افراد در تصاویر است. این مدل علاوه بر توصیف دقیق تصاویر، می‌تواند احساسات افراد را شناسایی کرده و به سؤالات کاربران در مورد محتوا پاسخ دهد.
اما آیا تشخیص احساسات به این سادگی است؟ کارشناسان اخلاق هوش مصنوعی و پژوهشگران این حوزه، نسبت به قابلیت‌های ادعایی این مدل ابراز نگرانی کرده‌اند. آن‌ها معتقدند تشخیص احساسات افراد صرفاً از روی تصاویر، امری پیچیده و پر از چالش است.
چرا تشخیص احساسات اینقدر پیچیده است؟
- تفاوت‌های فردی در ابراز احساسات: مطالعات نشان می‌دهند که افراد از فرهنگ‌ها و زمینه‌های مختلف، احساسات خود را به شیوه‌های متفاوتی ابراز می‌کنند.
- پیچیدگی احساسات انسانی: احساسات انسان‌ها بسیار پیچیده و چندلایه هستند و نمی‌توان آن‌ها را به چند احساس پایه محدود کرد.
- تعصبات در الگوریتم‌ها: مطالعات اخیر نشان داده‌اند که الگوریتم‌های تشخیص احساسات ممکن است نسبت به افراد با رنگ پوست متفاوت، تعصباتی داشته باشند.
- سوءاستفاده‌های بالقوه: نگرانی اصلی در مورد این فناوری، سوءاستفاده از آن در زمینه‌های مختلف مانند استخدام، بازاریابی و نظارت است.
گوگل ادعا می‌کند که آزمایش‌های گسترده‌ای برای کاهش تعصبات در این مدل انجام داده است، اما جزئیات کافی در این مورد ارائه نشده است. همچنین، این شرکت تأکید کرده است که تشخیص احساسات در این مدل به صورت پیش‌فرض فعال نیست و برای استفاده از این قابلیت، تنظیمات خاصی مورد نیاز است.
کارشناسان و فعالان حقوق دیجیتال نسبت به این فناوری ابراز نگرانی کرده‌اند و معتقدند که استفاده از این مدل می‌تواند به نقض حریم خصوصی افراد و ایجاد تبعیض منجر شود. آن‌ها خواستار وضع قوانین سختگیرانه‌تر برای نظارت بر توسعه و استفاده از این نوع فناوری‌ها هستند.
آینده تشخیص احساسات با هوش مصنوعی
با توجه به پیشرفت‌های سریع در حوزه هوش مصنوعی، انتظار می‌رود که فناوری تشخیص احساسات در آینده توسعه بیشتری پیدا کند. با این حال، برای استفاده ایمن و اخلاقی از این فناوری، نیاز به تحقیقات بیشتر و تدوین قوانین مناسب است. اما در این بین سوالاتی هست که باید به آن‌ها پاسخ داد:
- آیا می‌توان به طور دقیق احساسات افراد را از روی تصاویر تشخیص داد؟
- چه خطراتی استفاده از این فناوری را تهدید می‌کند؟
- چه قوانین و مقرراتی برای نظارت بر این فناوری لازم است؟
در نهایت، باید توجه داشت که تشخیص احساسات با هوش مصنوعی، فناوری است که پتانسیل ایجاد تحولات بزرگ در حوزه‌های مختلف را دارد. با این حال، استفاده از این فناوری بدون در نظر گرفتن جنبه‌های اخلاقی و اجتماعی آن، می‌تواند عواقب جدی به دنبال داشته باشد.
