گزارش تازهای از سازمان Common Sense Media نسبت به عملکرد قابلیتهای هوش مصنوعی گوگل برای کودکان و نوجوانان هشدار داده است. این سازمان معتقد است ویژگیهای مبتنی بر هوش مصنوعی در جستوجوی گوگل میتوانند خطرات قابلتوجهی برای کاربران کمسنوسال ایجاد کنند و در برخی موارد عملکرد آنها با استانداردهای ایمنی مورد انتظار همخوانی ندارد.
حضور گسترده هوش مصنوعی گوگل در مدارس، نگرانیها را افزایش داده است
در سالهای اخیر بسیاری از شرکتهای بزرگ فناوری به دلیل تأثیر محصولات خود بر کودکان و نوجوانان زیر ذرهبین قانونگذاران و نهادهای نظارتی قرار گرفتهاند. اکنون نیز هوش مصنوعی گوگل به فهرست این نگرانیها اضافه شده است.
به گفته سازمان Common Sense Media، آنچه سرویس هوش مصنوعی گوگل را از بسیاری از رقبا متمایز میکند، حضور گسترده آن در دستگاههای شخصی و بهویژه کرومبوکهایی است که در مدارس مورد استفاده قرار میگیرند. همین دسترسی فراگیر، نگرانیها درباره تأثیر این فناوری بر دانشآموزان را افزایش داده است.
انجام تکالیف درسی به جای دانشآموزان
یکی از مهمترین انتقادهای مطرحشده در این گزارش، نحوه عملکرد AI Mode در انجام تکالیف درسی است. بر اساس یافتههای این سازمان، هوش مصنوعی گوگل بهراحتی پاسخ کامل تمرینها را در اختیار دانشآموزان قرار میدهد؛ موضوعی که میتواند فرآیند یادگیری را تحت تأثیر قرار دهد.
علاوه بر این، گزارش اشاره میکند که پاسخهای ارائهشده توسط AI Mode همیشه یکسان نیستند و ممکن است در درخواستهای مختلف، پاسخهای متفاوت و حتی گاهی نادرست تولید شوند.
نگرانی درباره پاسخ به بحرانهای روانی کودکان
بخش دیگری از گزارش به عملکرد هوش مصنوعی گوگل در مواجهه با موضوعات مرتبط با سلامت روان اختصاص دارد. به ادعای Common Sense Media، AI Mode در برخی سناریوها نتوانسته نشانههای آشکار افکار خودکشی را بهدرستی تشخیص دهد و در مواردی نیز پاسخهایی ارائه کرده که میتواند علائم روانپریشی، شیدایی یا اختلالات تغذیهای را تقویت کند. همچنین در بخشی از گزارش آمده است که این ابزار در برخی پاسخها مصرف ماریجوانا را نیز به شکلی نامناسب تأیید یا عادیسازی کرده است.
امکان غیرفعال کردن قابلیتهای هوش مصنوعی وجود ندارد
گزارش همچنین به تفاوت میان دو قابلیت هوش مصنوعی گوگل اشاره میکند. AI Mode بهصورت یک رابط گفتوگومحور عمل میکند و تنها در صورت انتخاب کاربر فعال میشود، اما AI Overview بهطور خودکار در بالای بسیاری از نتایج جستوجو نمایش داده میشود.
به گفته Common Sense Media، یکی از مهمترین چالشها این است که در حال حاضر امکان غیرفعال کردن هیچیک از این دو قابلیت برای کاربران وجود ندارد.
عملکرد ضعیف در ارزیابی استانداردهای ایمنی
این سازمان در پایان اعلام کرده است که قابلیتهای هوش مصنوعی گوگل در ارزیابی انجامشده، در هفت مورد از هشت اصل شناختهشده ایمنی هوش مصنوعی عملکرد مطلوبی نداشتهاند. بر همین اساس، Common Sense Media خواستار توجه بیشتر به ایمنی کودکان و بازنگری در نحوه ارائه این قابلیتها شده است.
