اوپنایآی قابلیت نظارتی جدیدی را برای ChatGPT معرفی کرده است که در صورت مسدود شدن حساب کاربری نوجوانان به دلیل نقض قوانین مرتبط با تهدید یا رفتارهای خشونتآمیز، والدین آنها را در جریان قرار میدهد. این ویژگی با هدف افزایش ایمنی کاربران کمسنوسال و کمک به خانوادهها برای واکنش سریعتر در شرایط حساس توسعه یافته است.
بر اساس اعلام اوپنایآی، سیستم جدید هشدارها به والدین اجازه میدهد در صورت شناسایی رفتارهای پرخطر در حساب فرزندان خود، اطلاعات لازم را دریافت کنند. این اقدام بخشی از برنامه گستردهتر شرکت برای افزایش نظارت خانوادگی و ایجاد محیط امنتر برای استفاده نوجوانان از ابزارهای هوش مصنوعی محسوب میشود.
واکنش اوپنایآی پس از یک پرونده جنجالی
توسعه این قابلیت پس از انتقادهایی نسبت به عملکرد چتجیپیتی در جریان حادثه تیراندازی دستهجمعی سال ۲۰۲۵ میلادی (۱۴۰۴ شمسی) در تامبلر ریج کانادا مورد توجه بیشتری قرار گرفت. در آن پرونده، مشخص شد فرد مهاجم پیش از وقوع حادثه از چتجیپیتی استفاده کرده بود و مقامهای کانادایی از اوپنایآی درباره اطلاعرسانی نکردن در خصوص مسدود شدن حساب کاربری وی انتقاد کردند.
سم آلتمن، مدیرعامل اوپنایآی، پس از این اتفاق بابت کوتاهیهای انجامشده عذرخواهی کرد و این شرکت اعلام کرد اقدامات بیشتری برای شناسایی و مدیریت رفتارهای خطرناک در پلتفرم خود انجام خواهد داد. اوپنایآی برای توسعه این قابلیت با مؤسسه مونشات (Moonshot) همکاری کرده است؛ مجموعهای که در زمینه مقابله با خشونت آنلاین و افزایش ایمنی فضای دیجیتال فعالیت میکند. ویدیا رامالینام، بنیانگذار مونشات، اعلام کرده است که اطلاعرسانی سریع به والدین هنگام بروز نگرانیهای جدی، میتواند نخستین گام برای مداخله زودهنگام و دریافت کمکهای لازم از سوی خانوادهها باشد.
نحوه اطلاعرسانی به والدین در چتجیپیتی
در نسخه جدید، والدین پیامی با عنوان «تغییرات مهم» درباره حساب کاربری فرزند خود دریافت خواهند کرد. با انتخاب گزینه «اطلاعات بیشتر»، آنها میتوانند دلیل غیرفعال شدن حساب را که مربوط به نقض سیاستهای رفتاری و محتوای خشونتآمیز است، مشاهده کنند.
اوپنایآی پیش از این نیز مجموعهای از ابزارهای کنترل والدین را برای حسابهای نوجوانان ارائه کرده بود؛ از جمله امکان محدود کردن زمان استفاده، کاهش دسترسی به محتوای حساس و اعمال تنظیمات ایمنی بیشتر.
قابلیتهای جدید برای استفاده سالمتر نوجوانان
این ابزار در کنار قابلیتهای آموزشی جدید چتجیپیتی مانند حالت مطالعه فعال ارائه میشود. این حالت به دانشآموزان کمک میکند بهجای دریافت مستقیم پاسخ، راهنماییهای مرحلهبهمرحله دریافت کنند و فرآیند یادگیری به شکل مؤثرتری انجام شود.
همچنین چتجیپیتی برای کاربران نوجوان، پیامهای یادآوری استراحت نمایش میدهد تا استفاده متعادلتر و سالمتری از فناوری شکل بگیرد.
