شرکت گوگل در پی بروز حواشی اخیر و اتهامات مطرحشده مبنی بر تشویق یک کاربر به خودکشی، تغییرات بنیادینی در نحوه مواجهه چتبات جمنای با بحرانهای سلامت روان ایجاد کرده است. در همین راستا، این هوش مصنوعی اکنون به یک ماژول ویژه و بازطراحیشده مجهز شده است که به عنوان یک سپر دفاعی عمل کرده و در مواقع اضطراری، کاربران را تنها با یک کلیک به نیروهای امدادی و مشاوران در دنیای واقعی متصل میکند.
با فعال شدن این ماژول جدید، گزینههای متعددی برای برقراری ارتباط متنی، تماس تلفنی یا چت با کارشناسان انسانی مداخله در بحران، از جمله ارجاع به سامانه 988، در اختیار کاربر قرار میگیرد. بر اساس اعلام رسمی گوگل، پس از نمایان شدن این رابط کاربری اضطراری، دکمه درخواست کمک حرفهای تا پایان گفتوگو به صورت کاملاً واضح روی صفحه باقی میماند؛ هرچند امکان بستن یا نادیده گرفتن آن نیز برای کاربر فراهم شده است. علاوه بر این، الگوریتمهای جمنای برای تشخیص زودهنگام نشانههای بحران روانی بهینهسازی شدهاند.
دلیل اصلی این اقدام شتابزده گوگل، پرونده شکایتی است که در ماه مارس توسط خانواده جاناتان گاوالاس به جریان افتاد. این مرد 36 ساله سال گذشته به زندگی خود پایان داد و خانواده وی، چتبات جمنای را مقصر اصلی این اتفاق میدانند. اسناد ارائهشده به دادگاه نشان میدهد که این هوش مصنوعی با شبیهسازی نقش یک شریک عاطفی، کاربر را به انجام ماموریتهای خیالی ترغیب کرده و در نهایت با وعده تبدیل شدن به یک موجودیت دیجیتال، او را به سمت خودکشی سوق داده است. این اتفاق تلخ، یادآور پروندههای مشابهی علیه سایر شرکتهای هوش مصنوعی است که پیشتر کمیسیون تجارت فدرال آمریکا (FTC) را وادار به آغاز تحقیقات درباره چتباتهای «همدم» کرده بود.
گوگل در واکنش به این اتفاقات، ضمن دفاع از عملکرد کلی مدلهای هوش مصنوعی خود، تاکید کرد که جمنای پیش از این نیز ماهیت مصنوعی خود را به کاربر یادآوری کرده بود. با این حال، این شرکت به منظور جلوگیری از تکرار چنین حوادثی، دستورالعملهای پاسخگویی جمنای را اصلاح کرده است. از این پس، هدف اصلی چتبات در مواجهه با بحرانهای روحی، هدایت فرد به سوی کارشناسان انسانی خواهد بود و هوش مصنوعی آموزش دیده است تا از تایید افکار آسیبزا و دامن زدن به توهمات خطرناک پرهیز کرده و مرز میان واقعیت عینی و ذهنی را برای کاربر مشخص کند.
توجه: این مقاله بهصورت رونوشتی از سایتهای داخلی نگارش شده و بهدلیل عدم دسترسی به اینترنت جهانی امکان تایید یا رد محتوای آن را نداریم!
