برندگان جایزه تورینگ امسال، دو تن از برجسته‌ترین محققان هوش مصنوعی، نسبت به خطرات بالقوه این فناوری و اولویت دادن شرکت‌ها به سودآوری به جای ایمنی، هشدار دادند.
جایزه تورینگ، که به عنوان “جایزه نوبل محاسبات” شناخته می‌شود، هر ساله به افرادی اهدا می‌شود که سهم قابل توجهی در توسعه علوم کامپیوتر داشته‌اند. امسال، این جایزه به اندرو بارتو، محقق دانشگاه ماساچوست، و ریچارد ساتون، دانشمند تحقیقاتی سابق دیپ‌مایند گوگل، به دلیل توسعه روش یادگیری تقویتی اهدا شد. این روش یادگیری ماشینی، که بر آموزش سیستم‌های هوش مصنوعی از طریق آزمون و خطا متمرکز است، به عنوان “نقطه پیشرفت هوش مصنوعی” و یکی از ستون‌های اصلی رونق آن، از جمله ساخت محصولاتی مانند ChatGPT و AlphaGo گوگل، شناخته می‌شود.
برندگان جایزه تورینگ امسال، با استفاده از فرصت پیش آمده، نسبت به خطرات هوش مصنوعی هشدار دادند. آنها نگران هستند که شرکت‌های هوش مصنوعی، قبل از عرضه محصولات خود به بازار، آنها را به طور کامل آزمایش نمی‌کنند. به گفته آنها، این فرایند مانند ساخت یک پل و امتحان کردن ایمنی آن با استفاده از مردم است.
اندرو بارتو در مصاحبه‌ای گفت: “انتشار یک نرم‌افزار برای میلیون‌ها نفر بدون در نظر گرفتن موارد ایمنی، روش مهندسی خوبی نیست. روش‌های مهندسی برای کاهش پیامدهای منفی فناوری تکامل یافته‌اند و من این موضوع را در شرکت‌های در حال توسعه نمی‌بینم.” او همچنین اظهار داشت که شرکت‌های فعال در این حوزه، به جای تمرکز بر پیشرفت تحقیقات هوش مصنوعی، انگیزه‌های تجاری را در اولویت قرار داده‌اند.
جفری هینتون، که به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود، نیز پیش از این نسبت به توسعه ناایمن این فناوری هشدار داده بود. این هشدارها نشان می‌دهد که نگرانی‌ها در مورد خطرات هوش مصنوعی، در بین برجسته‌ترین محققان این حوزه، رو به افزایش است.
هشدار برندگان جایزه تورینگ، نشان‌دهنده اهمیت توجه به ایمنی در توسعه هوش مصنوعی است. با توجه به سرعت پیشرفت این فناوری، لازم است که شرکت‌ها و محققان، ایمنی را در اولویت قرار داده و از عرضه محصولات ناایمن به بازار خودداری کنند.
