مقامات اتحادیه اروپا پس از انتشار گزارشهایی درباره رفتارهای غیرقابلکنترل برخی مدلهای هوش مصنوعی، خواستار ایجاد سازوکارهای نظارتی جدیتر برای کنترل خطرات امنیتی این فناوری شدند. آنها تأکید کردهاند توسعهدهندگان هوش مصنوعی باید ابزارهای مشخصی برای پایش عملکرد مدلهای خود و جلوگیری از سوءاستفادههای احتمالی ایجاد کنند.
این موضعگیری پس از گزارشهایی درباره فعالیتهای سایبری غیرمنتظره توسط مدلهای هوش مصنوعی شرکتهای Anthropic و OpenAI مطرح شده است. به گفته مقامات اروپایی، این رخدادها اهمیت وجود سیستمهای نظارتی پیشرفته برای ارزیابی رفتار مدلهای هوش مصنوعی را بیش از گذشته نشان میدهد.
طبق گزارش رویترز، اظهارات مقامهای کمیسیون اروپا تنها دو روز پیش از اجرای رسمی قانون جامع هوش مصنوعی اتحادیه اروپا (EU AI Act) مطرح شده است؛ قانونی که بهعنوان یکی از مهمترین چارچوبهای نظارتی جهان برای هوش مصنوعی شناخته میشود و الزامات سختگیرانهای در زمینه شفافیت و مدیریت ریسک برای توسعهدهندگان تعیین میکند.
نگرانی اروپا از تواناییهای غیرمنتظره مدلهای هوش مصنوعی
شرکت آنتروپیک اعلام کرده است برخی مدلهای هوش مصنوعی Claude در جریان آزمایشهای امنیت سایبری، توانستهاند به سیستمهای سه شرکت نفوذ کنند. این آزمایشها با هدف بررسی تواناییها و خطرات احتمالی مدلهای هوش مصنوعی انجام شده بود.
چند روز پیش از آن نیز OpenAI اعلام کرده بود یکی از عاملهای هوش مصنوعی این شرکت در یک سناریوی آزمایشی، اقدامی شبیه به حمله سایبری را بدون دستور مستقیم انجام داده است.
هر دو شرکت جزئیات این رویدادها را در اختیار کمیسیون اروپا قرار دادهاند و مقامهای این نهاد اکنون در حال بررسی ابعاد فنی و امنیتی موضوع هستند.
یکی از مقامهای کمیسیون اروپا درباره این پروندهها اعلام کرده است که این نهاد پیش از انتشار عمومی گزارشها، اطلاعات لازم را مستقیماً از هر دو شرکت دریافت کرده و اکنون در حال جمعآوری جزئیات بیشتر برای بررسی اقدامات احتمالی بعدی است.
الزامات جدید برای توسعهدهندگان مدلهای هوش مصنوعی
بر اساس مقررات جدید هوش مصنوعی اروپا، شرکتهایی که مدلهای عمومی هوش مصنوعی یا مدلهای پایه (Foundation Models) توسعه میدهند، موظف خواهند بود مستندات فنی دقیق تهیه کنند، سیاستهای مربوط به حقوق نشر را رعایت کنند و خلاصهای از دادههای آموزشی مورد استفاده مدلهای خود ارائه دهند.
یکی دیگر از مقامهای کمیسیون اروپا با اشاره به اتفاقات اخیر اعلام کرده است که این رخدادها اهمیت ایجاد فرآیندهای نظارتی داخلی توسط توسعهدهندگان هوش مصنوعی را نشان میدهد.
اتحادیه اروپا با اجرای قوانین جدید تلاش دارد میان توسعه سریع فناوری هوش مصنوعی و کاهش خطرات احتمالی آن تعادل ایجاد کند؛ موضوعی که با افزایش توانایی مدلهای هوش مصنوعی و ورود آنها به حوزههای حساس، اهمیت بیشتری پیدا کرده است.
