مرزهای بین محتوای تولید شده توسط هوش مصنوعی و انسان روز به روز مبهم‌تر می‌شوند؛ لذا شرکت‌های حوزه فناوری برای اطلاع‌رسانی به کاربران در رابطه با نوع محتوای پیش روی خود دست به اقدامات ویژه‌ای زده‌اند.
به‌عنوان مثال هر تصویری که با استفاده از ویژگی جدید Generative AI سامسونگ دستکاری می‌شود و کلیه تصاویر والپیپر Generative در سری گلکسی S24 دارای واترمارک کوچک و متادیتا جهت تائید منشاء آنها یعنی هوش مصنوعی هستند.
متا نیز از مدتی قبل، ابزار مشابهی را برای عکس‌های ایجاد شده با مولد تصویر Meta AI در اختیار دارد. این ابزار به کاربران متا امکان می‌دهد تا از طریق پیام‌های متنی ساده، واترمارک‌ها و واترمارک‌های نامرئی متوجه شوند که با محتوای تولید شده توسط هوش مصنوعی سروکار دارند.
در هفته جاری شرکت متا از یک ویژگی ابتکاری جدید برای برچسب‌گذاری تصاویر تولید شده با هوش مصنوعی در پلتفرم‌های فیس‌بوک، اینستاگرام و تردز رونمایی کرد. بدین‌ترتیب تصاویر تولید شده با استفاده از سیستم‌های مختلف هوش مصنوعی ارائه شده توسط سایر شرکت‌ها نیز برچسب‌گذاری می‌شوند.
متا با این اقدام به‌دنبال تقویت شفافیت هوش مصنوعی در رسانه‌های اجتماعی است. اگرچه شرکت‌های فعال در حوزه هوش مصنوعی، سیگنال‌هایی را درون مولدهای هوشمند خود گنجانده‌اند؛ اما افراد با برخی روش‌ها می‌توانند نشانگرهای نامرئی را از بین ببرند. بنابراین شناسایی تمامی محتواهای تولید شده توسط هوش مصنوعی کماکان امکان‌پذیر نیست.
با این‌حال متا سرگرم کار روی توسعه ابزارهایی است که قادر به تشخیص خودکار محتوای تولید شده با استفاده از هوش مصنوعی هستند؛ حتی اگر این محتواها فاقد نشانگرهای نامرئی باشند. متا اعلام کرده که به منظور تعیین استانداردهایی برای شناسایی عکس‌ها، ویدیوها و صداهایی که با استفاده از هوش مصنوعی دستکاری شده و در پلتفرم‌های رسانه اجتماعی منتشر شده‌اند؛ با شرکای صنعتی خود همکاری می‌کند.
به گفته متا این شرکت مشغول ساخت ابزارهای پیشرو در صنعت است که قادر به تشخیص محتوای تولید شده با هوش مصنوعی در مقیاس کلان هستند. با راه‌اندازی سیستم‌های جدید طی ماه‌های آینده و فراهم شدن امکان شناسایی شاخص‌های استاندارد صنعتی محتوای تولید شده توسط هوش مصنوعی، متا محتوای دستکاری شده با هوش مصنوعی در پلتفرم‌های فیس‌بوک، اینستاگرام و تردز را برچسب‌گذاری خواهد کرد.
پیش از اینکه صنعت بتواند از این ابزارهای جدید تشخیص هوش مصنوعی در مقیاس کلان استفاده کند؛ متا ویژگی جدیدی را اضافه خواهد کرد که به کاربران شبکه‌های اجتماعی امکان می‌دهد تا از هوش مصنوعی به شکلی مسئولانه استفاده کرده و در زمان اشتراک‌گذاری محتوای تولید شده با هوش مصنوعی، این موضوع را فاش نمایند. چنان‌چه کاربران، محتوای تولیدی با هوش مصنوعی را برچسب‌گذاری نکنند؛ احتمالا با جریمه مواجه خواهند شد.
متا اعلام کرده که در صورت تشخیص اینکه تصویر، ویدیو یا محتوای صوتی ایجاد شده یا دستکاری شده، خطر فریب مادی عمومی را در مورد یک موضوع مهم به‌دنبال دارد؛ احتمالا در صورت لزوم از برچسب برجسته‌تری استفاده می‌شود تا کاربران در خصوص محتوای مورد اشاره به اطلاعات بیش‌تری دسترسی داشته باشند.
