گوگل تنها یک روز پس از معرفی قابلیت جدید هوش مصنوعی در Google Earth، آن را غیرفعال کرد. این ابزار که امکان ویرایش تصاویر ماهوارهای واقعی با استفاده از دستورهای متنی را فراهم میکرد، به دلیل نگرانی درباره تولید تصاویر جعلی از دنیای واقعی با انتقادهای گسترده مواجه شد.
قابلیت جدید گوگل ارث به کاربران اجازه میداد با کمک هوش مصنوعی و وارد کردن توضیحات متنی، تغییراتی در تصاویر ماهوارهای ایجاد کنند. اگرچه هدف گوگل ارائه ابزاری برای بررسی خلاقانه دادههای جغرافیایی و کمک به پژوهشگران بود، اما برخی کاربران توانستند از آن برای ساخت تصاویر ساختگی با ظاهری واقعی استفاده کنند.
در آزمایشهای انجامشده، پژوهشگران حوزه فناوری و رسانه موفق شدند تصاویر جعلی مانند حضور پناهجویان در نزدیکی مرز مکزیک یا سناریوهای غیرواقعی دیگر را با استفاده از این ابزار تولید کنند. انتشار چنین نمونههایی نگرانیهایی درباره امکان سوءاستفاده از هوش مصنوعی برای ایجاد اطلاعات نادرست و دستکاری تصاویر واقعی به وجود آورد.
گوگل در واکنش اولیه اعلام کرده بود تصاویر تولیدشده با مدل هوش مصنوعی Nano Banana ۲ دارای واترمارک دیجیتالی هستند و سیستمهای ایمنی این شرکت نیز از ایجاد محتوای مرتبط با موضوعات آسیبزا جلوگیری میکنند. با این حال، تنها یک روز پس از عرضه عمومی، این شرکت تصمیم گرفت قابلیت مذکور را متوقف کند.
سخنگوی گوگل در توضیح این تصمیم اعلام کرد کاربران اعتماد ویژهای به Google Earth برای مشاهده تصویری دقیق و قابل اتکا از جهان دارند. به گفته او، اگرچه بسیاری از متخصصان جغرافیا از این قابلیت برای اهداف کاربردی استفاده کردند، اما برخی کاربران تصاویری تولید کردند که با سیاستهای گوگل مغایرت داشت.
گوگل اعلام کرده است که این قابلیت به حالت قبلی بازگردانده میشود تا تیم توسعه بتواند سازوکارهای محافظتی قویتری برای جلوگیری از سوءاستفاده طراحی کند. این شرکت همچنین تأکید کرده تصاویر ساختهشده با هوش مصنوعی در Google Earth برای سایر کاربران قابل مشاهده نبودند و با نشانگرهای مربوط به محتوای تولیدشده توسط هوش مصنوعی علامتگذاری میشدند.
با این حال، آزمایشهای انجامشده توسط هنک وان اس، پژوهشگر حوزه رسانه، نشان داد تصاویر و ویدیوهای تولیدشده با این ابزار ممکن است برخی سامانههای تشخیص محتوای هوش مصنوعی مانند Hive را نیز فریب دهند. او اعلام کرد در جریان آزمایشهای خود، هیچیک از دستورهای متنی واردشده توسط سیستم مسدود یا تعدیل نشدهاند؛ موضوعی که اهمیت تقویت فیلترهای ایمنی در ابزارهای تولید محتوای هوش مصنوعی را بیشتر نشان میدهد.
توقف سریع این قابلیت نشان میدهد شرکتهای فناوری همچنان با چالش بزرگی در ایجاد تعادل میان نوآوریهای هوش مصنوعی و جلوگیری از انتشار محتوای جعلی روبهرو هستند.
