ابزار هوش مصنوعی دیپ فیک گوگل ارث تنها یک روز دوام آورد

به گزارش سیتنا، اما تنها یک روز بعد، گوگل این قابلیت را به‌دلیل سوءاستفاده کاربران و تولید تصاویر جعلی حساس، غیرفعال کرد.

ابزار جنجالی چیست؟

گوگل در تاریخ ۳۰ ژوئیه ۲۰۲۶، قابلیتی مبتنی بر هوش مصنوعی به نام Nano Banana 2 را به گوگل ارث اضافه کرد. این ابزار به کاربران اجازه می‌داد با نوشتن یک دستور متنی ساده، تصاویر ماهواره‌ای را تغییر دهند؛ مثلاً اضافه کردن ساختمان، تغییر رنگ‌ها یا حتی ایجاد صحنه‌های کاملاً جعلی.

سوءاستفاده کاربران

تنها ساعاتی پس از عرضه، کاربران شروع به تولید تصاویر جعلی و بحث‌برانگیز کردند. هنک ون اس (Henk van Ess)، محقق حوزه دیجیتال، نمونه‌هایی از این سوءاستفاده را به‌نمایش گذاشت:

• اضافه کردن پناهجویان در نزدیکی مرز مکزیک
• ایجاد دهانهٔ بمب در کنار یک بیمارستان در غزه

ون اس در آزمایش‌های خود ادعا کرد: «هیچ چیزی رد نشد، هیچ چیزی سانسور نشد و هیچ پیشنهادی برای تغییر دستور داده نشد.»

واکنش اولیهٔ گوگل

گوگل در پاسخ اولیه به ون اس اعلام کرد که:

۱. تصاویر تولیدشده با Nano Banana 2 دارای واترمارک دیجیتال (نشان‌گذاری) هستند.
۲. این شرکت از «ایجاد تصویر در موضوعات مضر» جلوگیری می‌کند.

واکنش نهایی و غیرفعال‌سازی

یک روز بعد، گوگل بیانیهٔ جدیدی منتشر کرد و اعلام داشت:

«ما می‌دانیم که مردم به گوگل ارث به‌عنوان نماینده‌ای قابل‌اعتماد از دنیای واقعی اعتماد دارند. ما شاهد استفادهٔ متخصصان حوزهٔ جغرافیایی از این قابلیت برای اهداف مفید بودیم، اما همچنین دیدیم که افراد تصاویر تولیدشده‌ای را به اشتراک می‌گذارند که ظاهراً سیاست‌های ما را نقض می‌کنند. بنابراین، این قابلیت را در گوگل ارث به‌طور موقت حذف می‌کنیم تا زمانی که محافظت‌های قوی‌تری پیاده‌سازی کنیم.»

گوگل تأکید کرد که تصاویر تولیدشده در تجربهٔ اصلی گوگل ارث برای دیگران قابل‌مشاهده نبودند و دارای واترمارک هوش مصنوعی بودند.

نگرانی‌های بیشتر

ون اس نشان داد که توانسته با استفاده از یک ویدئوی تولیدشده در گوگل ارث، ابزار تشخیص هوش مصنوعی Hive را فریب دهد. این نشان می‌دهد که حتی واترمارک‌ها نیز نمی‌توانند به‌طور کامل از گسترس محتوای جعلی جلوگیری کنند.

این رویداد نشان داد که حتی غول‌های فناوری مانند گوگل نیز در مهار ابزارهای هوش مصنوعی خود با چالش مواجه هستند. اعتماد کاربران به گوگل ارث به‌عنوان یک منبع قابل‌اعتماد، و خطر سوءاستفاده از هوش مصنوعی برای جعل واقعیت، دو عامل اصلی بودند که گوگل را مجبور به عقب‌نشینی سریع کردند.

انتهای پیام