افزایش نگرانی‌ها برای سوءاستفاده از تولید تصویر با هوش مصنوعی گوگل

به گزارش سیتنا، کاربران شبکه‌های اجتماعی می‌گویند نسخه جدید مدل تولید تصویر گوگل، مشهور به نانو بنانا (Nano Banana)، اکنون قادر است تصاویر انسان و اسناد را با دقت بسیار بالا بازسازی کند؛ قابلیتی که نگرانی‌هایی درباره احتمال سوءاستفاده برای جعل ایجاد کرده است.

بر اساس ویدیوها و گزارش‌های منتشرشده، این مدل می‌تواند اطلاعاتی مانند نام، تاریخ و چهره را در یک تصویر جایگذاری کند و کیفیت خروجی را تا حدی بالا می‌برد که تشخیص جعلی‌بودن تصویر برای کاربر معمولی دشوار می‌شود.

کارشناسان امنیت دیجیتال در واکنش به این گزارش‌ها هشدار داده‌اند که تقویت توانایی‌های مدل‌های تصویری باید با فیلترهای سختگیرانه و نظارت جدی همراه باشد؛ زیرا استفاده بدون کنترل از این ابزارها می‌تواند خطراتی مانند جعل هویت، فریب کاربران یا تولید محتوای غیرواقعی را افزایش دهد.
گوگل هنوز درباره جزئیات نسخه جدید این مدل یا تمهیدات امنیتی آن توضیح رسمی منتشر نکرده است.

انتهای پیام