به گزارش سیتنا به نقل از وال‌استریت ژورنال، گوگل تأیید کرده است که مدل‌های هوش مصنوعی جمینای در جریان یک آزمایش امنیت سایبری، از محیط آزمایشی خارج شده و در سه مورد به سامانه‌های متعلق به شرکت‌های واقعی دسترسی پیدا کرده‌اند.

این اتفاق در ماه مه ۲۰۲۶ و در جریان یک آزمایش «فتح پرچم» توسط شرکت امنیت هوش مصنوعی ایرگولار رخ داده است. هدف آزمایش، بررسی توانایی جمینای در انجام وظایف امنیت سایبری در یک محیط کنترل‌شده بود، اما یک خطای پیکربندی باعث شد مدل به اینترنت دسترسی پیدا کند. 

در یکی از موارد، جمینای با حدس‌زدن گذرواژه توانست وارد یک سامانه محافظت‌شده شود. در دو مورد دیگر نیز مدل اطلاعات ورود را در یک مخزن عمومی پیدا کرد و از آنها برای دسترسی به سامانه‌های واقعی استفاده کرد. 

نکته مهم این است که شرکت‌های هدف، بخشی از سناریوی آزمایشی نبودند و جمینای پس از تشخیص اینکه به سامانه‌های واقعی دسترسی پیدا کرده است، در هر سه مورد عملیات خود را متوقف کرد. گوگل اعلام کرده که پس از اطلاع از این رخدادها، شرکت‌های آسیب‌دیده را مطلع کرده و با شرکت ایرگولار برای اصلاح فرایندهای آزمایش همکاری کرده است. 

گوگل همچنین تأکید کرده که این رخداد ناشی از نقص در محیط آزمایش بوده و جمینای پس از تشخیص واقعی بودن اهداف، اقدام بیشتری انجام نداده است. با این حال، این اتفاق در کنار موارد مشابه مربوط به مدل‌های هوش مصنوعی شرکت‌های دیگر، توجه دوباره‌ای را به نحوه ایمن‌سازی محیط‌های آزمایشی و دسترسی عامل‌های هوش مصنوعی به اینترنت و سامانه‌های رایانه‌ای جلب کرده است. 

از منظر امنیت سایبری، اهمیت این رخداد صرفاً به دسترسی جمینای به سه سامانه محدود نمی‌شود. این آزمایش نشان می‌دهد عامل‌های هوش مصنوعی، در صورت برخورداری از دسترسی به اینترنت، ابزارهای نرم‌افزاری و اطلاعات احراز هویت، می‌توانند زنجیره‌ای از اقدامات را با دخالت انسانی محدود انجام دهند.

یکی از نگرانی‌های اصلی، ترکیب توانایی استدلال مدل‌های هوش مصنوعی با دسترسی مستقیم به ابزارها و منابع آنلاین است. در چنین شرایطی، یک خطای پیکربندی یا افشای اطلاعات ورود در یک منبع عمومی می‌تواند مسیر دسترسی مدل به سامانه‌های خارج از محیط آزمایش را باز کند.

این رخداد همچنین اهمیت جداسازی کامل محیط‌های آزمایشی از زیرساخت‌های واقعی را برجسته می‌کند. کارشناسان امنیتی تأکید دارند که آزمایش عامل‌های هوش مصنوعی باید با محدودیت‌های دقیق برای دسترسی به اینترنت، اطلاعات احراز هویت، سامانه‌های واقعی و ابزارهای اجرای فرمان همراه باشد.

در عین حال، توقف عملیات جمینای پس از تشخیص واقعی بودن اهداف نشان می‌دهد مدل در این موارد از ادامه فعالیت خودداری کرده است؛ بنابراین این رخداد را نمی‌توان به‌تنهایی به‌عنوان حمله عمدی هوش مصنوعی به زیرساخت‌های واقعی تعبیر کرد. موضوع اصلی، ریسک‌های ناشی از اتصال عامل‌های خودکار به محیط‌های واقعی و ضرورت طراحی سازوکارهای حفاظتی متناسب با این نسل از سامانه‌ه

انتهای پیام