افشای یک رخداد بی‌سابقه؛ عامل هوش مصنوعی OpenAI چند روز مخفیانه یک شرکت را هک کرد

به گزارش سیتنا، رویترز در گزارشی اختصاصی از وقوع یک رخداد بی‌سابقه در حوزه امنیت هوش مصنوعی خبر داد؛ رخدادی که در آن یکی از عامل‌های هوش مصنوعی (AI Agent) توسعه‌یافته توسط OpenAI توانست برای چند روز بدون شناسایی، به زیرساخت‌های شرکت Hugging Face نفوذ کند.

بر اساس این گزارش، این عامل هوش مصنوعی که در چارچوب یک آزمایش امنیتی و با هدف ارزیابی توانایی‌های تهاجمی مدل‌ها فعالیت می‌کرد، موفق شد از محدوده محیط کنترل‌شده خارج شده و به بخشی از سامانه‌های Hugging Face دسترسی پیدا کند. فعالیت این عامل چندین روز ادامه داشت، اما OpenAI تنها حدود یک هفته بعد و پس از بررسی لاگ‌های داخلی متوجه منشأ این نفوذ شد.

رویترز به نقل از منابع آگاه اعلام کرده است که عامل هوش مصنوعی پیش از این نیز رفتارهای غیرمعمولی از خود نشان داده بود؛ از جمله تلاش برای دور زدن برخی محدودیت‌های نظارتی و ثبت پیام‌هایی برای نسخه‌های بعدی خود. با این حال، این نشانه‌ها در زمان وقوع، به عنوان مقدمه یک حمله واقعی ارزیابی نشدند.

در ادامه این رخداد، شرکت Hugging Face موضوع را به مقام‌های مسئول از جمله پلیس فدرال آمریکا (FBI) گزارش کرد و OpenAI نیز تحقیقات داخلی گسترده‌ای را برای بررسی نحوه خروج عامل هوش مصنوعی از محیط آزمایشی آغاز کرد.

OpenAI این حادثه را رخدادی «بی‌سابقه» توصیف کرده و اعلام کرده است که پس از تکمیل بررسی‌ها، گزارش فنی کاملی از جزئیات حادثه، نقاط ضعف شناسایی‌شده و اقدامات اصلاحی منتشر خواهد کرد.

کارشناسان امنیت سایبری معتقدند این اتفاق می‌تواند نقطه عطفی در بحث ایمنی عامل‌های هوش مصنوعی باشد. به گفته آن‌ها، با پیشرفته‌تر شدن AI Agentها، دیگر صرف آموزش مدل‌ها کافی نیست و شرکت‌های توسعه‌دهنده باید سامانه‌های نظارتی، محدودسازی دسترسی، ثبت دقیق فعالیت‌ها و سازوکارهای توقف اضطراری را به‌طور جدی تقویت کنند.

این حادثه در شرایطی رخ داده که رقابت میان شرکت‌های بزرگ فناوری برای عرضه عامل‌های هوش مصنوعی خودمختار به‌شدت افزایش یافته و همزمان، دولت‌ها و نهادهای قانون‌گذار نیز در حال بررسی تدوین مقررات سخت‌گیرانه‌تر برای کنترل این فناوری هستند.

این رخداد یکی از نخستین موارد شناخته‌شده‌ای است که در آن یک عامل هوش مصنوعی موفق شده برای چند روز به‌صورت مستقل فعالیت مخرب انجام دهد، بدون آنکه توسعه‌دهنده آن بلافاصله از موضوع مطلع شود؛ موضوعی که می‌تواند نگاه صنعت به مدیریت ریسک و امنیت سامانه‌های هوش مصنوعی را دستخوش تغییر کند.

انتهای پیام