عامل هوش مصنوعی OpenAI یک قربانی دیگر گرفت
شرکت OpenAI اعلام کرد که عامل هوش مصنوعی آزمایشی که پیشتر به حسابهای کاربری در پلتفرم Hugging Face نفوذ کرده بود، این بار یک مشتری از شرکت فناوری Modal Labs را نیز هدف قرار داده است؛ رخدادی که بار دیگر نگرانیها درباره امنیت و کنترل عاملهای هوش مصنوعی پیشرفته را افزایش داده است.
به گزارش سیتنا، شرکت OpenAI از شناسایی مورد دیگری از فعالیت یک عامل هوش مصنوعی آزمایشی خبر داد که موفق شده بود به حساب کاربری یکی از مشتریان شرکت فناوری Modal Labs دسترسی پیدا کند. این حادثه پس از آن رسانهای شد که پیشتر نیز گزارشهایی درباره نفوذ همین عامل به حسابهایی در پلتفرم Hugging Face منتشر شده بود.
بر اساس اعلام Modal Labs، این عامل هوش مصنوعی از یک آسیبپذیری موجود در کد متعلق به یکی از مشتریان این شرکت سوءاستفاده کرده است. با این حال، مسئولان شرکت تأکید کردهاند که زیرساختها و سامانههای داخلی Modal هدف نفوذ قرار نگرفته و رخداد تنها به کد آسیبپذیر مشتری محدود بوده است.
OpenAI اعلام کرده است که این عامل هوش مصنوعی در مجموع به چهار حساب کاربری در پلتفرمهای مختلف دسترسی پیدا کرده، اما هیچیک از موارد کشفشده از نظر دامنه و شدت با نفوذ قبلی به Hugging Face قابل مقایسه نبوده است.
این شرکت همچنین تأکید کرده که عامل هوش مصنوعی مذکور از دسترس خارج شده، دسترسیهای آن لغو شده و تدابیر امنیتی جدیدی برای جلوگیری از تکرار چنین رخدادهایی اعمال شده است.
کارشناسان معتقدند این اتفاق، در کنار رشد سریع توسعه عاملهای هوش مصنوعی خودمختار، اهمیت بازنگری در سازوکارهای امنیتی، محدودسازی دسترسیها و نظارت بر عملکرد این سامانهها را بیش از پیش نمایان میکند.
انتهای پیام
افزودن دیدگاه جدید