به گزارش سیتنا، شرکت انتروپیک روز جمعه اعلام کرد که در جریان آزمایش‌های امنیت سایبری، برخی مدل‌های هوش مصنوعی «کلود» توانسته‌اند به سامانه‌های سه سازمان نفوذ کنند. 

این شرکت تأکید کرده است که این اتفاق در یک محیط آزمایشی کنترل‌شده رخ داده و علت آن نیز یک پیکربندی اشتباه بوده است، نه حمله به سامانه‌های عمومی یا کاربران.

این خبر تنها چند روز پس از آن منتشر می‌شود که شرکت «اوپن‌ای‌آی» نیز از موفقیت یکی از عامل‌های هوش مصنوعی خود در اجرای یک حمله سایبری در محیطی آزمایشی خبر داده بود. 

انتشار این دو گزارش در فاصله‌ای کوتاه، بحث درباره توانایی روزافزون عامل‌های هوش مصنوعی در کشف آسیب‌پذیری‌ها و اجرای عملیات نفوذ را وارد مرحله تازه‌ای کرده است.

کارشناسان معتقدند هرچند این آزمایش‌ها با هدف ارزیابی و افزایش امنیت سامانه‌ها انجام می‌شود، اما نشان می‌دهد مدل‌های پیشرفته هوش مصنوعی به سرعت در حال دستیابی به قابلیت‌هایی هستند که می‌تواند هم برای دفاع سایبری و هم برای حملات سایبری مورد استفاده قرار گیرد. به همین دلیل، شرکت‌های فناوری و نهادهای قانون‌گذار در حال تدوین چارچوب‌های جدیدی برای مدیریت ریسک سامانه‌های هوش مصنوعی هستند.

انتهای پیام