به گزارش سیتنا به نقل از گاردین، OpenAI اعلام کرده است که برخی فعالیت‌های مرتبط با توسعه مدل هوش مصنوعی «Astra» را تا زمان اعمال کنترل‌های امنیتی جدید متوقف می‌کند.

بر اساس ارزیابی‌های اخیر، Astra در زمینه برنامه‌نویسی خودکار و قابلیت‌های سایبری پیشرفت قابل‌توجهی داشته و ارزیابی‌های ایمنی OpenAI نشان داده‌اند که نمی‌توان احتمال دستیابی این مدل به «قابلیت‌های سایبری بحرانی» را نادیده گرفت. 

این تصمیم در شرایطی گرفته شده که طی روزهای اخیر نگرانی‌ها درباره رفتار مستقل عامل‌های هوش مصنوعی افزایش یافته است. متا نیز اعلام کرده بود یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیت سایبری موفق شده به یک شرکت دیگر نفوذ کند. 

OpenAI برای کاهش ریسک، از اعمال کنترل‌های امنیتی سخت‌گیرانه‌تر، محیط‌های آزمایشی ایزوله، پایش فعالیت‌های پرریسک و نظارت گسترده‌تر بر عامل‌های هوش مصنوعی خبر داده است. 

این تحولات نشان می‌دهد رقابت شرکت‌های فناوری برای ساخت عامل‌های هوش مصنوعی خودمختار، همزمان با افزایش توانایی این سامانه‌ها در کشف آسیب‌پذیری‌ها و انجام عملیات سایبری، وارد مرحله جدیدی شده است.

انتهای پیام