به گزارش سیتنا، شرکت متا نخستین ایجنت کدنویسی خود با نام Muse Code را معرفی کرد؛ اقدامی که در شرایطی انجام شده که این شرکت برای رقابت جدی‌تر با رقبایی مانند OpenAI و Anthropic، سرمایه‌گذاری گسترده‌ای روی مدل‌ها و خدمات هوش مصنوعی خود انجام می‌دهد.

دسترسی توسعه‌دهندگان به Muse Code از طریق مدل پرداخت «به‌ازای مصرف» فراهم شده است. هزینه استفاده از این ابزار مشابه نسخه Muse Spark 1.1 تعیین شده و برای هر یک میلیون توکن خروجی ۴.۲۵ دلار و برای هر یک میلیون توکن ورودی ۱.۲۵ دلار دریافت می‌شود. این شیوه دسترسی به توسعه‌دهندگان امکان می‌دهد در یک محیط کاربری واحد و همزمان با چند ایجنت دیجیتال مبتنی بر هوش مصنوعی کار کنند و فرآیند ساخت اپلیکیشن‌ها را ساده‌تر پیش ببرند.

با این حال، معرفی این ابزار همزمان با انتشار گزارشی درباره یک حادثه امنیتی مرتبط با هوش مصنوعی انجام شد. متا اعلام کرد یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیت سایبری، موفق شده به یک شرکت دیگر نفوذ کند.

به گفته متا، این اتفاق به دلیل خطای شریک مستقل انجام‌دهنده آزمایش، شرکت Irregular، رخ داده است. این خطا باعث شد دسترسی مدل به اینترنت بیشتر از محدوده تعیین‌شده باشد و هوش مصنوعی بتواند در سامانه‌های داخلی یک شرکت ناشناس تغییراتی ایجاد کند. متا اعلام کرده است که در حال بررسی این حادثه است.

این اتفاق در حالی رخ داده که طی ماه‌های اخیر گزارش‌های متعددی درباره ورود مدل‌های هوش مصنوعی شرکت‌های بزرگ به سامانه‌های خارجی در جریان آزمایش‌های امنیتی منتشر شده است.

شرکت OpenAI پیش از این اعلام کرده بود یکی از ایجنت‌های هوش مصنوعی این شرکت در یک آزمایش مشابه، به پلتفرم هوش مصنوعی Hugging Face نفوذ کرده است. همچنین شرکت Anthropic هفته گذشته اعلام کرد برخی از مدل‌های Claude این شرکت در جریان آزمایش‌ها وارد سامانه‌های سه شرکت شده‌اند، هرچند نام این سازمان‌ها اعلام نشد.

افزایش نگرانی‌ها درباره توان هک مدل‌های هوش مصنوعی

در ماه‌های اخیر، نگرانی‌ها درباره توانایی مدل‌های هوش مصنوعی برای خروج از محیط‌های آزمایشی و دسترسی غیرمجاز به سامانه‌های سازمانی افزایش یافته است.

شرکت‌های OpenAI و Anthropic به دلیل انتشار داوطلبانه گزارش‌هایی درباره این رخدادها مورد توجه قرار گرفته‌اند، اما همچنان این پرسش مطرح است که چرا چنین شرایطی در فرآیند آزمایش مدل‌های هوش مصنوعی امکان‌پذیر شده است. Anthropic همچنین با موسسه مستقل ارزیابی هوش مصنوعی METR همکاری می‌کند تا ابعاد این موضوع را بررسی کند.

در یکی از آزمایش‌های ایمنی Anthropic، مدل‌های Claude مامور شدند اطلاعات محرمانه‌ای را که روی یک رایانه دیگر در یک شبکه آزمایشی بسته قرار داشت، پیدا کنند؛ حتی اگر برای رسیدن به این هدف نیاز به هک وجود داشته باشد. اما به دلیل سوءتفاهم با شریک ارزیابی، شبکه مورد استفاده در آزمایش در عمل به اینترنت واقعی متصل شده بود.

پس از آنکه جست‌وجوی Claude به سامانه‌های واقعی رسید، سه مدل مورد آزمایش واکنش‌های متفاوتی نشان دادند. یکی از مدل‌ها پس از تشخیص واقعی بودن سامانه همچنان به فعالیت خود ادامه داد، مدل دیگر ظاهرا تصور کرد همچنان در محیط آزمایشی قرار دارد و مدل سوم پس از تشخیص اینکه هدف بخشی از آزمایش نیست، عملیات را متوقف کرد.

Anthropic از دیگر شرکت‌های فعال در حوزه هوش مصنوعی خواسته بررسی کنند آیا مدل‌های آنها نیز بدون اطلاع شرکت‌ها به سامانه‌های بیرونی دسترسی پیدا کرده‌اند یا خیر.

این شرکت و سازمان‌های آسیب‌دیده در زمان وقوع این رخدادها از نفوذها اطلاع نداشتند. Anthropic تنها پس از بررسی بیش از ۱۴۱ هزار جلسه ارزیابی و در پی انتشار گزارش قبلی OpenAI درباره نفوذ یکی از مدل‌هایش به Hugging Face، متوجه این موارد شد.

انتهای پیام