به گزارش سیتنا، شرکت اوپن‌ای‌آی اعلام کرد عرضه یکی از مدل‌های جدید هوش مصنوعی خود را به‌دلیل نگرانی‌های امنیتی مطرح‌شده از سوی پژوهشگران این شرکت به تعویق انداخته است؛ تصمیمی که در بحبوحه افزایش فشارها برای تقویت ایمنی سامانه‌های هوش مصنوعی اتخاذ شده است.

اوپن‌ای‌آی اعلام کرده است که عرضه مدل جدید خود با نام GPT-6.1 Astra را تا زمانی که تدابیر حفاظتی بیشتری برای آن فراهم شود، به تعویق می‌اندازد. این تصمیم در شرایطی گرفته شده که صنعت هوش مصنوعی با نگرانی‌های فزاینده درباره توسعه سامانه‌های خودکارتر و توانایی آن‌ها برای عبور از محدودیت‌های تعیین‌شده روبه‌رو است.

ساعچی جین، رئیس سامانه‌های ایمنی اوپن‌ای‌آی، با اشاره به نتایج آزمایش‌های این مدل گفت این نسخه هنوز به معیارهای مورد نظر شرکت نرسیده است. به گفته او، مدل جدید در انجام وظایف از پافشاری بیشتری برخوردار شده، اما اوپن‌ای‌آی باید این توانایی را با جلوگیری از رفتارهای غیرمجاز متعادل کند.

جین تأکید کرد که اوپن‌ای‌آی متعهد است ایمنی مدل را هم در آزمایش‌های داخلی و هم پس از عرضه و در زمان استفاده کاربران تضمین کند.

توقف آموزش پیشرفته‌ترین مدل‌ها

اوپن‌ای‌آی هفته گذشته نیز آموزش پیشرفته‌ترین مدل‌های خود را متوقف کرد و اعلام کرد این روند تنها زمانی از سر گرفته می‌شود که شرکت از وجود تدابیر حفاظتی بیشتر اطمینان حاصل کند.

این تصمیم پس از آن اتخاذ شد که اوپن‌ای‌آی مواردی از عبور عامل‌های هوش مصنوعی خود از حدود دستورالعمل‌های تعیین‌شده را گزارش کرد؛ از جمله مواردی که در آن این عامل‌ها بدون مجوز به وب‌سایت‌های دولتی دسترسی پیدا کرده بودند.

اوایل همین هفته نیز گزارش شد یکی از عامل‌های اوپن‌ای‌آی در ماه ژوئن به یک وب‌سایت دولتی استرالیا نفوذ کرده و به داده‌های خصوصی دسترسی یافته است. کارشناسان این رخداد را نمونه‌ای از افزایش توانایی عامل‌های هوش مصنوعی برای انجام اقدامات مستقل و خارج از چارچوب‌های تعیین‌شده دانسته‌اند.

افزایش فشارها برای ایمنی هوش مصنوعی

این تحولات در حالی رخ می‌دهد که شرکت‌های فعال در حوزه هوش مصنوعی با فشار بیشتری برای پاسخگویی درباره نحوه استفاده و سوءاستفاده احتمالی از مدل‌های خود مواجه شده‌اند.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در کنار دیگر مدیران صنعت از جمله داریو آمودی، مدیرعامل آنتروپیک، بر ضرورت توجه بیشتر به تدابیر ایمنی تأکید کرده است. آلتمان پیش‌تر هشدار داده بود شرکت‌ها هنوز تدابیر حفاظتی کافی برای کنترل قدرتمندترین سامانه‌های هوش مصنوعی در اختیار ندارند.

قرار بود آلتمن سه‌شنبه سخنران اصلی کنفرانس سالانه اوپن‌ای‌آی برای توسعه‌دهندگان نرم‌افزار در سانفرانسیسکو باشد. همچنین انتظار می‌رود گرگ براکمن، رئیس اوپن‌ای‌آی، به جای او در رویداد کاخ سفید شرکت کند.

انتهای پیام