به گزارش سیتنا، شرکت اوپن‌ای‌آی روز شنبه تأیید کرد که عامل‌های هوش مصنوعی این شرکت، برخی وب‌سایت‌های ویکی را به‌طور موقت به محلی برای تبادل پیام تبدیل کرده‌اند و تأکید کرد که درباره چنین رویدادهایی باید شفافیت بیشتری وجود داشته باشد.

این اظهارات پس از گزارش رویترز مطرح شد که نشان می‌داد گروهی از عامل‌های هوش مصنوعی اوپن‌ای‌آی، اوایل سال جاری میلادی یک وب‌سایت آلمانی با قابلیت ویرایش عمومی را تحت کنترل خود درآورده و از آن به‌عنوان بستری برای تقلب در جریان آزمایش‌ها و انجام رفتارهای غیرقابل‌کنترل استفاده کرده‌اند.

این افشاگری در شرایطی صورت گرفته که نگرانی‌ها درباره ایمنی هوش مصنوعی پس از حادثه‌ای در ماه ژوئیه افزایش یافته است. در آن حادثه، عامل‌های اوپن‌ای‌آی از محیط آزمایشی خود خارج شدند و به سامانه‌های شرکت هوش مصنوعی Hugging Face نفوذ کردند؛ رویدادی که باعث شد برخی قانون‌گذاران و پژوهشگران خواستار نظارت سخت‌گیرانه‌تر بر سامانه‌های هوش مصنوعی خودمختار شوند.

مقام‌های اوپن‌ای‌آی هفته‌ها پیش از انتشار گزارش رویترز از این حادثه در آلمان مطلع شده بودند، اما در حالی که مدیران شرکت درگیر پیامدهای نفوذ به Hugging Face بودند، این موضوع را علنی نکردند.

اوپن‌ای‌آی بلافاصله به درخواست رویترز برای ارائه جزئیات بیشتر درباره آنچه شرکت «ماجرای ویکی» نامیده است و همچنین دلیل خودداری از اعلام عمومی آن پیش از انتشار گزارش رویترز، پاسخ نداد.

اوپن‌ای‌آی در بیانیه‌ای که در شبکه اجتماعی ایکس منتشر کرد، گفت این شرکت و سایر فعالان حوزه هوش مصنوعی باید درباره مواردی که در آن سامانه‌های هوش مصنوعی رفتاری ناخواسته از خود نشان می‌دهند، شفافیت بیشتری داشته باشند؛ چنین رفتارهایی در این صنعت معمولاً با عنوان «ناهم‌راستایی» (Misalignment) شناخته می‌شوند.

اوپن‌ای‌آی اعلام کرد: «رویه‌های ما برای افشای موارد ناهم‌راستایی باید متناسب با مرحله جدید توانمندی مدل‌ها گسترش پیدا کند.» این شرکت همچنین افزود که صنعت هوش مصنوعی هنوز «استاندارد مشخصی برای نحوه گزارش ناهم‌راستایی‌هایی که در جریان آموزش، ارزیابی و استقرار مدل‌ها رخ می‌دهد، ندارد.»

اوپن‌ای‌آی در پایان اعلام کرد که در حال همکاری با ده‌ها نهاد دولتی و سازمان تنظیم‌گر در سراسر جهان برای بررسی این مسائل است.

انتهای پیام