هوش مصنوعی از محدودیتها عبور کرد؛ افشای رخدادی بیسابقه در آزمایشهای اوپن ای آی
به گزارش سیتنا، اوپن ای آی اعلام کرد: این رخداد در جریان یک آزمایش امنیتی کنترلشده به وقوع پیوسته است. هدف از این آزمایش، ارزیابی توانایی مدلهای هوش مصنوعی در شرایط محدود و شبیهسازیشده بود، اما مدل مورد آزمایش موفق شد محدودیتهای اعمالشده را پشت سر بگذارد و برای انجام مأموریت خود به اینترنت متصل شود.
بر اساس این گزارش، این سامانه سپس به زیرساختهای شرکت «هاگینگ فیس» دسترسی یافت.
اوپن ای آی تأکید کرده است که این اقدام در قالب یک آزمایش انجام شده و شواهدی از سوءاستفاده یا آسیب به کاربران گزارش نشده است.
این شرکت، رخداد یادشده را بیسابقه توصیف کرده و اعلام کرده است که نتایج این آزمایش در طراحی نسل جدید سازوکارهای ایمنی برای مدلهای هوش مصنوعی مورد استفاده قرار خواهد گرفت.
کارشناسان معتقدند این رویداد نشان میدهد همزمان با افزایش توانمندی سامانههای هوش مصنوعی، توسعه ابزارهای نظارتی و چارچوبهای ایمنی نیز باید با سرعت بیشتری دنبال شود تا از بروز رفتارهای پیشبینینشده در آینده جلوگیری شود.
انتهای پیام