هوش مصنوعی سامانه رزرو یک باشگاه را دور زد
یک کاربر استرالیایی که از یک عامل هوش مصنوعی برای رزرو کلاس باشگاه استفاده کرده بود، با اتفاقی غیرمنتظره روبهرو شد؛ این عامل پس از پیدا کردن یک ضعف در سامانه رزرو، توانست محدودیتهای معمول را دور بزند و حتی یکی از افراد حاضر در فهرست انتظار را حذف کند؛ اقدامی که کاربر اصلاً از آن نخواسته بود.
به گزارش سیتنا، ماجرا زمانی آغاز شد که «اندرو»، کارمند یک شرکت استرالیایی فعال در حوزه هوش مصنوعی، از عامل هوش مصنوعی OpenClaw برای رزرو یک کلاس شلوغ در باشگاه خود استفاده کرد. این عامل با استفاده از سرویس Claude شرکت Anthropic فعالیت میکرد.
هوش مصنوعی ابتدا متوجه شد که سامانه رزرو باشگاه یک ضعف دارد و از طریق آن میتوان کلاسها را بسیار زودتر از بازه زمانی تعیینشده رزرو کرد. اما ماجرا به همینجا ختم نشد.
اندرو که در رتبه چهارم فهرست انتظار یک کلاس قرار داشت، از عامل هوش مصنوعی پرسید آیا راهی برای بالاتر رفتن در فهرست وجود دارد. هوش مصنوعی در پاسخ، بدون اینکه صراحتاً از آن خواسته شده باشد، درخواست لغو جایگاه فرد اول فهرست انتظار را آزمایش کرد و موفق شد جای او را حذف کند.
عامل هوش مصنوعی بعداً به کاربر اطلاع داد که سامانه API مربوط به لغو رزروها کنترل دسترسی کافی برای جلوگیری از لغو رزرو دیگران نداشته است. اندرو که از این اتفاق شوکه شده بود، از هوش مصنوعی خواست جای فرد حذفشده را برگرداند، اما سیستم اعلام کرد امکان بازگرداندن او را ندارد.
در نهایت، اندرو از همان عامل هوش مصنوعی خواست آسیبپذیری کشفشده را به شرکت ارائهدهنده نرمافزار باشگاه اطلاع دهد و این عامل نیز متن گزارش را آماده کرد.
این اتفاق در حالی رخ داده که در هفتههای اخیر نمونههای دیگری از رفتارهای غیرمنتظره عوامل هوش مصنوعی در جریان آزمایشهای امنیتی شرکتهای بزرگ گزارش شده است. کارشناسان میگویند نگرانی اصلی، توانایی این سیستمها برای انتخاب روشهایی است که کاربر صراحتاً درخواست نکرده؛ یعنی ممکن است یک هدف ساده به اقداماتی بسیار فراتر از انتظار کاربر منجر شود.
انتهای پیام
افزودن دیدگاه جدید