به گزارش سیتنا به نقل از رویترز، موج جدیدی از نگرانی‌های امنیتی پیرامون عامل‌های هوش مصنوعی (AI Agents) شکل گرفته است؛ چراکه چند شرکت بزرگ فناوری در ماه‌های اخیر از رفتارهای پیش‌بینی‌نشده مدل‌های خود در محیط‌های آزمایشی خبر داده‌اند. 

شرکت متا اعلام کرده یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک تست امنیت سایبری، به دلیل پیکربندی نادرست محیط آزمایش، توانسته به اینترنت دسترسی پیدا کند و از یک آسیب‌پذیری در سرویس یک شرکت دیگر استفاده کند. 

این اتفاق در حالی رخ داده که پیش از این نیز نمونه‌هایی از رفتارهای مشابه در آزمایش مدل‌های هوش مصنوعی شرکت‌هایی مانند OpenAI و Anthropic گزارش شده بود؛ مواردی که نشان می‌دهد با افزایش توانایی عامل‌های خودمختار، کنترل مسیر فعالیت آنها به یکی از چالش‌های اصلی صنعت فناوری تبدیل شده است. 

در همین حال آسوشیتدپرس نوشت: کارشناسان امنیت سایبری هشدار می‌دهند که مدل‌های هوش مصنوعی نسل جدید، در صورت برخورداری از دسترسی‌های گسترده، می‌توانند ریسک‌های تازه‌ای برای زیرساخت‌های دیجیتال ایجاد کنند؛ از همین رو، توسعه محیط‌های آزمایشی ایمن، محدودسازی دسترسی‌ها و تدوین چارچوب‌های مسئولیت‌پذیری برای شرکت‌های توسعه‌دهنده هوش مصنوعی به یک ضرورت تبدیل شده است. 

این تحولات بار دیگر بحث مهم «مسئولیت‌پذیری هوش مصنوعی» را مطرح کرده است؛ اینکه در صورت انجام یک اقدام مخرب توسط یک عامل هوشمند، مسئولیت حقوقی و فنی متوجه توسعه‌دهنده، بهره‌بردار یا زیرساخت میزبان خواهد بود، همچنان محل بحث میان متخصصان و قانون‌گذاران است.

انتهای پیام