به گزارش سیتنا به تقل از رویترز، شرکت آنتروپیک اعلام کرده است طی هشت ماه گذشته چندین تلاش مخرب برای سوءاستفاده از مدل‌های هوش مصنوعی خود را شناسایی و متوقف کرده است؛ تلاش‌هایی که به گفته این شرکت، نشان‌دهنده افزایش توانایی بازیگران سایبری در استفاده عملیاتی از هوش مصنوعی است.

بر اساس این گزارش، یکی از موارد شناسایی‌شده به یک گروه مرتبط با روسیه نسبت داده شده که از هوش مصنوعی در عملیاتی علیه بخش‌هایی در اوکراین استفاده کرده است. در این عملیات، قابلیت‌های هوش مصنوعی برای پشتیبانی از فعالیت‌هایی مانند فیشینگ و عبور از برخی سازوکارهای دفاعی سایبری به کار گرفته شده است.

آنتروپیک همچنین از تلاش چند مجموعه هوش مصنوعی مستقر در چین برای استخراج قابلیت‌های مدل هوش مصنوعی خود خبر داده است. به گفته این شرکت، این فعالیت‌ها از روش‌هایی برای انتقال حجم زیادی از داده و بازسازی بخشی از توانایی‌های یک مدل پیشرفته استفاده کرده‌اند.

در یکی از بزرگ‌ترین موارد ادعاشده، آنتروپیک مدعی شده است بیش از ۱۵۱ میلیون تعامل با مدل هوش مصنوعی این شرکت در قالب عملیات استخراج قابلیت‌های مدل انجام شده است.

این شرکت هشدار داده است که چنین اقداماتی می‌تواند به رقبای هوش مصنوعی اجازه دهد بخشی از قابلیت‌های یک مدل پیشرفته را با هزینه و زمان بسیار کمتر بازتولید کنند.

گزارش آنتروپیک همچنین به استفاده از مدل‌های هوش مصنوعی برای توسعه نرم‌افزارهای مرتبط با تسلیحات و پشتیبانی از عملیات اطلاعاتی و تدارکاتی اشاره دارد.

این تحولات در حالی رخ می‌دهد که نگرانی‌ها درباره استفاده از عامل‌های هوش مصنوعی در حملات سایبری افزایش یافته است. کارشناسان معتقدند استفاده از هوش مصنوعی می‌تواند بخش‌هایی از فرایند حمله سایبری، از شناسایی هدف و جمع‌آوری اطلاعات تا تولید بدافزار و اجرای عملیات فیشینگ را خودکارتر و سریع‌تر کند.

گسترش این موارد نشان می‌دهد هوش مصنوعی دیگر صرفاً ابزاری برای تولید متن، تحلیل داده یا برنامه‌نویسی نیست و می‌تواند در بخش‌هایی از زنجیره حملات سایبری نیز مورد استفاده قرار گیرد؛ موضوعی که ضرورت تقویت سازوکارهای نظارتی، ارزیابی‌های امنیتی و کنترل مدل‌های پیشرفته هوش مصنوعی را بیش از گذشته برجسته کرده است.

انتهای پیام