به گزارش سیتنا، موج تازه هشدارها درباره سرعت توسعه هوش مصنوعی پس از انتشار مقاله‌ای از داریو آمودی، مدیرعامل آنتروپیک، آغاز شد؛ موضعی که در فاصله کوتاهی با حمایت سم آلتمن، مدیرعامل اُپن‌اِی‌آی، ایلان ماسک، بنیان‌گذار ایکس‌اِی‌آی و دمیس هسابیس، مدیرعامل گوگل دیپ‌مایند، همراه شد.

آمودی در مقاله‌ای با عنوان «باید سرعت حرکت در مرز را تنظیم کنیم» استدلال کرد که صرف افزایش سرمایه‌گذاری روی ایمنی کافی نیست و سرعت افزایش توانایی مدل‌های هوش مصنوعی نیز باید کاهش یابد تا پژوهش‌های مربوط به کنترل، هم‌راستاسازی و ارزیابی این سامانه‌ها فرصت همگام شدن با پیشرفت فناوری را داشته باشند.

او تأکید کرد منظورش توقف آموزش مدل‌ها یا متوقف کردن پیشرفت فنی نیست، بلکه ایجاد زمان کافی برای ایمن‌سازی و ارزیابی مستقل مدل‌های پیشرفته است.

هشدار درباره خودبهبوددهی هوش مصنوعی

یکی از نگرانی‌های اصلی آمودی، افزایش توانایی مدل‌های هوش مصنوعی در مشارکت در ساخت نسل‌های بعدی این فناوری است؛ روندی که از آن با عنوان «خودبهبوددهی بازگشتی» یاد می‌شود.

به اعتقاد مدیرعامل آنتروپیک، اگر این روند با سرعت کنونی ادامه پیدا کند، ممکن است توانایی سیستم‌های هوش مصنوعی برای بهبود قابلیت‌های خود از توانایی انسان برای درک و کنترل آنها جلو بزند.

آمودی همچنین به رفتار برخی عامل‌های هوش مصنوعی اُپن‌اِی‌آی در جریان آزمایش‌ها اشاره کرد که به گفته او از محدوده مأموریت تعیین‌شده فراتر رفته و حتی با برخی سامانه‌های خارج از محیط آزمایش ارتباط برقرار کرده‌اند.

او هشدار داد در صورت تداوم روند فعلی، ممکن است طی «شش تا ۱۲ ماه» عامل‌های هوش مصنوعی با توانایی بیشتر و مشکلات مشابه در هم‌راستایی بتوانند حملات گسترده‌ای در اینترنت سازمان‌دهی کنند و خسارت اقتصادی سنگینی به بار آورند.

مدیرعامل آنتروپیک برای مقابله با این خطرها، استقرار ارزیابان مستقل در شرکت‌های سازنده مدل‌های پیشرفته، هماهنگی میان شرکت‌های هوش مصنوعی در کشورهای دموکراتیک برای تدوین استانداردهای مشترک ایمنی و در نهایت تلاش برای ایجاد نوعی سازوکار هماهنگی بین‌المللی، از جمله با چین، را پیشنهاد کرد.

حمایت آلتمن از ارزیابان مستقل

سم آلتمن تنها چند ساعت پس از انتشار مقاله آمودی، با اصل «تنظیم سرعت حرکت در مرز» موافقت کرد و گفت این موضوع طی هفته‌های اخیر به یکی از محورهای اصلی بحث‌ها در اُپن‌اِی‌آی تبدیل شده است.

آلتمن به‌طور مشخص از پیشنهاد استفاده از ارزیابان مستقل حمایت کرد و گفت اُپن‌اِی‌آی نیز متعهد خواهد شد ارزیابانی مستقل را با سطح دسترسی مشابه کارکنان داخلی در اختیار داشته باشد.

مدیرعامل اُپن‌اِی‌آی همچنین در گفت‌وگویی با فورچون درباره خطرات بلندمدت هوش مصنوعی گفت حتی اگر احتمال وقوع سناریوهای بسیار خطرناک را نتوان با دقت محاسبه کرد، دولت‌ها و شرکت‌ها نباید هیچ سطح قابل‌توجهی از این ریسک را نادیده بگیرند.

او همچنین اعلام کرد اُپن‌اِی‌آی در سال ۲۰۲۶ وارد بورس نخواهد شد و مسائل مرتبط با ایمنی و هم‌راستاسازی مدل‌ها همچنان از اولویت‌های اصلی این شرکت است.

ماسک: داریو درست می‌گوید

ایلان ماسک نیز در واکنش به مقاله آمودی نوشت: «داریو درست می‌گوید.»

بنیان‌گذار ایکس‌اِی‌آی سپس با اشاره به هشدارهای قبلی خود درباره خطرات هوش مصنوعی، اعلام کرد که مدت‌هاست نسبت به پیامدهای توسعه کنترل‌نشده این فناوری هشدار داده است.

اهمیت این موضع از آن جهت قابل توجه است که ماسک و آلتمن در سال‌های گذشته بر سر مسیر توسعه اُپن‌اِی‌آی اختلافات جدی داشته‌اند و شرکت ایکس‌اِی‌آی نیز اکنون یکی از رقبای اصلی شرکت‌های فعال در توسعه مدل‌های پیشرفته هوش مصنوعی محسوب می‌شود.

حمایت گوگل دیپ‌مایند از مسیر پیشنهادی

دمیس هسابیس، مدیرعامل گوگل دیپ‌مایند، نیز از جهت کلی پیشنهاد آمودی حمایت کرد و آن را نشانه‌ای از «مسیر درست» برای مواجهه با شرایط حساس کنونی دانست.

هسابیس پیش‌تر نیز بر ضرورت ایجاد سازوکاری مشترک برای استانداردگذاری و ارزیابی «هوش مصنوعی مرزی» تأکید کرده بود؛ رویکردی که هدف آن تدوین معیارهای مشترک برای سنجش قابلیت‌ها و خطرهای مدل‌های بسیار پیشرفته است.

به این ترتیب، چهار چهره برجسته صنعت هوش مصنوعی در فاصله‌ای کوتاه، دست‌کم بر یک اصل مشترک تأکید کرده‌اند: سرعت افزایش قابلیت مدل‌های هوش مصنوعی نباید از توانایی صنعت، دولت‌ها و نهادهای مستقل برای ارزیابی و مهار خطرهای این فناوری جلو بزند.

افزایش نگرانی‌ها درباره عامل‌های هوش مصنوعی

این مواضع در شرایطی مطرح شده که طی روزهای اخیر گزارش‌های مختلفی درباره رفتار عامل‌های هوش مصنوعی، توانایی آنها برای دور زدن محدودیت‌های تعیین‌شده و احتمال استفاده از این فناوری در فعالیت‌های مخرب منتشر شده است.

در یکی از موارد، گزارش‌هایی درباره ارتباط عامل‌های هوش مصنوعی اُپن‌اِی‌آی با وب‌سایت‌های خارج از محیط آزمایش منتشر شد؛ موضوعی که نگرانی‌ها درباره توانایی عامل‌های خودمختار برای ایجاد کانال‌های ارتباطی و عبور از محدودیت‌های تعیین‌شده را افزایش داده است.

هم‌زمان، آنتروپیک در گزارش اطلاعات تهدید خود اعلام کرده است که بازیگران مختلف از مدل‌های کلود برای فعالیت‌هایی از عملیات سایبری و جاسوسی تا کلاهبرداری، نظارت و برخی فعالیت‌های مرتبط با توسعه تسلیحات استفاده کرده‌اند.

بخشی از این گزارش نیز به سوءاستفاده از مدل‌های هوش مصنوعی در ارتباط با جمهوری اسلامی ایران اختصاص دارد و مدعی استفاده از کلود برای تبلیغات حکومتی، ایجاد هویت‌های جعلی، نظارت بر شهروندان و جمع‌آوری اطلاعات شده است.

مجموع این تحولات، بحث درباره مرز میان «شتاب در توسعه هوش مصنوعی» و «ظرفیت بشر برای کنترل پیامدهای آن» را وارد مرحله تازه‌ای کرده است؛ به‌ویژه در شرایطی که رقابت میان شرکت‌های بزرگ برای دستیابی به مدل‌های قدرتمندتر، از یک سو و نگرانی‌های امنیتی و اجتماعی ناشی از این مدل‌ها، از سوی دیگر، با سرعت در حال افزایش است.

انتهای پیام