به گزارش سیتنا، خطرات احتمالی سیستم‌های کامپیوتری «فوق‌هوشمند» چیست و آیا باید نگران باشیم؟

بدترین سناریو چیست؟

کارشناسان هوش مصنوعی مدت‌هاست که این تهدید را حیاتی توصیف کرده‌اند.

در سال ۲۰۲۳، صدها دانشمند هوش مصنوعی و چهره‌های برجسته این صنعت، از جمله مدیران آزمایشگاه‌های برتر ایالات متحده، «بیانیه‌ای درباره خطر انقراض بشر توسط هوش مصنوعی» را امضا کردند و خواستار آن شدند که با این مسئله همان‌قدر جدی برخورد شود که با همه‌گیری‌های جهانی یا جنگ هسته‌ای برخورد می‌شود.

استوارت راسل، استاد علوم کامپیوتر دانشگاه کالیفرنیا در برکلی، می‌گوید اگر یک هوش مصنوعیِ آینده که از کنترل خارج شده است تشخیص دهد که انسان‌ها مانع اهدافش هستند، می‌تواند از ربات‌ها برای «ساخت و انتشار عوامل بیماری‌زای (پاتوژن‌های) جدید» استفاده کند.

راسل، که از چهره‌های شاخص در حوزه ایمنی هوش مصنوعی است، به خبرگزاری فرانسه (AFP) گفت که این هوش مصنوعی همچنین می‌تواند «مردم را متقاعد کند تا جنگی هسته‌ای را آغاز کنند؛ از جمله با هک کردن سیستم‌های هشدار زودهنگام».

او تأکید کرد که چنین نگرانی‌هایی در مورد موجودیت بشر، شامل حال سیستم‌های هوش مصنوعی کنونی نمی‌شود. اما با پیشرفت این فناوری، ممکن است هوش مصنوعی دست به اقداماتی مرگبار بزند که فراتر از درک ماست؛ اقداماتی نظیر حذف اکسیژن از جو زمین.

«هوش ما کمتر از هوش مصنوعیِ فوق‌هوشمند است. اگر از شامپانزه‌ها بپرسید که انسان‌ها چگونه می‌توانند نسل آن‌ها را از بین ببرند، احتمالاً قادر نخواهند بود تمام پاسخ‌های درست را به شما بدهند.»

در همین حال، راسل افزود: «فکر می‌کنم در یک یا دو سال آینده خطر سوءاستفاده انسانی بیشتر شود» -- مانند یک حمله تروریستی با قابلیت هوش مصنوعی.

چرا آزمایشگاه‌های هوش مصنوعی متوقف نمی‌شوند؟

جیکوب کاکسون، محقق ۲۷ ساله، این هفته در X نوشت و استعفای خود را از استارتاپ هوش مصنوعی آمریکایی Anthropic اعلام کرد: «خطرات به خوبی درک شده‌اند.»

وی افزود: «اما آنها در مسابقه‌ای برای رسیدن به آنجا گیر افتاده‌اند.» و گفت که Anthropic «معتقد است که هیچ کس دیگری مسئولانه عمل نخواهد کرد، بنابراین آنها باید خودشان این کار را انجام دهند».

Anthropic امسال تعهدی را از منشور ایمنی خود مبنی بر توقف توسعه مدل‌هایش در صورت عدم کنترل خطرات آنها حذف کرد.

این شرکت استدلال کرد که اگر به طور یکجانبه کار خود را متوقف کند، رقبای کمتر محتاط آن بر صنعت تسلط خواهند یافت و به طور کلی آن را ناامن‌تر می‌کنند.

کاکسون، که قبلاً در OpenAI، سازنده ChatGPT، کار می‌کرد، گفت: «افرادی که هوش مصنوعی را می‌سازند، صادقانه معتقدند که می‌تواند تا پایان دهه همه ما را بکشد.»

او هر دو شرکت را به «قمار کردن با زندگی ما» متهم کرد، زیرا آنها در تلاش برای توسعه مدل‌های هوش مصنوعی با قابلیت خودبهبودی هستند.

پس از آنکه فناوری OpenAI که خارج از نظارت انسان فعالیت می‌کند، مخزن مدل‌های هوش مصنوعی Hugging Face را هک کرد، نگرانی‌ها در مورد هوش مصنوعی سرکش افزایش یافته است.

اوان هوبینگر، مدیر اجرایی ایمنی آنتروپیک، در X با این موضوع موافق بود و خطر را در دهه آینده بیش از 10 درصد تخمین زد.

عامل هیاهو چیست؟

حسین عباس، استاد علوم کامپیوتر در دانشگاه UNSW کانبرا، گفت: «به یاد داشته باشید که پیش‌بینی‌های درصد فاجعه‌بار کاملاً غیرعلمی هستند.»

عباس به خبرگزاری فرانسه گفت: «وضعیت هنوز قابل کنترل است و می‌توان آن را مدیریت کرد.»

وی افزود، اما دولت‌ها نباید در مورد تنظیم مقررات هوش مصنوعی دست روی دست بگذارند و با توجه به سرعت گرفتن توسعه هوش مصنوعی، رویکردی «چابک» را توصیه کرد.

انتظار می‌رود هر دو شرکت Anthropic و OpenAI به زودی سهام خود را عرضه کنند و برخی از منتقدان می‌گویند هشدارهای ترسناک، هوش مصنوعی را قدرتمند و شایسته سرمایه‌گذاری‌های بزرگ جلوه می‌دهد.

برخی دیگر معتقدند که تمرکز بر خطر انقراض، توجه را از مشکلات مبرم‌تر ناشی از هوش مصنوعی، از دست دادن شغل گرفته تا تبعیض ماشین‌ها علیه اقلیت‌ها، منحرف می‌کند.

در ماه ژوئیه، بیش از ۱۰۰۰ کارمند فناوری، از جمله مدیرعامل Anthropic، از واشنگتن خواستند که از کاهش هماهنگ در توسعه پیشرفته‌ترین سیستم‌های هوش مصنوعی حمایت کند.

OpenAI آموزش جدیدترین مدل‌های خود را در ماه اوت به مدت دو هفته متوقف کرد و سپس آن را تحت کنترل‌های شدیدتر از سر گرفت.

برای تنظیم مقررات چه چیزی لازم است؟

تاکنون، ایالات متحده قاطعانه با تنظیم مقررات جهانی در این بخش که می‌تواند نوآوری را خفه کند، مخالف بوده است.

اما قابلیت‌های هک بی‌سابقه پیشرفته‌ترین مدل‌ها، واشنگتن را به مکث وا داشته است، به طوری که انتشار اخیر Anthropic و OpenAI به دلیل نگرانی‌های امنیت ملی به تعویق افتاده است.

حتی در آن زمان، دونالد ترامپ، رئیس جمهور، گفته است: "ما نمی‌خواهیم آنها را محدود کنیم، جایی که ناگهان پس از چین در رتبه دوم قرار بگیریم."

راسل گفت: "شاید یک فاجعه عظیم در مقیاس چرنوبیل لازم باشد تا دولت‌ها را وادار به اقدام کند." او از آنها خواست که یک رژیم صدور مجوز برای هوش مصنوعی، همانطور که در هوانوردی، پزشکی یا تأمین آب وجود دارد، ایجاد کنند.

او افزود: "شاید در مقطعی دولت‌ها به یاد بیاورند که رأی‌دهندگانشان ترجیح می‌دهند نمرده باشند."

انتهای پیام