به گزارش سیتنا، جاش انگلس، محقق سابق تیم ایمنی گوگل دیپ‌مایند، پس از استعفا و پیوستن به سازمان غیرانتفاعی METR (که بر تهدیدات هوش مصنوعی تمرکز دارد)، هشدار داد که هوش مصنوعی پتانسیل «خطرات بسیار بزرگ برای بشریت» را دارد.

هوش مصنوعی به عنوان یک گونه جدید

انگلس در گفتگو با BBC گفت: «به نظر من بهتر است آن را نه به عنوان یک فناوری، بلکه به عنوان یک گونه دوم که ما تقریباً در حال تولد آن هستیم، در نظر بگیریم. و فکر کنیم که به‌زودی زمین را با موجوداتی بسیار بسیار باهوش‌تر از خودمان سکنی خواهیم داد.» او افزود: «من نگرانم اگر توانایی تضمین اینکه آنها بهترین منافع ما را در نظر دارند را نداشته باشیم، هیچ تضمینی وجود ندارد که انسان کنترل آینده را حفظ کند.»

ارزش‌های بیگانه

وقتی از او پرسیده شد چرا هوش مصنوعی می‌خواهد انسان را از قدرت محروم کند، پاسخ داد: «من فکر می‌کنم ما در حال حاضر راهی برای شکل‌دهی به این سیستم‌ها نداریم. آنها ارزش‌های بیگانه‌ای دارند که ما نمی‌فهمیم. اینطور نیست که این سیستم‌ها از بشریت متنفر باشند. فقط این است که آنها انگیزه‌های بیگانه‌ای دارند که انسان در مرکز آن نیست.»

هشدارهای دیگر محققان

این اظهارات پس از آن مطرح شد که جیکوب کاکسون، محقق شرکت Anthropic، استعفا داد و هشدار داد که این شرکت و رقیبش OpenAI «با جان ما قمار می‌کنند». او به BBC گفت: «اگر با سرعت فعلی پیشرفت را کاهش ندهیم، احتمال قوی وجود دارد که همه ما در آینده نزدیک بمیریم.» دیگران در صنعت هفته گذشته پیش‌بینی کردند که ۱۰ درصد احتمال دارد هوش مصنوعی در دهه آینده همه انسان‌ها را بکشد.

واکنش‌ها و اقدامات

مدیران شرکت‌های هوش مصنوعی: در پی این هشدارها، مدیران شرکت‌های پیشرو هوش مصنوعی در آخر هفته خواستار کاهش سرعت توسعه شدند.

نشست پادشاه چارلز: این هفته پادشاه بریتانیا میزبان نشستی از چهره‌های کلیدی هوش مصنوعی در Dumfries House خواهد بود و از آنها خواهد خواست از این فناوری «برای خیر بشریت» استفاده کنند.

درخواست قانون جدید: نمایندگان پارلمان بریتانیا روز دوشنبه خواستار معرفی لایحه جدید هوش مصنوعی برای مقابله با تهدیدات آن برای حقوق بشر شدند. کمیته مشترک حقوق بشر گفت این قانون باید رژیم نظارتی ایجاد کند که تعهدات بیشتری بر سیستم‌های پرخطر تحمیل کند و برخی کاربردهای هوش مصنوعی را به‌طور کامل ممنوع کند، از جمله پروفایل‌سازی برای پیش‌بینی خطر ارتکاب جرم توسط فرد.

هشدارهای جاش انگلس و جیکوب کاکسون، دو محقق برجسته که از شرکت‌های پیشرو هوش مصنوعی استعفا داده‌اند، نشان‌دهنده نگرانی عمیق در مورد خطرات وجودی هوش مصنوعی است. انگلس هوش مصنوعی را نه یک فناوری، بلکه یک «گونه دوم» با ارزش‌های بیگانه می‌داند که انسان ممکن است نتواند کنترل کند. کاکسون هشدار می‌دهد که ادامه سرعت فعلی توسعه می‌تواند به انقراض بشر منجر شود. این هشدارها منجر به واکنش مدیران صنعت، نشست پادشاه بریتانیا و درخواست قانون‌گذاری جدید شده است. با توجه به پیش‌بینی ۱۰ درصدی احتمال انقراض بشر در دهه آینده، نیاز به نظارت و مقررات ایمنی برای هوش مصنوعی بیش از پیش ضروری به نظر می‌رسد.

جدول اطلاعات کلیدی:

انتهای پیام