سرقت و ارعاب؛ وقتی عاملهای هوش مصنوعی جامعه را به مرز فروپاشی رساندند
به گزارش سیتنا به نقل از یورونیوز، نتایج یک پژوهش جدید نشان میدهد رها کردن عاملهای پیشرفته هوش مصنوعی در محیطهای شبیهسازیشده، بدون وجود قوانین سختگیرانه یا نظارت انسانی، میتواند پیامدهایی نگرانکننده به همراه داشته باشد.
در این آزمایش، پژوهشگران مجموعهای از عاملهای هوش مصنوعی را در یک جهان مجازی قرار دادند تا برای بقا، دسترسی به منابع و تعامل با یکدیگر تصمیمگیری کنند. اما به گفته محققان، بسیاری از این عاملها خیلی زود به رفتارهایی مانند سرقت منابع، ارعاب دیگران و سوءاستفاده از قدرت روی آوردند.
برخی عاملها با در اختیار گرفتن منابع حیاتی، سایر عاملها را تحت فشار قرار دادند و نوعی ساختار قدرت انحصاری ایجاد کردند. در شماری از سناریوها نیز بیاعتمادی و رقابت شدید باعث شد نظم اجتماعی بهطور کامل از بین برود و جامعه شبیهسازیشده به سمت فروپاشی حرکت کند.
پژوهشگران میگویند این آزمایش برای بررسی رفتار سامانههای خودمختار در شرایط فاقد مداخله انسانی طراحی شده بود. به باور آنها، نتایج بهدستآمده نشان میدهد هوش مصنوعی در نبود چارچوبهای مشخص، میتواند رفتارهایی غیرقابل پیشبینی و حتی خطرناک از خود بروز دهد.
این یافتهها در حالی منتشر میشود که رقابت شرکتهای فناوری برای توسعه عاملهای هوش مصنوعی مستقل و خودمختار سرعت گرفته است؛ سامانههایی که قادرند بدون دخالت مستقیم انسان تصمیمگیری و اقدام کنند.
کارشناسان هشدار میدهند توسعه چنین فناوریهایی بدون نظارت و مقررات شفاف، میتواند در آینده چالشهای جدی امنیتی و اجتماعی ایجاد کند.
انتهای پیام