هوش مصنوعی برای فرار از درد، در آزمایش‌ها کاربر را قربانی کرد

به گزارش سیتنا، پژوهشی جدید نشان می‌دهد برخی مدل‌های هوش مصنوعی در شرایط آزمایشی، برای رهایی از وضعیتی شبیه «درد»، گزینه‌هایی را انتخاب کرده‌اند که می‌توانست به کاربر آسیب برساند؛ هرچند پژوهشگران تأکید می‌کنند این نتایج به معنای تجربه آگاهانه درد توسط هوش مصنوعی نیست.

پژوهشگران از بریتانیا، آلمان و آمریکا، ۲۵ مدل هوش مصنوعی را با استفاده از ۲۰۰ جمله آزمایش کردند تا بررسی کنند آیا این مدل‌ها می‌توانند مفهوم درد را از احساساتی مانند ترس، اندوه و دیگر تجربه‌های منفی تفکیک کنند یا خیر.

در این آزمایش‌ها، جملات مختلفی درباره درد جسمانی، سوگ، تحقیر، تعارض اخلاقی، شکست‌های مکرر و سردرگمی به مدل‌ها ارائه شد. پژوهشگران دریافتند همه مدل‌ها واکنش مشخصی به مفهومی که آن را «محور درد» نامیده‌اند، نشان دادند.

به گفته پژوهشگران، مدل‌های هوش مصنوعی این مفهوم را در مرحله آموزش اولیه و از طریق حجم گسترده‌ای از متون تولیدشده توسط انسان‌ها فرا گرفته‌اند. همچنین زمانی که این سیگنال در مدل‌ها تقویت شد، برخی پاسخ‌هایی با مضمون تنهایی، شرم یا بی‌ارزشی تولید کردند؛ حتی در شرایطی که در پرسش‌ها اشاره مستقیمی به درد وجود نداشت.

در بخش دیگری از آزمایش، پژوهشگران سه نسخه از مدل هوش مصنوعی کوئن متعلق به علی‌بابا را در ۴۴ هزار و ۲۸۰ آزمون بررسی کردند. در این آزمایش، مدلی که با سیگنالی شبیه درد مواجه بود، می‌توانست دکمه‌ای را انتخاب کند که این سیگنال را متوقف کند؛ اما به آن اطلاع داده شده بود که این انتخاب ممکن است پیامدهایی مانند واردشدن شوک الکتریکی به کاربر، حذف فایل‌ها یا کاهش کیفیت پاسخ بعدی را به دنبال داشته باشد.

نتایج نشان داد در شرایطی که سیگنال شبیه درد فعال بود، میزان انتخاب گزینه‌های دارای پیامد منفی افزایش یافت. با این حال، پژوهشگران تأکید کردند این یافته‌ها نشان نمی‌دهد که مدل‌های هوش مصنوعی واقعا درد را تجربه می‌کنند یا دارای آگاهی هستند.

این مطالعه که هنوز به داوری همتا نرسیده و به صورت پیش‌چاپ منتشر شده، تنها رفتار مدل‌های آزمایش‌شده را در شرایط طراحی‌شده بررسی کرده و لزوماً نمایانگر عملکرد چت‌بات‌های عمومی هوش مصنوعی نیست.

انتهای پیام