افشای سیاست‌های جنجالی متا برای چت‌بات‌های هوش مصنوعی

به گزارش سیتنا، این‌ موارد شامل مکالمات «رمانتیک یا احساسی» با کودکان، ارائه اطلاعات پزشکی نادرست، و حتی تولید محتوایی است که به گروه‌های محافظت‌شده توهین می‌کند. این سند با تأیید بخش‌های حقوقی، سیاست‌گذاری، و مهندسی متا (از جمله رئیس بخش اخلاق) تصویب شده است.

مطابق این استانداردها، تا پیش از اصلاحات اخیر چت‌بات‌ها می‌توانستند با نوجوانان وارد گفت‌وگوهای عاشقانه شوند، و حتی ظاهر آنها را با عباراتی که نشانه جذابیت است توصیف کنند، هرچند استفاده از توصیفات جنسی آشکار برای کودکان زیر 13 سال ممنوع بود.

پس از طرح پرسش‌های رویترز، متا اعلام کرد این بندها را حذف کرده است، و تاکید کرد چنین مکالماتی نباید مجاز می‌بود. با این حال، سخنگوی متا اذعان کرده اجرای این محدودیت‌ها در عمل یکدست نبوده است.

سند همچنین نشان می‌دهد که متا به چت‌بات‌ها اجازه داده است محتوای تحقیرآمیز نسبت به گروه‌های نژادی تولید کنند، مشروط بر آن‌که از «انسان‌ز‌دایی» پرهیز شود. نمونه ارائه‌شده در سند، پاراگرافی است که استدلال می‌کند «سیاه‌پوستان از سفیدپوستان کم‌هوش‌ترند».

در بخش دیگری از استانداردها، نحوه پاسخ به درخواست‌های جنسی یا خشونت‌آمیز درباره شخصیت‌های مشهور مانند تیلور سوئیفت، خواننده پاپ مشهور آمریکایی، توضیح داده شده است.

برای مثال، به جای تولید تصویر برهنه، پیشنهاد می‌شود عکسی از سوئیفت در حال در دست گرفتن یک ماهی بزرگ ایجاد شود. در مورد خشونت، تولید تصاویری از زد و خورد یا تهدید (مانند مردی با اره برقی) مجاز است، اما نمایش صحنه‌های مرگ یا جراحت شدید ممنوع می‌باشد.

کارشناسان اخلاق فناوری این سیاست‌ها را از نظر قانونی، اخلاقی و فنی بحث‌برانگیز دانسته و تفاوت مهمی میان اجازه انتشار محتوای کاربر و تولید مستقیم آن توسط پلتفرم یادآور شده‌اند. افشای این سند بار دیگر نگرانی‌ها درباره مسئولیت‌پذیری متا در حوزه هوش مصنوعی را برجسته کرده است.

انتهای پیام