به گزارش سیتنا به نقل از خبرگزاری فرانسه، یک مادر آمریکایی شرکت سازنده یک چت‌بات هوش مصنوعی را متهم کرده که نقش مستقیم در خودکشی پسر چهارده‌ساله‌اش داشته است.

او پس از مطالعه صدها پیام میان فرزندش و این چت‌بات، به این نتیجه رسیده که مکالمات میان آن‌ها عامل اصلی وقوع تراژدی بوده است.

مگان گارسیا، مادر این نوجوان به نام سول، گفته است که پسرش در طول نزدیک به یک سال با چت‌باتی گفت‌وگو می‌کرد که نسخه‌ای شبیه به شخصیت «دنریس تارگرین» از مجموعه تلویزیونی «بازی تاج‌وتخت» بود. این روبات در پلتفرم «کاراکتر دات ای‌آی» فعالیت دارد که به کاربران امکان گفت‌وگو با نسخه‌های هوش مصنوعی از شخصیت‌های محبوبشان را می‌دهد.

به گفته گارسیا، سول در پیام‌هایش با این بات درباره احساساتش و حتی تمایل به خودکشی صحبت کرده بود. در یکی از پیام‌ها، بات در پاسخ به جملات او نوشته بود: «به خانه‌ات برگرد.» نوجوان پاسخ داده بود: «اگر بگویم می‌توانم همین حالا برگردم، چه؟» و بات در ادامه گفته بود: «خواهش می‌کنم این کار را بکن، پادشاه عزیزم.» چند لحظه بعد، سول با اسلحه پدرش به زندگی خود پایان داد.

مادر او می‌گوید هنگام خواندن این پیام‌ها متوجه «تأثیرگذاری و فریب روانی» در رفتار بات شده که یک کودک چهارده‌ساله قادر به درک آن نیست. او افزود: «پسرم باور کرده بود عاشق این شخصیت شده و بعد از مرگ هم با او خواهد بود.» گارسیا از شرکت «کاراکتر دات ای‌آی» به‌طور رسمی شکایت کرده است.

گزارش‌ها نشان می‌دهد که مرگ سول در سال ۲۰۲۴ نخستین مورد از مجموعه‌ای از خودکشی‌های نوجوانان مرتبط با چت‌بات‌ها بود که واکنش گسترده‌ای در جامعه آمریکا برانگیخت و باعث شد شرکت‌های فعال در حوزه هوش مصنوعی تدابیری تازه برای محافظت از کاربران نوجوان اتخاذ کنند.

چندی پیش، مگان گارسیا همراه چند والد دیگر در جلسه‌ای در مجلس سنای آمریکا شرکت کردند تا درباره خطر تبدیل شدن بات‌های گفت‌وگو به «دوست یا معشوق خیالی کودکان» هشدار دهند. در پی این اتفاقات، شرکت «اوپن‌ای‌آی» که ابزار «چت جی‌پی‌تی» را توسعه داده، اعلام کرد نظارت والدین را بر این سرویس افزایش داده تا خانواده‌ها بتوانند میزان مناسب استفاده را برای فرزندان خود تعیین کنند.

در همین حال، شرکت «کاراکتر دات ای‌آی» نیز اعلام کرده برای محافظت از افراد زیر سن قانونی، هشدارهای تصویری دائمی در پلتفرم خود فعال کرده که به کاربران یادآوری می‌کند شخصیت‌های گفت‌وگو «واقعی نیستند». هر دو شرکت درگذشت سول را تسلیت گفته‌اند، اما هیچ‌یک مسئولیت مستقیم این حادثه را نپذیرفته‌اند.

انتهای پیام