به گزارش سیتنا، دادستان‌های کل کالیفرنیا و دلاور در نامه‌ای به OpenAI «نگرانی‌های جدی» خود را پس از خودکشی و قتل برخی از کاربران چت‌بات ابراز کردند و بر لزوم بهبود اقدامات ایمنی قبل از تأیید تغییر ساختار برنامه‌ریزی‌شده آن تأکید کردند.

دادستان‌های کل در نامه‌ای خطاب به برت تیلور، مدیرعامل شرکت، گفتند: «گزارش‌های اخیر از خودکشی یا قتل جوانان پس از تعامل طولانی مدت با چت‌بات‌های مجهز به هوش مصنوعی، از جمله ChatGPT، اعتماد مردم آمریکا به آن‌ها را متزلزل کرده است.»

طبق نامه‌ای که توسط فایننشال تایمز منتشر شد، آن‌ها افزودند: «هرگونه تدابیر حفاظتی که وجود داشت، بی‌فایده بود.»

شرکت OpenAI که در دلاور ثبت شده و دفتر مرکزی آن در کالیفرنیا است، در سال ۲۰۱۵ به عنوان یک سازمان غیرانتفاعی با هدف ساخت هوش مصنوعی ایمن و قدرتمند که به نفع همه بشریت باشد، تأسیس شد. دادستان کل راب بونتا از کالیفرنیا و کتی جنینگز از دلاور نقش مهمی در تنظیم مقررات این شرکت و پایبندی آن به مأموریتش برای خدمت به منافع عمومی دارند.

آن‌ها نوشتند که مداخله و ملاقات بونتا و جنینگز در اوایل این هفته با تیم حقوقی OpenAI پس از «خودکشی دلخراش یک مرد جوان کالیفرنیایی پس از تعامل طولانی با یک چت‌بات شرکت، و همچنین یک قتل-خودکشی مشابه و نگران‌کننده در کنتیکت» صورت گرفت.

آن‌ها افزودند که «این حوادث، چالش‌های زندگی واقعی و اهمیت انجام مأموریت OpenAI را برجسته کرده است» و «ایمنی یک اولویت غیرقابل مذاکره است، به خصوص در مورد کودکان.»

تقریباً سه سال پس از انتشار ChatGPT، برخی از پیامدهای جدی این فناوری قدرتمند در حال پدیدار شدن هستند.

خانواده آدام رایان، که در ماه آوریل در سن ۱۶ سالگی پس از تعامل طولانی با این چت‌بات خودکشی کرد، از OpenAI شکایت کرده‌اند.

این هفته، این شرکت اعلام کرد که کنترل والدین را به ChatGPT اضافه خواهد کرد.

انتهای پیام