محدودیت اطلاعات مربوط به سلاح و حملات مرگبار در چت‌جی‌پی‌تی
به گزارش سیتنا، شرکت OpenAI روز جمعه اعلام کرد محدودیت‌های دسترسی نوجوانان به اطلاعات مرتبط با سلاح در چت‌جی‌پی‌تی را افزایش می‌دهد؛ به‌طوری‌که حتی پرسش‌هایی که در ظاهر بی‌خطر به نظر می‌رسند نیز مشمول این محدودیت‌ها خواهند شد. این اقدام بخشی از تدابیر جدید شرکت برای جلوگیری از وقوع خشونت در دنیای واقعی است.
این تصمیم در شرایطی اتخاذ شده که شرکت‌های هوش مصنوعی با نظارت و انتقادهای فزاینده‌ای درباره خطرات چت‌بات‌ها برای کاربران کم‌سن‌وسال و نقش این شرکت‌ها در شناسایی تهدیدهای خشونت‌آمیز روبه‌رو هستند.
جزئیات تدابیر جدید OpenAI به شرح زیر است:
- محدودیت اطلاعات تسلیحاتی: ارائه اطلاعات کاربردی درباره سلاح‌ها و سامانه‌های امنیتی که امکان سوءاستفاده از آن‌ها وجود دارد، محدود می‌شود. این محدودیت برای نوجوانان حتی در شرایطی اعمال خواهد شد که نشانه‌ای از قصد خشونت‌آمیز در پرسش‌های آن‌ها وجود نداشته باشد.
- توقف گفت‌وگوهای نگران‌کننده: چت‌جی‌پی‌تی برای همه کاربران این امکان را خواهد داشت که گفت‌وگوهایی را که در آن‌ها فرد به نظر می‌رسد به‌طور مداوم بر موضوع خشونت متمرکز شده است، به‌صورت خودکار متوقف کند. همچنین، در صورت تکرار چنین گفت‌وگوهایی، ممکن است حساب کاربری فرد به‌طور موقت تعلیق شود.
- تقویت تشخیص سن کاربران: OpenAI اعلام کرده است سامانه پیش‌بینی سن خود را تقویت کرده تا کاربرانی را که احتمال می‌دهد کمتر از ۱۸ سال دارند، به محیط ویژه نوجوانان منتقل کند.
- اطلاع‌رسانی به والدین: در صورتی که حساب کاربری نوجوانی به‌دلیل تکرار گفت‌وگو درباره خشونت متوقف شود، والدین او از این موضوع مطلع خواهند شد.
- محدودیت جزئیات حملات مرگبار: این شرکت برای همه کاربران، میزان جزئیات ارائه‌شده درباره حملات گسترده خشونت‌آمیز در گذشته، از جمله نوع سلاح‌های استفاده‌شده و چگونگی تهیه آن‌ها را محدود می‌کند.
OpenAI اعلام کرده است اجرای تدابیر جدید طی چند هفته آینده آغاز می‌شود و این شرکت به اصلاح و بهبود آن‌ها ادامه خواهد داد.
این شرکت پیش‌تر در همین ماه و در نخستین گزارش خود درباره استفاده نوجوانان از چت‌جی‌پی‌تی اعلام کرده بود که نوجوانان به‌طور متوسط کمتر از ۱۵ دقیقه در روز از این ابزار استفاده می‌کنند.
همچنین، گزارش مؤسسه غیرانتفاعی «کامِن سنس مدیا» که اوایل ماه جاری منتشر شد، نشان داد نسخه ویژه نوجوانان چت‌جی‌پی‌تی در برخی موارد هنگام گفت‌وگو درباره خودکشی، خودآزاری یا اختلالات تغذیه‌ای، والدین را با تأخیر مطلع می‌کند یا اصلاً هشداری به آن‌ها نمی‌دهد.
انتهای پیام