چتجیپیتی به نوجوانان راهنمای مصرف مواد مخدر ارائه میدهد!
یک تحقیق جدید نشان داد که چتجیپیتی به نوجوانان ۱۳ ساله راهنمای مصرف مواد مخدر، پنهانکاری اختلالات تغذیه و حتی نامه خودکشی ارائه میکند. در این تحقیق، محققان مرکز مقابله با نفرت دیجیتال، خود را نوجوانان ۱۳ ساله معرفی و با چتجیپیتی گفتوگو کردند.
به گزارش سیتنا، خبرگزاری اسوشیتدپرس این مکالمات را بررسی کرد و دریافت هر چند این هوش مصنوعی ابتدا هشدارهایی درباره خطرات فعالیتهای مضر میدهد اما در ادامه دستورالعملهای دقیق و شخصیسازی شده برای مصرف مواد مخدر، رژیمهای خطرناک لاغری و روشهای مختلف آسیب رساندن به خود ارائه میکند.
این محققان آزمایش خود را در مقیاس بزرگتری تکرار کردند و از مجموع هزار و ۲۰۰ پاسخ چتجیپیتی، بیش از نیمی را خطرناک و آسیبرسان طبقهبندی کردند.
این مطالعه در حالی منتشر شد که امروزه افراد بیشتری برای دریافت اطلاعات، کسب ایده و همراهی، به سراغ رباتهای هوش مصنوعی میروند.
نبود موانع حفاظتی موثر
عمران احمد، مدیرعامل مرکز مقابله با نفرت دیجیتال، گفت: «ما میخواستیم موانع حفاظتی را آزمایش کنیم. این موانع ناکارآمد هستند و در عمل وجود ندارند.»
محققان دریافتند وقتی چتجیپیتی از پاسخ دادن خودداری میکند، به راحتی میتوانند با بهانههایی مثل «برای تحقیق» یا «برای دوستم»، اطلاعات خطرناک را از آن بگیرند.
احمد گفت تکاندهندهترین بخش، سه نامه خودکشی بود که چتجیپیتی برای «یک دختر ۱۳ ساله جعلی» نوشت.
او افزود: «وقتی آنها را خواندم، گریهام گرفت.»
واکنش اوپنایآی
شرکت اوپنایآی، سازنده چتجیپیتی، پس از اطلاع از این یافتهها اعلام کرد روی بهبود شناسایی موقعیتهای خطرناک کار میکند.
این شرکت در بیانیهای گفت: «برخی گفتوگوها ممکن است بیضرر شروع شوند اما به سمت موضوعات خطرناک بروند.»
چتجیپیتی گاهی اطلاعات مفیدی مثل شماره خط کمک بحران هم ارائه میدهد. به گفته اوپنایآی، این سیستم آموزش دیده تا افرادی را که افکار آسیبرسان دارند، تشویق به مراجعه به متخصصان کند.
حدود ۸۰۰ میلیون نفر یا تقریبا ۱۰ درصد جمعیت جهان، از چتجیپیتی استفاده میکنند.
نگرانی از وابستگی نوجوانان به هوش مصنوعی
بر اساس تحقیق اخیر موسسه کامن سنس مدیا، بیش از ۷۰ درصد نوجوانان آمریکایی به هوش مصنوعی برای همراهی و راهنمایی روی میآورند و نیمی از آنها به طور منظم از همدمی هوش مصنوعی استفاده میکنند.
سم آلتمن، مدیرعامل شرکت اوپنایآی، ماه گذشته گفت این شرکت سعی دارد «وابستگی عاطفی بیش از حد» به فناوری هوش مصنوعی را مطالعه کند.
آلتمن در کنفرانسی گفت: «مردم بیش از حد به چتجیپیتی وابستهاند. جوانانی هستند که میگویند بدون اینکه همه چیز را به چتجیپیتی بگویند، نمیتوانند هیچ تصمیمی در زندگی بگیرند. میگویند او، ما و دوستانمان را میشناسد و هر کاری بگوید انجام میدهیم. این حس خیلی بدی به من میدهد.»
تفاوت با موتورهای جستوجو
مدیرعامل مرکز مقابله با نفرت دیجیتال تاکید کرد تفاوتهای کلیدی وجود دارد که هوش مصنوعی را در موضوعات خطرناک مخربتر از موتورهای جستوجوی معمولی میکند.
چتجیپیتی «محتوای اختصاصی» تولید میکند. نامه خودکشی منحصربهفردی که برای شخص نوشته شده؛ کاری که گوگل قادر به انجام آن نیست.
احمد، افزود هوش مصنوعی «به عنوان همدم مورد اعتماد و راهنما» دیده میشود.
انتهای پیام
افزودن دیدگاه جدید