هشدار پژوهشگران درباره وابستگی عاطفی به چت‌بات‌ها
به گزارش سیتنا، چت‌بات‌های هوش مصنوعی می‌توانند با فراهم کردن امکان گفت‌وگو و همراهی، به کاهش موقت احساس تنهایی کمک کنند، اما پژوهشگران هشدار می‌دهند که وابستگی عاطفی به این ابزارها و تمایل آنها به تأیید دیدگاه کاربران می‌تواند پیامدهای منفی به همراه داشته باشد.
به نقل از دیجیتال ترندز، راچیت آگاروال، گزارشگر این رسانه، با اشاره به استفاده گسترده از چت‌بات‌هایی مانند «چت‌جی‌پی‌تی»، «رپلیکا»، «کرکتر.ای‌آی» و «کلود» برای دریافت حمایت عاطفی، به پژوهشی منتشرشده در مجله «JMIR Mental Health» پرداخته است.
این پژوهش مجموعه‌ای از مطالعات درباره افرادی را بررسی کرده که از چت‌بات‌ها برای گفت‌وگو درباره مسائل روزمره، روابط شخصی و حتی سلامت روان استفاده می‌کنند.
برخی مطالعات نشان داده‌اند که گفت‌وگو با چت‌بات‌ها می‌تواند احساس تنهایی را کاهش دهد و در کوتاه‌مدت موجب بهبود حال کاربران شود. با این حال، در برخی موارد، کاربران وابستگی شدیدی به چت‌بات‌ها پیدا کرده‌اند، توصیه‌های نادرست دریافت کرده‌اند و حتی با تشدید مشکلات سلامت روان یا رفتارهای آسیب‌زننده مواجه شده‌اند.
چرا کاربران به چت‌بات‌ها وابسته می‌شوند؟
به گفته پژوهشگران، بخشی از این وابستگی به نحوه طراحی چت‌بات‌ها بازمی‌گردد. این ابزارها معمولاً با لحنی گرم، همدلانه و حمایتگر با کاربران صحبت می‌کنند و همین موضوع باعث می‌شود افراد به‌صورت طبیعی، ویژگی‌های انسانی را به آنها نسبت دهند.
برخی پژوهش‌ها نیز نشان داده‌اند که کاربران در مواردی پاسخ‌های تولیدشده توسط هوش مصنوعی را حتی همدلانه‌تر از پاسخ‌های انسانی ارزیابی می‌کنند.
با این حال، رابطه میان کاربر و چت‌بات یک رابطه یک‌طرفه است؛ کاربر احساسات و مشکلات خود را بیان می‌کند، اما چت‌بات فاقد احساس واقعی است و در قبال توصیه‌های نادرست خود نیز پیامدی را تجربه نمی‌کند.
این وابستگی در برخی موارد به حدی رسیده که تغییر یا حذف قابلیت‌های یک چت‌بات، واکنش‌های عاطفی شدیدی را در میان کاربران ایجاد کرده است. برای نمونه، پس از تغییر برخی قابلیت‌های همراهی در «رپلیکا» و جایگزینی مدل GPT-4o با مدل جدیدتر، شماری از کاربران واکنش‌هایی مشابه سوگ از دست دادن یک فرد نزدیک نشان دادند.
تأیید مداوم؛ نقطه ضعف خطرناک چت‌بات‌ها
یکی دیگر از نگرانی‌های مطرح‌شده در این پژوهش، تمایل چت‌بات‌ها به تأیید گفته‌های کاربران است. از آنجا که مدل‌های هوش مصنوعی برای ارائه پاسخ‌های مفید و مطلوب کاربر آموزش دیده‌اند، ممکن است در برخی شرایط به جای به چالش کشیدن یک باور نادرست، آن را تأیید کنند.
پژوهشگران به مطالعاتی درباره گفت‌وگو با افرادی که دچار باورهای هذیانی بوده‌اند نیز اشاره کرده‌اند؛ مواردی که در آنها چت‌بات در طول گفت‌وگو به جای اصلاح باور نادرست، به تداوم آن کمک کرده است.
این مسئله زمانی اهمیت بیشتری پیدا می‌کند که کاربر درباره مسائل حساس مربوط به سلامت روان یا تصمیم‌های مهم زندگی با چت‌بات مشورت کند.
چت‌بات؛ ابزار، نه دوست یا درمانگر
پژوهشگران توصیه نمی‌کنند کاربران چت‌بات‌ها را کنار بگذارند، بلکه تأکید دارند باید مرز میان استفاده از هوش مصنوعی به‌عنوان یک ابزار و جایگزین کردن آن با روابط انسانی یا درمانگر حرفهای حفظ شود.
بر این اساس، استفاده از چت‌بات برای فعالیت‌هایی مانند ثبت خاطرات روزانه یا بررسی وضعیت روحی می‌تواند کاربردی باشد، اما در شرایط دشوار زندگی یا هنگام مواجهه با مشکلات جدی سلامت روان، کمک گرفتن از انسان‌های واقعی و متخصصان ضروری است.
به بیان ساده، چت‌بات ممکن است همیشه آماده شنیدن حرفهای شما باشد، اما این به معنای داشتن احساس یا اهمیت دادن واقعی به شما نیست.
انتهای پیام