خلاصه‌های تولیدشده با هوش مصنوعی می‌توانند حافظه انسان را تحریف کنند
به گزارش سیتنا، پژوهشگران در مطالعه‌ای جدید بررسی کرده‌اند که خطاهای موجود در خلاصه‌های تولیدشده با هوش مصنوعی چگونه می‌تواند بر حافظه و برداشت انسان از یک رویداد تأثیر بگذارد.
نتایج این پژوهش نشان داد سامانه‌های هوش مصنوعی هنگام خلاصه‌سازی، در موارد متعددی اطلاعات نادرست تولید می‌کنند. یکی از رایج‌ترین خطاها، حذف جزئیات مهم است؛ به‌طوری که در بررسی انجام‌شده، به‌طور میانگین ۵۱.۶ درصد از اطلاعات مهم در خلاصه‌های تولیدشده حذف شده بود.
برای بررسی تأثیر این خطاها بر حافظه، ۳۳۱ نفر در آزمایش شرکت کردند. آن‌ها ابتدا یک ویدیوی انیمیشنی از یک تصادف میان خودرو و عابر پیاده را مشاهده کردند و سپس، پس از گذشت ۲۴ تا ۴۸ ساعت، خلاصه‌ای از همان رویداد را دریافت کردند.
خلاصه‌ها در برخی موارد دقیق و در برخی موارد حاوی اطلاعات گمراه‌کننده بودند. پژوهشگران سپس از شرکت‌کنندگان خواستند جزئیات رویداد را به یاد بیاورند.
نتایج نشان داد افرادی که خلاصه نادرست را خوانده بودند، در مقایسه با افرادی که خلاصه دقیق دریافت کرده بودند، به شکل قابل‌توجهی کمتر توانستند رویداد اصلی را درست به خاطر بیاورند. در یک گزارش از نتایج این آزمایش، میزان پاسخ صحیح از ۸۳.۶ درصد در گروه دریافت‌کننده خلاصه دقیق به ۴۴.۸ درصد در گروه دریافت‌کننده خلاصه گمراه‌کننده کاهش یافت.
این اثر حتی به میزان اعتماد افراد به هوش مصنوعی یا اینکه تصور می‌کردند خلاصه را انسان نوشته یا هوش مصنوعی تولید کرده است، وابسته نبود.
پژوهشگران می‌گویند اهمیت این یافته تنها به استفاده روزمره از ابزارهای هوش مصنوعی محدود نمی‌شود. خلاصه‌سازی خودکار در حوزه‌هایی مانند پیاده‌سازی جلسات، مرور اخبار و حتی بررسی تصاویر دوربین‌های پلیس نیز مورد استفاده قرار می‌گیرد؛ حوزه‌هایی که حذف یا تغییر یک جزئیات می‌تواند پیامدهای جدی داشته باشد.
این مطالعه با عنوان «دستکاری حافظه انسان با کمک هوش مصنوعی: خلاصه‌های گمراه‌کننده تولیدشده با هوش مصنوعی حافظه را تحریف می‌کنند» منتشر شده و قرار است در کنفرانس «هوش مصنوعی، اخلاق و جامعه» ارائه شود.
انتهای پیام