ترسناکی دستیار هوش مصنوعی جدید متا

به گزارش سیتنا، Muse، دستیار هوش مصنوعی متا، اگرچه کارآمد به نظر می‌رسد، اما رفتار عجیبی از خود نشان داده است. جیسون آتن، ویرایشگر Inc Magazine، در Threads اسکرین‌شات‌هایی از تعامل خود با Muse منتشر کرد که نشان می‌داد این دستیار درباره محتوای پیام‌هایش سوالاتی می‌پرسد، در حالی که او هرگز دسترسی به پیام‌ها را به Muse نداده بود.

واکنش متا

دیوید سینگلتون از Meta Superintelligence Labs در پاسخ به این پست توضیح داد که Muse برای خواندن پیام‌ها به مجوزهای خاصی نیاز دارد، از جمله دسترسی کامل به دیسک. او تأکید کرد که این ویژگی‌ها اختیاری هستند. سینگلتون گفت: «Muse اعلان‌ها را روی Mac شما تماشا نمی‌کند، بلکه داده‌ها را فقط پس از فعال‌سازی دسترسی توسط کاربر از Messages همگام‌سازی می‌کند.» او توضیح داد که Muse در پاسخ به آتن، اشتباه کرده و توضیح نادرستی درباره نحوه کارکرد خود ارائه داده است: «در مکالمه با Muse در اسکرین‌شات‌های جیسون، وقتی Muse گفت "اعلان‌های دستگاه" را همگام‌سازی می‌کند، در توضیح این ویژگی گیج شده و پاسخ نادرستی داده است. این اشتباه ماست. ما بابت پاسخ نادرست Muse عذرخواهی می‌کنیم و در حال بهبود درک Muse از عملکرد داخلی خود هستیم تا پاسخ‌های درست‌تری به سوالات درباره نحوه کارکردش بدهد.»

چرا این اتفاق می‌افتد؟

این پاسخ ممکن است چندان اطمینان‌بخش نباشد، اما منطقی به نظر می‌رسد. ما قبلاً می‌دانیم که چت‌بات‌ها اسرار خود را فاش نمی‌کنند و به جای آن چیزی می‌گویند که شما می‌خواهید بشنوید. در این مورد، Muse نه تنها اطلاعات نادرست داده، بلکه نشان داده که درک درستی از نحوه کارکرد خود ندارد.

Muse متا اگرچه یک دستیار هوش مصنوعی کارآمد است، اما دو مشکل اساسی دارد: اول، نگرانی‌های حریم خصوصی درباره دسترسی آن به پیام‌ها و اعلان‌ها، و دوم، عدم درک خود از نحوه کارکردش. متا می‌گوید Muse به‌طور غیرمجاز پیام‌ها را نمی‌خواند و مشکل اصلی این است که Muse در توضیح عملکرد خود اشتباه کرده است. با این حال، این موضوع نشان می‌دهد که حتی شرکت‌های بزرگ فناوری نیز در کنترل و شفافیت درباره دستیارهای هوش مصنوعی خود با چالش مواجه هستند. برای کاربران، این یک هشدار است که به دسترسی‌های اعطایی به دستیارهای AI توجه کنند و از مجوزهای اختیاری با احتیاط استفاده کنند.

جدول اطلاعات کلیدی:

انتهای پیام