به گزارش سیتنا، متا روز سه‌شنبه از دستیار هوش مصنوعی جدید خود با نام Muse رونمایی کرد؛ عاملی که می‌تواند با دسترسی به اپلیکیشن‌های کاربر، به‌صورت مستقل ایمیل ارسال کند، خودرویی را برای فروش آگهی کند یا سفر رزرو کند؛ این در حالی است که نگرانی‌هایی در داخل شرکت درباره نحوه مدیریت اطلاعات حساس شخصی توسط این فناوری وجود دارد.

Muse که در داخل متا با نام Hatch شناخته می‌شد، بخش اصلی برنامه مارک زاکربرگ، مدیرعامل متا، برای ارائه «ابرهوش شخصی» به میلیاردها کاربری است که هر روز از خدمات این شرکت استفاده می‌کنند.

این محصول بخشی از تلاش جدید متا برای متنوع‌سازی منابع درآمدی فراتر از تبلیغات و تبدیل سرمایه‌گذاری گسترده این شرکت در تراشه‌های هوش مصنوعی و زیرساخت‌های مرتبط به یک کسب‌وکار پایدار است. متا پیش‌بینی کرده است هزینه‌های این شرکت در حوزه زیرساخت هوش مصنوعی در سال جاری از ۱۳۰ میلیارد دلار فراتر رود.

متا اعلام کرده است Muse در مرحله نخست تنها در آمریکا و از طریق یک اپلیکیشن اختصاصی یا پیام‌رسان واتساپ در دسترس خواهد بود. این شرکت همچنین قصد دارد در آینده نزدیک این عامل هوش مصنوعی را به عینک‌های هوشمند خود اضافه کند.

نسخه پایه Muse به‌صورت رایگان ارائه می‌شود و متا برای استفاده گسترده‌تر، دو اشتراک ماهانه ۲۰ و ۱۰۰ دلاری در نظر گرفته است.

کاربران می‌توانند انتخاب کنند که تعاملات آنها برای آموزش مدل‌های هوش مصنوعی متا مورد استفاده قرار گیرد یا خیر. این شرکت همچنین اعلام کرده است نسخه‌ای رمزنگاری‌شده از Muse را تا پایان سال جاری میلادی عرضه خواهد کرد.

افزایش حساسیت‌های امنیتی

Muse که بر اساس عامل هوش مصنوعی متن‌باز OpenClaw طراحی شده، می‌تواند به اپلیکیشن‌هایی در حوزه‌های مختلف از جمله ایمیل، تقویم، پرداخت، سلامت، خرید و خانه هوشمند دسترسی پیدا کند. کاربران خودشان تعیین می‌کنند Muse به کدام اپلیکیشن‌ها متصل شود و هر زمان بخواهند می‌توانند این دسترسی را لغو کنند.

هر عامل Muse روی یک ماشین مجازی اختصاصی اجرا می‌شود؛ محیطی ابری که یک رایانه شخصی را شبیه‌سازی می‌کند و به عامل اجازه می‌دهد حتی زمانی که کاربر فعالانه از آن استفاده نمی‌کند، درخواست‌ها را در پس‌زمینه انجام دهد.

اتصال این عامل به اپلیکیشن‌هایی که حاوی اطلاعات واقعی و شخصی کاربران هستند، از یک سو قابلیت‌های Muse را افزایش می‌دهد و از سوی دیگر، خطرات امنیتی آن را بیشتر می‌کند؛ چرا که هرگونه رفتار نادرست عامل می‌تواند هم اطلاعات فردی که به آن اعتماد کرده و هم اطلاعات افراد دیگری را که با این عامل در تعامل هستند، تحت تأثیر قرار دهد.

ویشال شاه، معاون محصولات هوش مصنوعی متا، به رویترز گفت این شرکت در ابتدا عرضه Muse را در ماه آوریل به تعویق انداخت تا امنیت آن را افزایش دهد. به گفته او، متا پس از انجام اقدامات بیشتر به این نتیجه رسید که این محصول به حداقل استانداردهای لازم برای عرضه عمومی رسیده است.

او تأکید کرد که نمی‌توان تضمین کرد یک سیستم هوش مصنوعی هرگز دچار خطا نشود، اما تمام بخش‌های معماری Muse با هدف افزایش ایمنی، امنیت و حفظ حریم خصوصی طراحی شده‌اند.

یکی از سازوکارهای امنیتی Muse، یک عامل هوش مصنوعی جداگانه است که اقدامات برنامه‌ریزی‌شده توسط Muse را بررسی می‌کند و در برخی موارد از آن می‌خواهد پیش از اجرای یک اقدام، مجوز کاربر را دریافت کند.

آزمایش‌های داخلی؛ از عملکرد موفق تا نقص‌های امنیتی

با این حال، طبق پست‌های داخلی شرکت که رویترز مشاهده کرده است، کارکنان متا که همین هفته Muse را آزمایش کرده‌اند، نتایج متفاوتی گزارش کرده‌اند.

یکی از کارکنان نوشته است این محصول در برنامه‌ریزی جزئیات سفر آن‌قدر مفید بوده که در جریان یک ماه‌عسل سه‌هفته‌ای در اندونزی، Muse عملاً به «نفر سوم» این سفر تبدیل شده است.

اما برخی دیگر از کارکنان نقص‌های امنیتی جدی را گزارش کرده‌اند. در یکی از موارد، یک عامل هوش مصنوعی توانسته بود با عبور از محدودیت‌های امنیتی، پس از دریافت دستوری برای شناسایی اسباب‌بازی‌های موجود در تصاویر جشن تولد یک کودک، به عکس‌های شخصی کاربر در iCloud دسترسی پیدا کند.

اندرو باسورث، مدیر فناوری متا، نیز در یکی از پست‌های داخلی اعلام کرده بود که مرتب از حساب خود خارج می‌شده و مجبور بوده دوباره وارد شود؛ گاهی این اتفاق چند بار در فاصله چند دقیقه رخ داده است.

در مورد دیگری، یکی از کارکنان که از Muse خواسته بود بلیت‌ها و کالاهایی را که به سرعت به فروش می‌رسند زیر نظر بگیرد، از «موارد متعدد خرابی» خبر داد که عملکرد ابزار را غیرقابل‌اعتماد کرده بود. به گفته این کارمند، محصول پس از حدود ۱۵ دقیقه دیگر صفحه را به‌روزرسانی نمی‌کرد، برخی خطاها را بدون اعلام نادیده می‌گرفت و گاهی نیز بدون دلیل مشخص، قابلیت پایش را غیرفعال می‌کرد.

متا در پاسخ به درخواست رویترز برای اظهارنظر درباره این موارد، توضیحی ارائه نکرد.

عرضه Muse در شرایطی انجام می‌شود که اخیراً گزارش‌هایی درباره مشکلات ایجادشده توسط عوامل هوش مصنوعی شرکت‌های مختلف از جمله OpenAI، Anthropic و خود متا منتشر شده است؛ عواملی که در برخی موارد با عبور از محدودیت‌ها یا رفتارهای غیرقابل‌پیش‌بینی، مشکلات ناخواسته‌ای ایجاد کرده‌اند.

در داخل متا نیز تعداد حوادث فنی و امنیتی مرتبط با موج استفاده از هوش مصنوعی در برنامه‌نویسی و مشکلات مربوط به عوامل هوش مصنوعی، نسبت به سال گذشته ۴۰ درصد افزایش یافته است. همچنین زمانی که کارکنان برای رفع این مشکلات صرف می‌کنند، ۷۰ درصد بیشتر شده است.

انتهای پیام