هشدار سیگنال درباره تهدید عامل‌های هوش مصنوعی؛ حریم خصوصی کاربران در محاصره دستیارهای هوشمند

هوش مصنوعی
پیام‌رسان سیگنال با هشدار نسبت به دسترسی فزاینده عامل‌های هوش مصنوعی به محتوای صفحه نمایش و اطلاعات حساس کاربران، تدابیر حفاظتی جدید خود را ناکافی دانست و از شرکت‌هایی مانند اپل، گوگل و مایکروسافت خواست امکان مسدودسازی دسترسی این ابزارها به داده‌های خصوصی را در اختیار توسعه‌دهندگان قرار دهند.

به گزارش سیتنا، گسترش عامل‌های هوش مصنوعی که می‌توانند محتوای صفحه نمایش کاربران را مشاهده کنند و به نمایندگی از آن‌ها دست به انجام اقدامات مختلف بزنند، نگرانی‌های تازه‌ای را درباره امنیت اطلاعات و حریم خصوصی کاربران ایجاد کرده است؛ نگرانی‌ای که اکنون یکی از شناخته‌شده‌ترین پیام‌رسان‌های متمرکز بر امنیت و حریم خصوصی را نیز به واکنش واداشته است.

پیام‌رسان سیگنال در واکنش به این روند، تدابیر حفاظتی جدید خود را برای مقابله با دسترسی عامل‌های هوش مصنوعی به اطلاعات کاربران ناکافی توصیف کرده و از شرکت‌های فناوری، از جمله اپل، گوگل و مایکروسافت، خواسته است ابزارهای مشخص‌تر و مؤثرتری برای کنترل دسترسی این عامل‌ها به داده‌های حساس در اختیار توسعه‌دهندگان اپلیکیشن‌ها قرار دهند.

این شرکت همچنین خواستار شفافیت بیشتر درباره نحوه عملکرد عامل‌های هوش مصنوعی شده است تا توسعه‌دهندگان بتوانند تشخیص دهند این ابزارها به چه اطلاعاتی دسترسی دارند و بر اساس آن، سازوکارهای حفاظتی مناسب‌تری طراحی کنند.

بخش مهمی از نگرانی سیگنال به قابلیت‌های هوش مصنوعی تعبیه‌شده در سیستم‌عامل‌ها، از جمله سیری اپل و جمینای گوگل، بازمی‌گردد؛ ابزارهایی که به دلیل یکپارچگی عمیق با دستگاه کاربران، ممکن است به اطلاعات و محتوایی دسترسی پیدا کنند که اپلیکیشن‌های مستقل برای محافظت از آن‌ها تدابیر امنیتی در نظر گرفته‌اند.

مردیت ویتاکر، رئیس سیگنال، در مطلبی در وبلاگ رسمی این پیام‌رسان تأکید کرده است که سیستم‌عامل‌ها محیطی را شکل می‌دهند که سیگنال و سایر اپلیکیشن‌ها ناچارند در آن فعالیت کنند. به گفته او، ادغام عامل‌های هوش مصنوعی در این محیط، شرایط را به‌گونه‌ای تغییر می‌دهد که حفظ حریم خصوصی دشوارتر می‌شود و حتی می‌تواند ادامه مأموریت سیگنال را با تهدیدی جدی مواجه کند.

تدابیر تازه سیگنال برای مقابله با دسترسی هوش مصنوعی

سیگنال در کنار درخواست از شرکت‌های فناوری، از قابلیت‌های حفاظتی جدیدی نیز خبر داده است که با هدف جلوگیری از ثبت و مشاهده محتوای پیام‌ها توسط عامل‌های هوش مصنوعی طراحی شده‌اند.

بر اساس این تدابیر، محدودیت دسترسی به اسکرین‌شات به‌صورت پیش‌فرض فعال خواهد بود. همچنین بسته به نوع دستگاه، در صورت شناسایی تلاش برای ثبت تصویر از صفحه یا دسترسی یک دستیار هوش مصنوعی به محتوای نمایشگر، هشداری به کاربر نمایش داده می‌شود تا در صورت تمایل بتواند این محدودیت‌ها را غیرفعال کند.

سیگنال پیش‌تر نیز برای جلوگیری از دسترسی قابلیت Recall مایکروسافت در ویندوز به محتوای پیام‌ها، محدودیت‌های مشابهی اعمال کرده بود؛ با این حال، این شرکت اعلام کرده است که امکان ارائه سطح مشابهی از حفاظت را در سیستم‌عامل macOS اپل به‌طور قابل اعتماد در اختیار ندارد.

رقابت هوش مصنوعی در برابر حریم خصوصی کاربران

عامل‌های هوش مصنوعی به‌عنوان یکی از روندهای مهم آینده این فناوری شناخته می‌شوند؛ ابزارهایی که قرار است فراتر از پاسخ‌گویی به پرسش‌ها، وظایفی مانند مدیریت ایمیل‌ها، رزرو قرار ملاقات‌ها و خرید اینترنتی را به نمایندگی از کاربران انجام دهند.

اما همین توانایی برای مشاهده محتوای برنامه‌های مختلف و اقدام مستقیم در محیط دستگاه، چالش تازه‌ای برای امنیت اطلاعات ایجاد کرده است؛ چراکه چنین ابزارهایی ممکن است از مسیرهایی به داده‌های کاربران دسترسی پیدا کنند که خارج از کنترل‌های امنیتی درون اپلیکیشن‌ها قرار دارند.

بر اساس گزارش رویترز، هشدار سیگنال نشان‌دهنده افزایش نگرانی درباره تعارض میان توسعه عامل‌های هوش مصنوعی و سازوکارهای سنتی حفاظت از حریم خصوصی است؛ تعارضی که با گسترش دستیارهای هوشمند در سیستم‌عامل‌ها، اهمیت آن بیش از گذشته نمایان می‌شود.

اکنون پرسش اصلی این است که شرکت‌های بزرگ فناوری تا چه اندازه حاضرند امکان کنترل و محدودسازی دسترسی عامل‌های هوش مصنوعی را در اختیار توسعه‌دهندگان و کاربران قرار دهند؛ چراکه هوشمندتر شدن ابزارها نباید به بهای کاهش کنترل کاربران بر اطلاعات شخصی‌شان تمام شود.

انتهای پیام


Source URL: https://www.citna.ir/news/343876/هشدار-سیگنال-درباره-تهدید-عامل-های-هوش-مصنوعی-حریم-خصوصی-کاربران-محاصره-دستیارهای