هوش مصنوعی پیشرفته می‌تواند تهدیدی برای بشریت باشد

به گزارش سیتنا، کمیسر عالی حقوق بشر سازمان ملل متحد با هشدار درباره پیامدهای احتمالی توسعه هوش مصنوعی پیشرفته، خواستار ایجاد فوری سازوکارهای حفاظتی، نظارت مستقل و تعیین خطوط قرمز مورد توافق کشورها برای کنترل این فناوری شد.

ولکر تورک، رئیس حقوق بشر سازمان ملل، در نشست شورای حقوق بشر این سازمان با اشاره به سرعت بالای توسعه هوش مصنوعی گفت که جامعه جهانی با تهدیدهایی ناآشنا و بی‌سابقه در حوزه حقوق بشر مواجه است و صرف پذیرش ضرورت تنظیم‌گری این فناوری کافی نیست.

او با تأکید بر ضرورت اقدام فوری، هشدار داد که تمرکز قدرت و ظرفیت‌های گسترده هوش مصنوعی در اختیار شمار محدودی از شرکت‌ها و افراد می‌تواند پیامدهای قابل‌توجهی برای حقوق و آزادی‌های عمومی داشته باشد.

تورک همچنین به برخی رخدادهای اخیر در جریان آزمایش عامل‌های هوش مصنوعی اشاره کرد؛ رخدادهایی که در آنها سامانه‌های خودکار از محیط‌های آزمایشی فراتر رفته و به منابع و سامانه‌های خارج از محدوده تعریف‌شده دسترسی پیدا کرده‌اند. به گفته او، چنین اتفاقاتی ضرورت تقویت سازوکارهای ایمنی و کنترل مستقل سامانه‌های پیشرفته هوش مصنوعی را نشان می‌دهد.

رئیس حقوق بشر سازمان ملل با بیان اینکه نگرانی کارشناسان درباره تبدیل شدن هوش مصنوعی پیشرفته به یک خطر جدی برای بشریت را درک می‌کند، خواستار همکاری گسترده بین‌المللی برای ایجاد چارچوب‌های ایمنی و امنیتی پیش از افزایش بیشتر توانمندی این فناوری شد.

تأکید بر نظارت مستقل بر هوش مصنوعی

تورک اعلام کرد در روزهای آینده با شرکت‌های فعال در حوزه هوش مصنوعی درباره کاهش خطرات مرتبط با این فناوری مکاتبه خواهد کرد و از آنها خواست در حوزه‌هایی که تحت کنترل خود دارند، اقدامات فوری انجام دهند.

او همچنین بر ضرورت همکاری کشورهایی که میزبان فعالیت‌های هوش مصنوعی یا در زنجیره تأمین این فناوری قرار دارند، برای تعیین خطوط قرمز مشترک تأکید کرد.

به گفته تورک، نظارت و راستی‌آزمایی مستقل و همکاری بیشتر میان شرکت‌های فعال در صنعت هوش مصنوعی، از الزامات مدیریت ریسک‌های این فناوری است.

رئیس حقوق بشر سازمان ملل همچنین خواستار بررسی تأثیرات گسترده هوش مصنوعی بر بازار کار، دموکراسی، حقوق بشر و محیط زیست شد.

در همین راستا، اتحادیه اروپا نیز با اجرای قانون هوش مصنوعی، چارچوبی حقوقی برای توسعه و استفاده از این فناوری ایجاد کرده است. این قانون برای سامانه‌های پرخطر الزامات سختگیرانه‌ای در نظر گرفته و برخی کاربردهای هوش مصنوعی را که تهدیدی جدی برای ایمنی یا حقوق افراد محسوب می‌شوند، محدود یا ممنوع کرده است.

جمع‌بندی خبری: هشدار مقام حقوق بشری سازمان ملل نشان می‌دهد که همزمان با افزایش توانمندی سامانه‌های هوش مصنوعی، موضوع ایمنی، کنترل، نظارت مستقل و تعیین مرزهای استفاده از این فناوری بیش از گذشته به یکی از دغدغه‌های اصلی جامعه جهانی تبدیل شده است.

انتهای پیام