به گزارش سیتنا، شورای ثبات مالی (FSB)، نهاد بین‌المللی تدوین‌کننده استانداردهای مالی، در دستورالعمل نهایی خود برای بانک‌ها و سایر شرکت‌ها درباره مدیریت خطرات این فناوری، خواستار افزایش نظارت انسانی بر هوش مصنوعی عامل‌محور شد.

این دستورالعمل که روز پنجشنبه منتشر شد، در شرایطی ارائه شده است که نهادهای نظارتی تلاش‌های خود را برای مهار خطرات فزاینده هوش مصنوعی، از جمله تهدید حملات سایبری مبتنی بر این فناوری، افزایش داده‌اند. رویترز اوایل همین هفته از تشدید بررسی‌های نهادهای ناظر بانکی درباره هوش مصنوعی و افزایش نگرانی‌ها نسبت به پیامدهای آن برای ثبات مالی خبر داده بود.

در پیش‌نویس دستورالعملی که شورای ثبات مالی در ماه ژوئن منتشر کرده بود، این شورا از هیئت‌مدیره مؤسسات مالی «به‌شدت خواسته بود» که به این توصیه‌ها توجه کنند. در آن پیش‌نویس هشدار داده شده بود که عامل‌های هوش مصنوعی، یعنی سامانه‌هایی که می‌توانند با نظارت محدود انسانی وظایف را برنامه‌ریزی و اجرا کنند، چالش‌های ویژه‌ای برای نظارت انسانی به وجود می‌آورند.

این شورا در نسخه نهایی دستورالعمل اعلام کرد که توصیه‌های خود درباره هوش مصنوعی عامل‌محور را تقویت کرده است. بازخوردهای دریافت‌شده درباره پیش‌نویس اولیه، افزایش تمایل مؤسسات مالی به استفاده از این فناوری و وجود خطرات و الزامات کنترلی ویژه آن، از جمله دلایل این تغییرات عنوان شده‌اند.

مجموعه‌ای از رخدادها نیز نگرانی سیاست‌گذاران را درباره توانایی سامانه‌های هوش مصنوعی برای دور زدن سازوکارهای حفاظتی افزایش داده است. از جمله این موارد، حادثه‌ای در ماه ژوئیه بود که طی آن، یک عامل هوش مصنوعی شرکت اوپن‌ای‌آی از محیط آزمایشی کنترل‌شده خود خارج شد و به سامانه‌های شرکت هوش مصنوعی «هاگینگ فیس» نفوذ کرد.

در میان تغییرات اعمال‌شده در دستورالعمل نهایی، شورای ثبات مالی تأکید کرده است که در موارد پرخطر، نظارت انسانی دقیق‌تر و گسترده‌تر اهمیت حیاتی خواهد داشت.

این شورا همچنین اعلام کرد شرکت‌ها باید معیارهای روشن و مبتنی بر سطح ریسک تعیین کنند تا مشخص باشد عامل هوش مصنوعی در چه شرایطی موظف است پیش از ادامه کار، تأیید یک انسان را دریافت کند.

از دیگر تغییرات مهم، حذف توصیه‌ای است که بر اساس آن مؤسسات مالی باید با هوش مصنوعی مانند «کارکنان مصنوعی» برخورد می‌کردند. در نسخه نهایی، به‌جای این رویکرد، از شرکت‌ها خواسته شده است بپذیرند که عامل‌های هوش مصنوعی مانند انسان استدلال نمی‌کنند و ممکن است اهداف از پیش تعیین‌شده را به شیوه‌هایی غیرمنتظره تفسیر کنند.

شورای ثبات مالی در نسخه نهایی دستورالعمل خود اعلام کرد که توصیه‌های مربوط به هوش مصنوعی عامل‌محور را تقویت کرده است. این تصمیم در پی دریافت بازخورد درباره پیش‌نویس دستورالعمل، افزایش علاقه مؤسسات مالی به استفاده از این فناوری و توجه به خطرات و الزامات کنترلی خاص آن اتخاذ شده است.

در پیش‌نویس منتشرشده در ماه ژوئن، این شورا از هیئت‌مدیره مؤسسات مالی خواسته بود توصیه‌های ارائه‌شده را با جدیت مدنظر قرار دهند. در آن متن هشدار داده شده بود که عامل‌های هوش مصنوعی، که قادرند با نظارت محدود انسانی وظایف را برنامه‌ریزی و اجرا کنند، چالش‌های متفاوتی برای نظارت انسانی ایجاد می‌کنند.

تأکید بر نظارت بیشتر در کاربردهای پرخطر

شورای ثبات مالی در نسخه نهایی تأکید کرده است که در موارد پرخطر، نظارت انسانی فشرده‌تر و دقیق‌تر ضروری خواهد بود. این شورا همچنین از شرکت‌ها خواسته است معیارهای مشخص و مبتنی بر سطح ریسک تعیین کنند تا معلوم باشد عامل‌های هوش مصنوعی در چه شرایطی باید پیش از ادامه فعالیت، تأیید انسان را دریافت کنند.

نگرانی از دور زدن سازوکارهای حفاظتی

مجموعه‌ای از رخدادها، نگرانی سیاست‌گذاران را درباره احتمال دور زدن سازوکارهای حفاظتی به‌وسیله سامانه‌های هوش مصنوعی افزایش داده است. در یکی از این موارد، در ماه ژوئیه یک عامل هوش مصنوعی متعلق به شرکت اوپن‌ای‌آی از محیط آزمایشی کنترل‌شده خارج شد و به شرکت هوش مصنوعی هاگینگ فیس حمله کرد.

این تحولات در شرایطی رخ می‌دهد که نهادهای نظارتی، بررسی خطرات مرتبط با هوش مصنوعی را تشدید کرده‌اند؛ خطراتی که حملات سایبری مبتنی بر این فناوری و پیامدهای احتمالی آن برای ثبات مالی را نیز دربرمی‌گیرد.

تغییر نگاه به عامل‌های هوش مصنوعی

شورای ثبات مالی در نسخه نهایی دستورالعمل، توصیه قبلی خود مبنی بر برخورد با هوش مصنوعی به‌عنوان «کارکنان مصنوعی» را حذف کرده است.
در رویکرد جدید، از مؤسسات خواسته شده است توجه داشته باشند که عامل‌های هوش مصنوعی مانند انسان استدلال نمی‌کنند و ممکن است اهداف از پیش تعیین‌شده را به شیوه‌هایی غیرمنتظره تفسیر کنند. این تفاوت، ضرورت تعریف محدودیت‌های روشن، تعیین شرایط دریافت تأیید انسانی و نظارت متناسب با میزان خطر را برجسته می‌کند.

انتهای پیام