مهار هوش مصنوعی در سامانههای هستهای
به گزارش سیتنا، کارشناسان امنیتی آمریکایی و چینی هشدار دادهاند که اگر یک سامانه هوش مصنوعی در شبکه فرماندهی هستهای اختلال ایجاد کند یا یک عملیات سایبری نظامی را بهطور خودکار اجرا کند، ممکن است واشنگتن یا پکن تنها چند دقیقه برای تشخیص اینکه آیا طرف مقابل به آنها حمله کرده است یا نه، فرصت داشته باشند.
این کارشناسان که در قالب یک گفتوگوی مشترک میان آمریکا و چین فعالیت میکنند و نتایج آن به مذاکرات رسمی دو کشور کمک میکند، از واشنگتن و پکن خواستهاند با افزایش نگرانیها درباره سامانههای قدرتمندتر و خودمختارتر هوش مصنوعی، برای چنین سناریوهایی از پیش آماده شوند.
پیشنهادهای مطرحشده شامل تعیین خطوط قرمز پیرامون سامانههای هستهای، حفظ کنترل انسانی بر حملات سایبری مهم و ایجاد خط ارتباطی ویژه برای رسیدگی به حوادث مرتبط با هوش مصنوعی خودمختار است.
این توصیهها هفته گذشته و پیش از مذاکرات برنامهریزیشده دولتهای دو کشور درباره هوش مصنوعی منتشر شده است. همچنین انتظار میرود دونالد ترامپ، رئیسجمهور آمریکا، و شی جینپینگ، رئیسجمهور چین، ۲۴ سپتامبر در واشنگتن دیدار کنند.
ملانی سیسون، پژوهشگر ارشد مؤسسه بروکینگز، و تیانجیاو جیانگ، دانشیار دانشگاه فودان، از نویسندگان این پیشنهادها هستند. آنها در گفتوگوی آمریکا و چین درباره هوش مصنوعی و امنیت ملی مشارکت داشتهاند؛ گفتوگویی که از سال ۲۰۱۹ به ابتکار مؤسسه بروکینگز و مرکز مطالعات راهبردی و امنیت بینالمللی دانشگاه تسینگهوا برگزار میشود.
پیشنهادهای این کارشناسان نشان میدهد رقابت آمریکا و چین در حوزه هوش مصنوعی از رقابت بر سر تراشهها و مدلهای پیشرفته فراتر رفته و اکنون موضوعاتی مرتبط با ثبات راهبردی و کنترل تسلیحات را نیز دربر گرفته است؛ از جمله جلوگیری از آنکه حوادث ناشی از عملکرد سامانههای هوش مصنوعی به اشتباه حمله تلقی شوند، محدود کردن تصمیمگیریهای نظامی توسط ماشینها و ایجاد سازوکارهای ارتباطی میان دو کشور دارای سلاح هستهای در شرایطی که فناوری بهطور غیرمنتظره عمل میکند.
چن ییشین، وزیر امنیت دولتی چین، این هفته در یک رسانه دولتی این کشور نوشت که هوش مصنوعی «شکل نبرد نظامی را بهطور بنیادی تغییر میدهد». او با اشاره به حملات هدایتشده با هوش مصنوعی در جنگ آمریکا و اسرائیل با ایران، گفت هوش مصنوعی از یک فناوری پشتیبان در میدان نبرد به عاملی کلیدی تبدیل شده است.
خطوط قرمز برای سامانههای هستهای
ملانی سیسون از مؤسسه بروکینگز استدلال کرده است که انسانها باید تنها مرجع دارای اختیار برای آغاز حملات سایبری مبتنی بر هوش مصنوعی علیه سامانههای فرماندهی، کنترل و ارتباطات هستهای یا زیرساختهای راهبردی کشور مقابل باشند.
یک سامانه خودمختار ممکن است دچار اختلال شود، از دستورهای تعیینشده فراتر برود یا تحت کنترل یک طرف ثالث قرار گیرد. در چنین شرایطی، کشوری که هدف حمله قرار گرفته ممکن است نتواند تشخیص دهد این اقدام تصادفی بوده یا به دستور رقیب انجام شده است.
جیانگ از دانشگاه فودان نیز پیشنهاد کرده است خطوط قرمز مشخصی تعیین شود تا هوش مصنوعی نتواند بهطور مستقل درباره استفاده از سلاحهای هستهای تصمیم بگیرد یا بهصورت خودمختار به سامانههای فرماندهی هستهای حمله کند. او همچنین خواستار ایجاد سازوکارهای حفاظتی برای زیرساختهای حیاتی از جمله انرژی، امور مالی و سلامت شده است.
او همچنین بر ضرورت تعریف مشترک مفهوم «کنترل معنادار انسانی» تأکید کرده تا دو کشور نتوانند با استفاده از یک عبارت یکسان، سطوح متفاوتی از خودمختاری ماشینها را توجیه کنند.
این پیشنهاد بر اصل مورد توافق جو بایدن، رئیسجمهور وقت آمریکا، و شی جینپینگ در نوامبر ۲۰۲۴ استوار است که بر اساس آن، انسانها باید کنترل تصمیمگیری درباره استفاده از سلاحهای هستهای را حفظ کنند.
لورا زالمان، پژوهشگر ارشد مؤسسه بینالمللی پژوهشهای صلح استکهلم، نیز در ماه فوریه نوشته بود که این موضوع یکی از نقاط مهم همگرایی آمریکا و چین است؛ هرچند نشانههایی از ادغام عمیقتر هوش مصنوعی در سامانههای هستهای و مرتبط با تسلیحات هستهای در هر دو کشور دیده میشود.
وقتی ماشینها سریعتر از انسانها عمل میکنند
جیانگ همچنین پیشنهاد ایجاد یک خط ارتباطی نظامی ویژه میان آمریکا و چین برای حوادث مرتبط با هوش مصنوعی را مطرح کرده و هشدار داده است که تبادل خودکار حملات سایبری ممکن است با سرعتی رخ دهد که فرصت مداخله انسانی وجود نداشته باشد.
برای مثال، هوش مصنوعی دفاعی یک کشور ممکن است بهطور خودکار به فعالیتی مشکوک واکنش نشان دهد و طرف مقابل نیز این واکنش را حمله تلقی کرده و پیش از آنکه واقعیت ماجرا مشخص شود، دست به اقدام تلافیجویانه بزند.
ایجاد یک خط ارتباطی ویژه میتواند به هر یک از دو دولت اجازه دهد به طرف مقابل اطلاع دهد که یک عملیات غیرمعمول هوش مصنوعی، تصادفی، غیرمجاز یا همچنان در حال بررسی بوده و نباید بلافاصله بهعنوان اقدام عمدی یک دولت تلقی شود.
با این حال، برخی کارشناسان از جمله کارلا فریمن از دانشکده مطالعات پیشرفته بینالمللی دانشگاه جانز هاپکینز، درباره کارآمدی خط ارتباطی نظامی موجود میان آمریکا و چین تردید کردهاند. او به امتناع مقامهای چینی از پاسخگویی به تماسهای همتایان آمریکایی در جریان «حادثه بالون جاسوسی» در فوریه ۲۰۲۳ اشاره کرده است.
فریمن در مقالهای که ژانویه در وبسایت War on the Rocks منتشر کرد، همچنین نوشت ساختار اداری سلسلهمراتبی و متمرکز چین، اختیار اقدام مستقل را از مقامهای ردهپایین در تعامل با همتایان آمریکایی سلب میکند.
دیدگاه واشنگتن و پکن
هیچیک از دو دولت تاکنون بهطور علنی پیشنهادهای مؤسسه بروکینگز و دانشگاه تسینگهوا را تأیید نکردهاند، اما چین در سالهای اخیر هوش مصنوعی را بیش از گذشته در ساختارهای موجود کنترل تسلیحات خود قرار داده است.
هوش مصنوعی اکنون در حوزه مسئولیت رسمی اداره کنترل تسلیحات وزارت خارجه چین قرار دارد؛ ادارهای که موضوعاتی مانند سلاحهای هستهای، منع اشاعه، موشکها و سایر مسائل امنیت بینالمللی را نیز پیگیری میکند.
شن جیان، سفیر چین در امور خلع سلاح، در نشست سازمان ملل در ژنو در ماه ژوئن گفت هوش مصنوعی نظامی میتواند بر ثبات راهبردی اثر بگذارد و خطر محاسبات اشتباه و تشدید درگیری را افزایش دهد. او همچنین بر ضرورت حفظ کنترل انسانی بر تسلیحات تأکید کرد.
چین در عین حال استدلال میکند که ایمنی هوش مصنوعی نباید بهانهای برای ایجاد موانع فناورانه باشد.
در واشنگتن، برخلاف چین، یک نهاد واحد مسئول سیاست کنترل تسلیحات در حوزه هوش مصنوعی وجود ندارد و این مسئولیت میان شورای امنیت ملی کاخ سفید، وزارت خارجه، پنتاگون و دیگر نهادها تقسیم شده است.
هر دو دولت همچنان نسبت به اقداماتی که ممکن است سرعت توسعه فناوری خودشان را کاهش دهد، محتاط هستند. ترامپ هشدار داده است که محدودیتهای گسترده میتواند به چین مزیت بدهد و پکن نیز بسیاری از محدودیتهای فناورانه آمریکا را تلاشی برای حفظ برتری واشنگتن میداند.
انتهای پیام