نبرد برای حاکمیت در عصر دیجیتال

به گزارش سیتنا، دفتر مطالعات حکمرانی مرکز پژوهش های مجلس شورای اسلامی در گزارش « دولت و هوش مصنوعی؛ منطق کارکردی مفهوم اقتدار و مشروعیت » آورده که مفهوم دولت - ملت، از زمان شکل‌گیری در قرن هفدهم، تحولات بنیادینی را در ساختار سیاسی، هویت ملی و روابط بین‌الملل تجربه کرده است. اکنون، ظهور و به‌کارگیری فزاینده فناوری‌های نوین، به‌ویژه هوش مصنوعی، بقا و تداوم این ساختارهای پیشین را با چالش‌های اساسی مواجه می‌سازد. این گزارش به دنبال آن است که رابطه میان هوش مصنوعی و دولت و مشخصاً تعامل یا تقابل ابزارهای مبتنی‌بر هوش مصنوعی با مفاهیم «اقتدار» و «مشروعیت» را واکاوی کند و از این رهگذر به ترسیم فضای برآمده از این سیر دیالکتیکی نائل آید. از آنجا که هوش مصنوعی بر حکمرانی، خط‌مشی‌گذاری و مدیریت عمومی اثرگذار است، پرسش‌هایی بنیادین پیرامون عاملِ اقتدار و مبنای مشروعیت تصمیم‌های الگوریتمی ایجاد می‌شود که دغدغه اصلی این پژوهش را تشکیل می‌دهد.

یافته‌های این گزارش نشان می‌دهد هوش مصنوعی مفاهیم و ساختارهای موجود در سپهر سیاسی و فلسفی را دستخوش تحولات قابل‌توجهی می‌کند. این فناوری، اقتدار و مشروعیت را به سمت الگوهای ترکیبی (انسان-ماشین) سوق داده و در حال شکل‌دهی به نوع جدیدی از «مشروعیت فناورانه» است؛ امری که بازاندیشی در مبانی نظری حکمرانی را برای انطباق با واقعیت‌های عصر دیجیتال ضروری می‌سازد.

در این گزارش تصریح شد که ظهور و پیشرفت هوش مصنوعی علاوه‌بر تحولات اقتصادی و اجتماعی، ساختارهای حکمرانی و اقتدار سیاسی را نیز دچار تغییر کرده است. هر‌چند دولت‌ها برای تحلیل داده‌ها، ارتقای خدمات عمومی و امنیت ملی از ابزارهای مبتنی‌بر هوش مصنوعی استفاده می‌کنند، اما این روند می‌تواند چالش‌هایی را در زمینه اقتدار، مشروعیت و به‌طور کلی مفهوم دولت ـ ملت ایجاد کند. مفهوم اقتدار به قدرت مشروع دولت برای اعمال حاکمیت اشاره دارد و مشروعیت، با پذیرش عمومی و رضایت شهروندان از تصمیم‌گیری‌های دولت پیوند خورده است. ظهور حاکمیت الگوریتمی و ورود ابزارهای تصمیم‌گیری که مستقل از نیروی انسانی عمل می‌کنند، پرسش‌هایی را پیرامون نقش و مشارکت شهروندان در تصمیم‌گیری و همچنین پاسخ‌گویی دولت در برابر شهروندان ایجاد کرده است. گویی با ورود هوش مصنوعی به عرصه حکمرانی نوعی از مشروعیت فناورانه در تقابل با مشروعیت در معنای سنتی قرار می‌گیرد که بازبینی پیرامون معنای این مفهوم را ناگزیر می‌سازد.

در یافته های دیگر این گزارش نهاد پژوهشی آمده که واکاوی مفاهیم اقتدار و مشروعیت در این گزارش گواهی می‌دهد که ما در آستانه یک تحول مفهومی در ذات دولت ایستاده‌ایم؛ جایی که دو رکن بنیادین حکومت و حکمرانی، یعنی اقتدار و مشروعیت، در حال بازتولید معنایی خود در بستر دیجیتال هستند. از یک‌سو، با گذار از اقتدار کلاسیک وبری که بر انحصار قوه قهریه در قلمرو سرزمینی استوار بود، شاهد ظهور «اقتدار الگوریتمی» هستیم. در این نظم نوین، قلمرو حاکمیت از «خاک» به «داده» گسترش یافته و توانایی پردازش، پیش‌بینی و هدایت رفتار شهروندان، جایگزین ابزارهای سنتی اعمال قدرت شده است. دولتی که فاقد این اقتدار الگوریتمی باشد، عملاً بر فضای زیست شهروندان خود تسلطی ندارد و حاکمیتش به پوسته‌ای حقوقی بدون نفوذ واقعی تقلیل می‌یابد.

از سوی دیگردر این گزارش اشاره شده است که همپای این تغییر در اقتدار، لنگرگاه پذیرش حکومت نیز دگرگون شده و مفهوم نوظهور «مشروعیت فناورانه» در حال جایگزینی یا تکمیل صورت‌بندی‌های سنتی مشروعیت است. این نوع از مشروعیت، دیگر نه صرفاً بر فرایندهای سیاسی ورودی (مانند صندوق رأی)، بلکه بر «کارآمدی»، «پاسخگویی هوشمند» و «عدالت محاسباتی» استوار است. شهروند عصر دیجیتال، مشروعیت دولت را در توانایی آن برای تأمین امنیت سایبری، ارائه خدمات پیش‌دستانه و تضمین بی‌طرفی الگوریتم‌ها می‌جوید. خطر راهبردی آنجاست که اگر دولت نتواند این «مشروعیت فناورانه» را از طریق توسعه زیرساخت‌های بومی تأمین کند، مرجعیت حکمرانی به صاحبان پلتفرم‌های جهانی واگذار شده و رابطه ملت و دولت از یک «قرارداد اجتماعی»، به یک «قرارداد خدماتی» متزلزل میان کاربر و شرکت‌های فناوری تنزل می‌یابد.

در این گزارش بیان شد که در چنین بستری، توسعه اکوسیستم بومی هوش مصنوعی و بازآرایی وظایف قوای سه‌گانه، یک «ضرورت وجودی» برای بقای دولت است. تفکیک قوا در این پارادایم جدید باید به گونه‌ای باشد که قوه‌ی مجریه زیرساخت «اقتدار الگوریتمی» را بنا نهد، قوه‌ی مقننه مرزهای اخلاقی آن را ترسیم کند و قوه‌ی قضائیه ضامن تحقق «مشروعیت فناورانه» از طریق عدالت الگوریتمی باشد. پیام نهایی این گزارش صریح است: اگر جمهوری اسلامی ایران نتواند منطق حکمرانی خود را با این دو مفهوم همگام سازد، با خطرِ «تُهی‌شدگیِ معنایِ دولت» مواجه خواهد شد؛ لذا هزینه برای هوش مصنوعی، سرمایه‌گذاری برای حفظ «دولت بودگی» و «حق حاکمیت ملی» در جهان آینده است.

در این گزارش پیشنهاد شد که مهم‌ترین وظیفه خط‌مشی‌گذاران آن است که رویکردی هماهنگ، چندوجهی و مبتنی‌بر ساختار سه‌گانه قوا اتخاذ کنند. چرا که تنها در سایه تقسیم مسئولیت‌ها میان قوه مجریه، قوه مقننه و قوه قضائیه می‌توان از تشتت تصمیم‌ها جلوگیری کرد و مسیر توسعه هوش مصنوعی را به‌گونه‌ای هدایت کرد که هم با ارزش‌های ملی همخوانی داشته باشد و هم پاسخ‌گوی نیازهای امنیتی، اجتماعی و اقتصادی کشور باشد. چنین رویکردی نه فقط مبتنی‌بر کارآمدی فنی، بلکه بر اصول عدالت، شفافیت، پاسخ‌گویی و مشروعیت اخلاقی استوار است.

در ادامه پیشنهادات این گزارش آمده که قوه مجریه با حمایت از سازمان ملی هوش مصنوعی، می‌تواند بر توسعه زیرساخت‌های بومی نقش‌آفرین باشد و بر تبعیض‌های الگوریتمی نظارت کند. همچنین با ارتقای سطح سواد دیجیتال مسئولان و مردم، بستر مناسب جهت به‌کارگیری این فناوری را تسهیل بخشد. قوه مقننه می‌تواند اصول بنیادین استفاده از هوش مصنوعی را قانونگذاری و قوانین فعلی ازجمله قانون جرایم رایانه‌ای و مدیریت خدمات کشوری را اصلاح کند و دولت را ملزم سازد تا دستورالعمل‌های اجرایی پیرامون این مهم را تهیه و تدوین کند. این قوه باید بسترهای مشارکت نهادهای علمی، تخصصی و عمومی را فراهم سازد تا فرایند قانونگذاری با بررسی‌ها و پژوهش‌های همه‌جانبه صورت گیرد. قوه قضائیه نیز باید با آموزش قضات، تدوین آیین‌نامه‌های قضایی مرتبط با هوش مصنوعی و نظارت بر عملکرد ابزارهای فناورانه در فرایند دادرسی، مسیر عدالت دیجیتال را هموار کند. رسیدگی به دعاوی مربوط به نقض حریم خصوصی، تبعیض الگوریتمی و سوگیری‌های سیستمی نیز باید در دستور کار قرار گیرد.

انتهای پیام