هوش مصنوعی خودمختارتر می‌شود؛ مسئولیت پیامدهای آن با کیست؟
به گزارش سیتنا، دفتر مطالعات بنیادین حکمرانی «سایبرنتیک و مسئله حکمرانی(۱): عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی» آورده که هوش مصنوعی به عنوان یک پدیده سایبرنتیکی پیوندی عمیق با مسئله حکمرانی دارد و مسئولیت‌پذیری یکی از مهم‌ترین مولفه‌های آن است. مسئولیت‌پذیری مفهومی محوری در اخلاق است که بار اخلاقی یک وضعیت را به عواملی که در ایجاد آن نقش علّی داشته‌اند نسبت می‌دهد و در نظام حقوقی نیز برای تعیین مصادیق جرم، میزان جریمه‌ها و جبران خسارات اساسی است.
در مورد فناوری‌های هوش مصنوعی، این مسئله پیچیدگی‌های خاصی پیدا می‌کند. فناوری‌های یادگیرنده فراتر از برنامه‌نویسی طراحان خود عمل کرده و بر اساس داده‌هایی که طبق آن آموزش می‌بینند عمل می‌کنند. به همین دلیل، نمی‌توان در مسیر علّی منتهی به یک خروجی مشخص، نقش عوامل انسانی را دقیقاً مشخص کرد. چنین وضعیتی با عنوان معضل «شکاف مسئولیت‌پذیری» شناخته می‌شود.
گزارش با اشاره به اینکه هوش مصنوعی درجاتی از خودمختاری و استقلال را از طراحان و تولیدکنندگان خود نشان می‌دهد، توضیح می‌دهد که همین امر باعث شده در حلقه تولید، توسعه و کاربری، نتوان شخصیت حقیقی یا حقوقی انسانی را یافت که واجد شرایط مسئولیت‌پذیری نسبت به پیامدهای واقع شده باشد.
گزارش نشان می‌دهد که نقطه شروع این مسئله، تحلیلی نظری نسبت به ابعاد مختلف و شرایط انتساب مسئولیت‌پذیری از یک‌سو، و ویژگی‌های هوش مصنوعی از سوی دیگر است. با این حال، هر دو محور این بحث محل مناقشات جدی است. در نتیجه، گروهی قائل به انتساب مسئولیت به هوش مصنوعی بوده و گروهی مسئولیت‌پذیری هوش مصنوعی را غیرممکن می‌دانند.
برای برون‌رفت از این بن‌بست نظری، گزارش چرخش از مفهوم گذشته‌نگر مسئولیت به مفهومی آینده‌نگر را پیشنهاد می‌کند. بر این اساس، به جای مناقشه نظری درباره امکان یا عدم امکان مسئولیت هوش مصنوعی، بر راهبردهای توسعه مسئولانه هوش مصنوعی و حفظ مسئولیت انسانی در روند توسعه آن تکیه می‌شود.
این رویکرد قیودی را بر توسعه هوش مصنوعی در سطوح مختلف وضع می‌کند که شفافیت، تبیین‌پذیری و حفظ مسئولیت انسانی در زنجیره توسعه و کاربری هوش مصنوعی را حفظ کرده و از ایجاد شکاف مسئولیت پیشگیری می‌کند. این قیود ذیل چهار راهبرد مطرح می‌شود:
شفافیت ساختارهای اجتماعی-تکنیکی: با توجه به اینکه فناوری‌های هوش مصنوعی در بستری متشکل از انواع نهادهای اجتماعی و هویات حقیقی و حقوقی کار می‌کنند، برای اجتناب از معضل شکاف مسئولیت لازم است نقشهای از این ساختارها و روابط علت و معلولی میان اجزای مختلف آنها ترسیم شود تا در هر حال، امکان پیگیری زنجیره علّی منتهی به یک خروجی وجود داشته باشد.
در این گزارش به تشکیل کارگروه ارزیابی اخلاقی اشاره شده و آمده که شناسایی ابعاد اخلاقی تصمیم‌ها و اعمال مختلف در یک سامانه اجتماعی-تکنیکی، نیازمند تخصص در حوزه اخلاق و آشنایی با ابعاد فناورانه است. تعریف کارگروه ارزیابی اخلاقی به عنوان حقی که واجد دو شرط آگاهی و قدرت عمل باشد، امکان شناسایی و اجتناب از پیامدهای نامطلوب را حفظ کرده و در صورت وقوع چنین مسائلی، این کارگروه مسئولیت پاسخگویی و توضیح شرایط واقع شده را برعهده خواهد داشت.
در ادامه به آگاهی‌بخشی درباره ابعاد عمومی مسئولیت‌پذیری اشاره شده و بیان شده که با توجه به اینکه فناوری‌های هوش مصنوعی یادگیرنده فراتر از چارچوب طراحی‌شده توسط تولیدکنندگان، از اعمال کاربران نیز اثر می‌پذیرند، بخشی از مسئولیت خروجی‌های آنها برعهده کاربران است. آگاهی کاربران از این ابعاد و ترغیب آنها به اهتمام برای رعایت مسئولیت‌های اخلاقی خود، از وقوع چالش‌های اخلاقی پیشگیری می‌کند.
محور بعدی یافته های این گزارش خط‌مشی‌گذاری مشارکت‌محور است. استفاده از مشارکت اقشار مختلف در تخمین مخاطرات ناشی از کاربرد هوش مصنوعی و تصمیم‌گیری برای مسیر توسعه آن، منابع فکری و عملی عمومی را در پیشگیری از مخاطرات به کار گرفته و می‌تواند در اجتناب از وقوع این مخاطرات نقش مهمی داشته باشد.
گزارش ضروری می‌داند که سازمان ملی هوش مصنوعی کشور به عنوان متولی تخصصی راهبری توسعه این فناوری، اقدام‌ها و راهبردهایی را مدنظر قرار دهد. تعریف شاخص کمّی برای سنجش عملکرد سازمان‌ها در ارتباط با پیشگیری از شکاف مسئولیت‌پذیری، تجربه‌نگاری استخراج نقشه ساختارهای اجتماعی-تکنیکی و شفاف‌سازی آنها در سطوح درون‌سازمانی و فراسازمانی و بررسی نقش این کار در شفافیت مسئولیت‌ها، تجربه‌نگاری تشکیل کارگروه‌های ارزیابی اخلاقی یا نقشهای مشابه آن؛ مطالعه ساختارها و ترکیب‌های مختلف ممکن و تعریف جایگاه آن در ساختارهای سازمانی به‌نحوی که قدرت اعمال نظر و نفوذ لازم تضمین شود و بررسی ابزارهای مختلف افزایش سواد علمی و آگاهی عمومی درباره توسعه هوش مصنوعی و تأثیر آنها بر حس مسئولیت‌پذیری در کاربران و پاسخگویی در توسعه‌دهندگان ازجمله این پیشنهادات است.
در ادامه به بررسی انواع روش‌های خط‌مشی‌گذاری مشارکتی در حوزه فناوری و مطالعه کارآمدی و تأثیر آنها بر کشف مخاطرات و درگیری عمومی با مسئولیت‌های ناشی از کاربرد این فناوری‌ها و تعریف سازوکارهای تشویقی برای کسب‌وکارهای مبتنی بر فناوری‌های هوش مصنوعی برای تعهد به چارچوب توسعه مسئولانه و تعریف این تعهدات در چارچوب مسئولیت اجتماعی شرکت‌ها هم اشاره شده است.
انتهای پیام