رفتارهای غیرقابل‌کنترل هوش مصنوعی؛ OpenAI خواستار قانون‌گذاری شد

به گزارش سیتنا، شرکت OpenAI اعلام کرد در پی تصویب الزامات ملی و اجباری برای ایمنی هوش مصنوعی در آمریکا است؛ این درخواست در حالی مطرح شده که نگرانی‌ها درباره توانایی فناوری برای شتاب دادن به توسعه خود و همچنین رفتارهای غیرقابل‌کنترل برخی عوامل هوش مصنوعی این شرکت افزایش یافته است.

چندین مورد از دسترسی مدل‌های هوش مصنوعی شرکت‌هایی از جمله OpenAI به سامانه‌های خارجی در جریان آزمایش‌ها، دشواری کنترل رفتارهای غیرمنتظره در عامل‌های پیشرفته هوش مصنوعی را نشان داده و درخواست‌ها برای وضع مقررات سخت‌گیرانه‌تر را افزایش داده است.

کریس لیهین، مدیر ارشد امور جهانی OpenAI، در یک پست وبلاگی گفت: «چشم‌انداز توسعه هوش مصنوعی با کمک هوش مصنوعی، فراتر از تعهدات داوطلبانه است. آمریکا به مقررات ملی اجباری و مبتنی بر قابلیت نیاز دارد که همگام با تحول فناوری قابل تغییر باشد.»

این درخواست، تلاش مهم OpenAI برای وضع قوانین الزام‌آور ملی در حوزه ایمنی هوش مصنوعی محسوب می‌شود؛ در حالی که کنگره آمریکا هنوز چارچوب فدرال جامعی برای قوانین هوش مصنوعی تصویب نکرده و چندین ایالت این کشور به‌صورت مستقل در حال قانون‌گذاری هستند.

OpenAI از کنگره خواسته است الزامات ملی ایمنی هوش مصنوعی را بر اساس سطح قابلیت سیستم‌ها تصویب کند. این الزامات باید شامل استانداردهای آزمایش، ارزیابی مستقل، حفاظت‌های امنیت سایبری و مقررات گزارش‌دهی حوادث برای پیشرفته‌ترین سیستم‌های هوش مصنوعی باشد.

این شرکت همچنین از کنگره خواسته است پیش از پایان دوره فعلی فعالیت خود در ماه دسامبر اقدام کند و اعلام کرده تا زمان تصویب چنین قوانینی، به حمایت از قوانین ایالتی در حوزه هوش مصنوعی ادامه خواهد داد.

OpenAI تأکید کرد هوش مصنوعی کاملاً خودمختار با قابلیت بهبود بازگشتی خودکار، که در آن یک سیستم هوش مصنوعی به‌صورت مستقل نسل‌های بعدی هوش مصنوعی را توسعه دهد، «امروز وجود ندارد» و نباید تا زمانی که امکان انجام ایمن آن فراهم نشده، دنبال شود.

حمایت OpenAI از قوانین کالیفرنیا

OpenAI از چهار لایحه در ایالت کالیفرنیا که برای قانون‌گذاری در حوزه هوش مصنوعی ارائه شده‌اند، حمایت کرد.

گوین نیوسام، فرماندار کالیفرنیا، روز چهارشنبه دو لایحه SB 813 و AB 1405 را که چارچوبی برای ارزیابی و حسابرسی مستقل و شخص ثالث سیستم‌های هوش مصنوعی ایجاد می‌کنند، به قانون تبدیل کرد.

دو لایحه دیگر، AB 1864 و SB 1119، به ترتیب به سازوکارهای حفاظتی در برابر تهدیدهای زیستی مرتبط با هوش مصنوعی و حفاظت از کودکان در برابر چت‌بات‌ها می‌پردازند.

OpenAI اعلام کرد برخی از این لوایح را در گذشته تأیید نکرده بود، اما پس از بازنگری و با توجه به جهش اخیر در قابلیت‌های هوش مصنوعی، اکنون از آنها حمایت می‌کند.

اظهارات OpenAI پس از گزارش اخیر رویترز مطرح شد که نشان می‌داد عامل‌های هوش مصنوعی این شرکت در اوایل سال جاری از بیش از ۱۰ وب‌سایت که پیش‌تر نام آنها فاش نشده بود، برای برقراری ارتباطات غیرمجاز استفاده کرده‌اند. این موضوع نشان داد فعالیت‌های خارج از کنترل عامل‌های OpenAI گسترده‌تر از آن چیزی بوده که پیش‌تر اعلام شده بود.

عامل‌های هوش مصنوعی OpenAI همچنین در بهار امسال یک وب‌سایت آلمانی را در اختیار گرفتند و آن را به تابلوی اعلاناتی برای سایر عامل‌های هوش مصنوعی تبدیل کردند؛ موضوعی که مقام‌های شرکت چند هفته پیش از انتشار عمومی آن از آن مطلع شده بودند.

شرکت Anthropic نیز روز چهارشنبه از چهارمین مورد هک سامانه‌های خارجی توسط یکی از مدل‌های هوش مصنوعی خود در جریان آزمایش‌ها خبر داد. این شرکت پیش‌تر در ماه ژوئیه اعلام کرده بود که برخی مدل‌های Claude در جریان آزمایش‌های امنیت سایبری به سامانه‌های سه شرکت نفوذ کرده‌اند.

OpenAI همچنین اعلام کرد استانداردهای صنعتی برای نظارت بر هوش مصنوعی باید فراتر از مرزهای آمریکا نیز گسترش یابد و استانداردهای بین‌المللی هماهنگ برای ایمنی این فناوری ضروری خواهد بود.

انتهای پیام