بحث داغ در صنعت هوش مصنوعی؛ کاهش سرعت توسعه یا ادامه رقابت؟
به گزارش سیتنا، بحث گستردهای درباره ایمنی هوش مصنوعی و احتمال کاهش سرعت توسعه این فناوری شکل گرفته است؛ بهویژه پس از آنکه داریو آمودی، مدیرعامل شرکت آنتروپیک، اخیراً طرحی برای «تنظیم سرعت پیشرفت» این فناوری منتشر کرد. در مقابل، جنسن هوانگ، مدیرعامل انویدیا، بهطور علنی از اظهارات دونالد ترامپ، رئیسجمهور آمریکا، درباره ساختگی بودن موج مخالفت با هوش مصنوعی و غیرضروری بودن مقررات در این حوزه حمایت کرده است.
در تازهترین قسمت پادکست «Equity» تککرانچ، کریستن کوروسک، شان اوکین و من درباره این موضوع گفتوگو کردیم که آیا مدیرانی مانند آمودی و سم آلتمن، مدیرعامل اوپنایآی، واقعاً در پی کاهش سرعت توسعه هوش مصنوعی هستند یا خیر.
اگرچه از تعداد مدیران و فعالان صنعت که به نظر میرسیدند بهسرعت از طرح آمودی حمایت کردهاند، متعجب شدم، شان معتقد بود این طرح جزئیات کافی ندارد.
کریستن از شان پرسید آیا ترکیبی از مقررات موجود و سازوکارهای بازار آزاد میتواند بهتنهایی تدابیر حفاظتی کافی ایجاد کند یا خیر. شان در پاسخ گفت: «در حال حاضر دولتی فدرال داریم که قطعاً به نظر نمیرسد علاقهای به اجرای گسترده مقررات داشته باشد؛ چه رسد به اجرای مقررات بهطور مشخص در این حوزه.»
او همچنین استدلال کرد: «به نظر نمیرسد انتخاب گستردهای از سوی مصرفکنندگان وجود داشته باشد که این بازار را هدایت کند؛ به این معنا که اگر یکی از این شرکتها واقعاً کار بسیار بدی انجام دهد، مشخص نیست این موضوع در تعداد لغو اشتراکها یا موارد مشابه، تأثیر قابلتوجهی بر آن شرکت بگذارد.»
آنتونی ها: شان، نظر تو چیست؟ آیا واقعاً قرار است سرعت پیشرفت این فناوری را تنظیم کنیم؟
شان اوکین: به دلایلی، این عبارت من را یاد فیلم «Point Break» میاندازد. خیلی شبیه یک جمله کالیفرنیایی است؛ چیزی مثل اینکه «رفیق، قرار است سرعت پیشرفت را تنظیم کنیم.»
نمیدانم. هفته گذشته در همین برنامه گفتم که فکر نمیکنم در مسیر کاهش سرعت توسعه قرار داشته باشیم؛ دلیل اصلی هم این است که فکر نمیکنم این شرکتها به شکلی سازماندهی شده باشند که چنین رویکردی در آنها عملی باشد.
بنابراین، شنیدن این صحبتها از داریو در آنتروپیک، سم در اوپنایآی و حتی تا حدی ایلان ماسک، تغییر نسبتاً سریعی نسبت به چیزی بود که یک هفته قبل گفته بودم. البته میتوانیم درباره اینکه چقدر این حرفها را باور داریم صحبت کنیم. با این حال، فکر نمیکنم ارزیابی قبلی من کاملاً اشتباه بوده باشد، زیرا حتی با وجود طرحهای کلی که داریو در یک پست وبلاگی مطرح کرده و صحبتهای مشابه برخی دیگر از مدیران، هنوز جزئیات زیادی مشخص نیست؛ نه فقط درباره ادعاهای آنها درباره اینکه چرا هوش مصنوعی را خطرناک یا پرریسک میدانند، بلکه درباره اینکه دقیقاً منظورشان از کاهش سرعت توسعه چیست.
آنتونی، میدانم که آخر هفته گذشته، زمانی که این بحثها بالا گرفت، موضوع را با دقت دنبال کردی. کنجکاوم بدانم آیا تو نسبت به من نگاه مثبتتری داری و بهتر متوجه شدهای که آنها دقیقاً چه میخواهند بگویند؟
آنتونی: من هم سؤالهایی دارم. چیزی که بیش از همه برایم جالب بود، این است که تعداد زیادی از فعالان صنعت خیلی سریع حول این موضوع به توافق رسیدند. حتی پیش از آنکه آمودی پست وبلاگی خود را منتشر کند، در روزهای منتهی به آن میدیدم افراد دیگری نیز نسخهای از همین طرح را مطرح میکنند.
برداشت من این است که این پیشنهادها از سوی جامعه فعال در حوزه ایمنی هوش مصنوعی مطرح شده و مدتی است در حال شکلگیری و بررسی هستند. اینها ایدههایی نیستند که آمودی بهتنهایی مطرح کرده باشد. با این حال، به نظر میرسید افراد زیادی آماده پذیرش این رویکرد بودند و از برخی جهات، مشاهده شکلگیری چنین اجماعی امیدوارکننده است. اما در عین حال، این موضوع باعث میشود کمی تردید داشته باشم که چنین اجماعی واقعاً به معنای گامهای جدی و بزرگ به سوی کاهش سرعت توسعه باشد.
کریستن کوروسک: اول از همه، اجماع میتواند چیز خوبی باشد. اما از طرف دیگر، میتواند آغاز شکلگیری یک کارتل هم باشد. بنابراین باید روشن کنیم درباره چه کسانی صحبت میکنیم. منظور ما آزمایشگاههای پیشرو در حوزه هوش مصنوعی هستند و این نکته مشخص و مهم است.
همانطور که یک دقیقه قبل گفتی، جزئیات هنوز کاملاً روشن نیست، اما میدانیم ایده کلی این است که ارزیابان مستقل و شخص ثالث وارد شرکتهایی مانند آنتروپیک یا اوپنایآی شوند و بر رویههای ایمنی هوش مصنوعی و حوادث مرتبط با آن نظارت کنند. با این حال، درباره نحوه اجرای این ایده ابهام زیادی وجود دارد.
پیشنهاد دیگری نیز مطرح شده است که شرکتهای بزرگ هوش مصنوعی در کشورهای دموکراتیک درباره استانداردها و محدودیتهای ایمنی با یکدیگر هماهنگ شوند. سپس بحث هماهنگی بینالمللی نیز مطرح است. اینها ایدههای کلی این طرح هستند.
همچنین باید اضافه کنم که برخی افراد مشخص بهشدت با این رویکرد مخالفت کردهاند و حتی بعضی از آنها کسانی هستند که انتظار نداشتم مخالفت کنند. یکی از نمونههای واضح، جنسن هوانگ، مدیرعامل انویدیاست که اظهارات صریحی در این زمینه داشته است. نمیدانم نظر شما درباره برخی از صحبتهای او و تماس تلفنیاش با دونالد ترامپ در جریان نشست «All-In Summit» چیست.
شان: فکر میکنم جنسن میداند که تا حدی بهعنوان فردی که در این شرایط نقش «بزرگتر باتجربه» را دارد، دیده میشود. نکته جالب این است که به نظرم این جایگاه تغییر کرده است.
اگر حدود یک سال، یا تقریباً دو سال پیش، از مردم میپرسیدید چه کسی چنین نقشی را ایفا میکند، زمانی که شرکتهای هوش مصنوعی تازه در حال رشد سریع بودند، فکر میکنم بسیاری به مایکروسافت و ساتیا نادلا اشاره میکردند. اما احساس میکنم مایکروسافت، به دلایل مختلفی که در حال حاضر نیازی نیست وارد آنها شویم، این جایگاه را تا حدی از دست داده است.
این موضوع تا حدی به اظهارات نادلا درباره اینکه قرار است گوگل را به رقابت وادار کند مربوط میشود؛ اتفاقی که در عمل رخ نداد و از بسیاری جهات حتی نتیجه برعکس شد.
انتهای پیام