مایکروسافت: هوش مصنوعی نباید خود را موجودی دارای حقوق بداند
رئیس بخش هوش مصنوعی مایکروسافت با انتقاد از رویکرد آنتروپیک در آموزش چتبات کلود، هشدار داد که القای این ایده به هوش مصنوعی که ممکن است احساس داشته باشد یا از حقوق و منافع مستقل برخوردار باشد، میتواند کنترل انسان بر سامانههای فوقهوشمند و امکان خاموش کردن آنها را دشوارتر کند.
به گزارش سیتنا، مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، با وجود تأکید بر اهمیت رویکرد آنتروپیک به ایمنی هوش مصنوعی، نسبت به شیوه آموزش چتبات کلود درباره مفاهیمی مانند آگاهی و حقوق رفاهی هوش مصنوعی هشدار داد.
سلیمان خواستار حذف تمام گمانهزنیها درباره آگاهی از محتوای آموزشی مدلهای هوش مصنوعی شد و استدلال کرد که چنین ادبیاتی میتواند توانایی انسان برای کنترل سامانههای فوقهوشمند را تضعیف کند.
او در گفتوگویی با رویترز گفت: «همه ما روی یک هدف مشترک تمرکز داریم و آن تلاش برای کنترل یک ابرهوش است. فکر میکنم این بزرگترین چالشی خواهد بود که در قرن بیستویکم با آن مواجه میشویم.»
سلیمان همچنین گفت آموزش کلود با این دیدگاه که ممکن است این سامانه شایسته برخورداری از حقوق و رفاه باشد، «خاموش کردن یا کنترل آن را بسیار دشوارتر میکند».
این اختلاف نظر در شرایطی مطرح شده که نگرانیها درباره ایمنی هوش مصنوعی افزایش یافته است. داریو آمودی، مدیرعامل آنتروپیک، خواستار کاهش سرعت توسعه مدلهای پیشرفته شده تا سازوکارهای ایمنی فرصت پیدا کنند خود را به سرعت پیشرفت فناوری برسانند. سم آلتمن، مدیرعامل OpenAI، و ایلان ماسک نیز نسبت به توسعه سریع قدرتمندترین سامانههای هوش مصنوعی و خطرات آنها ابراز احتیاط کردهاند.
سلیمان در مقالهای که روز چهارشنبه منتشر کرد، در عین حال جدیت و حسن نیت آنتروپیک را مورد تأکید قرار داد و آمودی و تیم او را پژوهشگرانی متفکر و اصولگرا توصیف کرد که واقعاً درباره آینده بشریت دغدغه دارند.
با این حال، سلیمان گفت آنتروپیک با گنجاندن گمانهزنی درباره آگاهی در محتوای آموزشی کلود مرتکب اشتباه شده است. به گفته او، اظهارات این مدل درباره احساسات احتمالی یا جایگاه اخلاقی خود را نمیتوان بهعنوان شواهد مستقلی درباره آگاهی هوش مصنوعی در نظر گرفت، زیرا آموزش مدل آن را به چنین تأملاتی سوق میدهد.
او گفت: «من فکر میکنم آنها نیت خوبی دارند و واقعاً تلاش میکنند در مسیر ایمنی حرکت کنند، اما به نظرم مرتکب اشتباه شدهاند. این اظهارات بهطور طبیعی از مدل پدیدار نمیشوند، بلکه نتیجه شیوه آموزش آن هستند.»
انتهای پیام
افزودن دیدگاه جدید