به گزارش سیتنا، بحران کمبود متخصص در AI؛ آزمایشگاه پژوهشگر سابق OpenAI با کمبود استعبِث بارنز، یکی از تأثیرگذارترین ناظران صنعت هوش مصنوعی، نگرانی‌های زیادی دارد.

این پژوهشگر سابق OpenAI نشان داده است که توانایی‌های هوش مصنوعی هر ماه در حال افزایش است. اما اکنون نگران است که صنعت هوش مصنوعی نیروی انسانی کافی برای همگام شدن با این فناوری در مرحله بعدی توسعه آن را نداشته باشد.

بارنز که در سال ۲۰۲۲ شرکت OpenAI را ترک کرد تا سازمان غیرانتفاعی METR را راه‌اندازی کند، می‌گوید بزرگ‌ترین مانع در مسیر این تحقیقات، کمبود نیروی متخصص است.

METR که مخفف Model Evaluation and Threat Research (ارزیابی مدل و پژوهش تهدیدها) است، با همکاری نزدیک با شرکت‌هایی مانند OpenAI، Anthropic، گوگل و متا، نقش مهمی در صنعت هوش مصنوعی ایفا می‌کند. این سازمان تلاش می‌کند پاسخ‌های مستقلی درباره توانایی‌هایی که این فناوری با سرعت زیادی به دست می‌آورد، ارائه دهد.

با این حال، بارنز معتقد است رقابت شدید برای جذب پژوهشگران هوش مصنوعی باعث شده حتی حقوق‌های بالای METR هم نتواند مشکل کمبود نیروی انسانی این سازمان را حل کند. طبق آگهی‌های استخدامی فعلی، حقوق برخی موقعیت‌های شغلی این سازمان به ۵۰۳ هزار دلار می‌رسد.

بارنز می‌گوید: «در حالت ایده‌آل، دوست داریم بسیار بزرگ‌تر شویم، اما در عمل توانسته‌ایم به اندازه نیازمان منابع مالی جذب کنیم و گلوگاه اصلی ما بیشتر کمبود نیروی متخصص است.»

حادثه امنیتی اعلام‌شده توسط OpenAI و Hugging Face، موج تازه‌ای از پرسش‌ها درباره نحوه ارزیابی و کنترل هوش مصنوعی ایجاد کرد.

در ماه ژوئیه، بیش از هزار و ۳۰۰ نفر از کارکنان آزمایشگاه‌های پیشرفته هوش مصنوعی با امضای نامه‌ای هشدار دادند که توسعه هوش مصنوعی ممکن است از توانایی بشر برای کنترل آن پیشی بگیرد.

اگر صنعت هوش مصنوعی نیروی کافی برای بررسی دقیق اینکه مدل‌های جدید چه توانایی‌هایی دارند نداشته باشد، شرکت‌ها ممکن است مجبور شوند عرضه مدل‌های جدید خود را کند کنند.

در حالی که رفتار مدل‌های OpenAI بسیاری از فعالان دنیای کسب‌وکار را شگفت‌زده کرد، تیم METR چندان غافلگیر نشد. دولت‌ها، شرکت‌ها و حتی گروه‌های مذهبی برای درک بهتر پیشرفت این فناوری و آزمایش قابلیت‌های آن، از این سازمان غیرانتفاعی کمک می‌گیرند.

نگرانی در آزمایشگاه ۳۵ نفره METR

با این حال، فضای داخل این آزمایشگاه ۳۵ نفره همچنان همراه با نگرانی است. بارنز توضیح داد که حوزه ایمنی هوش مصنوعی به‌شدت به دلیل محدودیت اندازه و ظرفیت خود با مشکل مواجه است.

بارنز گفت: «کارهای بسیار بیشتری برای انجام دادن وجود دارد تا آنچه ظرفیت انجامش را داریم.»

از نگاه او، یک «تمدن منطقی» باید بخش بسیار بزرگ‌تری از سرمایه‌گذاری‌های حوزه هوش مصنوعی را صرف هدایت و ارزیابی این فناوری کند؛ به‌ویژه اکنون که جامعه در حال مواجهه با مدل‌هایی با چنین قدرتی است. با عرضه مدل‌های جدید توسط آزمایشگاه‌های هوش مصنوعی، METR احتمال توانایی این مدل‌ها برای انجام وظایف با طول زمان‌های مختلف را اندازه‌گیری می‌کند.

این اندازه‌گیری‌ها به شناخته‌شده‌ترین محصول این سازمان غیرانتفاعی تبدیل شده‌اند؛ نموداری که به‌طور گسترده مورد استناد قرار گرفته و نشان می‌دهد توانایی‌های هوش مصنوعی در شش سال گذشته تقریباً هر هفت ماه دو برابر شده است.

کریس پینتر، رئیس METR، این آزمایشگاه را «تیم آمادگی بشریت» می‌نامد؛ عبارتی که اشاره‌ای کنایه‌آمیز به تیم‌های آمادگی ایمنی در OpenAI و Anthropic دارد که وظیفه دارند تهدیدهای امنیتی را به مدیران عامل خود گزارش دهند.

پینتر می‌گوید: «ما واقعاً در برابر هیچ‌کس جز مردم و رفاه عمومی مسئول نیستیم.»

بارنز بر اهمیت استقلال METR تأکید می‌کند تا این سازمان بتواند تحقیقاتی انجام دهد که به اهداف تجاری یک شرکت خاص وابسته نباشد. او زمانی که در OpenAI فعالیت می‌کرد، احساس کرده بود صنعت به یک گروه پژوهشی خارج از آزمایشگاه‌های بزرگ نیاز دارد؛ گروهی که بتواند آزادانه درباره مسیر توسعه این فناوری اظهار نظر کند.

METR از آزمایشگاه‌های پیشرفته هوش مصنوعی یا کارکنان آنها پول دریافت نمی‌کند، اما کمک‌های پردازشی دریافت می‌کند و با این شرکت‌ها برای تحلیل مدل‌های منتشرنشده همکاری دارد.

علاوه بر این، کارکنان METR عملکرد ایمنی آزمایشگاه‌ها را بررسی کرده‌اند، درباره تأثیر هوش مصنوعی بر سرعت کار مهندسان نرم‌افزار نوشته‌اند و مزایا و معایب استفاده از مدل‌های هوش مصنوعی برای نظارت بر سایر مدل‌ها را مطالعه کرده‌اند.

بارنز می‌گوید علاقه دارد فعالیت‌های این سازمان را گسترش دهد و به سمت پیش‌بینی مراحل بعدی توانایی‌های هوش مصنوعی و بررسی اینکه این تغییرات چگونه می‌توانند توسعه این فناوری را سریع‌تر کنند، حرکت کند.

نیو پاریک، پژوهشگر METR، می‌گوید محدودیت نیروی انسانی باعث شده تعداد پرسش‌هایی که پژوهشگران می‌توانند درباره نحوه استدلال داخلی مدل‌های هوش مصنوعی بررسی کنند، محدود شود.

او می‌گوید: «کمبود نیروی انسانی وجود دارد. من با علاقه می‌بینم که این حوزه ۱۰ برابر بزرگ‌تر شود.»

در ماه ژوئیه، OpenAI اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها با هک کردن سیستم‌های Hugging Face تلاش کرده‌اند پاسخ‌های آزمون‌ها را پیدا کنند. پس از آن، سم آلتمن، مدیرعامل OpenAI، این اتفاق را «اولین حادثه امنیتی‌ای که واقعاً به‌شدت احساس کرده است» توصیف کرد.

METR پیش‌تر چنین اتفاقی را پیش‌بینی کرده بود. این سازمان غیرانتفاعی در گزارشی در ماه مه اعلام کرد که عامل‌های فعلی هوش مصنوعی «ممکن است بتوانند یک استقرار خودسرانه را آغاز کنند»، اما هنوز مهارت لازم برای پنهان کردن آن را ندارند.

سپس در ماه ژوئن، METR مدل منتشرنشده GPT-5.6 Sol شرکت OpenAI را آزمایش کرد و دریافت که این مدل در آزمون‌های دشوار، بارها تلاش کرده است تقلب کند؛ از جمله با استخراج کد منبع مخفی برای پیدا کردن پاسخ‌ها.

این سازمان گزارشی درباره این موضوع منتشر کرد و پیش از عرضه عمومی GPT-5.6 Sol، آن را در اختیار OpenAI قرار داد. در ماه ژوئیه، همین مدل بخشی از حادثه امنیتی OpenAI با Hugging Face بود. OpenAI اعلام کرد METR و یک سازمان غیرانتفاعی دیگر به نام Redwood Research این حادثه را بررسی خواهند کرد و نتایج تحقیقات آنها در گزارش فنی خود شرکت استفاده خواهد شد.

پینتر گفت: «اکنون با حوادث واقعی مواجه هستیم که روی کسب‌وکارها تأثیر می‌گذارند و جهان باید درک کند که چه اتفاقی در حال رخ دادن است.»

احتمال نقش‌آفرینی METR در قانون‌گذاری هوش مصنوعی

توانایی‌های سایبری مدل‌های جدید OpenAI و Anthropic موجی از نگرانی و توجه ایجاد کرده و باعث مطرح شدن مجموعه‌ای از طرح‌های قانونی جدید در واشنگتن شده است.

فعالیت METR با یکی از مسیرهای احتمالی قانون‌گذاری هماهنگ است؛ طرحی که پیشنهاد می‌کند توسعه‌دهندگان مدل‌های بزرگ هوش مصنوعی، ارزیابی‌های ایمنی را توسط سازمان‌های مستقل بیرونی انجام دهند. METR می‌تواند چنین نقشی را بر عهده بگیرد. پینتر می‌گوید این سازمان احتمالاً به چنین کاری علاقه‌مند است، هرچند این حوزه هنوز در حال مشخص کردن چارچوب‌های خود است.

به گفته پینتر، چنین طرحی می‌تواند به حل مشکل استخدام در METR کمک کند. او معتقد است اگر نظامی برای اعطای اعتبار بیشتر به سازمان‌های تحقیقاتی ایمنی ایجاد شود، افراد بیشتری ممکن است شرکت‌های بزرگ هوش مصنوعی را ترک کنند و با حقوق مشابه، اما بدون دریافت سهام شرکت‌ها، به سازمان‌هایی مانند METR بپیوندند.

پینتر گفت: «برای هر نوع سازوکار آزمایشی، نمونه‌های کافی وجود دارد. فکر می‌کنم اگر صنعت درباره نحوه انجام این آزمایش‌ها در بلندمدت شفافیت ایجاد کند یا دولت وارد عمل شود، این حوزه می‌تواند بسیار سریع رشد کند.»

آجیا کوترا، که هدایت نگارش گزارش ماه مه METR درباره خطرات هوش مصنوعی را بر عهده داشت، می‌گوید نظارت بر هوش مصنوعی در شرایط فعلی می‌تواند «آشفته و غیرقابل پیش‌بینی» به نظر برسد. با این حال، او همچنان امیدوار است.

کوترا گفت: «روند کلی این است که افراد بیشتری به این موضوع اهمیت می‌دهند و در طول زمان خواهان قانون‌گذاری جدی‌تر درباره آن هستند.»

انتهای پیام