هشدار آنتروپیک درباره نزدیک شدن هوش مصنوعی به مرحله خودبه‌سازی بازگشتی

به گزارش سیتنا، شرکت آنتروپیک در سند ثبت عرضه اولیه سهام خود (S-1) نسبت به نزدیک شدن هوش مصنوعی به مرحله «خودبه‌سازی بازگشتی» (RSI) هشدار داده است؛ مرحله‌ای که در آن سیستم‌های هوش مصنوعی می‌توانند با کمک به توسعه و بهبود نسخه‌های بعدی خود، روند پیشرفت این فناوری را به‌طور چشمگیری شتاب دهند.

خودبه‌سازی بازگشتی از یک سو می‌تواند زمینه‌ساز افزایش بهره‌وری، سرعت بخشیدن به تحقیقات علمی و دستیابی به توانمندی‌های جدید شود و از سوی دیگر، نگرانی‌هایی درباره کنترل‌پذیری و ایمنی سیستم‌های هوش مصنوعی ایجاد کند.

آنتروپیک در بخش عوامل خطر سند خود اعلام کرده است که استفاده فزاینده از هوش مصنوعی در فعالیت‌های تحقیق و توسعه، ممکن است باعث شود توانمندی مدل‌ها سریع‌تر از ظرفیت این شرکت برای طراحی، ارزیابی و اجرای تدابیر ایمنی و امنیتی پیشرفت کند.

این شرکت همچنین اذعان کرده است که در گذشته برخی شتاب‌های قابل‌توجه در روند توسعه مدل‌های خود را به‌موقع شناسایی نکرده و ممکن است در آینده نیز نتواند چنین تغییراتی را پیش از وقوع تشخیص دهد.

آنتروپیک چقدر به خودبه‌سازی بازگشتی نزدیک است؟

بر اساس برآوردهای داخلی این شرکت، مدل‌های آینده ممکن است در آینده نزدیک به آستانه‌ای برسند که آنتروپیک در سیاست «مقیاس‌پذیری مسئولانه» خود، آن را پیشرفت به‌شدت شتاب‌یافته ناشی از هوش مصنوعی تعریف کرده است.

با این حال، آنتروپیک تأکید کرده است که هیچ‌یک از مدل‌های فعلی این شرکت، از جمله مدل‌های موجود کلود، هنوز به این سطح نرسیده‌اند و ارزیابی داده‌های مرتبط همچنان ادامه دارد.

این شرکت همچنین اعلام کرده است که در آینده قابل پیش‌بینی قصد ندارد فرایند طراحی و ساخت نسل‌های متوالی مدل‌های پیشرفته هوش مصنوعی را به‌طور کامل و بدون نظارت یا درک معنادار انسانی به کلود واگذار کند.

آنتروپیک در همین راستا از بررسی تغییراتی در سیاست مقیاس‌پذیری مسئولانه خود خبر داده تا اطمینان حاصل کند که کنترل انسانی بر توسعه نسل‌های آینده مدل‌های پیشرفته هوش مصنوعی حفظ می‌شود.

انتهای پیام