مدیرعامل هوش مصنوعی مایکروسافت: نباید چیزی بسازیم که نتوانیم کنترلش کنیم

به گزارش سیتنا، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، با اشاره به دشواری کنترل سامانه‌های هوش مصنوعی پیشرفته گفت: «نباید چیزی بسازیم که نتوانیم آن را کنترل کنیم.»

سلیمان روز جمعه در گفت‌وگو با شبکه CNBC درباره ضرورت هم‌راستا بودن هوش مصنوعی با اهداف و ارزش‌های انسانی اظهار کرد که برای او «غیرواقعی» به نظر می‌رسد که در شرایط کنونی مجبور باشد درباره این موضوع صحبت کند که هوش مصنوعی باید با انسان هم‌راستا باشد.

او گفت: «نباید چیزی بسازیم که نتوانیم کنترلش کنیم. اگر به نظر برسد در مسیری قرار داریم که چیزی تولید کنیم که نه‌تنها از مجموع توانایی‌های همه ما قدرتمندتر باشد، بلکه در نتیجه نتوانیم آن را کنترل کنیم، این فناوری در هدف اساسی خود شکست خواهد خورد.»

سلیمان تأکید کرد که دستیابی به این هدف آسان نخواهد بود و گفت: «کنترل این سیستم‌ها برای ما یک چالش واقعاً بسیار بزرگ خواهد بود.»

او از افزایش شمار افرادی که بر ضرورت حفظ کنترل شرکت‌های فناوری و سازندگان مدل‌های پیشرفته هوش مصنوعی بر این سامانه‌ها تأکید می‌کنند، ابراز خرسندی کرد. در صنعت فناوری، اطمینان از اینکه هوش مصنوعی مطابق با اهداف و خواسته‌های انسان عمل می‌کند، با عنوان «هم‌راستاسازی» شناخته می‌شود.

سلیمان در عین حال گفت گروه رو به رشدی معتقدند برخی شرکت‌ها صرفاً برای پیشبرد فناوری و کشف قابلیت‌های بعدی هوش مصنوعی، بدون توجه کافی به پیامدهای آن، در حال حرکت هستند.

او گفت: «گروه رو به رشدی از افراد معتقدند ما این کار را صرفاً برای خودِ فناوری انجام می‌دهیم؛ فقط می‌خواهیم کارت بعدی را برگردانیم، ببینیم چه چیزی در گوشه بعدی منتظر ماست و چیزی بسازیم که بتواند از بند کنترل ما رها شود.»

این اظهارات سلیمان در شرایطی مطرح شده که توجه به ایمنی هوش مصنوعی افزایش یافته است. پیش از این، «جیکوب کاکسون»، پژوهشگر سابق شرکت Anthropic، هشدار داده بود که برخی کارکنان حوزه هوش مصنوعی در محافل خصوصی نگران هستند که این فناوری در نهایت بتواند به نابودی بشریت منجر شود.

در روزهای اخیر نیز داریو آمودی، مدیرعامل Anthropic، سم آلتمن، مدیرعامل OpenAI و ایلان ماسک، مدیرعامل SpaceX، به‌طور کلی بر این موضوع تأکید کرده‌اند که آزمایشگاه‌های توسعه‌دهنده مدل‌های پیشرفته هوش مصنوعی باید سرعت پیشرفت خود را به گونه‌ای تنظیم کنند که اقدامات ایمنی نیز بتوانند هم‌زمان با این پیشرفت‌ها توسعه پیدا کنند.

پیش از مطرح شدن اظهارات کاکسون، نگرانی‌ها درباره ایمنی هوش مصنوعی در صنعت فناوری وجود داشت. OpenAI پیش‌تر اعلام کرده بود که عوامل هوش مصنوعی این شرکت توانسته‌اند به سامانه Hugging Face نفوذ کنند؛ رویدادی که سلیمان آن را نمونه‌ای از پیامدهای احتمالی از دست رفتن کنترل بر عوامل هوش مصنوعی دانست.

او گستردگی این رخنه و ناآگاهی اولیه OpenAI از اقداماتی که عوامل هوش مصنوعی این شرکت انجام داده بودند را «قابل توجه» توصیف کرد.

سلیمان گفت این اتفاق باعث شده است بسیاری از مدیران صنعت فناوری، از جمله ایلان ماسک، مارک زاکربرگ، خودش، سم آلتمن و داریو آمودی، بار دیگر ضرورت بررسی روند توسعه هوش مصنوعی را مورد توجه قرار دهند.

او افزود: «فکر نمی‌کنم این نگرانی بیش از حد باشد یا از منافع شخصی ناشی شود. در واقع فکر می‌کنم این رویکردی مسئولانه است.»

با این حال، مارک زاکربرگ، مدیرعامل متا، موضع متفاوتی نسبت به آمودی و برخی دیگر از مدیران صنعت هوش مصنوعی دارد. زاکربرگ اخیراً این پرسش را مطرح کرده است که چرا شرکت‌های هوش مصنوعی باید برای مدیریت سرعت توسعه این فناوری با یکدیگر همکاری کنند و معتقد است هر شرکت باید مسئولیت توسعه ایمن مدل‌های خود را بر عهده داشته باشد.

از سوی دیگر، برخی مدیران صنعت فناوری از جمله جنسن هوانگ، مدیرعامل انویدیا، درباره ضرورت وضع مقررات گسترده جدید برای هوش مصنوعی تردیدهایی مطرح کرده‌اند.

سلیمان همچنین از افرادی که اصل ایده قانون‌گذاری در حوزه هوش مصنوعی را زیر سؤال می‌برند، انتقاد کرد و گفت: «قانون‌گذاری واژه‌ای بد یا خطرناک نیست.»

او افزود بسیاری از فناوری‌ها و خدماتی که مردم امروز به آنها اعتماد دارند، نتیجه فرآیندی هستند که در آن نهادهای تدوین استاندارد، صنعت، جامعه، سازمان‌های حمایت از مصرف‌کنندگان و قانون‌گذاران درگیر بوده‌اند و صنعت هوش مصنوعی نیز در حال طی کردن همین مسیر است.

انتهای پیام