به گزارش سیتنا، شرکت سازنده ChatGPT مجموعه‌ای از قابلیت‌های ایمنی جدید را برای کاربران زیر ۱۸ سال این چت‌بات ارائه می‌کند. OpenAI برای حساب‌های جدید نوجوانان، امکان پاسخ‌گویی ChatGPT با صدای انسانی را حذف می‌کند تا توانایی این فناوری برای شبیه‌شدن به یک انسان و ایجاد چنین تصوری در کاربران کاهش یابد. این شرکت همچنین قصد دارد به نوجوانان به‌طور منظم یادآوری کند که هنگام استفاده از این ابزار استراحت کنند و به آنها یادآوری شود که ChatGPT یک هوش مصنوعی است و «می‌تواند صبر کند».

OpenAI تأکید کرده است که این تغییرات در واکنش به یک مورد خاص از باور کودکان به زنده یا آگاه بودن ChatGPT انجام نشده، اما نگرانی‌ها درباره افرادی که تصور می‌کنند ابزارهای هوش مصنوعی مورد استفاده آنها دارای آگاهی هستند، رو به افزایش است.

مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، سال گذشته گفته بود محصولات هوش مصنوعی که «ظاهراً آگاه» به نظر می‌رسند، او را شب‌ها بیدار نگه می‌دارند؛ زیرا درباره تأثیر آنها بر جامعه نگران است.

OpenAI در برخی بخش‌های دیگر نیز ظاهراً تا حدی از الگوی حساب‌های نوجوانان که توسط شبکه‌های اجتماعی بزرگ ایجاد شده، پیروی می‌کند.

این شرکت در مطلبی که هنگام معرفی ChatGPT برای نوجوانان منتشر کرد، اعلام کرد استفاده نوجوانان از هوش مصنوعی باید با سازوکارهای حفاظتی متناسب با مرحله رشد آنها همراه باشد، روابط آنها در دنیای واقعی را تقویت کند و استفاده سالم از این فناوری را در طول زمان پشتیبانی کند.

بر اساس اعلام OpenAI، حساب نوجوانان برای کاربرانی که هنگام ثبت‌نام خود را نوجوان معرفی می‌کنند و همچنین افرادی که این شرکت آنها را زیر ۱۸ سال تشخیص دهد، به‌صورت پیش‌فرض فعال خواهد شد.

با این حال، OpenAI توضیح دقیقی درباره نحوه شناسایی کاربران زیر ۱۸ سال ارائه نکرده است. کودکان زیر ۱۳ سال نیز اجازه استفاده از این محصول را ندارند.

حالت مطالعه و زمان استراحت

ChatGPT سال گذشته قابلیت Study Mode یا «حالت مطالعه» را برای دانش‌آموزان راه‌اندازی کرد. این قابلیت به جای ارائه مستقیم پاسخ، دانش‌آموز را در روند حل تکالیف و مسائل درسی همراهی می‌کند.

اکنون نوجوانان می‌توانند ساعات مشخصی را برای فعال بودن حالت مطالعه تعیین کنند تا در این بازه، این حالت به‌صورت پیش‌فرض فعال باشد. آنها همچنین می‌توانند زمان‌های مشخصی را به‌عنوان «زمان سکوت» (Quiet Time) تعیین کنند که در آن ChatGPT برایشان غیرفعال خواهد شد.

OpenAI می‌گوید از میان نوجوانانی که از ChatGPT استفاده می‌کنند، ۹ نفر از هر ۱۰ نفر برای کمک به یادگیری و امور آموزشی از این ابزار بهره می‌برند.

گزارشی که اندیشکده Policy Exchange منتشر کرد نیز مدعی شده است بیشتر دانشگاه‌های بریتانیا با برگزاری آزمون‌های آنلاین و غیرحضوری، خود را در معرض تقلب و استفاده دانشجویان از هوش مصنوعی برای افزایش نمرات قرار داده‌اند. طبق این گزارش، ۹۴ درصد از دانشجویانی که مورد بررسی قرار گرفتند، اعلام کرده‌اند که در ارزیابی‌های آموزشی از هوش مصنوعی استفاده کرده‌اند.

OpenAI همچنین درخواست‌ها و پیام‌های مرتبط با اختلالات خوردن را به فهرست درخواست‌های آسیب‌زا اضافه کرده است. در صورت وجود حساب والدین متصل، چنین درخواست‌هایی می‌تواند به والدین هشدار داده شود.

این شرکت اعلام کرده هر هشدار پیش از ارسال توسط یک انسان بررسی خواهد شد و هدف آن این است که هشدارها حداکثر ظرف یک ساعت پس از ثبت درخواست، به دست والدین برسند.

OpenAI در مطلب خود اعلام کرده است تمرکز این قابلیت‌ها بر «مواقعی خواهد بود که دریافت حمایت خارج از فضای آنلاین ممکن است بیشترین اهمیت را داشته باشد».این شرکت همچنین اعلام کرده است به نوجوانان درباره به‌اشتراک‌گذاری محتوای حساس با ChatGPT هشدار خواهد داد.

در حال حاضر، بریتانیا قانون اختصاصی و جامعی برای تنظیم هوش مصنوعی ندارد. دولت این کشور در دوره نخست‌وزیری کی‌یر استارمر، محدود کردن دسترسی افراد زیر ۱۸ سال به چت‌بات‌های هوش مصنوعی را در کنار سایر اصلاحات مربوط به استفاده کودکان از شبکه‌های اجتماعی بررسی کرده بود.

ابزار هوش مصنوعی Claude متعلق به Anthropic همچنان تنها برای بزرگسالان در دسترس است. گوگل نیز هنگام عرضه اولیه ابزار هوش مصنوعی خود، که ابتدا «Bard» نام داشت و بعداً به Gemini تغییر کرد، اجازه استفاده کودکان از آن را نمی‌داد.

دکتر سوزان شلمردین، پزشک تصویربرداری پزشکی در بیمارستان کودکان گریت اورموند استریت و پژوهشگر حوزه هوش مصنوعی، سال گذشته به BBC گفته بود ممکن است پزشکان در آینده از بیماران درباره میزان استفاده آنها از هوش مصنوعی سؤال کنند؛ همان‌طور که امروز درباره عادات مصرف سیگار و الکل سؤال می‌شود.

انتهای پیام