به گزارش سیتنا به نقل از بی بی سی، براساس گزارش جدید یک کمپین حقوق بشری، الگوریتم تیک تاک، محتوای پورنوگرافی و به شدت غیراخلاقی را به حساب های کاربری کودکان توصیه می‌کند.

پژوهشگران حساب‌های کاربری جعلی کودکان درست کردند و تنظیمات ایمنی را هم فعال کردند، اما همچنان پیشنهادهای جستجوی صریح غیراخلاقی دریافت کردند.

عبارات پیشنهادی برای جستجو، به محتوای غیراخلاقی از جمله ویدیوهایی درباره رابطه غیراخلاقی منجر شد.

این پلتفرم می‌گوید متعهد به تجربه‌های ایمن و متناسب با سن است و به محض اطلاع از این مشکل، فورا اقدام کرده است.

در اواخر ژوئيه و اوایل اوت امسال، پژوهشگران گروه غیردولتی«گلوبال ویتنس» چهار حساب در تیک تاک ایجاد کردند و وانمود کردند که متعلق به نوجوانان ۱۳ ساله است. آن‌ها از تاریخ تولد نادرست استفاده کردند، اما از آن‌ها هیچ اطلاعات دیگری برای تایید هویت خواسته نشد.

آن‌ها همچنین حالت «محدودشده» پلتفرم را فعال کردند؛ حالتی که تیک‌تاک می‌گوید کاربران را از دیدن «موضوعات بزرگسالانه یا پیچیده، مانند محتوای غیراخلاقی» بازمی‌دارد.

پژوهشگران بدون آن‌که خودشان جستجویی انجام دهند، دریافتند که در بخش «شاید خوشتان بیاید» برنامه، عباراتی آشکارا غیراخلاقی برای جستجو پیشنهاد می‌شود.

این ویدیوها در میان محتوای بی‌ضرر دیگر گنجانده شده بودند تا به‌طور موفقیت‌آمیز از فیلترهای نظارت بر محتوا عبور کنند.

آوا لی، از گروه «گلوبال ویتنس»، گفت که این یافته‌ها برای پژوهشگران «بسیار شوکه‌کننده» بوده است.

او گفت: «تیک‌تاک نه‌تنها در جلوگیری از دسترسی کودکان به محتوای نامناسب شکست خورده، بلکه بلافاصله پس از درست کردن حساب کاربری، خودِ این محتوا را به آن‌ها پیشنهاد می‌دهد.»

گلوبال ویتنس، کارزاری است که معمولاً بررسی می‌کند شرکت‌های بزرگ فناوری چگونه بر گفت‌وگوها درباره حقوق بشر، دموکراسی و تغییرات اقلیمی تأثیر می‌گذارند.

پژوهشگران در حالی که در آوریل امسال در حال انجام تحقیقی دیگر بودند،‌ به این مشکل برخوردند.

پژوهشگران موضوع را به تیک‌تاک اطلاع دادند و این شرکت اعلام کرد که برای حل مشکل، بلافاصله اقدام کرده است.

اما در اواخر ژوئیه و اوت امسال، گروه گلوبال ویتنس دوباره همین آزمایش را تکرار کرد و بار دیگر دریافت که این اپلیکیشن همچنان محتوای غیراخلاقی پیشنهاد می‌دهد.

تیک‌تاک می‌گوید بیش از ۵۰ ویژگی مختلف برای حفظ ایمنی نوجوانان طراحی کرده است: «ما کاملاً متعهد به ارائه تجربه‌ای ایمن و متناسب با سن کاربران هستیم.»

این اپلیکشن می‌گوید از هر۱۰ ویدیویی که دستورالعمل‌ها را نقض می کند،‌ ۹ مورد را قبل از مشاهده حذف می‌کند.

تیک‌تاک می‌گوید پس از اطلاع‌رسانی گلوبال ویتنس، اقداماتی برای «حذف محتوایی که با سیاست‌های ما مغایرت داشت» و همچنین «بهبود ویژگی پیشنهاد جست‌وجو» انجام داده است.

کدهای محافظت از کودکان

در ۲۵ ژوئیه امسال، «کدهای محافظت از کودکان» مربوط به قانون ایمنی آنلاین به اجرا درآمدند و مسئولیت قانونی جدیدی برای حفاظت از کودکان در فضای آنلاین ایجاد کردند.

از این پس، پلتفرم‌ها موظف هستند از روش‌های بسیار مؤثر برای تأیید سن کاربران استفاده کنند تا از دسترسی کودکان به محتوای پورنوگرافی جلوگیری شود.

گلوبال ویتنس دومین تحقیق خود را پس از اجرایی شدن این کدهای محافظتی انجام داد.

آوا لی از گلوبال ویتنس گفت: «همه موافقند که باید از کودکان در فضای آنلاین محافظت شود... حالا وقت آن است که نهادهای ناظر وارد عمل شوند.»

در جریان این تحقیقات، پژوهشگران همچنین واکنش دیگر کاربران را نسبت به عبارات غیراخلاقی پیشنهادی برای جست‌وجو مشاهده کردند.

یکی از کاربران نوشت: «کسی می‌تواند برایم توضیح دهد که چه مشکلی برای پیشنهادهای جست‌وجوی من پیش آمده است؟»

کاربر دیگری پرسید: «مشکل این اپ چیست؟»

انتهای پیام