آزمایش پنهانی تیک‌تاک روی کودکان؛ ابزار ایمنی برای برخی کاربران کار نمی‌کرد

به گزارش سیتنا، بر اساس ادعاهای مطرح‌شده در شکایت دادستانی کل نیویورک علیه تیک‌تاک که روز چهارشنبه از حالت محرمانه خارج شد، این شبکه اجتماعی در آزمایشی روی هزاران کاربر، از جمله کودکان و نوجوانان، نسخه‌ای غیرفعال از یکی از ابزارهای ایمنی خود را در اختیار آنها قرار داده است.

در این آزمایش که به‌عنوان آزمایش «شبح» یا «دارونما» شناخته می‌شود، هزاران کاربری که قصد داشتند از قابلیت‌های ایمنی تیک‌تاک استفاده کنند، به‌صورت تصادفی نسخه‌ای غیرفعال از این ابزارها دریافت کردند.

یکی از این قابلیت‌ها «Algo Refresh» بود؛ ابزاری که برای بازنشانی پیشنهادهای الگوریتمی طراحی شده و قرار است به کاربرانی که می‌خواهند از محتوای ناخواسته یا بالقوه آسیب‌زا فاصله بگیرند، امکان تغییر محتوای پیشنهادی را بدهد.

طبق این شکایت، این کاربران تصور می‌کردند این قابلیت را فعال کرده‌اند، اما محتوای نمایش‌داده‌شده در فید آنها تغییری نکرد؛ در حالی که برای گروه دیگری از کاربران، نسخه واقعی این قابلیت فعال شده بود.

این ادعاها بخشی از پرونده دادستانی کل نیویورک علیه تیک‌تاک است؛ پرونده‌ای که یکی از بیش از ۲۰ شکایت ایالت‌های مختلف آمریکا علیه این شرکت به شمار می‌رود. این ایالت‌ها تیک‌تاک را متهم کرده‌اند که پلتفرم خود را به‌گونه‌ای طراحی کرده که کودکان را به استفاده مداوم و اعتیادگونه ترغیب می‌کند و همچنین درباره ایمنی این شبکه اجتماعی به کاربران اطلاعات گمراه‌کننده داده است.

بسیاری از اسناد مربوط به پرونده‌های ایالت‌های مختلف علیه تیک‌تاک تاکنون محرمانه یا به‌شدت سانسورشده باقی مانده بودند؛ چرا که این شرکت تلاش کرده بود جزئیات مربوط به نحوه فعالیت داخلی خود را از دسترس عموم دور نگه دارد.

در این شکایت آمده است که تیک‌تاک به کاربران اطمینان می‌دهد ایمنی در اولویت قرار دارد و پلتفرم برای کودکان و نوجوانان مناسب است، اما در عین حال، آگاهانه دسترسی برخی گروه‌های کاربری به ابزارهای ایمنی را محدود کرده است؛ حتی کاربرانی که مشخصاً به دنبال دور شدن از محتوای ناخواسته یا بالقوه آسیب‌زا بوده‌اند.

سخنگوی تیک‌تاک در واکنش به این ادعاها گفت این شرکت به‌طور مستمر پلتفرم خود را بهبود می‌دهد و مانند بسیاری از شرکت‌ها، محصولات و قابلیت‌های جدید را آزمایش می‌کند تا تجربه کاربران و نحوه عملکرد آنها در دنیای واقعی را ارزیابی کند.

تیک‌تاک در اسناد دادگاه، اتهامات مطرح‌شده از سوی نیویورک را به‌طور کلی رد کرده و گفته است حفظ امنیت کاربران جوان یکی از اولویت‌های این شرکت است.

اعتراض داخلی به آزمایش «دارونما»

در بخش دیگری از این شکایت آمده است که یکی از مدیران محصول تیک‌تاک در حوزه «سلامت دیجیتال» نسبت به اجرای آزمایش دارونما روی قابلیت «Algo Refresh» ابراز نگرانی کرده و هشدار داده است که این آزمایش می‌تواند کاربران را گمراه کند.

این فرد در یک گفت‌وگوی داخلی، بر اساس متن شکایت، تأکید کرده است که این قابلیت با هدف افزایش شفافیت و کنترل کاربران بر الگوریتم طراحی شده و استفاده از گروه دارونما با چنین هدفی در تضاد است.

با این حال، طبق ادعای مطرح‌شده در شکایت، تیک‌تاک در سال ۲۰۲۳ این آزمایش‌ها را چندین بار روی هزاران کاربر انجام داده و کاربرانی را که به این قابلیت دسترسی نداشتند با گروهی که نسخه واقعی آن را دریافت کرده بودند، مقایسه کرده است.

هدف از این آزمایش‌ها، بررسی مدت زمانی بوده که کاربران در پلتفرم باقی می‌مانند و همچنین تأثیر این قابلیت بر درآمدهای تبلیغاتی تیک‌تاک.

شکایت همچنین مدعی است تیک‌تاک درباره نحوه عملکرد «Algo Refresh» نیز کاربران را گمراه کرده و به آنها گفته است این قابلیت الگوریتم پیشنهاد ویدئوها را بازنشانی می‌کند، در حالی که تغییر ایجادشده موقتی بوده است. سخنگوی تیک‌تاک این ادعا را نادرست دانسته و گفته نحوه عملکرد این قابلیت در شکایت به‌درستی توصیف نشده است.

آزمایش دیگری برای غیرفعال کردن ابزارهای ایمنی

در بخش‌های دیگری از اسناد منتشرشده، ادعاهایی درباره آزمایش‌های جداگانه تیک‌تاک مطرح شده که پیش‌تر نیز در گزارشی از بلومبرگ منتشر شده بود.

بر اساس این ادعاها، تیک‌تاک به‌صورت تصادفی ابزارهای ایمنی برخی کاربران را که میزان مواجهه آنها با محتوای آسیب‌زا را محدود می‌کرد، غیرفعال کرده است.

در این شکایت آمده است که یکی از نوجوانان نیویورکی که در این آزمایش قرار گرفته بود، پس از آنکه با محتوای مرتبط با خودآزاری و خودکشی مواجه شد، جان خود را از دست داد. بلومبرگ پیش‌تر گزارش داده بود که این نوجوان با حجم زیادی از محتوای مرتبط با خودکشی و خودآزاری مواجه شده بود.

تیک‌تاک در ماه سپتامبر، پیش از نخستین دادگاهی که قرار بود به یکی از شکایت‌های ایالتی علیه این شرکت رسیدگی کند، با ایالت آلاباما به توافق رسید و پذیرفت تا سقف ۳۰۰ میلیون دلار پرداخت کند و نحوه فعالیت پلتفرم برای نوجوانان در این ایالت را تغییر دهد.

انتهای پیام