الزامات تنظیم گری الگوریتم های توصیه گر در رسانه های دیجیتال
به گزارش سیتنا، دفتر مطالعات فرهنگی و آموزش مرکز پژوهش های مجلس شورای اسلامی در گزارش «تحلیل الزامات تنظیمگری الگوریتمهای توصیهگر در رسانههای دیجیتال» آورده که تحول ساختار رسانهای و وابستگی فزایندۀ توزیع و دیدهشدن محتوا به الگوریتمهای توصیهگر، کنترل انسانی بر جریان اطلاعات را بهطور جدی کاهش داده و نقش سامانههای هوشمند را در شکلدهی روایتها، ترجیحات و تجربه کاربران برجسته کرده است.
در این گزارش گفته شده که این شرایط، ضرورت شکلگیری چارچوبهای حقوقی شفاف و نهادهای تنظیمگر مؤثر را برای کاهش پیامدهای منفی اجتماعی، ارتقای عدالت اطلاعاتی و حفظ اعتماد عمومی دوچندان میسازد. یافتههای پژوهش نشان میدهد که در ادبیات علمی چهار سازوکار اصلی توصیهگری شامل فیلتر مشارکتی، فیلتر مبتنیبر محتوا، الگوریتمهای یادگیری عمیق و یادگیری تقویتی شناسایی شدهاند که هر یک، در کنار افزایش دقت شخصیسازی، میتوانند موجب کاهش تنوع اطلاعاتی، تقویت سوگیریها، تشدید قطبیسازی و بروز آثار منفی روانی شوند.
در ادامه بیان شده که مطالعه تطبیقی چارچوبهای تنظیمگری در کشورهای مختلف نیز حاکی از وجود چهار الگوی حقوقمحور، بازارمحور، اقتدارمحور و ترکیبی است. با وجود تفاوت در سطح مداخله دولت و ظرفیت نهادی، میان این الگوها اجماعی روشن درباره ضرورت شفافیت الگوریتمی، پاسخگویی، ارزیابی مخاطرات و نظارت مستمر وجود دارد. بررسی تجربههای تطبیقی نشان میدهد فقدان این سازوکارها به تعمیق قطبیسازی، کاهش تنوع اطلاعاتی و تضعیف اعتماد عمومی منجر میشود؛ در حالیکه رویکردهای تدریجی و مبتنیبر مدیریت مخاطرات میتوانند توازنی میان نوآوری و کنترل پیامدهای منفی برقرار کنند.
در این گزارش تصریح شده که در مقابل، ارزیابی وضعیت ایران بیانگر آن است که فقدان چارچوب حقوقی منسجم، نبود نهاد تخصصی و مستقل برای نظارت بر الگوریتمها، و کمبود ابزارهای نظاممند شفافسازی عملکرد آنها، حکمرانی الگوریتمی را محدود به مداخلات واکنشی ساخته است. بر این اساس، تدوین قوانین الزامآور شفافیت، ایجاد نهاد نظارتی تخصصی، انجام ارزیابیهای دورهای مخاطرات و تقویت سازوکارهای اعتراض و پاسخگویی کاربران، از الزامات اساسی حکمرانی الگوریتمی در ایران به شمار میآید.
در بخش یافته های کلیدی این گزارش به گونهشناسی سازوکارهای الگوریتمی اشاره شده و آمده که در ادبیات علمی، چهار سازوکار الگوریتمی متمایز شناسایی شده است که مبنای فنی بخش عمدهای از سامانههای توصیهگر و رتبهبندی محتوا را تشکیل میدهند. شناخت این سازوکارها پیششرط تحلیل پیامدهای اجتماعی و فرهنگی الگوریتمها و طراحی مداخلات حقوقی و تنظیمگری متناسب بهشمار میرود.
در توضیح سازوکارها به فیلتر مشارکتی اشاره شده و آمده که این الگوریتم با تحلیل رفتار کاربران، محتوای مورد علاقه آنها را پیشنهاد میکند و به شکلگیری خوشههای مصرف و تقویت ترجیحات پیشین میانجامد، اما همزمان موجب کاهش تنوع اطلاعاتی میشود.
در ادامه به فیلتر مبتنیبر محتوا اشاره شده و توضیح داده شده که در این سازوکار، ویژگیهای محتوایی با سوابق علاقهمندی کاربر تطبیق داده میشود. اگرچه سطح شخصیسازی افزایش مییابد، امکان مواجهه با محتوای جدید و متنوع محدود میگردد.
در بخش دیگری از این گزارش به فیلتر مبتنیبر یادگیری عمیق اشاره شده و آمده که این الگو با استخراج الگوهای پیچیده رفتاری از ریزدادههای کاربران، شخصیسازی بسیار دقیقی ایجاد میکند. بااینحال، شفافیت و قابلیت حسابرسی این الگوریتمها پایین، و خطر سوگیری الگوریتمی در آنها بالاست.
در این گزارش به یادگیری تقویتی هم پرداخته شده و آمده که این الگوریتمها براساس بازخورد لحظهای کاربران بهصورت مستمر بهینه میشوند. درنتیجه، محتوای جذاب و تعاملی در اولویت قرار میگیرد و وابستگی کاربر افزایش مییابد، اما همزمان خطر قطبیسازی محتوا و آثار منفی بر سلامت روانی نیز تقویت میشود.
در این گزارش تصریح شده که تنظیمگری پیشرفته جهانی بر حکمرانی مبتنیبر اصول و نظارت بر فرایندها استوار است؛ نهادهای نظارتی با ابزارهایی مانند قوانین خدمات دیجیتال، بازیگران بزرگ را به افشای نحوه کارکرد الگوریتمهای اولویتبندی محتوا، ارزیابی خطرها و تعریف مسیرهای اعتراض به تصمیمات ماشینی موظف میکنند. در نقطه مقابل، رویکرد تنظیمگری در ایران عمدتاً واکنشی و متمرکز بر مدیریت پیامدهای نهایی بوده و تقریباً به کنترل دسترسی و محدودسازی فیزیکی تقلیل یافته است؛ این رویکرد، ابزارهای لازم برای پاسخگویی به چالشهای پیچیده الگوریتمهای پنهان (مانند کاهش تعامل هدایت شده) و نظارت بر لایه توزیع هوشمند محتوا را از تنظیمگر سلب، و شکاف قابل ملاحظهای با مدلهای جهانی ایجاد کرده است.
در این گزارش ذکر شده که الگوهای تنظیمگری جهانی براساس رویکرد مداخله دولت، به چهار دسته حقوقمحور، بازارمحور، اقتدارمحور و ترکیبی دستهبندی میشوند که همگی بر ضرورت شفافیت و پاسخگویی الگوریتمی اجماع دارند.
محور بعدی مطالعه تطبیقی چارچوبهای تنظیمگری الگوریتمها در کشورهای منتخب است. در این زمینه بیان شده که در ادامه باتوجهبه سیاستهای مداخلهای تنظیمگری دولتها، کشورها براساس الگوی سازمان همکاری و توسعه اقتصادی و با اتکا به سه شاخص «میزان مداخله دولت»، «سطح توان نهادی» و «نسبت بازار و حکمرانی» در سیاستگذاری دیجیتال دستهبندی شدهاند. این تقسیمبندی امکان تحلیل تطبیقی الگوهای تنظیمگری الگوریتمها را بهگونهای فراهم کرده است تا کشورها نه برمبنای جغرافیا، بلکه براساس رویکردهای سیاستی و نهادی مقایسه شوند. انتخاب کشورها بهصورت هدفمند انجام شد تا تنوع در الگوهای حکمرانی دیجیتال، میزان وابستگی فناورانه و شیوههای متفاوت مداخله دولتها پوشش داده شود. براساس این تحلیل، چهار الگوی اصلی تنظیمگری الگوریتمها شناسایی شد که الگوهای تقنینی کشورها نیز با آنها همراستا بود.
محور اول الگوی حقوقمحور است. در این زمینه بیان شده که نمونه آن اتحادیه اروپاست که مبتنیبر تصویب قوانین جامع و الزامآور، تقویت حقوق کاربران، شفافیت اجباری و نظارت نهادی مستقل عمل میکند.
محور بعدی الگوی بازارمحور است. در این محور گفته شده که ایالات متحده نمونهای از این رویکرد است که با تأکید بر حداقل مداخله دولت، نوآوری را حفظ کرده، اما از نظر دامنه اثرگذاری و ضمانتهای اجرایی قانونی با محدودیتهایی مواجه است.
محور بعدی این گزارش الگوی اقتدارمحوراست. در این زمینه ذکر شده که چین نمونهای از این رویکرد است که با تقنین متمرکز و کنترل مستقیم دولتی، مدیریت سریع مخاطرات اجتماعی را ممکن ساخته، اما چالشهایی در حوزه حقوق کاربران ایجاد کرده است.
در ادامه الگوی ترکیبی توضیح داده شده و آمده که این رویکرد در کشورهایی مانند بریتانیا، ژاپن، کره جنوبی و هند مشاهده میشود که بر تقنین مرحلهای، تنظیمگری هوشمند و مداخلات هدفمند در حوزههای پرریسک (مخاطره) استوار است.
در بخش دیگری از گزارش مرکز پژوهش ها عنوان شده که یافتهها نشان میدهد اگرچه مدل واحدی برای تنظیمگری الگوریتمها در سطح جهانی وجود ندارد، اجماع روشنی میان کشورها درباره ضرورت شفافیت، پاسخگویی، قابلیت ارزیابی و نظارت مستمر شکل گرفته است. در همین راستا، سیاستها عمدتاً بهسمت الزام پلتفرمها به توضیح منطق عملکرد الگوریتمها، گزارشدهی شفاف، ارزیابی مخاطرات اجتماعی و فرهنگی و پیشبینی سازوکارهای اعتراض کاربران هدایت شدهاند. شواهد تطبیقی حاکی از آن است که فقدان این سازوکارها به کاهش تنوع اطلاعاتی، تشدید قطبیسازی محتوا و تضعیف اعتماد عمومی منجر میشود؛ درحالیکه رویکردهای تدریجی و مبتنیبر ارزیابی مخاطرات، امکان ایجاد توازن میان حفظ نوآوری و کنترل پیامدهای منفی الگوریتمها را فراهم کردهاند.
در این گزارش گفته شده که بااینحال، ایران در دوره بررسی شده از رویکرد تنظیمگری منسجم، نهاد ناظر با مأموریت مستقل و سازوکارهای قانونی مؤثر برای شفافسازی عملکرد الگوریتمها برخوردار نبوده و عمدتاً به مداخلات واکنشی در قالب کنترل دسترسی و محدودسازی اتکا داشته است؛ وضعیتی که به ایجاد خلأ ساختاری در حکمرانی الگوریتمی انجامیده و آسیبپذیری در برابر سانسور خارجی و تشدید قطبیسازی داخلی را افزایش داده است. بر این اساس، استقرار چارچوبهای شفافیت، پاسخگویی و نهادسازی نظارتی، بهعنوان یکی از مهمترین گامها برای کاهش این آسیبپذیری و تقویت حکمرانی دیجیتال در کشور مطرح میشود.
در بخش پیشنهادات هم به تصویب قوانین الزامآور برای شفافسازی منطق الگوریتمها، معیارهای رتبهبندی و امکان اعتراض کاربران، تقویت و بازتعریف صلاحیت تنظیمگران بخشی با مأموریت مشخص نظارت و حسابرسی الگوریتمی، بهمنظور پرهیز از ایجاد ساختارهای موازی، کاهش هزینههای نهادی و افزایش کارایی اجرایی تنظیمگری و ارزیابی دورهای مخاطرات اجتماعی، فرهنگی و سیاسی الگوریتمها و پیشگیری از تبعیض و حبابهای خبری اشاره شده است.
در این گزارش ایجاد ابزار ثبت شکایات و اصلاح تصمیمات الگوریتمی با اتصال به نهاد تنظیمگر هم پیشنهاد شده است.
انتهای پیام