• ۱۴۰۰ دوشنبه ۳ آبان
روزنامه در یک نگاه
امکانات
روزنامه در یک نگاه دریافت همه صفحات
تبلیغات
online صفحه ویژه كانال تلگرام روزنامه اعتماد

30 شماره آخر

  • شماره 4850 -
  • ۱۳۹۹ سه شنبه ۷ بهمن

آيا جرح و تعديل محتوا در شبكه‌هاي اجتماعي كار درستي است؟

كنترل محتوا توسط شركت‌هاي خصوصي

آمنه دهشيري

زماني شاعر و نويسنده طرفدار آزادي سايبري جان پري بارلو گفت «اينترنت مژده‌دهنده‌ دنياي جديدي ا‌ست؛ دنيايي كه در آن هر كسي در هر جايي مي‌تواند عقيده خود را هر قدر هم كه منحصر به فرد باشد بيان كند و از ساكت شدن و ملاحظات ناشي از تطابق پيدا كردن با هنجارها و قوانين نترسد.»

اينترنت همچنان مهم‌ترين ابزار براي دسترسي به اطلاعات در سطح جهاني باقي ماند اما از آن پيش‌‌بيني كه بارلو كرده بود خبري نيست. نفرت‌پراكني و سوءاستفاده و اطلاعات نادرست ازجمله محتواهايي است كه هر روزه توسط كاربران پلتفرم‌ها توليد مي‌شوند. دولت‌ها هم از جذب نيرو توسط گروه‌هاي تروريستي يا وجود تحركاتي براي به هم زدن امنيت عمومي در پلتفرم‌ها شكايت مي‌كنند.

از اين رو بود كه به ‌طور روزافزوني اين مطالبه از پلتفرم‌هاي شبكه‌هاي اجتماعي شكل گرفت كه روي محتواي توليد شده توسط كاربران‌شان نظارت داشته باشند و اجازه انتشار هر نوع محتوايي را ندهند. شركت‌ها هم در پاسخ به اين مطالبه براساس قواعدي كه خودشان تدوين كردند دست به جرح و تعديل محتوا يا Content moderation زدند و محتواي توليد شده توسط كاربران را بررسي و كنترل كردند و تا جايي پيش رفتند كه حساب رييس‌جمهور امريكا در شبكه‌هاي اجتماعي مختلف را بستند.

اما شركت‌ها براساس چه قواعدي محتواي توليد شده توسط كاربران را بررسي مي‌كنند؟ در اين راه از چه ابزارهايي استفاده مي‌كنند؟ و در نهايت به محتوايي كه از نظرشان نامطلوب است چه واكنش‌هايي نشان مي‌دهند؟ آيا اين قواعد و ابزارها و واكنش‌ها براساس استاندارد‌هاي بين‌المللي حمايت از آزادي بيان هستند؟

 

۱. جرح و تعديل محتوا توسط شركت‌ها

اما شركت‌هاي خصوصي در جرح و تعديل محتوايي كه كاربران توليد مي‌كنند از چه موازيني پيروي مي‌كنند؟ گاهي شركت‌ها براساس قانون كشوري كه در آن قرار دارند محتواي كاربران را كنترل مي‌كنند.گاهي نيز براساس استانداردها و معيارهايي كه خودشان تدوين مي‌كنند دست به اين كار مي‌زند كه در هر دو مورد نگراني‌ها و ملاحظاتي وجود دارد كه به بررسي آنها مي‌پردازيم:

الف) پيروي كردن از قوانين ملي:

براساس اصول حقوقي هر شركتي بايد از قوانين محلي كشوري كه در آن كسب وكار دارد پيروي كند. براي مثال در مركز راهنمايي فيس‌بوك در پاسخ به اين سوال كه محدوديت قانوني براي دسترسي به محتوا در فيس‌بوك چيست؟ عنوان شده است «اگر بعد از بررسي حقوقي دقيق مشخص شود كه مطلبي براساس قانون محلي غيرقانوني است ما آن‌ مطلب را در آن كشور يا قلمرو غيرقابل دسترس مي‌كنيم. براي مثال انكار هولوكاست در آلمان غيرقانوني است. بنابراين اگر چنين محتوايي به ما گزارش داده شود دسترسي به آن را براي مردم در آلمان محدود مي‌كنيم.»

يا شركت Tencent مالك اپليكيشن وي‌چت از اين هم فراتر رفته و تمام كاربران پلتفرم در داخل چين و شهروندان چيني در سراسر جهان را كه از اين پلتفرم استفاده مي‌كنند ملزم كرده كه محدوديت‌هاي ناشي از قوانين و سياست‌هاي چين را رعايت كنند.

همكاري‌هايي كه شركت‌هاي مختلف با يكديگر و با نهادهاي مقررات‌گذار براي حذف تصاوير سوءاستفاده جنسي از كودكان دارند از نوع پيروي كردن از قوانين داخلي هستند.

اما اطاعت و پيروي از قوانين داخلي به همين سادگي نيست و گاهي مشكل‌ساز مي‌شود. براي مثال وقتي كه قانون داخلي بسيار مبهم است و راه را بر تفسيرهاي مختلف باز مي‌گذارد و يا اينكه قانون داخلي برخلاف موازين حقوق بشري باشد. براي مثال مي‌توان از قوانين عليه افراط‌گرايي نام برد. در اين نوع قوانين بسياري از نكات كليدي تعريف نشده‌اند و دست دولت‌ها براي تفسير‌هاي موسع از اين قوانين باز است تا بنا به ميل خود براي اجراي تفسير مورد نظرشان به شركت‌هاي صاحب پلتفرم‌ها فشار بياورند. ديديم كه نمونه‌هاي بسياري از حذف محتوا يا معلق شدن حساب‌هاي كاربران ايراني در اينستاگرام به خاطر به اشتراك‌گذاري مطالب مربوط به سردار سليماني گزارش شد‌ كه مي‌توان علت چنين حذف‌هايي را تلاش شركت فيس‌بوك صاحب اينستاگرام براي رعايت قوانين داخلي امريكا دانست.

ب) استانداردهاي شركت‌ها براي جرح و تعديل محتوا:

علاوه بر رعايت قوانين داخلي شركت‌هاي اينترنتي كاربران خود را ملزم مي‌كنند كه شرايط ارايه خدمات يا terms of service را هنگام توليد محتوا در پلتفرم‌هاي‌شان رعايت كنند. اگر كاربري مي‌خواهد از خدمات پلتفرمي استفاده كند بايد در زمان باز كردن حساب كاربري موافقت خود را به اين شرايط اعلام نمايد. شركت‌ها در اين «شرايط ارايه خدمات» براي خود اختياراتي را قائل شده‌اند تا نسبت به اعمال حساب‌ها و محتواي آنها دست به اقداماتي بزنند.

براي مثال در شرايط ارايه خدمات توييتر آمده است:«ما ممكن است حساب شما را به حالت تعليق درآوريم يا به آن خاتمه دهيم يا در هر زمان و به هر دليلي يا بدون دليل ارايه كليه يا بخشي از خدمات شما را متوقف كنيم.»

فيس‌بوك بيش از دو مليارد كاربر فعال دارد و توييتر بيشتر از ۳۰۰ ميليون كاربر دارد. در يوتيوب روزانه چيزي حدود يك ميليارد ساعت ويديو تماشا مي‌شود. در واقع اين غول‌هاي نوظهور صاحب چنين پلتفرم‌هايي هستند كه تصميم مي‌گيرند محتوا و اطلاعات چگونه توزيع شود. وقتي شركتي بخش بزرگي از بازار شبكه‌هاي اجتماعي را در اختيار داشته باشد نه تنها از نظر اقتصادي تعيين‌كننده است بلكه از نظر تحقق حقوق بشري‌اي مثل حق آزادي بيان و حق حريم خصوصي هم نقش تعيين‌كننده‌اي بازي مي‌كند.

در حالت عادي وقتي شرايط ارايه خدمات شركتي مناسب نباشد و مشتري آن را قبول نكند به خدمات‌دهنده ديگري مراجعه مي‌كند و از خدمات شركت جديد برخوردار مي‌شود. اما در مورد شبكه‌هاي اجتماعي اين جابه‌جايي به همين سادگي نيست. پيدا كردن پلتفرمي ديگر با همين مخاطبان و كاركرد كار آساني نيست.

سياست‌هاي پلتفرم‌ها در مورد محتوا نيز در واقع زيرمجموعه همين «شرايط ارايه خدمات» هستند كه محدوديت‌هاي مربوط به اينكه كاربران چه چيزي را مي‌توانند بيان كنند و چگونه آن را بيان كنند، تنظيم مي‌كنند.

بيشتر شركت‌ها اين محدوديت‌هاي وضع شده بر محتوا را براساس حقوق داخلي يا حقوق بين‌الملل وضع نكرده‌اند. يعني يك محتواي خاص به خاطر مخالفت با قانون داخلي يا مقررات بين‌المللي ممنوع نيست بلكه به خاطر مخالفت با اصول و قواعد تدوين شده توسط خود پلتفرم ممنوع است. اين قواعد و اصول نيز معمولا بسيار مبهم‌اند. براي مثال موتور جست‌وجوي چيني Baidu هر نوع محتوايي كه برخلاف اصول اوليه مقرر شده توسط قانون اساسي جمهوري خلق چين باشد را ممنوع اعلام كرده است. عنوان مبهم «اصول اوليه مقرر در قانون اساسي چين» راه را بر تفسير‌هاي مخلتفي باز مي‌كند.

انفجار ميزان محتواي توليد شده توسط كاربران باعث شده قواعد تخصصي و با جزيياتي در اين شركت‌ها تدوين شوند. تدوين چنين قواعدي علاوه بر مشاوره‌هاي حقوقي نياز به همكاري مديران در بخش‌هاي مختلف دارد. حتي شركت‌ها ممكن است دست به تشكيل تيم اعتمادسازي و سالم‌سازي بزنند تا با مشكلاتي مثل هرزنامه‌ها و كلاهبرداري و سوءاستفاده برخورد كنند.يا اينكه حتي تيم مبارزه با تروريسم داشته باشند و به ‌طور خاص اين تيم به محتواي تروريستي بپردازد.

اما در مورد قواعد و استاندارد‌هايي كه خود شركت‌ها درخصوص محتوا وضع مي‌كنند، نگراني‌هايي وجود دارد.

- مقررات مبهم: بسياري از اين استانداردها مبهم و فاقد تعريف‌هاي دقيق هستند. برخي از نمونه‌هاي اين قواعد مبهم عبارتند از: ممنوعيت‌هاي بار شده بر محتواي تهديد به تروريسم، تشويق به تروريسم و يا حمايت از سازمان‌هاي خطرناك كه تعريف تروريسم و سازمان خطرناك در اين قواعد مشخص نيستند.

- بستر: اينكه محتوا در چه بستري بيان مي‌شود از اهميت بالايي برخوردار است. براي مثال ممكن است يك تصوير متضمن خشونت در بستر جمع‌آوري دلايل براي ارتكاب جرايم جنگي به اشتراك گذاشته شود. يا اينكه حسابي به امر مستندسازي تاريخي وقايع يك مخاصمه مي‌پردازد. اما به ‌رغم به رسميت شناخته شدن و تاكيد بر بحث توجه به بستر بازهم ديده شده كه چنين حساب‌هايي به دليل به اشتراك‌گذاري محتواي خشن مسدود شده‌اند. براي حل اين مشكل پيشنهاد شده است شركت‌ها از كاربران بخواهند كه زمان به اشتراك‌گذاري يك محتواي چالش‌بر‌انگيز در مورد بستر و زمينه اين اشتراك‌گذاري را نيز با جزييات توضيح دهند. البته ميزان موفقيت و موثر بودن اين راهنما هنوز مشخص نيست.

- الزام به استفاده از اسم واقعي: براي برخورد مناسب با سوءاستفاده‌هاي آنلاين كاربران، برخي شركت‌ها استفاده از اسامي واقعي را الزامي كرده‌اند. مثلا فيس‌بوك در استانداردهايش به اين امر اشاره كرده ولي در حال حاضر در موارد خاصي بنابه موضوع استثنائاتي قائل است. اما كارشناسان به موثر بودن اين روش براي جلوگيري از سوءاستفاده‌هاي آنلاين شك دارند. از طرفي ديگر كارشناسان بيان مي‌دارند اصرار بر استفاده از اسم واقعي باعث مي‌شود فعالاني كه براي محافظت از خودشان از اسم مستعار استفاده مي‌كنند را به خطر مي‌اندازد. البته محدوديت استفاده از نام ديگران براي حساب‌هاي كاربري به نحوي كه باعث مشتبه شدن و فريب خوردن شود براساس حقوق بشري و اصل حمايت از حقوق ديگران كاري درست است.

- اطلاعات نادرست (disinformation): اطلاعات نادرست و پروپاگاندا يكي از چالش‌هايي است كه بر سر راه دسترسي به اطلاعات و به ‌طور كلي اعتماد عمومي به رسانه و موسسات دولتي قرار دارد. شركت‌ها تحت فشار هستند تا با اطلاعات نادرست برخورد كنند. اطلاعات نادرست از طريق لينك دادن به وب‌سايت‌ها و مقالات حساب‌هاي جعلي و تبليغات فريب‌دهنده پخش مي‌شوند اما از آنجايي كه بلاك كردن وب‌سايت‌ها و حذف پست‌ها باعث مي‌شود خطر دخالت در حق آزادي بيان وجود داشته باشد،كارشناسان به شركت‌ها توصيه مي‌كنند كه با اين مساله با دقت برخورد شود. شركت‌ها براي مبارزه با اطلاعات نادرست يك‌سري راهكارهايي را در پيش گرفته‌اند از جمله اينكه با نهادهايي كه به بررسي حقايق مي‌پردازند، همكاري مي‌كنند. سياست‌هاي مربوط به تبليغات را در پلتفرم‌هاي‌شان سفت و سخت اجرا مي‌كنند و حساب‌هاي مشكوك را بيشتر تحت نظارت دارند و در الگوريتم‌هاي مربوط به رتبه‌بندي كردن مطالب تغييراتي مي‌دهد. همچنين به كاربران آموزش مي‌دهند تا توان تشخيص اطلاعات نادرست را داشته باشند. براي مثال در برخورد با ادعاهاي ترامپ مبني بر تقلب در انتخابات رياست‌جمهوري سال ۲۰۲۰ توييتر توييت‌هاي ترامپ را همراه با هشدار در مورد صحت ادعاهاي مطرح شده منتشر كرد.

 

۲. روش‌هاي شركت‌ها براي جرح و تعديل محتوا

نشان‌دار كردن اتوماتيك، حذف مطلب و فيلتر كردن مطلب قبل از انتشار از جمله روش‌ها و فرآيندهايي است كه شركت‌ها براي جرح و تعديل محتوا به آن متوسل مي‌شوند.

حجم بالاي محتوايي كه توسط كاربران توليد مي‌شود شركت‌ها را بر آن داشته است كه ابزارهاي اتوماتيك جرح و تعديل محتوا را توسعه دهند. اتوماسيون در ابتدا براي اين بود كه محتواي مورد نظر نشان‌دار شود تا توسط انسان مورد بررسي قرار بگيرد و در صورت لزوم مطلب حذف شود. براي مثال روش‌هاي اتوماتيك موسيقي‌ها و ويديو‌ها را به خاطر موارد نقض حق مولف در زمان آپلود كردن اسكن مي‌كنند و به اين ترتيب مانع انتشار آنها مي‌شود. از اين رو برخي خواهان آن شده‌اند كه اين روش سانسور قبل از انتشار در مورد مطالب مربوط به تروريسم هم اعمال شود.

اتوماسيون مي‌تواند از اين نظر كه امكان بررسي حجم بالايي از محتواي توليد شده توسط كاربران را فراهم مي‌كند براي شركت‌ها مفيد باشد. ابزارهايي كه به اين منظور استفاده مي‌شوند متنوعند از جمله فيلتر كردن يك كلمه كليدي يا تشخيص هرزنامه يا هش‌مچينگ. از روش هش‌مچينگ بيشتر براي تصاوير مربوط به سوءاستفاده جنسي از كودكان استفاده مي‌شود. پردازش زبان طبيعي نيز يكي ديگر از روش‌هاي اتوماتيك است.

يكي ديگر از روش‌ها نشان‌دار كردن محتواي نامناسب يا محتوايي است كه درمورد آن شكايتي وجود دارد توسط كاربران پلتفرم‌هاست. برخي از افراد و گروه‌ها نيز نشان‌كنندگان مورد اعتماد هستند. براي مثال وقتي نهاد‌هاي دولتي محتوايي را به عنوان محتواي نامناسب نشان‌دار مي‌كنند.

روش‌هاي اتوماتيك معمولا به وسيله بررسي توسط انسان تكميل مي‌شوند. در شركت‌هاي شبكه‌هاي اجتماعي بزرگ تيم‌هاي بزرگي از افرادي وجود دارند كه كارشان بررسي محتواست و محتواي نشان‌دار شده توسط كاربران يا گروه‌هاي مورد اعتماد را مورد بررسي مجدد قرار مي‌دهند. اين افراد اين اختيار را دارند كه در مورد محتوا تصميم‌گيري كنند.

 

۳. واكنش شركت‌ها در مقابل محتوا و حساب:

وقتي محتواي نامناسبي وجود داشته باشد شركت‌ها مجموعه‌اي از اقدامات را در پيش مي‌گيرند. محدود كردن محتوا به صورت كامل يا تنها بخشي از آن، اعمال محدوديت‌هاي سني براي محتوا، اخطار دادن، تعليق موقت حساب كاربري و غير فعال شدن حساب از جمله اين اقدامات و واكنش‌ها هستند.

پلتفرم‌ها اين امكان را فراهم كرده‌اند كه در برخي موارد مانند حذف صفحه يا حذف پست خاص يا عكس يا ويديو كاربران درخواست تجديدنظر و رسيدگي مجدد داشته باشند. اما امكان جبران خسارت وارده يا خيلي محدود است يا اصلا وجود ندارد. بازگرداندن مجدد مطلب مي‌تواند به عنوان يك جبران خسارت در نظر گرفته شود اما اين امر نمي‌تواند آسيبي كه به آبرو و آوازه و شهرت فرد وارد شده يا ساير آسيب‌هاي فيزيكي و معنوي و مالي را جبران نمايد.

 

۴. اصول حقوق بشري براي شركت‌ها در‌خصوص جرح و تعديل محتوا

شركت‌ها براساس ارزش‌ها و اصول خود دست به تدوين موازين و استانداردها مي‌زنند. اما بايد خاطرنشان كرد كه موازين و استانداردهاي مربوط به محدود كردن بيان در حقوق بشر وجود دارد.

طبق حقوق بشر بين‌الملل دولت‌ها مجوز محدود كردن آزادي بيان و آزادي دسترسي به اطلاعات را ندارند مگر در موارد استثنايي و در صورت احراز شرايطي كه به پيش‌شرط‌هاي «ارزيابي سه‌گانه» موسم هستند. اين پيش‌شرط‌ها مي‌توانند به عنوان راهنمايي براي شركت‌ها هم باشند‌ كه عبارتند از:

۱. اصل قانوني بودن:

محدوديت‌هاي وارده بر حق آزادي‌ بيان‌ بايد به‌ وسيله‌ قانون‌ تصويب‌ شده‌ باشد.

۲. اصل مشروع بودن:

اعمال محدوديت بر حق آزادي بيان تنها براي تحقق اهداف مشروع صورت گيرد. اهداف مشروع عبارتند از:

الف) براي احترام حقوق يا حيثيت ديگران

ب) حفظ امنيت ملي يا نظم و سلامت و اخلاق عمومي

در هر مورد بايد به ‌طور خاص مشخص شود كه دقيقا به چه نحوي آزادي بيان و دسترسي به اطلاعات مي‌تواند براي تحقق اين اهداف تهديد محسوب شود.

۳. اصل تناسب:

محدوديت‌هاي‌ به‌ عمل‌ آمده‌ عليه‌ آزادي‌ بيان‌ بايد متناسب با تحقق هدف مورد نظر باشد. به بيان ديگر اعمال محدوديت بر آزادي بيان بايد امري ضروري باشد و با استفاده از ابزارهاي ديگر نتوان به هدف مشروع مورد نظر نايل شد. اين شرط نيازمند وجود يك رابطه فوري و مستقيم بين محدود كردن آزادي بيان و در دسترسي به اطلاعات و نايل شدن به هدف مورد نظر در عمل است.

مقررات تدوين شده توسط شركت‌هاي خصوصي علاوه بر اينكه مبهم‌اند از يك شركت به شركت ديگر نيز متفاوت هستند. اين ابهام و روشن نبودن ارزش‌ها و استانداردها باعث مي‌شود يك فضاي بي‌ثبات و غيرقابل پيش‌بيني‌اي براي كاربران ايجاد شود. از طرف ديگر تطابق استانداردهاي شركت‌ها با قوانين داخلي نيز مشكلات خودش را دارد. زيرا كاربران اين پلتفرم‌ها از حوزه‌هاي جغرافيايي و فرهنگي مختلفي هستند و نمي‌توان قوانين يك كشور را در مورد همه آنها اعمال كرد. اما قواعد حقوق بشري مي‌توانند چارچوبي واحد را دراختيار دولت‌ها و شركت‌ها قرار بدهند.

همان‌طور كه بيان شدن براساس قواعد حقوق بشري هر نوع محدوديت بر آزادي بيان بايد براساس قانون باشد. قانون داراي صفاتي است كه امكان پيش‌بيني دقيق نتايج عملكرد افراد را فراهم مي‌آورد. از جمله اينكه دقيق و روشن است. اما با توجه به تجارب مربوط به شركت‌هاي صاحب پلتفرم‌هاي شبكه‌هاي اجتماعي مي‌توان گفت كه قواعد اين شركت‌ها روشن و دقيق نيستند وكاربر نمي‌داند دقيقا چه مطلبي باعث مي‌شود كه با حساب او برخورد شود. براي مثال قواعد مربوط به بنيادگرايي و يا نفرت‌پراكني خيلي مبهم هستند.

از اين روست كه كارشناسان پيشنهاد مي‌كنند شركت‌ها قواعد و هنجارهاي خود را با جزييات بيشتري بيان كنند و در مورد آنها مثال‌هاي روشني بزنند.

اصل تناسب و ضرورت يكي از شرايطي است كه براساس حقوق بشر بايد هنگام اعمال محدوديت بر آزادي بيان رعايت شود. بايد شركت‌ها توضيح بدهند چگونه واكنشي كه نسبت به يك محتوا دارند كم‌آسيب‌ترين واكنش است و چرا از واكنش‌هايي مثل اخطار و محدود كردن سن به جاي حذف محتوا و بستن حساب استفاده نمي‌كنند.

پژوهشگر حقوق بشر و اينترنت

ارسال دیدگاه شما

ورود به حساب کاربری
ایجاد حساب کاربری
عنوان صفحه‌ها
کارتون
کارتون