مجلس الإشراف يلغي قرار Meta بشأن حالة اعتراض امرأة إيرانية في الشارع
تم النشر بتاريخ 7 آذار 2024
ألغى مجلس الإشراف قرار Meta الأصلي بإزالة مقطع فيديو يُظهر رجلاً يعترض امرأة في شوارع إيران لعدم ارتدائها الحجاب. لم ينتهك المنشور قواعد الشركة بشأن العنف والتحريض لأنه يحتوي على عبارة مجازية، وليست حرفية، ولا يشكّل تهديدًا جديًا بالعنف. يحظى الوصول إلى وسائل التواصل الاجتماعي في إيران بأهمية بالغة حيث تمت مشاركة المنشور خلال فترة شهدت اضطرابات وقمع متصاعد وعنف ضد المتظاهرين، ليمثل الإنترنت ساحة المعركة الجديدة في النضال من أجل حقوق المرأة. ونظرًا لأن Instagram أحد المنصات القليلة المتبقية التي لم يتم حظرها في البلاد، فإن دوره في حركة "المرأة، الحياة، الحرية" المناهضة للنظام كان بالغ الأهمية، على الرغم من جهود النظام لبث الخوف وإسكات النساء على الإنترنت. توصل المجلس إلى أن جهود Meta لضمان احترام حرية التعبير والتجمع في سياق القمع المنهجي الذي تمارسه الدولة لم تكن كافية ويوصي بإجراء تغيير على بروتوكول سياسة الأزمات الخاص بالشركة.
حول هذه الحالة
في يوليو 2023، نشر أحد المستخدمين مقطع فيديو على Instagram يُظهر رجلاً يعترض امرأة في مكان عام لعدم ارتدائها الحجاب. وتظهر المرأة في الفيديو، باللغة الفارسية مع ترجمة بالإنجليزية، وهي ترد قائلة إنها تدافع عن حقوقها. ويعبر الشرح التوضيحي المصاحب للفيديو عن دعم المرأة والنساء الإيرانيات في مواجهة النظام الحاكم. ويتضمن جزء من الشرح التوضيحي، الذي ينتقد بدوره النظام الحاكم، عبارة تمت ترجمتها إلى "لن يمر وقت طويل حتى نحوّلكم إلى أشلاء" وفقًا لشركة Meta.
عاقب القانون الجنائي الإيراني النساء اللاتي ظهرن في الأماكن العامة دون "حجاب لائق" بالحبس أو الغرامة أو الجَلد. في سبتمبر 2023، وافق النظام الإيراني على قانون جديد بشأن الحجاب والعفة والذي قد تواجه النساء بموجبه أحكامًا بالسجن قد تصل إلى 10 سنوات حال الاستمرار في تحدي قواعد الحجاب الإلزامي. ويوضح الشرح التوضيحي المصاحب للمنشور أن المرأة الظاهرة في الفيديو قد قُبض عليها بالفعل.
تم اكتشاف المنشور وتمييزه لأول مرة بواسطة أنظمة Meta التلقائية لأنه يشكّل انتهاكًا محتملاً لإرشادات مجتمع Instagram، وبالتالي فقد تم إرساله إلى المراجعة البشرية. وعلى الرغم من قيام عدة مراجعين بتقييم المحتوى بموجب سياسة العنف والتحريض التي تتبعها Meta، لم يتوصل المراجعون إلى نفس النتيجة، وهو ما يعني، إلى جانب وجود خطأ تقني، بقاء المنشور على المنصة. بعد ذلك، أبلغ أحد المستخدمين عن المنشور، مما أدى إلى جولة إضافية من المراجعة، والتي أجراها هذه المرة فريق Meta الإقليمي الذي يتمتع بالخبرة اللغوية. في هذه المرحلة، تقرر أن المنشور انتهك سياسة الشركة بشأن العنف والتحريض، وتمت إزالته من Instagram. وبعدها، تقدم المستخدم الذي نشر المحتوى بطعن إلى المجلس. أكدت Meta أن قرارها بإزالة المحتوى كان صائبًا إلى أن وقع اختيار المجلس على الحالة، لتتراجع الشركة عن قرارها، وتعيد المنشور.
النتائج الرئيسية
يرى المجلس أن المنشور لم ينتهك معيار المجتمع المتعلق بالعنف والتحريض لأنه يحتوي على خطاب مجازي، وليس حرفيًا، ولا يشكّل تهديدًا جدّيًا بالعنف يرقى إلى التحريض على إلحاق الضرر على أرض الواقع. في حين أزالت Meta المنشور في الأصل جزئيًا لأنها قيّمت عبارة "لن يمر وقت طويل حتى نحوّلكم إلى أشلاء"، على أنها عبارة تدل على وجود نية لارتكاب أعمال عنف شديدة الخطورة - تستهدف الرجل الظاهر في الفيديو - مع هذا لا ينبغي تفسير هذه العبارة حرفيًا. وبالنظر إلى سياق الاحتجاجات واسعة النطاق في إيران، والشرح التوضيحي والفيديو ككل، تعتبر العبارة مجازية وتعبر عن الغضب والاستياء من النظام الحاكم. وقد ذكر الخبراء اللغويون الذين استشارهم المجلس ترجمة مختلفة قليلاً للعبارة ("قريبًا، سنقطعكم إربًا إربًا")، موضحين أنها تعبر عن الغضب وخيبة الأمل والاستياء تجاه النظام الحاكم. وبدلاً من تأجيج العنف ضد النظام الحاكم، سيكون الضرر المرجّح أن ينجم عن هذا المنشور هو ارتكاب النظام لأعمال عنف انتقامي.
في حين تشير مبادئ سياسة Meta إلى أنه يمكن أخذ "اللغة" و"السياق" في الاعتبار عند تقييم "تهديد جدّي"، لا تتيح الإرشادات الداخلية التي تقدمها Meta للمشرفين ذلك عند الممارسة العملية. يتم توجيه المشرفين إلى البحث عن معايير محددة (أي التهديد والمستهدف بالتهديد) وعند استيفاء تلك المعايير، تتم إزالة المحتوى. وقد سبق أن أعرب المجلس عن مخاوفه بشأن عدم التوافق هذا في حالة شعار الاحتجاجات في إيران، والتي أوصى المجلس فيها بأن توفر Meta إرشادات دقيقة حول كيفية أخذ السياق في الاعتبار، وتوجيه المشرفين إلى التوقف عن إزالة "اللغة البلاغية" التي تعبر عن المعارضة افتراضيًا. ويظل من المثير للقلق أنه لا يزال من المحتمل اتخاذ إجراءات إنفاذ غير متسقة ضد الخطاب المجازي، في سياقات مثل إيران. وعلاوة على ذلك، بما أن دقة الأتمتة تتأثر بجودة بيانات التدريب المقدمة من البشر، فمن المحتمل أن يزداد خطأ إزالة الخطاب المجازي.
تم النظر في هذا المنشور أيضًا في ضوء معيار المجتمع المتعلق بتنسيق الأنشطة الضارة وترويج ارتكاب الجرائم نظرًا لوجود قاعدة تحظر "المحتوى الذي يُعرِّض نساءً بلا حجاب أو نقاب للخطر من خلال الكشف عن صورهن دون حجاب أو نقاب رغمًا عنهن أو دون إذنهن". وقد تم تعديل خط السياسة منذ ذلك الحين بحيث يحظر: "كشف هوية [نساء بلا حجاب أو نقاب]: كشف هوية شخص أو تعريضه لخطر الضرر". وفي هذا الشأن، يتفق المجلس مع Meta على أن المحتوى لم "يكشف" هوية المرأة التي ظهرت في الفيديو وقد تضاءل خطر حدوث ضرر لأن هويتها كانت معروفة على نطاق واسع وتم القبض عليها بالفعل. في واقع الأمر، تمت مشاركة المنشور بهدف لفت الانتباه إلى القبض عليها مما قد يساعد في الضغط على السلطات لإطلاق سراحها.
نظرًا لتصنيف إيران كدولة معرضة للخطر بموجب سياسات الأزمات لدى Meta، بما في ذلك بروتوكول سياسة الأزمات، يمكن للشركة تطبيق تغييرات مؤقتة على السياسة ("أدوات") للتعامل مع وضع معين. وفي حين يعترف المجلس بجهود Meta بشأن إيران، لم تكن هذه الجهود كافية لضمان احترام حرية الأشخاص في التعبير والتجمع في بيئات تنطوي على قمع منهجي.
قرار مجلس الإشراف
ألغى مجلس الإشراف قرار Meta الأصلي بإزالة المنشور.
ويوصى المجلس Meta بما يلي:
- إضافة أداة إلى بروتوكول سياسة الأزمات لتوضيح أن العبارات المجازية (أي غير الحرفية) التي لا تهدف إلى التحريض على العنف ولا يرجّح أن تحرض عليه، لا تنتهك خط سياسة العنف والتحريض الذي يحظر التهديدات بالعنف في السياقات ذات الصلة. ويجب أن يتضمن ذلك تطوير معايير للمشرفين على نطاق واسع بشأن كيفية التعرف على مثل هذه العبارات في السياق ذي الصلة.
لمزيد من المعلومات
للاطلاع على القرار الكامل بشأن الحالة، انقر هنا.
للاطلاع على ملخص تعليقات العامة بشأن هذه الحالة، يرجى النقر انقر هنا.
