إلغاء مجلس الإشراف قرار Meta المتعلق بحالتي العنف ضد المرأة

تم النشر بتاريخ 12 تَمُّوز 2023

ألغى مجلس الإشراف قرار Meta بإزالة منشورين على Instagram أدانا العنف على أساس الجنس. ويوصي المجلس Meta بتضمين استثناء للسماح بالمحتوى الذي يدين العنف على أساس الجنس أو يعزز الوعي به في الصيغة المعلنة من سياسة الخطاب الذي يحض على الكراهية، بالإضافة إلى تحديث إرشاداتها الداخلية الموجهة إلى المراجعين لضمان عدم إزالة هذا النوع من المنشورات عن طريق الخطأ.

حول الحالتين

في هذا القرار، نظر المجلس في منشورين من أحد مستخدمي Instagram المقيمين في السويد في آن واحد. أزالت Meta المنشورين بداعي انتهاك معيار مجتمعها المتعلق بالخطاب الذي يحض على الكراهية. وبعد أن وقع اختيار المجلس على الحالتين، قررت Meta أن إزالة المنشور الأول تمت عن طريق الخطأ ولم تغير قرارها بشأن المنشور الثاني.

يحتوي المنشور الأول على مقطع فيديو يتضمن تسجيلاً صوتيًا باللغة السويدية مع تفريغ نصي لمحتواه لامرأة تصف تجربتها في علاقة حميمية اتسمت بالعنف، موضحة شعورها بعدم القدرة على مناقشة هذا الوضع مع أسرتها. ويشير الشرح التوضيحي إلى أن المرأة وافقت على نشر التسجيل الصوتي، وأن الصوت قد تم تعديله. وتطرق أيضًا إلى ثقافة إلقاء اللوم على ضحايا العنف على أساس نوع الجنس، والفهم الضئيل لمدى صعوبة ترك المرأة لزوجها الذي يتسم بالعنف. وينص الشرح التوضيحي على جملة "الرجال يقتلون النساء ويغتصبونهن ويؤذونهن جسديًا ونفسيًا، في كل وقت وكل يوم." ويشارك أيضًا معلومات عن المنظمات التي تدعم ضحايا العنف من شركاء العلاقات الحميمية، ويذكر اليوم العالمي للقضاء على العنف ضد المرأة، ويشير إلى أنه يأمل أن تدرك النساء اللاتي يقرأن هذا المنشور أنهن لسن وحدهن.

بعد أن حددت إحدى أدوات التصنيف لدى Meta أن المحتوى يشكّل انتهاكًا محتملاً لقواعد Meta بشأن الخطاب الذي يحض على الكراهية، قام اثنان من المراجعين بفحص المنشور وإزالته. ثم تم تأييد هذا القرار بواسطة المراجعين ذاتهما في مستويات مختلفة من المراجعة. ونتيجة لاختيار الحالة من قبل المجلس، قررت Meta أنها أزالت المحتوى عن طريق الخطأ، واستعادت المنشور.

عندما بدأ المجلس تقييم المنشور الأول، تلقى طعنًا جديدًا من المستخدم نفسه. وقد تضمن المنشور الثاني الذي تمت مشاركته أيضًا على Instagram مقطع فيديو لامرأة تتحدث اللغة السويدية وتشير إلى كلمات كتبت باللغة السويدية في مفكرة. وتقول المتحدثة في مقطع الفيديو إنها على الرغم من كونها كارهة للرجال، فإنها لا تكرههم جميعًا. وتذكر أيضًا إنها تكره الرجال كوسيلة لإدانة كراهية النساء وأن كراهية الرجال تنبع من مخاوف التعرض للعنف. أزالت Meta المحتوى لانتهاكه قواعدها بشأن الخطاب الذي يحض على الكراهية. تقدم المستخدم بطعن إلى Meta بشأن الإزالة، لكن الشركة أيدت قرارها الأصلي بعد المراجعة البشرية. ولم تغيّر Meta موقفها بعد إبلاغها باختيار المجلس لهذه الحالة.

منذ 2017 على الأقل، سلطت الحملات الرقمية الضوء على أن سياسات فيسبوك بشأن الخطاب الذي يحض على الكراهية تؤدي إلى حذف عبارات من شأنها تعزيز الوعي بالعنف والإساءة على أساس الجنس. على سبيل المثال، نسقت بعض النساء والنشطاء نشر عبارات مثل "الرجال رعاع" و"الرجال حثالة" واحتججن على إزالة تلك العبارات لاحقًا على أساس أنها تمثل خطابًا يحض على الكراهية ضد الرجال.

النتائج الرئيسية

يرى المجلس أن المنشورين لم ينتهكا قواعد Meta بشأن الخطاب الذي يحض على الكراهية.

يرى المجلس، في المنشور الأول، أن عبارة "الرجال يقتلون النساء ويغتصبونهن ويؤذونهن جسديًا ونفسيًا في كل وقت وحين" هي عبارة مشروطة لا تنتهك سياسة Meta بشأن الخطاب الذي يحض على الكراهية. وبالنظر إلى أن المنشور يشير إلى الحملات الدولية المناهضة للعنف ضد النساء ويوفر موارد محلية للمنظمات التي تعمل على مساعدة الضحايا من النساء، من الواضح أن اللغة المستخدمة في المنشور تهدف إلى وصف الرجال الذين يرتكبون أعمال عنف ضد النساء.

علاوة على ذلك، يرى المجلس أن المنشور الثاني لا يعبّر عن ازدراء الرجال وإنما يدين العنف ضد النساء ويناقش جذور الكراهية على أساس الجنس. بينما ترى Meta أن تصريح المستخدمة بعدم كراهيتها لجميع الرجال لا يؤثر في تقييم باقي أجزاء المنشور، فإن المجلس لا يوافق على ذلك ويجري تقييمًا للمنشور ككل. ويرى المجلس أن باقي أجزاء المنشور التي استشهدت بها Meta على اعتبار أنها تشكل انتهاكًا محتملاً غير مخالفة عند النظر إليها في سياق المنشور. ولم يوافق بعض أعضاء المجلس على أن المنشورين المعنيين لم ينتهكا قواعد Meta بشأن الخطاب الذي يحض على الكراهية.

يشعر المجلس بالقلق من أن نهج Meta في اتخاذ إجراءات إنفاذ بشأن الخطاب الذي يحض على الكراهية على أساس الجنس قد يؤدي إلى إزالة غير متناسبة للمحتوى الذي يهدف إلى تعزيز الوعي بالعنف على أساس الجنس وإدانته. وتشير Meta، على سبيل المثال، إلى ضرورة السماح بالمنشور الأول على منصاتها وأن سياسة الخطاب الذي يحض على الكراهية "مصممة على نحو يفسح المجال أمام تعزيز الوعي بالعنف على أساس الجنس". مع هذا، لا تحتوي السياسة المعلنة لعامة الجمهور ولا وثائق الإرشادات الداخلية الموجهة للمشرفين على إرشادات واضحة لضمان عدم إزالة المنشورات المشابهة لهذين المنشورين عن طريق الخطأ. وتؤدي السياسة المُربكة التي تتبعها الشركة إلى استحالة وصول المشرفين فعليًا إلى الاستنتاج الصحيح. وبينما اعتمدت Meta على القرائن السياقية لتقرر أن المنشور الأول غير مخالف بعد اختيار المجلس للحالة، فإن إرشادات الشركة للمشرفين تحد من إمكانية التحليل السياقي بشكل كبير.

يرى المجلس أن من الأهمية بمكان، في هذا السياق، ألا تتم إزالة العبارات التي تدين العنف على أساس الجنس وتعزز الوعي به عن طريق الخطأ. وتتضح مخاوف المجلس بشأن احتمال حدوث ذلك بشكل خاص نظرًا لعدم الإعلان عن السماح بهذا النوع من المحتوى بشكل واضح لعامة الجمهور، على الرغم من إبراز Meta لذلك، ونظرًا للإرباك الذي يكتنف الإرشادات الموجهة للمشرفين. ولمعالجة ذلك، يجب على Meta توضيح قواعدها المعلنة لعامة الجمهور وتوفير إرشادات مناسبة للمشرفين تعكس السماح بهذا النوع من المحتوى على نحو أفضل.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار Meta بإزالة المنشورين. ويوصى المجلس Meta بما يلي:

• تضمين الاستثناء الذي يسمح بنشر المحتوى الذي يدين العنف على أساس الجنس أو يعزز الوعي به في الصيغة المعلنة للعامة من سياسة الخطاب الذي يحض على الكراهية.
• تحديث الإرشادات الموجهة إلى مشرفي المحتوى ممن يعملون على نطاق واسع مع إيلاء اهتمام خاص للقواعد المتعلقة بالتحفظ وذلك لضمان عدم إزالة المحتوى الذي يدين العنف على أساس الجنس أو يعزز الوعي به عن طريق الخطأ.
• تحديث مركز الشفافية بمعلومات عن العقوبات المرتبطة بتكرار الحصول على إنذارات على Instagram. يقدّر المجلس لشركة Meta قيامها بتوفير معلومات إضافية بشأن الإنذارات التي يتم توجيهها لمستخدمي فيسبوك استجابة لتوصيات المجلس. ويرى ضرورة توفير المعلومات ذاتها لمستخدمي Instagram أيضًا.
• تقييم ما يمثله بروتوكول توجيه المراجعة الحالي لدى الشركة من تأثير في معدلات الدقة. يرى المجلس أن بإمكان Meta تحسين دقة الإشراف على المحتوى من خلال تعديل هذا البروتوكول بحيث يتم وضع الأولوية على إرسال مهام المراجعة الثانوية إلى مراجعين مختلفين عن أولئك الذين سبق لهم تقييم المحتوى.

لمزيد من المعلومات

للاطلاع على القرار الكامل بشأن الحالتين، انقر هنا.

للاطلاع على ملخص تعليقات العامة لهاتين الحالتين، يرجى النقر على المرفق الموجود أدناه.

العودة إلى الأخبار