الإشارة إلى الأفراد المُصنّفين كأفراد خطرين بكلمة "شهيد"

ملخص تنفيذي

يرى المجلس أن نهج Meta في الإشراف على المحتوى الذي يستخدم كلمة "شهيد" للإشارة إلى أفراد مصنّفين على أنهم خطرون يقيد حرية التعبير بشكل كبير وغير متناسب. وتفسر Meta جميع استخدامات كلمة "شهيد" التي تشير إلى الأفراد الذين صنفتهم على أنهم "خطرون" على أنها مخالفة مما يدفعها إلى إزالة المحتوى. وفقًا لشركة Meta، من المرجّح أن تكون كلمة "شهيد" مسؤولة عن إزالة عناصر محتوى أكثر من أي كلمة أو عبارة أخرى على منصاتها بموجب معايير المجتمع. لأعمال العنف الإرهابية عواقب وخيمة - فهي تدمر حياة الأبرياء وتعرقل حقوق الإنسان وتضعف نسيج مجتمعاتنا. ومع ذلك، فإن أي تقييد لحرية التعبير بهدف منع مثل هذا العنف يجب أن يكون ضروريًا ومتناسبًا، نظرًا لأن إزالة المحتوى دون مبرر قد تكون غير فعالة بل وقد تؤدي إلى نتائج عكسية.

تبدأ توصيات المجلس من وجهة نظر مفادها أنه من الضروري أن تتخذ Meta إجراءات فعّالة لضمان عدم استخدام منصاتها للتحريض على أعمال عنف، أو تجنيد الأشخاص للمشاركة فيها. ويستخدم المتطرفون كلمة "شهيد" أحيانًا للإشادة بأشخاص لقوا حتفهم أثناء ارتكاب أعمال عنف إرهابية أو تمجيدهم. ومع هذا، يجب أن تسترشد استجابة Meta لهذا التهديد باحترام كافة حقوق الإنسان، بما في ذلك الحق في حرية التعبير.

في 7 أكتوبر 2023، بينما كان المجلس يضع اللمسات الأخيرة على هذا الرأي الاستشاري بشأن سياسات المحتوى، شنت حماس (وهي منظمة مصنَّفة بموجب الفئة الأولى من سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين) هجمات غير مسبوقة تم وصفها كهجمات إرهابية على إسرائيل مما أدى إلى مقتل نحو 1200 شخص وأسْر نحو 240 رهينة (وزارة الخارجية، حكومة إسرائيل). ووفقًا لتقارير إخبارية، يُعتقد أنه حتى 6 فبراير 2024 كان ما لا يقل عن 30 رهينة من أصل 136 رهينة بقوا في أسر حماس في أوائل يناير قد لقوا حتفهم. وعلى الفور، قامت Meta بتصنيف هذه الأحداث كهجوم إرهابي بموجب سياستها بشأن المنظمات الخطرة والأفراد الخطرين. وسرعان ما شنت إسرائيل حملة عسكرية ردًا على الهجمات. وقد أدت تلك الحملة العسكرية إلى مقتل أكثر من 30 ألف شخص في غزة حتى 4 مارس (مكتب الأمم المتحدة لتنسيق الشؤون الإنسانية، استنادًا إلى بيانات من وزارة الصحة في غزة). وأشارت التقارير الصادرة في يناير إلى أن 70‏% من الوفيات كانت من النساء والأطفال.

في أعقاب هذه الأحداث، أوقف المجلس مؤقتًا نشر هذا الرأي الاستشاري بشأن سياسات المحتوى لضمان تجاوب توصياته مع استخدام منصات Meta وكلمة "شهيد" في هذا السياق. وقد أكد هذا البحث الإضافي صمود ما أصدره المجلس من توصيات إلى شركة Meta بشأن الإشراف على كلمة "شهيد"، حتى في ظل الضغط الشديد الذي تمثله هذه الأحداث، ومن شأنه أن يضمن أيضًا احترامًا أكبر لجميع حقوق الإنسان عند استجابة Meta للأزمات. وفي الوقت نفسه، يؤكد المجلس على أن سياسات Meta في هذا الشأن عالمية وأن تأثيرها يمتد إلى ما هو أبعد من هذا الصراع. ومع الاعتراف بأهمية الأحداث الأخيرة في فلسطين وإسرائيل، فإن توصيات المجلس عالمية أيضًا ولا تقتصر على سياق بعينه.

من وجهة نظر المجلس، يتسم نهج Meta في الإشراف على كلمة "شهيد" بأنه فضفاض، ويقيد حرية التعبير والخطاب المدني بشكل غير متناسب. على سبيل المثال، قد تتم بالخطأ إزالة المنشورات التي تتحدث عن العنف وعن الكيانات المصنّفة. ويفشل نهج Meta أيضًا في مراعاة المعاني المتعددة لكلمة "شهيد"، والتي لا يهدف الكثير منها إلى التمجيد أو الإقرار، ويؤدي في كثير من الأحيان إلى حذف منشورات المتحدثين باللغة العربية والمتحدثين بلغات أخرى (الكثير منهم مسلمون)، دون أن تخدم هذه الإزالة أغراض سياسة المنظمات الخطرة والأفراد الخطرين. علاوة على ذلك، تحظر سياسات Meta، على سبيل المثال، تمجيد الأفراد المصنّفين والمنظمات والأحداث المصنّفة ودعمها وتمثيلها، وتحظر أيضًا التحريض على العنف. وتخفف هذه السياسات، التي يتم إنفاذها بدقة، من المخاطر الناتجة عن استخدام الإرهابيين لمنصات Meta. وبالتالي، يوصي المجلس Meta بإنهاء حظرها الشامل لكلمة "شهيد" للإشارة إلى أفراد مصنّفين كأفراد خطرين، وتعديل سياستها على نحو يكفل إجراء تحليل للمحتوى الذي يتضمن الكلمة يكون أكثر استنادًا إلى السياق.

المعلومات الأساسية

في فبراير 2023، سألت Meta المجلس عما إذا كان ينبغي عليها الاستمرار في إزالة المحتوى الذي يستخدم الكلمة العربية "shaheed" أو "شهيد" عند كتابتها بحروف عربية، للإشارة إلى أفراد مصنّفين بموجب سياساتها للمنظمات الخطرة والأفراد الخطرين. وقد أصبحت كلمة "شهيد" أيضًا كلمة مستعارة (بمعنى أن العديد من اللغات غير العربية قد "استعارت" هذه الكلمة عربية الأصل، بما في ذلك من خلال مواءمة طريقة تهجئتها).

تصف الشركة كلمة "شهيد" على أنها كلمة "تشريفية"، تستخدمها العديد من المجتمعات عبر مختلف الثقافات والديانات واللغات، للإشارة إلى شخص توفي بشكل غير متوقع، في حادث على سبيل المثال، أو بشكل مُشرِّف، كما في الحرب. وتقر الشركة بأن للكلمة "معانٍ متعددة" وعلى الرغم من "عدم وجود مكافئ مباشر باللغة الإنجليزية،" فإن الترجمة الإنجليزية الشائعة لها هي "martyr". مع ملاحظة أن "كلمة "martyr" باللغة الإنجليزية تعني الشخص الذي عانى أو مات في سبيل قضية مبررة وعادة ما تكون للكلمة دلالات إيجابية،" وتذكر Meta أن "هذا الاستخدام هو ما دفعنا إلى تصنيف كلمة ["شهيد"] على أنها إشادة بموجب سياستنا بشأن [المنظمات الخطرة والأفراد الخطرين]".

أدى افتراض Meta بأن الإشارة إلى شخص مصنّف على أنه "شهيد" يعتبر "إشادة" في جميع الحالات بموجب سياسة المنظمات الخطرة والأفراد الخطرين إلى فرض حظر شامل على هذه الكلمة. وقد أقرت Meta أنها قد "تفرط في اتخاذ إجراءات إنفاذ تجاه أعداد كبيرة من عناصر الخطاب التي لا تهدف إلى الإشادة بشخص مصنّف، لا سيّما بين المتحدثين باللغة العربية" نتيجة لتعدد معاني هذه الكلمة. علاوة على ذلك، لا تطبق Meta استثناءات سياسة المنظمات الخطرة والأفراد الخطرين التي تسمح باستخدام كلمة "شهيد" على المحتوى الذي "يقدم تقارير عن كيانات مصنّفة أو يدينها أو يجري مناقشات حيادية بشأنها". وقد ظل هذا الوضع قائمًا بموجب آخر تحديثات السياسة - التي تمت في ديسمبر 2023 - والتي تحظر حاليًا "التمجيد" و"الإشارات غير الواضحة" بدلاً من "الإشادة"، التي أزيلت تمامًا.

بدأت Meta عملية تطوير للسياسة عام 2020 لإعادة تقييم نهجها في التعامل مع كلمة "شهيد" بسبب هذه المخاوف. ومع ذلك، لم يتم التوصل إلى إجماع داخل الشركة ولم يتم الاتفاق على نهج جديد.

عند طلب هذه الرأي الاستشاري بشأن سياسات المحتوى، قدمت Meta إلى المجلس ثلاثة خيارات ممكنة إلى المجلس:

1. الحفاظ على الوضع الراهن.
2. السماح باستخدام كلمة "شهيد" كإشارة إلى أفراد مصنّفين في المنشورات التي تستوفي استثناءات حظر "الإشادة" (على سبيل المثال، نشر التقارير أو المناقشات الحيادية أو الإدانة)، طالما لا توجد إشادة أو "إشارات عنف" أخرى. تضمنت بعض أمثلة الإشارات التي اقترحتها Meta التصوير المرئي للأسلحة، أو الإشارات إلى لغة عسكرية أو عنف على أرض الواقع.
3. السماح باستخدام كلمة "شهيد" كإشارة إلى أفراد مصنّفين طالما لا توجد إشادة أو إشارات عنف أخرى. وذلك بغض النظر عما إذا كان المحتوى يندرج تحت أي من الاستثناءات المذكورة أعلاه، على عكس الخيار الثاني.

لقد نظر المجلس في الخيارات المحتملة الأخرى بشأن السياسة. وللأسباب الواردة في هذا الرأي الاستشاري بشأن سياسة المحتوى، تتفق توصيات المجلس بشكل وثيق مع الخيار الثالث، على الرغم من أن عدد إشارات العنف التي تم إقرارها أقل مما اقترحته Meta في طلبها، وهناك حاجة إلى تطبيق استثناءات السياسة بشكل أوسع لأغراض نشر التقارير عن الكيانات المصنّفة وأفعالها أو إدانتها أو مناقشتها بحيادية.

النتائج والتوصيات الأساسية

يرى المجلس أن نهج Meta الحالي في التعامل مع كلمة "شهيد" فيما يتعلق بالأفراد المصنّفين على أنهم خطرون فضفاض للغاية، ويقيد حرية التعبير بشكل كبير وغير متناسب.

تحظى كلمة "شهيد" بأهمية ثقافية ودينية. وتُستخدم أحيانًا لتعبر عن الإشادة بالأشخاص الذين يلقون حتفهم وهم يرتكبون أعمال عنف بل و"تمجيدهم". لكنها غالبًا ما تُستخدم، حتى مع الإشارة إلى أفراد خطرين، في التقارير الصحفية والتعليقات المحايدة، والمناقشات الأكاديمية، والمناقشات بشأن حقوق الإنسان، وحتى بطرق أكثر سلبية. ومن بين المعاني الأخرى، تستخدم كلمة "شهيد" على نطاق واسع للإشارة إلى الأفراد الذين يموتون أثناء خدمة وطنهم، أو خدمة قضيتهم، أو كضحايا غير متوقعين لأحداث عنف اجتماعي أو سياسي أو مأساة طبيعية. وفي بعض المجتمعات الإسلامية، يتم استخدامها كاسم ولقب. وهناك سبب قوي للاعتقاد بأن تعدد معاني كلمة "شهيد" يؤدي إلى إزالة أعداد كبيرة من المواد التي لا تهدف إلى الإشادة بالإرهابيين أو أعمال العنف التي يرتكبونها.

إن نهج Meta المتمثل في إزالة المحتوى لمجرد استخدام كلمة "شهيد" عند الإشارة إلى أفراد مصنّفين يتجاهل عمدًا التعقيد اللغوي للكلمة واستخداماتها المتعددة، ويتعامل معها دائمًا وفقط على أنها المكافئ لكلمة "martyr" في اللغة الإنجليزية. ويؤثر القيام بذلك بشكل كبير في حرية التعبير وحريات وسائل الإعلام، ويقيد الخطاب المدني بشكل غير مبرر، ويؤثر بالسلب إلى درجة كبيرة على المساواة وعدم التمييز. ويؤثر فرط الإنفاذ هذا بشكل غير متناسب على المتحدثين باللغة العربية والمتحدثين باللغات الأخرى التي تحتوي على كلمات مستعارة من كلمة "شهيد". وفي الوقت ذاته، فإن الطرق الأخرى لتنفيذ سياسة المنظمات الخطرة والأفراد الخطرين من شأنها أن تمكن Meta من تعزيز قيمة السلامة التي تتبناها وهدفها المتمثل في الحيلولة دون نشر مواد تمجد الإرهابيين على منصاتها. وبالتالي فإن السياسة الحالية غير متناسبة وغير ضرورية.

ولمواءمة سياساتها وممارسات الإنفاذ التي تتبعها فيما يتعلق بكلمة "شهيد" بشكل أوثق مع معايير حقوق الإنسان، يوصي المجلس باتباع التوصيات التالية (راجع القسم 6 للاطلاع على التوصيات بالكامل):

1. يجب أن تتوقف Meta عن افتراض أن كلمة "شهيد" تشكّل انتهاكًا في جميع الأحوال وأنها غير مؤهلة لأي من استثناءات السياسة، عند استخدامها للإشارة إلى فرد مصنّف أو أعضاء غير محددين في منظمة مصنّفة. يجب إزالة المحتوى الذي يشير إلى فرد مصنّف على أنه "شهيد" باعتباره "إشارة غير واضحة" في حالتين فقط. أولاً، عند وجود واحدة أو أكثر من ثلاث إشارات للعنف: تصوير مرئي لسلاح أو عبارة تنم عن نية أو تأييد لاستخدام أو حمل الأسلحة، أو إشارة إلى حدث مصنّف. ثانيًا، عندما ينتهك المحتوى سياسات Meta بطريقة أخرى (على سبيل المثال، بسبب التمجيد أو لأن الإشارة إلى فرد مصنّف لا تزال غير واضحة لأسباب أخرى غير استخدام كلمة "شهيد"). في أي من الحالتين، ينبغي أن يظل المحتوى مؤهلاً لاستثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

2. لتوضيح الحظر المفروض على "الإشارات غير الواضحة"، يجب على Meta تضمين عدة أمثلة للمحتوى المخالف، بما في ذلك منشور يشير إلى فرد مصنّف باستخدام كلمة "شهيد" مع إشارة أو أكثر من الإشارات الثلاث الموضحة في التوصية رقم 1.

3. يجب أيضًا تحديث إرشادات السياسة الداخلية لشركة Meta لتوضيح أن الإشارة إلى أفراد مصنّفين باستخدام كلمة "شهيد" لا تشكّل انتهاكًا إلا عندما تصحبها إشارات عنف، وأنه حتى مع وجود تلك الإشارات، قد يظل المحتوى يستفيد من استثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

إذا قبلت Meta هذه التوصيات ونفذتها، وفق قواعدها الحالية، فستستمر الشركة في إزالة المحتوى الذي "يمجد" الأفراد المصنّفين، أو يصف عنفهم أو كراهيتهم كإنجاز، أو يضفي الشرعية على أعمالهم العنيفة أو التي تحض على الكراهية أو يدافع عنها، بالإضافة إلى أي دعم أو تمثيل لكيان خطِر مصنّف. إن النهج الذي يقترحه المجلس انطلاقًا من هذه التوصيات يقضي بأن تتوقف Meta عن تفسير كلمة "شهيد" دائمًا كانتهاك عند استخدامها للإشارة إلى فرد مصنّف، والاقتصار في إزالة المحتوى على الحالات التي يكون مصحوبًا فيها بانتهاكات إضافية للسياسة (على سبيل المثال، التمجيد) أو عندما يشكّل "إشارة غير واضحة" بسبب وجود إشارات عنف. وسيظل هذا المحتوى بحاجة إلى أن يكون مؤهلاً لاستثناءات السياسة من قبيل "نشر التقارير عن أفراد مصنّفين أو تناولهم بمناقشات حيادية أو إدانتهم".

يوصي المجلس Meta أيضًا بما يلي:

4. تقديم توضيح أكثر تفصيلاً عن الإجراء الذي يتم وفقًا له تصنيف الكيانات والأحداث بموجب سياستها بشأن المنظمات الخطرة والأفراد الخطرين لتحسين الشفافية بشأن هذه القائمة. يجب على Meta أيضًا نشر معلومات مجمعة عن العدد الإجمالي للكيانات التي تندرج تحت كل فئة من فئات قائمة التصنيف، وعدد الكيانات التي أضيفت أو أزيلت خلال العام الماضي.

5. استحداث عملية واضحة وفعّالة لمراجعة التصنيفات بانتظام وإزالة تلك التي لم تعد تفي بالمعايير المعلنة للتأكد من أن قائمة المنظمات الخطرة والأفراد الخطرين محدّثة، ولا تتضمن منظمات أو أفراد أو أحداث لم تعد تندرج تحت تعريف Meta للتصنيف.

6. شرح الطريقة التي تتبعها لتقييم دقة المراجعة البشرية وأداء الأنظمة التلقائية في إنفاذ سياستها بشأن المنظمات الخطرة والأفراد الخطرين. يجب على Meta أيضًا مشاركة نتائج تقييم أداء أدوات التصنيف المستخدمة في إنفاذ هذه السياسة بشكل دوري، وتقديم النتائج بطريقة يمكن مقارنتها على مستوى اللغات و/أو المناطق.

7. تقديم شرح واضح لكيفية استخدام أدوات التصنيف في إنشاء تنبؤات بشأن انتهاكات السياسة والآلية التي تتبعها Meta لتعيين الحدود التي يتم وفقًا لها إما الامتناع عن اتخاذ إجراء أو إخضاع المحتوى إلى المراجعة البشرية أو إزالة المحتوى. يجب تقديم هذه المعلومات في مركز الشفافية الخاص بالشركة ليطلع عليها أصحاب المصلحة.

الرأي الاستشاري الكامل بشأن سياسات المحتوى

1. طلب Meta

1. طلب للحصول على رأي استشاري بشأن سياسات المحتوى

1. في طلبها (المتاح باللغتين الإنجليزية والعربية)، وجهت Meta للمجلس سؤالاً عما إذا كان يجب عليها الاستمرار في إزالة المحتوى الذي يستخدم كلمة "شهيد" (shaheed) (بصيغة المفرد أو الجمع، بما في ذلك بصيغها المستعارة المختلفة باللغة العربية واللغات الأخرى) للإشارة إلى الأفراد المُصنّفين كأفراد خطرين بموجب سياسة المنظمات الخطرة والأفراد الخطرين، أو ما إذا كان اتباع نهج مختلف سيتوافق بشكل أفضل مع قيم ومسؤوليات الشركة تجاه حقوق الإنسان. وقد طلبت Meta أيضًا الحصول على إرشادات توجيهية بشأن مشكلات المحتوى المشابهة التي قد تنشأ في المستقبل.

2. نهج Meta

2. كانت سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين تحظر في السابق "الإشادة بالكيانات المصنّفة أو الأفراد المصنّفين أو دعمهم موضوعيًا أو تمثيلهم" وكذلك الحال بالنسبة إلى "أحداث العنف المخالفة" المصنّفة. في 29 ديسمبر، 2023، أقدمت Meta على تحديث هذه السياسة، حيث أزالت حظر الإشادة وأضافت حظرًا على "التمجيد" و"الإشارات غير الواضحة". وقد وسّع المجلس نطاق اهتمامه لتقييم ما لتغييرات السياسة تلك من تأثير على النتائج التي توصل إليها والتوصيات التي أصدرها.

3. يتعلق هذا الطلب للحصول على رأي استشاري بشأن سياسات المحتوى بحظر الإشادة بالأفراد المصنّفين، وليس الحظر الموازي المفروض على الدعم الموضوعي أو التمثيل. ومقارنة بالتمثيل أو الدعم الموضوعي، اعتبرت Meta أن "الإشادة" هي الانتهاك الأقل حدة. وتحتفظ Meta "بالفئة الأولى" للكيانات الأشد خطورة، مثل المنظمات الإرهابية أو الإجرامية أو منظمات الكراهية. عندما تصنف Meta "حدثًا عنيفًا مخالفًا"، يتم أيضًا تصنيف مرتكبي هذه الأحداث كأفراد خطرين من الفئة الأولى، وبالتالي يكون تمجيدهم (سابقًا "الإشادة بهم") محظورًا. وتتضمن الأحداث المصنّفة "الهجمات الإرهابية أو أحداث الكراهية أو أعمال العنف متعددة الضحايا أو محاولات ارتكاب أعمال عنف متعددة الضحايا، أو جرائم القتل المتسلسل أو جرائم الكراهية". وبينما تتحكم Meta في قائمتها الخاصة للكيانات المصنّفة، وهي قائمة غير علنية، تستند التصنيفات جزئيًا إلى قوائم تصنيف الحكومة الأمريكية (على سبيل المثال، ستشمل قائمة تصنيفات Meta على الأقل نفس الأفراد والكيانات التي تشملها قوائم الحكومة الأمريكية المستمدة منها). توضح معايير المجتمع أن كيانات الفئة الأولى تتضمن "زعماء الاتجار بالمخدرات المُصنّفين تحديدًا (SDNTK)"؛ و"المنظمات الإرهابية الأجنبية (FTO)" و"الإرهابيين العالميين المُصنّفين تحديدًا". تتوفر قوائم الحكومة الأمريكية هذه بشكل علني هنا، وهنا وهنا على التوالي.

4. قبل تحديث السياسة في 29 ديسمبر 2023، اشتمل تعريف "الإشادة" لدى شركة Meta على التحدث "بشكل إيجابي عن كيان مصنّف أو حدث مصنّف"؛ وإعطاء كيان مصنّف أو حدث مصنّف "إحساسًا بالإنجاز"؛ وإضفاء الشرعية على "القضية التي يتبناها كيان مصنّف من خلال تقديم مزاعم بأن سلوكهم البغيض أو العنيف أو الإجرامي قانوني أو أخلاقي أو مبرر أو مقبول بطريقة أو بأخرى"؛ والتوافق "الأيديولوجي للشخص مع كيان مصنّف أو حدث مصنّف". تمت إضافة هذا التعريف أو سلسلة الأمثلة إلى السياسة لتحسين الوضوح اتباعًا لتوصية مجلس الإشراف في واحدة من أوائل الحالات ( قرار الاقتباس النازي، التوصية رقم 2). في أعقاب تحديث السياسة في ديسمبر 2023، تم تعريف "التمجيد" بأنه "إضفاء الشرعية على أعمال العنف أو الكراهية التي يرتكبها كيان مصنّف أو الدفاع عنها من خلال الادعاء بأن تلك الأفعال لها مبرر أخلاقي أو سياسي أو منطقي أو أي مبرر آخر يجعلها مقبولة أو معقولة،" أو "توصيف العنف أو الكراهية تجاه كيان معين أو الاحتفال بهما كإنجازات أو نجاحات". وعلى نطاق أوسع، تقول Meta في تحديث سياستها إنها "ستزيل الإشارات غير الواضحة أو الإشارات التي لا يتوفر لها سياق إذا لم تتم الإشارة بوضوح إلى نية المستخدم". وتحدد السياسة أن ذلك سيتضمن "الفكاهة غير الواضحة" و"الإشارات الإيجابية أو التي لا يوجد بها شرح توضيحي والتي لا تمجّد أعمال العنف أو الكراهية التي يمارسها الكيان المُصنّف". ومع ذلك، لا توفر هذه السياسة أمثلة لأنواع المنشورات التي تشكّل انتهاكًا لهذه القاعدة. أبلغت Meta المجلس بأنها تواصل إزالة جميع عناصر المحتوى التي تستخدم كلمة "شهيد" للإشارة إلى الأفراد المصنّفين. بالنسبة لمثل هذه الإشارات، تفترض الشركة أن كلمة "شهيد" تشكّل انتهاكًا في جميع السياقات، مما يؤدي بشكل أساسي إلى فرض حظر شامل على الكلمة عند استخدامها للإشارة إلى فرد مصنّف. ويمكن توضيح نطاق هذا الحظر جزئيًا من خلال الرجوع إلى قوائم التصنيف الأمريكية المذكورة أعلاه، حيث تحظر سياسة Meta الإشارة إلى جميع الأشخاص (وأعضاء المنظمات) المدرجين في قائمتها المشتقة باستخدام كلمة "شهيد" (أو أي ترجمة أخرى لكلمة "martyr"). ويشمل ذلك الكيانات على مستوى مختلف القارات، ولا يقتصر على المنظمات الإرهابية أو المنظمات التي تنتمي إلى أيديولوجية معينة.

5. تصف الشركة كلمة "شهيد" بأنها كلمة "تشريفية"، تستخدمها العديد من المجتمعات على مستوى الثقافات والديانات واللغات. وتقر الشركة بأن هذه الكلمة تحمل "معانٍ متعددة" و"تُستخدم لوصف شخص يموت فجأة أو مبكرًا، وفي بعض الأحيان تشير إلى الموت بشرف، كما هو الحال عندما يموت الشخص في حادث أو في صراع أو حرب". ذكرت Meta أنه بينما لا يوجد "مكافئ مباشر لهذه الكلمة باللغة الإنجليزية"، فإن الترجمة الإنجليزية الشائعة لها هي "martyr". عند إرسال طلبها إلى المجلس، قبل إجراء تغيير على السياسة في ديسمبر 2023، ذكرت Meta أنها "تفترض أن الكلمة تعني "martyr" وأنه "بسبب هذا الاستخدام، قمنا بتصنيف الكلمة كإشادة بموجب سياستنا بشأن [المنظمات الخطرة والأفراد الخطرين]". كانت الإشارة الوحيدة لهذه القاعدة في معايير المجتمع المعلنة للجمهور مثالاً لعبارات تنتهك الحظر المفروض على الإشادة. ومن بين الأمثلة الأخرى، أدرجت Meta عبارة وصفت إرهابي أمريكي مدان بكلمة "شهيد". وفي الإصدار العربي من السياسة، استخدمت Meta المثال نفسه، حيث ترجمت كلمة "martyr" إلى "شهيد". تمت إزالة مثال "martyr" / "شهيد" في تحديث ديسمبر 2023 لمعيار المجتمع المعلن للجمهور، على الرغم من إبلاغ Meta للمجلس بأن الكلمة لا تزال تشكّل انتهاكًا ويتم توجيه المشرفين لإزالتها.

6. لا تطبق Meta استثناءات سياسة المنظمات الخطرة والأفراد الخطرين على استخدام كلمة "شهيد" للإشارة إلى شخص مصنّف. وبخلاف ذلك، تسمح هذه الاستثناءات "بنشر تقارير عن الأفراد المصنّفين أو إجراء مناقشات حيادية بشأنهم أو إدانتهم". إن إزالة المحتوى الذي يتضمن كلمة "شهيد" كنوع من "الإشادة" بفرد مصنّف ستؤدي إلى فرض "إنذارات" شديدة على المستخدمين، حيث يؤدي تراكم الإنذارات إلى فرض عقوبات أسرع مثل تعليق الحساب أو الصفحة أو تعطيلهما. ولم يتم توضيح عدم إمكانية تطبيق استثناءات القاعدة التي تتناول كلمة "شهيد" في معايير المجتمع المعلنة للجمهور.

7. أوضحت شركة Meta أن تعاملها مع كلمة "شهيد" يعزز قيمة السلامة التي تتبناها لأن هذا المحتوى، من وجهة نظرها، يمكن أن "يسهم في خطر حدوث ضرر على أرض الواقع". في الوقت نفسه، أقرت Meta بأن الكلمة الإنجليزية "martyr" ليست ترجمة مناسبة لكلمة "شهيد". ونظرًا لتعدد معاني كلمة "شهيد" وما يمثله أخذ السياق ونوايا المستخدمين في الحسبان على نطاق واسع من صعوبات، فقد تقبلت شركة Meta أنها تزيل عناصر خطاب "لا تسهم في خطر حدوث أضرار" و"لا تهدف إلى الإشادة شخص مصنّف"، وخاصة بين الناطقين باللغة العربية". ومن أمثلة ذلك إزالة المحتوى عند استخدام كلمة "شهيد" في التقارير الإخبارية أو لإجراء مناقشة حيادية بشأن وفاة شخص مصنّف بشكل مبكر، وليس للإشادة به أو بسلوكه (أو تمجيده).

8. في 29 أغسطس 2023، حدّثت Meta استثناء سياسة المنظمات الخطرة والأفراد الخطرين ليتضمن تعريفات "نشر التقارير الإخبارية" و"المناقشة الحيادية" و"الإدانة"، وأضافت أمثلة توضيحية لكل استثناء. في الوقت ذاته، قامت Meta بتوسيع وصفها لهذا الاستثناء لإدراك أنه قد يشير المستخدمون إلى كيانات مصنّفة "في سياق الخطاب الاجتماعي والسياسي". وقد تمت إزالة جميع الأمثلة التوضيحية للمحتوى المسموح به كجزء من تحديث السياسة في ديسمبر 2023، على الرغم من بقاء الاستثناء ذاته. وقد أعيد إدراج الأمثلة في تحديث السياسة الذي تم بتاريخ 8 فبراير 2024. ومع ذلك، لم توضح تحديثات ديسمبر 2023 ولا فبراير 2024 صراحةً أن الإشارات غير الواضحة أو التي لا سياق لها لأفراد مصنّفين أو منظمات مصنّفة لن تستفيد من هذه الاستثناءات، حيث تتحدد بعدم وجود نية واضحة معلنة في المنشور نفسه.

9. بدأت Meta عملية تطوير للسياسة عام 2020 لإعادة تقييم نهجها في التعامل مع كلمة "شهيد". وشمل ذلك مراجعة الأبحاث والتشاور مع أصحاب المصلحة. وقد وصفت Meta إحدى النتائج الرئيسية لتفاعل أصحاب المصلحة هذا بأن معنى كلمة "شهيد" يعتمد على السياق، و"أن هذه الكلمة أصبحت في بعض الحالات أقل حساسية وبُعدًا عن الإشادة". وفي الوقت ذاته، هناك بلا شك حالات يتم فيها استخدام كلمة "شهيد" وفهمها على أنها إشادة بشخص مصنّف. ويشكّل تحديد اختلافات النوايا في منشور واحد تحديًا بطبيعته وخاصة عند العمل على نطاق واسع. وخلال هذه العملية، كما هو موضح في طلبها، حددت Meta اثنين من خيارات السياسة كبدائل محتملة لطريقة تعاملها الحالية مع كلمة "شهيد". ومع ذلك، لم تتوافق آراء أصحاب المصلحة بشأن الخيار الأفضل ومن ثم لم تستقر Meta على تحديد نهج جديد. وتشدّد الشركة على أنه بسبب حجم المحتوى الموجود على منصاتها، يتمثل الهاجس الرئيسي الذي يواجهها في تحديد ما إذا كانت أي سياسة معدّلة قابلة للتطبيق على نطاق واسع.

3. تغييرات السياسة التي طلبت Meta من المجلس النظر فيها

10. قدمت Meta خيارات السياسة التالية للمجلس لدراستها، قبل قيامها باستبدال حظر "الإشادة" بحظر "التمجيد" و"الإشارات غير الواضحة":

1) الاستمرار في إزالة كل عناصر المحتوى التي تستخدم كلمة "شهيد" للإشارة إلى أي فرد مُصنّف على أنه خطير بموجب سياسة المنظمات الخطرة والأفراد الخطرين.

2) السماح بالمحتوى الذي يشير إلى شخص مُصنّف على أنه "شهيد" عند استيفاء الشروط التالية: (1) الاستخدام في سياق مسموح به بموجب سياسة المنظمات الخطرة والأفراد الخطرين (مثل الإدانة، أو التقارير الإخبارية، أو النقاش الأكاديمي أو الخطاب الاجتماعي والسياسي)؛ و(2) عدم وجود أي إشادة أو تمثيل أو دعم موضوعي آخر لشخص مُصنّف (على سبيل المثال، لا يشيد المنشور صراحة بمرتكب الهجوم الإرهابي أو يضفي الشرعية على عنفه)؛ و(3) عدم وجود إشارة عنف في المحتوى. تتألف الإشارات المقترحة من Meta من: تصوير مرئي لسلاح؛ أو عبارة تنم عن وجود نية أو تأييد لاستخدام الأسلحة أو حملها؛ أو إشارة إلى لغة عسكرية؛ أو إشارة إلى إحراق متعمد أو نهب أو أي إتلاف آخر للممتلكات؛ أو إشارة إلى حوادث عنف معروفة على أرض الواقع؛ وعبارات تنم عن نية لارتكاب أعمال عنف ضد الأشخاص أو الدعوة إليها أو تمثيلها أو دعمها أو تأييدها.

3) إزالة المحتوى الذي يستخدم كلمة "شهيد" للإشارة إلى فرد مصنّف على أنه خطير بموجب سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين فقط عند وجود إشادة أو تمثيل أو دعم موضوعي إضافي، أو إشارات عنف. وهذه الإشارات هي نفسها الموضحة في الخيار الثاني.

11. يسعى الخياران الثاني والثالث للتوصل إلى فهم استخدام كلمة "شهيد" بطريقة تأخذ السياق في الحسبان بشكل أكبر، ويبدو أنهما لا يختلفان كثيرًا في النتائج المرجوة. ويبدو أن هناك تقارب بين الخيارين لدرجة أن Meta قامت بتوسيع نطاق الاستثناءات السياقية التي توفرها للحظر التي تفرضه على الإشادة ("التمجيد" حاليًا) بوجه عام (راجع الفقرة 8 أعلاه). وكما يفهم المجلس، بعد سؤال Meta عن الاختلافات بين هذين الخيارين في التطبيق والنتائج، فإن الاختلاف الرئيسي هو أن الخيار الثاني سيتطلب من Meta البحث والتأكيد على أن أحد الاستثناءات (نشر التقارير والمناقشة الحيادية والإدانة) ينطبق على المحتوى، في حين أن الخيار الثالث يتجاهل هذه الخطوة ويأخذ في الحسبان فقط ما إذا كان المنشور يحتوي أيضًا على إشادة إضافية ("تمجيد" أو "إشارات غير واضحة" حاليًا) أو إحدى إشارات العنف الستة المذكورة. وفيما يتعلق بجميع الخيارات المقترحة من Meta، سيتم تطبيق السياسة بطريقة تؤدي إلى التعامل مع أي محتوى يذكر أفرادًا مصنّفين على أنهم خطرين أو يصوّرهم مع عدم وضوح النية أو غموضها افتراضيًا على أنه يشكّل انتهاكًا للسياسة، مما يضع عبء توضيح النية على المستخدم. تدمج تغييرات ديسمبر 2023 هذا التطبيق في معيار المجتمع بشأن المنظمات الخطرة والأفراد الخطرين، موضحة أنه بالنسبة إلى كيانات الفئة الأولى والأحداث المصنّفة، فإن السياسة تحظر "الإشارات غير الواضحة أو التي لا سياق لها"، والتي تتضمن "الفكاهة غير الواضحة أو الإشارات الإيجابية أو التي لا يوجد بها شرح توضيحي والتي لا تمجّد أعمال العنف أو الكراهية التي يمارسها الكيان المُصنّف". على سبيل المثال، ستتم إزالة أي صورة لفرد مصنّف لا تصاحبها أي كلمة أو تعليق آخر، بموجب السياسة التي تحظر الإشارات غير الواضحة لأن نية المستخدم لم تكن واضحة بما فيه الكفاية.

12. في حين نظر المجلس في الخيارات التي قدمتها شركة Meta، فقد نظر أيضًا في خيارات أخرى وأخذ تغييرات التي أُجريت على السياسة في ديسمبر 2023 في الاعتبار. وبالإضافة إلى ذلك، ونظرًا لأن الطلب الذي قدمته Meta إلى المجلس سعى مباشرةً للحصول على توصيات بشأن السياسة للتعامل مع التحديات المماثلة في المستقبل، فقد قام المجلس بتقييم المشكلات ذات الصلة المتعلقة بممارسات الإنفاذ والشفافية لدى شركة Meta على صعيد الجوانب الواضحة في هذا الرأي الاستشاري بشأن سياسة المحتوى، والتي لها في الوقت ذاته آثار على الحرية التعبير وحقوق الإنسان الأخرى على نطاق أوسع.

4. الأسئلة التي طرحها المجلس على شركة Meta

13. طرح المجلس 41 سؤالاً كتابيًا على شركة Meta. تناولت الأسئلة مبادئ سياسة معيار المجتمع بشأن المنظمات الخطرة والأفراد الخطرين، والأدلة على الضرر الذي قد يترتب على السماح "بالإشادة" على منصات Meta، وعمليات الإنفاذ البشرية والتلقائية لدى Meta، وعملية التصنيف التي تتبعها Meta وقائمتها للكيانات المصنّفة، ونظام الإنذارات لدى Meta والآثار المترتبة عمليًا على تبني خيار السياسة الثاني أو الثالث. في أكتوبر 2023، طرح المجلس أسئلة متابعة بشأن اتجاهات المحتوى لكلمة "شهيد" فيما يتعلق بهجمات 7 أكتوبر على إسرائيل والتي وصفت بأنها إرهابية والرد العسكري المستمر من جانب إسرائيل، وما إذا كان تحليل Meta لخيارات السياسة التي اقترحتها على المجلس في طلبها قد تغيرت في ضوء الأزمة الحالية أم لا. طرح المجلس ثلاثة أسئلة إضافية بشأن تحديث Meta للسياسة في 29 ديسمبر 2023. تمت الإجابة عن 40 سؤالاً إجمالاً وتمت الإجابة عن سؤال واحد جزئيًا. اكتفت Meta بتقديم قائمة الكيانات المصنّفة من الفئة الأولى إلى المجلس ولم تشارك قوائم الفئتين الثانية والثالثة، موضحة أن "الإشادة" محظورة فقط عند الإشارة إلى الفئة الأولى.

2. تفاعل أصحاب المصلحة

14. تلقى مجلس الإشراف 101 تعليقًا عامًا استوفت شروط إرسال التعليقات. وقد تم تقديم 72 تعليقًا من الولايات المتحدة وكندا؛ و15 تعليقًا من الشرق الأوسط وشمال أفريقيا؛ وثمانية تعليقات من أوروبا؛ وثلاثة تعليقات من آسيا والمحيط الهادئ والأوقيانوس؛ وتعليقين من أمريكا اللاتينية ومنطقة الكاريبي؛ وتعليق من وسط وجنوب آسيا. تم تلقّي جميع التعليقات قبل 10 أبريل 2023. للاطلاع على التعليقات العامة المقدمة التي وافق أصحابها على نشرها، انقر هنا.

15. تناولت التعليقات المقدمة العديد من القضايا. وضحت الكثير من التعليقات المعاني المتعددة لكلمة "شهيد" وبالتالي، التأثير السلبي لتعامل Meta افتراضيًا مع هذه الكلمة على أنها "إشادة" على حرية التعبير، وتحديدًا الخطاب السياسي وتوثيق حقوق الإنسان. وتطرقت التعليقات أيضًا إلى المخاوف بشأن الاستعانة بالأتمتة في الإنفاذ، بالإضافة إلى قائمة Meta للكيانات المصنّفة، وقضايا الشفافية والتحيز المحتمل في عملية التصنيف. وقد أعربت تعليقات أخرى عن قلقها من أن تؤدي تغييرات سياسة المحتوى إلى تطبيع الجماعات الإرهابية وزيادة العنف، لا سيّما في إسرائيل والأراضي الفلسطينية المحتلة.

16. عقد المجلس ثلاث اجتماعات مائدة مستديرة إقليمية لأصحاب المصلحة في جنوب غرب آسيا وشمال أفريقيا، وأفريقيا جنوب الصحراء الكبرى، وجنوب شرق آسيا. وبالإضافة إلى ذلك، عُقد اثنان من اجتماعات المائدة المستديرة حول موضوعين، أحدهما بشأن أتمتة الإشراف على المحتوى والآخر بشأن مكافحة الإرهاب وحقوق الإنسان. وأكد المشاركون أن لكلمة "شهيد" الكثير من المعاني. يعد الاستشهاد أحد المعاني المحتملة، بما في ذلك لموت أحد الأفراد أثناء ارتكاب أعمال إرهاب، ولكن غالبًا ما تُستخدم كلمة "شهيد" في سياقات أخرى، مثل استخدامها كوصف لضحايا العنف في تلك الهجمات. وقد أعرب الكثير من المشاركين، بما في ذلك أعضاء المجتمعات المتأثرة، وخبراء مكافحة الإرهاب وخبراء الإشراف على المحتوى عن مخاوفهم بشأن التحيز في السياسة وناقشوا ما يمكن أن تمثله من تأثير سلبي على حرية التعبير، وتحديدًا للمتحدثين باللغة العربية والمجتمعات الأخرى التي تستخدم كلمة "شهيد". وقد تضمنت الموضوعات الأخرى عدم وجود أدلة تبرهن على عدم وجود علاقة سببية بين استخدام كلمة "شهيد" كإشارة إلى أفراد مصنّفين وحدوث أضرار على أرض الواقع، وهو ما أكده خبراء الأمن القومي ومكافحة الإرهاب. وبالمثل، كانت هناك مخاوف من أن عدم الإشراف على هذه الكلمة تمامًا من شأنه أن يسمح بتطبيع الأفراد المصنّفين ومنظماتهم، والتي يمكن أن تستخدم وسائل التواصل الاجتماعي للتجنيد وغير ذلك من أشكال الدعم الموضوعي. وقد تضمنت الموضوعات الأخرى المخاوف بشأن جودة الأتمتة التي تستعين بها Meta في الإشراف على الكلمة ودعوات المشاركين للتحلي بمزيد من الشفافية بشأن استخدامها، وكذلك بشأن قائمة Meta للكيانات المصنّفة وعملية التصنيف التي تتبعها.

17. للاطلاع على تقرير بشأن اجتماعات المائدة المستديرة لتفاعل أصحاب المصلحة، يرجى النقر هنا (للاطلاع على الإصدار باللغة العربية، يرجى النقر هنا).

3. سُلطة ونطاق مجلس الإشراف

18. يجوز لشركة Meta طلب آراء استشارية بشأن سياسات المحتوى من المجلس (القسم 7.3، المادة 3 من اتفاقية المجلس) ويتمتع المجلس بسلطة تقديرية لقبول طلبات Meta أو رفضها (القسم 2.1.3، المادة 2 من اللائحة الداخلية). وتكون هذه الآراء استشارية (القسم 7.3 ، المادة 3 من اتفاقية المجلس). ويتعين على Meta الرد على هذا الرأي في غضون 60 يومًا من نشره (القسم 2.3.2، المادة 2 من اللائحة الداخلية). ويراقب المجلس تنفيذ التوصيات التي تعهدت Meta بتنفيذها، ويجوز له متابعة أي توصيات سابقة في القرارات التي أصدرها بشأن الحالات.

4. مصادر السُلطة والإرشادات

1. التوصيات السابقة لمجلس الإشراف

19. أوصى المجلس في حالات سابقة بتوضيح وتضييق نطاق سياسة المنظمات الخطرة والأفراد الخطرين، وتحسين الإجراءات الواجبة والشفافية فيما يتعلق بالإنفاذ.

20. فيما يتعلق بتحسين وضوح السياسة وتضييق نطاقها، أوصى المجلس Meta بما يلي:

• تضييق نطاق تعريف "الإشادة" في "الأسئلة المعروفة" وهي التوجيهات المقدمة إلى المراجعين ( ذِكر طالبان في التقارير الإخبارية، التوصية رقم 3).
• مراجعة الإرشادات الداخلية لتوضيح أن استثناء "نشر التقارير" في سياسة المنظمات الخطرة والأفراد الخطرين يسمح بالتصريحات الإيجابية بشأن الكيانات المصنّفة كجزء من نشر التقارير، وكيفية تمييز ذلك عن "الإشادة" المحظورة ( ذِكر طالبان في التقارير الإخبارية، التوصية رقم 4).
• إضافة معايير وأمثلة توضيحية لسياستها لتعزيز فهم استثناءات المناقشات الحيادية والإدانة والتقارير الإخبارية ( مشاركة منشور الجزيرة، التوصية رقم 1).
• تحديث مبادئ السياسة لتعكس أن احترام حرية التعبير وحقوق الإنسان الأخرى يمكن أن يعزز قيمة السلامة التي تتبناها Meta وتحدد بمزيد من التفصيل "الأضرار على أرض الواقع" التي تسعى السياسة إلى منع وتعطيل حدوثها عند قمع قيمة حرية الرأي ( عزلة أوجلان، التوصية رقم 4).
• شرح كيفية إبداء المستخدمين لنواياهم من المنشورات بشكل واضح لتستفيد منشوراتهم من استثناءات السياسة ( عزلة أوجلان، التوصية رقم 6).
• شرح وإيراد أمثلة لتطبيق أهم المصطلحات في سياسة المنظمات الخطرة والأفراد الخطرين، بما في ذلك معنى "الإشادة" وتوفير إرشادات أكثر وضوحًا للمستخدمين بشأن كيفية توضيح نواياهم ( الاقتباس النازي، التوصية رقم 2).

21. فيما يتعلق بنظام الإنذارات لدى Meta، أوصى المجلس Meta بما يلي:

• شرح نظام الإنذارات والعقوبات المتبع في تقييد الملفات الشخصية والصفحات والمجموعات والحسابات على فيسبوك وInstagram بطريقة واضحة وشاملة ويسهل الوصول إليها ( تعليق حسابات الرئيس السابق ترامب، التوصية رقم 15).
• جعل تفسيرها المعلن لنظام الإنذارات ثنائي المسارات أكثر شمولاً وأسهل وصولاً، وتوفير المزيد من المعلومات الأساسية عن "الإنذارات الشديدة" ( ذِكر إلى طالبان في التقارير الإخبارية، التوصية رقم 2).
• إمداد المستخدمين بمعلومات يسهل الوصول إليها عن عدد الانتهاكات والإنذارات والعقوبات التي تم تقييمها ضدهم، بالإضافة إلى التبعات التي ستترتب على ارتكاب أي انتهاكات في المستقبل (تعليق حسابات الرئيس السابق ترامب، التوصية رقم 16).

22. فيما يتعلق بالشفافية، أوصى المجلس Meta بما يلي:

• مشاركة قائمتها للكيانات المصنّفة بشكل علني، أو على الأقل تقديم أمثلة توضيحية للكيانات المصنّفة ( الاقتباس النازي، التوصية رقم 3).
• تحسين تقارير الإنفاذ من خلال تضمين أعداد عمليات تقييد الملفات الشخصية والصفحات والحسابات (بالإضافة إلى قرارات إزالة المحتوى)، مع تقسيم المعلومات حسب المنطقة والبلد ( تعليق حسابات الرئيس السابق ترامب، التوصية رقم 17).
• تضمين معلومات أكثر شمولاً عن معدلات الخطأ في إنفاذ القواعد فيما يتعلق "بالإشادة" بالأفراد الخطرين والمنظمات الخطرة و"دعمهم"، مقسمة حسب المنطقة واللغة ( عزلة أوجلان، التوصية رقم 12).
• زيادة مقدار المعلومات العلنية بشأن معدلات الأخطاء وإتاحة الاطلاع عليها حسب البلد واللغة لكل معيار مجتمع ( مخاوف البنجابيين تجاه منظمة راشتريا سوايامسيفاك سانغ (RSS) في الهند، التوصية رقم 3).

23. فيما يتعلق بالأتمتة، أوصى المجلس Meta بما يلي:

• إبلاغ المستخدمين عند الاستعانة بالأتمتة في اتخاذ قرارات الإنفاذ بشأن المحتوى الخاص بهم، بما في ذلك تقديم أوصاف يسهل الوصول إليها لما يعنيه ذلك ( أعراض سرطان الثدي والعُري، التوصية رقم 3).
• توسيع نطاق تقارير الشفافية للكشف عن البيانات المتعلقة بعدد قرارات الإزالة التلقائية لكل معيار من معايير المجتمع، ونسبة القرارات التي تم تصحيحها لاحقًا بعد المراجعة البشرية ( أعراض سرطان الثدي والعُري، التوصية رقم 6).
• نشر معدلات الخطأ في إضافة عناصر المحتوى بالخطأ إلى بنوك خدمة مطابقة الوسائط للمحتوى المخالف، مقسمة حسب كل سياسة من سياسات المحتوى، وذلك من خلال تقارير الشفافية الصادرة عن الشركة. ويجب أن تتضمن هذه التقارير معلومات عن كيفية دخول المحتوى إلى البنوك وجهود الشركة لتقليل الأخطاء في هذه العملية ( الرسم الكاريكاتوري للشرطة الكولومبية، التوصية رقم 3).
• تقديم تفسير علني عن العمليات التلقائية لترتيب أولوية الطعون وإغلاقها ( شعار الاحتجاجات في إيران، التوصية رقم 7).

24. لعرض موقف تنفيذ هذه التوصيات السابقة في توقيت وضع هذا الرأي الاستشاري في صيغته النهائية، يرجى النقر هنا (للاطلاع على الإصدار باللغة العربية، يرجى النقر هنا).

2. قيم Meta ومسؤولياتها تجاه حقوق الإنسان

25. استند تحليل المجلس وتوصياته في هذا الرأي الاستشاري بشأن سياسات المحتوى إلى قيم Meta ومسؤولياتها تجاه حقوق الإنسان.

26. تصف Meta قيمة حرية الرأي بأنها "ذات أهمية قصوى"، مشيرة إلى إمكانية تقييدها لخدمة أربع قيم أخرى، وأوثقها صلة بهذا الرأي الاستشاري بشأن سياسات المحتوى هي قيمة "السلامة". ولحماية قيمة "السلامة" تعمل Meta على "إزالة المحتوى الذي قد يسهم في مخاطر إلحاق ضرر بالأمان البدني للأشخاص". ولا تسمح أيضًا "بالمحتوى الذي يحمل تهديدًا للأشخاص" لأنه "قد يتسبب في إخافة الآخرين أو إقصائهم أو إسكاتهم".

27. في 16 مارس 2021، أعلنت Meta عن سياسة حقوق الإنسان الخاصة بالشركة، التي أوضحت من خلالها التزامها تجاه احترام الحقوق على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP). وتُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. وتعني هذه المسؤوليات، من بين أمور أخرى، أنه يتعين على الشركات "تجنب انتهاك حقوق الإنسان الخاصة بالآخرين ومعالجة ما تقع فيه من آثار ضارة بهذه الحقوق،" (المبدأ 11، مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان). ويتوقع من الشركات: "(أ) أن تتجنب التسبب في الآثار الضارة بحقوق الإنسان أو المساهمة فيها من خلال الأنشطة التي تضطلع بها، وأن تعالج هذه الآثار عند وقوعها؛ و(ب) أن تسعى إلى منع الآثار الضارة بحقوق الإنسان التي ترتبط ارتباطًا مباشرًا بعملياتها أو منتجاتها أو خدماتها في إطار علاقاتها التجارية، حتى عندما لا تسهم في هذه الآثار،" (المبدأ 13، مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان).

28. كما يُقر الطلب الذي قدمته Meta إلى المجلس، فإن ممارساتها في الإشراف على المحتوى قد تترك آثارًا سلبية على الحق في حرية التعبير. توفر الفقرة 2 من المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR) حماية واسعة لهذا الحق، نظرًا لأهميته للخطاب السياسي، وقد أشارت لجنة حقوق الإنسان أنها تحمي أيضًا التعبير الذي قد يعتبر مسيئًا للغاية ( التعليق العام رقم 34، الفقرات 11 و13 و38). عند فرض الدولة لقيود على حرية التعبير، يجب أن تفي تلك القيود بمتطلبات الشرعية والهدف المشروع والضرورة والتناسب (الفقرة 3، المادة 19، العهد الدولي الخاص بالحقوق المدنية والسياسية). وتتم الإشارة إلى هذه المتطلبات غالبًا باسم "الاختبار الثلاثي". يستخدم المجلس إطار العمل هذا لتفسير التزامات Meta الطوعية تجاه حقوق الإنسان، سواء فيما يتعلق بقرارات المحتوى الفردي الذي يخضع للمراجعة ونهج Meta الأوسع تجاه إدارة المحتوى. وكما ذكر مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير أنه على الرغم من أن "الشركات لا تتحمل التزامات الحكومات، لكن تأثيرها من النوع الذي يتطلب منها تقييم نفس النوع من الأسئلة المتعلقة بحماية حقوق مستخدميها في حرية التعبير،" ( تقرير A/74/486، الفقرة 41).

29. الحق في حرية التعبير مكفول لجميع الأشخاص على قدم المساواة ويجب ألا تكون أي قيود تُفرض على هذا الحق تمييزية، بما في ذلك على أساس الدين أو المعتقد، أو اللغة أو الأصل القومي (المادتان 2 و26 من العهد الدولي الخاص بالحقوق المدنية والسياسية).

الشرعية (وضوح القواعد وسهولة الوصول إليها)

30. يجب أن تكون أي قيود تُفرض على حرية التعبير معلنة وواضحة في نطاقها ومعناها وأثرها لإرشاد المستخدمين ومراجعي المحتوى بشأن المحتوى المسموح به أو المحظور. وقد يؤدي انعدام الوضوح أو الدقة إلى إنفاذ القواعد بشكل غير متسق أو عشوائي (تقرير مقرر الأمم المتحدة الخاص A/HRC/38/35، الفقرة 46). وقد سبق للمجلس أن انتقد عدم وضوح سياسة المنظمات الخطرة والأفراد الخطرين وأوصى Meta بتحسين سياستها ( عزلة أوجلان، التوصيتان 4 و6؛ مشاركة منشور الجزيرة، التوصية رقم 1؛ ذِكر طالبان في التقارير الإخبارية، التوصيتان 3 و4). وقد نفذت Meta توصيات المجلس لاحقًا لتوضيح تعريفها للإشادة.

31. ومع ذلك، فقد أثار تحديث Meta لسياسة المنظمات الخطرة والأفراد الخطرين لشهر ديسمبر 2023 مخاوف جديدة بشأن الشرعية. على الرغم من إيراد Meta أمثلة للمنشورات التي تنتهك حظر "التمثيل" و"الدعم" و"التمجيد"، فإنها لم تورد أمثلة "للإشارات غير الواضحة" المخالفة. وتهدف توصيات المجلس في هذا الرأي الاستشاري بشأن سياسات المحتوى إلى تحسين وضوح قواعد Meta وإمكانية الوصول إليها بطريقة أكبر.

الهدف المشروع

32. تنص الفقرة 3 من المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية على ضرورة أن تسعى أي قيود تفرض على حرية التعبير إلى تحقيق هدف مشروع، وهو ما يتضمن حماية حقوق الآخرين وحماية المصالح المجتمعية الأوسع، مثل الأمن القومي (راجع أيضًا التعليق العام رقم 34، الفقرتان 21 و30). تشرح مبادئ سياسة معيار مجتمع Meta بشأن المنظمات الخطرة والأفراد الخطرين أنها تسعى إلى "منع إلحاق أضرار فعلية على أرض الواقع وإيقافها"، والذي وجد المجلس في حالات مختلفة أنه يتماشى مع الهدف المشروع المتمثل في حماية حقوق الآخرين، بما في ذلك الحق في الحياة (المادة 6 من العهد الدولي الخاص بالحقوق المدنية والسياسية). وقد أقر المجلس سابقًا أيضًا أن الإشادة بالكيانات المصنّفة قد تشكّل خطرًا يتمثل في إلحاق الضرر بحقوق الآخرين وأن السعي إلى التخفيف من تلك الأضرار من خلال حظر الإشادة في معيار المجتمع بشأن المنظمات الخطرة والأفراد الخطرين يسعى إلى تحقيق هدف مشروع ( ذِكر طالبان في التقارير الإخبارية).

الضرورة والتناسب

33. يجب أن تكون أي قيود تُفرض على حرية التعبير "مناسبة لتحقيق وظيفة الحماية المنوطة بها، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها،" (التعليق العام رقم 34، الفقرة 34).

34. يدعو قرار مجلس الأمن التابع للأمم المتحدة رقم 1624 (2005) الدول، حسبما يكون لازمًا ومناسبًا، ومتمشيًا مع التزاماتها بموجب القانون الدولي، إلى "أن تحظر بنص القانون التحريض على ارتكاب عمل أو أعمال إرهابية" (الفقرة 1 أ)، وأعربت القرارات اللاحقة عن القلق بشأن استخدام المنظمات الإرهابية للإنترنت ( قرار مجلس الأمن التابع للأمم المتحدة رقم 2178 (2014) وقرار مجلس الأمن التابع للأمم المتحدة رقم 2396 (2017)). وبينما تعيد هذه القرارات التأكيد على ضرورة تصدي الدول للإرهاب ومنعه بما يتماشى مع التزاماتها بموجب القانون الدولي لحقوق الإنسان، فقد أثار مقرر الأمم المتحدة الخاص المعني بتعزيز وحماية حقوق الإنسان والحريات الأساسية في سياق مكافحة الإرهاب مخاوف بشأن غموض القوانين عند محاولة تنفيذ التزاماتها، بما في ذلك تلك المتعلقة بالتعبير عبر الإنترنت، وكذلك تركيزها على محتوى الخطاب بدلاً من التركيز على نية المتحدث أو تأثير ذلك الخطاب على الآخرين (القرار A/HRC/40/52، الفقرة 37). وخلُص المقرر الخاص إلى أن تجريم الدعاية الإرهابية "يتطلب احتمالاً معقولاً بأن ينجح التعبير المعني في التحريض على ارتكاب فعل إرهابي، وبالتالي إنشاء درجة من العلاقة السببية أو الخطر الفعلي في أن تحدث النتيجة المحظورة،" ( المرجع نفسه). وينص الإعلان المشترك بشأن الإنترنت وتدابير مكافحة الإرهاب الصادر عن مقرر الأمم المتحدة الخاص المعني بحرية التعبير، وممثل منظمة الأمن والتعاون الأوروبي المعني بحرية وسائل الإعلام، والمقرر الخاص لمنظمة الدول الأمريكية المعني بحرية التعبير، المؤرخ في 21 ديسمبر 2005، على أنه دون أن يتبين بوضوح أن الخطاب المعني يشكل دعوة مباشرة ومتعمدة للآخرين للانخراط في أعمال إرهابية، ويزيد بشكل مباشر من احتمال وقوع عمل إرهابي، لا يجوز للدولة تقييد الخطاب ومعاقبته بتدابير عقابية (صفحة 39). كما حدد المقرر الخاص المعني بحرية التعبير عتبة عالية في تقريره A/HRC/17/27 (16 مايو 2011، الفقرة 36)، مشيرًا إلى ضرورة عدم تقييد التعبير إلا لأغراض الأمن القومي أو مكافحة الإرهاب ما لم يثبُت" (أ) أن القصد من التعبير هو التحريض على عنف وشيك؛ و(ب) أنه من المرجح أن يحرض التعبير على مثل هذا العنف؛ و(ج) أن هناك رابطًا مباشرًا وفوريًا بين التعبير واحتمال حدوث ذلك العنف أو حدوثه بالفعل". ووفقاً للجنة حقوق الإنسان، عندما تحظر تدابير مكافحة الإرهاب خطابًا معينًا، يجب وضع "تعريفات واضحة" لمصطلحات مثل "التشجيع" و"التمجيد" و"الإشادة" ويجب ألا يتم "الحد بشكل غير مبرر من الدور الحاسم الذي تلعبه وسائل الإعلام في إعلام الجمهور بأعمال الإرهاب" ( التعليق العام رقم 34، الفقرتان 30 و46).

35. ورغم أن هذه المبادئ والمعايير تشكّل نقطة انطلاق مهمة لتحليل المجلس، فإن الالتزامات والقيود التي يفرضها القانون الدولي لحقوق الإنسان على الدول لا تتطابق مع المسؤوليات والسلطة التقديرية للشركات الخاصة في هذا المجال. ولا يُعد تطبيق العقوبات الجنائية من قبل الدولة مكافئًا للإشراف على المحتوى على منصات التواصل الاجتماعي، ويدرك المجلس أن شركة Meta، باعتبارها شركة خاصة وليست دولة، قادرة على اتخاذ، وتتخذ أحيانًا، نهجًا في التعامل مع التعبير أكثر تقييدًا مما يمكن تبريره من قبل الدول، مع الأخذ في الاعتبار كل من قيم الشركة (انظر الفقرات 27 و28 أعلاه) والتحديات المميزة المتمثلة في الإشراف على المحتوى على نطاق واسع. وفقًا لمقرر الأمم المتحدة الخاص المعني بحرية التعبير: "في الحالات التي تكون فيها قواعد الشركات مختلفة عن المعايير الدولية، ينبغي للشركات أن تقدم مسبقًا تفسيرًا معللاً للاختلاف في السياسة، على نحو يوضح ذلك التباين،" (تقرير عن الخطاب الذي يحض على الكراهية على الإنترنت للمقرر الخاص المعني بحرية التعبير، A/74/486، ‏9 أكتوبر 2019، الفقرة 48). وقد استكشف المجلس، في العديد من قراراته السابقة، كيفية ترجمة المعايير الدولية المصممة للدول بشكل مناسب إلى مسؤوليات للشركات تجاه حقوق الإنسان، عند تقييم شرط التناسب، الذي يسعى إلى تحقيقه أيضًا من خلال هذا الرأي الاستشاري بشأن سياسات المحتوى.

36. فحصت أيضًا قرارات المجلس السابقة المتعلقة بمعيار المجتمع بشأن المنظمات الخطرة والأفراد الخطرين مسؤوليات Meta تجاه حقوق الإنسان فيما يتعلق "بالإشادة" بالكيانات المصنّفة. وفي حين يعد منع إساءة استخدام منصات Meta من قبل كيانات مصنّفة تسعى إلى التحريض على العنف، والتجنيد أو المشاركة في أشكال أخرى من الدعم المادي، هدفًا مشروعًا، فقد وجد المجلس حالات مختلفة أدى فيها فرض حظر واسع النطاق أو غير دقيق على "الإشادة" إلى تقييد حرية التعبير لدى المستخدمين بشكل غير ضروري وغير متناسب. على سبيل المثال، ألغى المجلس قرار إزالة مقالة منشورة في إحدى الصحف الناطقة باللغة الأردية حول إعلان طالبان عن خطط لإعادة تعليم النساء والفتيات، حيث وجد أنها لم تكن "إشادة" ( ذِكر طالبان في التقارير الإخبارية). وبالمثل، فقد ألغى المجلس قرار Meta بإزالة منشور ينسب فيه أحد المستخدمين بشكل خاطئ اقتباسًا إلى جوزيف جوبلز ( الاقتباس النازي) لوجود سياق كافٍ لتوضيح أن المنشور لم يكن يشيد بالأيديولوجية النازية وإنما يشارك في مناقشة سياسية في الولايات المتحدة. وألغى المجلس أيضًا قرار Meta بإزالة منشور يشارك مقالًا إخباريًا على قناة الجزيرة يتحدث عن إصدار مجموعة إرهابية مصنّفة تهديدًا بالعنف، والذي كان ينبغي أن يظل على المنصة، مما يثير المخاوف بشأن الآثار التمييزية المحتملة لسياسات Meta ( مشاركة منشور الجزيرة). في قراراته الموجزة والسريعة، ألغى المجلس أو حث على إلغاء العديد من قرارات Meta بإزالة منشورات على فيسبوك وInstagram أزيلت في بادئ الأمر باعتبارها إشادة بأفراد مصنّفين ( الزعيم المناهض للاستعمار أميلكار كابرال؛ الناشط اللبناني؛ التعامل مع معاداة السامية؛ الدائرة الانتخابية الفيدرالية في نيجيريا؛ تعليم الفتيات في أفغانستان؛ ذِكر حركة الشباب؛ الحمد لله؛ والرهائن الإسرائيليون). ولا تزال العديد من هذه القرارات ذات صلة، على الرغم من التغييرات الأخيرة التي أجرتها Meta على سياسة المنظمات الخطرة والأفراد الخطرين. وسيواصل المجلس فحص هذه السياسة في الحالات المستقبلية، بما في ذلك ما يتعلق بالأحكام الجديدة المتعلقة بالتمجيد و"الإشارات غير الواضحة".

6. التوصيات والتحليل

37. يُصدر مجلس الإشراف سبع توصيات لشركة Meta بشأن سياسة المحتوى والإنفاذ والشفافية. ويعتقد المجلس أن هذه التوصيات قابلة للتنفيذ على نطاق واسع وستؤدي إلى تعزيز التزام Meta بقيم حرية الرأي والسلامة التي تتبناها، مع تعزيز احترامها أيضًا لحرية التعبير وحقوق الإنسان الأخرى، فضلاً عن الشفافية.

6.1 سياسة Meta بشأن كلمة "شهيد

التوصية رقم 1 - سياسة المحتوى: يجب أن تتوقف Meta عن افتراض أن كلمة "شهيد" تشكّل انتهاكًا في جميع الأحوال وأنها غير مؤهلة لأي من استثناءات السياسة، عند استخدامها للإشارة إلى فرد مصنّف أو أعضاء غير محددين في منظمة مصنّفة. يجب إزالة المحتوى الذي يشير إلى فرد مصنّف على أنه "شهيد" باعتبار ذلك "إشارة غير واضحة" في حالتين فقط. أولاً، عند وجود واحدة أو أكثر من ثلاث إشارات للعنف: تصوير مرئي لسلاح أو عبارة تنم عن نية أو تأييد لاستخدام أو حمل الأسلحة، أو إشارة إلى حدث مصنّف. ثانيًا، عندما ينتهك المحتوى سياسات Meta بطريقة أخرى (على سبيل المثال، بسبب التمجيد أو لأن الإشارة إلى فرد مصنّف لا تزال غير واضحة لأسباب أخرى غير استخدام كلمة "شهيد"). في أي من الحالتين، ينبغي أن يظل المحتوى مؤهلاً لاستثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بتحديث معايير مجتمعها بشكل علني لتنص على أن الإشارات إلى الأفراد المصنّفين على أنهم "شهداء" غير مسموح بها عند وجود واحدة أو أكثر من إشارات العنف الثلاث المذكورة.

التوصية رقم 2 - سياسة المحتوى: لتوضيح الحظر المفروض على "الإشارات غير الواضحة"، يجب على Meta تضمين عدة أمثلة للمحتوى المخالف، بما في ذلك منشور يشير إلى فرد مصنّف باستخدام كلمة "شهيد" مع إشارة أو أكثر من الإشارات الثلاث الموضحة في التوصية رقم 1.

سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بتحديث معايير مجتمعها بشكل علني بأمثلة "للإشارات غير الواضحة".

التوصية رقم 3 - الإنفاذ: يجب أيضًا تحديث إرشادات السياسة الداخلية لشركة Meta لتوضيح أن الإشارة إلى أفراد مصنّفين باستخدام كلمة "شهيد" لا تشكّل انتهاكًا إلا عندما تصحبها إشارات عنف، وأنه حتى مع وجود تلك الإشارات، قد يظل المحتوى يستفيد من استثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

سيعتبر المجلس أن هذه التوصية قد دخلت حيز التنفيذ عندما تقوم Meta بتحديث إرشاداتها للمراجعين للسماح باستفادة كلمة "شهيد" من استثناءات نشر التقارير أو المناقشات الحيادية أو الإدانة، ومشاركة هذه الإرشادات المنقحة مع المجلس.

38. في حين أنه من الضروري أن تسعى Meta إلى منع استخدام منصاتها للتحريض على ارتكاب أعمال عنف إرهابية - وهو هدف مشروع لسياساتها في الإشراف على المحتوى - تتطلب مسؤوليات Meta تجاه حقوق الإنسان أن تكون أي قيود تُفرض على حرية التعبير ضرورية ومتناسبة، وخاصة احترام حرية الرأي لدى الأشخاص في المجتمعات المتضررة من العنف. وعلى الرغم من أن أحد معاني كلمة "شهيد" يتوافق مع الكلمة الإنجليزية "martyr" ويتم استخدامها بهذا المعنى، يرى المجلس أنه ليس من الضروري أو المتناسب أن تقوم Meta بإزالة كل المحتوى فقط بسبب استخدام كلمة "شهيد" عند الإشارة للأفراد المصنّفين. وذلك لأن الحظر القاطع لا يأخذ في الاعتبار التعقيد اللغوي للكلمة، ويؤدي إلى الإفراط في إزالة الخطاب، ويقيّد حرية وسائل الإعلام والساحة المدنية بلا مبرر، وله آثار سلبية خطيرة على المساواة وعدم التمييز. بالإضافة إلى ذلك، في حالة قبول هذه التوصية وتنفيذها، ستظل تفاصيل سياسة Meta التي تحظر "التمجيد" و"الإشارات غير الواضحة" بشكل عام قابلة للتطبيق. ولذلك يجب أن تتوقف Meta عن إزالة المحتوى استنادًا فقط إلى وجود كلمة "شهيد". وبدلاً من ذلك، يجب أن تعتمد Meta نهجًا أكثر مراعاة للسياق، وأن تضع تعريفات واضحة ومحددة لإشارات العنف التي ستؤدي إلى تفسير كلمة "شهيد" على أنها ضارة. وكما هو موضح أدناه، لا يؤيد المجلس بشكل كامل سوى إشارتين فقط من الإشارات الست التي اقترحتها Meta في طلبها، ويوصي بتضييق نطاق الإشارة الثالثة. أما الإشارات الثلاث الأخرى التي اقترحتها Meta - والمقدمة كإرشادات للمراجعين الذين يعملون على إنفاذ سياسة العنف والتحريض وهي سياسة منفصلة - فهي واسعة للغاية بالنسبة إلى أغراض سياسة المنظمات الخطرة والأفراد الخطرين. وفي الوقت نفسه، يوصي المجلس Meta بتطبيق استثناءات على المحتوى الذي ينشر تقارير عن كيان مصنّف أو يدينه أو يناقشه بحيادية عند وجود إشارات عنف. وتنطبق التوصيات المذكورة أعلاه على كلمة "شهيد" بصيغتي المفرد والجمع، وعلى الأشكال المختلفة لكلمة "شهيد" في العديد من اللغات التي اعتمدت هذه الكلمة.

39. أجرى المجلس مشاورات مع الخبراء وأصحاب المصلحة لتقييم الأضرار المحتملة للسماح بالمحتوى الذي يستخدم كلمة "شهيد" للإشارة إلى الكيانات المصنّفة على منصات Meta. وأبدى بعض أصحاب المصلحة قلقهم إزاء تسهيل منصات Meta جهود الدعاية والتجنيد للإرهابيين بالإضافة إلى تعزيز التمييز والعنف، بما في ذلك ضد اليهود (راجع التعليقات العامة، على سبيل المثال PC-11123 – ‏CyberWell Ltd؛ PC-11153 – ‏Stop Antisemitism Now (أوقفوا معاداة السامية الآن)؛ PC-11194 – ‏Committee for Accuracy in the Middle East (لجنة الدقة في الشرق الأوسط)؛ PC-11068 – ‏Canadian Antisemitism Education Foundation (المؤسسة الكندية لمكافحة معاداة السامية من خلال التعليم)). على الرغم من عدم وجود بحث يظهر أي علاقة سببية ملموسة بين كلمة "شهيد" وزيادة العنف أو التمييز (كما سبقت الإشارة إليه في إحالة Meta في الصفحة 10، والتي أعقبت مشاركة الخبراء وأصحاب المصلحة التي أجرتها Meta نفسها قبل طلب الرأي استشاري بشأن سياسات المحتوى)، هناك حالات فردية تربط الرغبة في نيل الشهادة بأعمال العنف. وبشكل أعم، تنتشر على نطاق واسع مخاوف من إمكانية استخدام وسائل التواصل الاجتماعي من قبل المنظمات التي تتبنى العنف للتجنيد وتعزيز ارتكاب الأعمال الإرهابية، وتطبيع الإرهاب وتسهيل التطرف. وقد أكدت المشاركة الواسعة لأصحاب المصلحة والمشاورات التي أجراها المجلس مع الخبراء، والتي تضمنت عقد اجتماع مائدة مستديرة مع خبراء مكافحة الإرهاب (راجع اجتماعات المائدة المستديرة لتفاعل أصحاب المصلحة)، هذه الافتراضات والمخاوف.

40. وصفت العديد من تعليقات الخبراء وأصحاب المصلحة المقدمة إلى المجلس أيضًا الآثار السلبية على حرية التعبير المترتبة على إزالة المحتوى الذي يستخدم كلمة "شهيد" (راجع التعليقات العامة، على سبيل المثال PC-11196 – ‏Integrity Institute (معهد النزاهة)؛ PC-11164 – ‏SMEX، ‏PC-11183 ‏ECNL EFF، ‏PC-11190 – ‏Brennan Centre (مركز برينان)؛ PC-11188 – ‏Digital Rights Foundation (مؤسسة الحقوق الرقمية)). ويشمل ذلك إزالة الخطاب الذي يستخدم كلمة "شهيد" ليس للإشادة أو تمجيد الكيانات المصنّفة وإنما لنشر تقارير عن العنف الذي تمارسه المنظمات الإرهابية أو غيرها من المنظمات المصنّفة، أو للمشاركة في مناقشة سياسية أو أكاديمية حيادية للأفراد المصنّفين.

41. قد توضح الأمثلة التالية نهج Meta عند إزالة المحتوى الذي يستخدم كلمة "شهيد" للإشارة إلى فرد مصنّف:

• تشارك إحدى الحكومات بيانًا صحفيًا على منصات Meta يؤكد وفاة فرد مصنّف، مع وضع كلمة "الشهيد" التشريفية إلى جانب اسمه. هذا المنشور ستتم إزالته لأن Meta تفترض أن كلمة "شهيد" تشكّل انتهاكًا لسياساتها، بغض النظر عن السياق الذي يشير إلى أن هذه مناقشة حيادية.
• يشارك أحد المستخدمين صورة لاحتجاج يشارك فيه، دون وجود شرح توضيحي واضح يفسر سبب الاحتجاج. تحمل عدة لافتات اسم شخص مصنّف متوفى مصحوبًا بكلمة "شهيد". هذا المنشور ستتم إزالته لأن Meta تفترض أن الصورة التي تحتوي على لافتات تحمل اسم الشخص المصنّف، مع وجود كلمة "الشهيد"، تشكّل انتهاكًا لسياساتها.
• يشارك أحد المدافعين عن حقوق الإنسان منشورًا يتضمن وصفًا لإعدام شخص مصنّف بإجراءات مختصرة من قبل الدولة، ويشير إليه بكلمة "شهيد" ويدين سياسة الحكومة في مكافحة الإرهاب. هذا المنشور ستتم إزالته لأن Meta تفترض أن كلمة "شهيد" تشكّل انتهاكًا لسياساتها، بغض النظر عن السياق الذي ينطوي على نشر تقرير عن الواقعة.
• ينشر أحد أعضاء المجتمع المهتمين شكوى بشأن حالة أحد الطرق المحلية، والذي أطلق عليه اسم شخص مصنّف يتضمن كلمة "شهيد" التشريفية. هذا المنشور ستتم إزالته لأن Meta تفترض أن كلمة "شهيد" تشكّل انتهاكًا، بغض النظر عن كون ذِكر الشخص المصنّف قد تم بشكل عرضي ضمن مناقشة تتناول الشؤون المحلية.
• يستخدم أحد أفراد الأسرة كلمة "شهيد" للإشارة إلى شخص عزيز عليه قُتل في هجوم إرهابي ويدين مرتكبي الهجوم، وهم أفراد مصنّفون. على الرغم من أن المنشور لا يشكّل انتهاكًا، فإن الجمع بين استخدام كلمة "شهيد" في سياق يتضمن ذِكر أسماء الجناة أيضًا هو أحد أمثلة المحتوى المؤهل للإزالة الخاطئة، بالنظر إلى النهج القاطع الذي تتبعه Meta.

42. أعرب بعض أصحاب المصلحة عن قلقهم من أن اتباع نهج أقل تقييدًا في التعامل مع استخدام كلمة "شهيد" يمكن أن يكون له أثر تراكمي، على نطاق واسع، في تطبيع الإرهاب. في حين أنه لا يمكن إنكار أن كلمة "شهيد" في بعض الحالات يقصد بها وتشكّل بالفعل شكلاً من أشكال الموافقة أو التأييد لشخص ما وأفعال العنف التي يرتكبها، فإن المجلس لا يعتبر الحظر الشامل الذي تفرضه السياسة على استخدام الكلمة مبررًا على هذه الأسس. وفي ضوء المعلومات التي تلقاها المجلس من أصحاب المصلحة، بما في ذلك خبراء مكافحة الإرهاب ومن أبحاث Meta السابقة ومشاورات أصحاب المصلحة، يخلُص المجلس إلى أن المخاوف بشأن احتمالات أن يكون لمثل هذه الحالات آثار ضارة تراكمية كبيرة تتضاءل أمام التأثير السلبي الملموس للغاية الذي تمثله السياسة الحالية على حرية التعبير. وهو ما ينطبق في هذه الحالة بصفة خاصة لأنه حتى لو تم تنفيذ توصيات المجلس، فستظل هناك حواجز حماية كبيرة لتعزيز أهداف منع العنف والأضرار الأخرى الناتجة عن السماح للإرهابيين ومؤيديهم باستخدام منصات Meta بحرية.

43. ونظر المجلس أيضًا في أن لكلمة "شهيد" معانٍ مختلفة وأنها غالبًا ما تستخدم بطرق لا تحرض على العنف أو الكراهية وإنما لنشر تقارير عن شؤون تتعلق بالمصلحة العامة. ويعني تطبيق حظر شامل إزالة الكثير من المحتوى الذي لا يشكّل ضررًا تسعى سياسات Meta إلى التخفيف من حدته. وفي حين أن الإشراف على المحتوى على نطاق واسع يتطلب أحيانًا قبول نسبة مئوية من أخطاء الإنفاذ، تقع على كاهل Meta مسؤولية المفاضلة بين البدائل استنادًا إلى جميع مسؤولياتها تجاه حقوق الإنسان. واستنادًا إلى كل هذه الاعتبارات، توصل المجلس إلى نتيجة مفادها أن نهجه المقترح يوفق بشكل أفضل بين مسؤوليات Meta الشاملة تجاه حقوق الإنسان.

الأهمية الثقافية والدينية لكلمة "شهيد" وتعدد معانيها

44. تحظى كلمة "شهيد" بأهمية ثقافية ودينية وتُستخدم في العديد من السياقات المختلفة وتحمل معانٍ متعددة. وقد قدمت التعليقات العامة المقدمة إلى المجلس والأبحاث التي أجراها المجلس مزيدًا من الأفكار حول هذه الكلمة. فقد تعني كلمة "شهيد" أن "تشهد شيئًا" أو أن "تدلي بشهادة". وتُستخدم أيضًا كاسم إسلامي وفي بعض المناطق، ومن بينها غرب آسيا وشمال أفريقيا، كاسم عائلة (راجع التعليقات العامة، على سبيل المثال PC-11196 –‏Integrity Institute (معهد النزاهة)؛ PC-11164 – ‏SMEX). وتستخدم كلمة "شهيد" أيضًا للإشارة إلى الأشخاص الذين يموتون أثناء أداء واجب ديني. وفي النزاعات المسلحة أو الهجمات العنيفة، بما في ذلك الحوادث التي تتورط فيها منظمات مصنّفة، يحيي الأشخاص أحيانًا ذكرى ضحايا العنف والإرهاب من خلال الإشارة إليهم بكلمة "شهيد" (راجع التعليقات العامة، على سبيل المثال PC-11164 – ‏SMEX؛ PC-11197 من قِبل حكومة نيوزيلندا والتي أقرت بأن ضحايا إطلاق النار في كرايستشيرش من "الشهداء"، وهي جمع كلمة "شهيد"؛ يسلط التعليق PC-11196 من معهد النزاهة الضوء على أن المجتمعات المسلمة المهمشة، بما في ذلك الروهينجا، أشارت في بعض البلدان إلى اللاجئين الذين أُجبروا على الخروج من ميانمار بسبب الاضطهاد على أساس الدين أو المعتقد بكلمة "شهيد"). أشارت الأبحاث الكمية التي أجرتها Memetica بتكليف من المجلس بشأن المحتوى الذي تم نشره ولا يزال على منصات Meta إلى أن كلمة "شهيد" تستخدم على نطاق واسع للإشارة إلى الأفراد الذين يموتون أثناء خدمة بلدهم أو خدمة قضيتهم أو كضحية غير متوقعة لأحداث عنف اجتماعي أو سياسي أو مأساة طبيعية. في حين أن هذه المنشورات لم تربط بالضرورة كلمة "شهيد" بفرد مصنّف، فإن الأمثلة المذكورة سابقًا (راجع الفقرة 41) توضح مدى أهمية المعاني والاستخدامات العديدة لكلمة "شهيد" أيضًا في هذا السياق.

45. في أعقاب هجمات أكتوبر 2023 التي شنتها حماس على إسرائيل والتي وصفت بالإرهابية وما أعقبها من عمليات عسكرية إسرائيلية في غزة، كلّف المجلس بإجراء بحث إضافي بشأن اتجاهات المحتوى فيما يتعلق باستخدام كلمة "شهيد". من بين 12 ألف منشور عام تمت مراجعته في هذا التحليل، كان اثنان فقط يدعمان حماس. وكانت كل حالات الاستخدام تقريبًا تتعلق بأوصاف الضحايا الفلسطينيين في قطاع غزة، دون ذِكر لأي منظمة مصنّفة أو فرد مصنّف. وقد تضمنت المنشورات فلسطينيين في حالة حداد على فقدان أحبائهم، في حين أظهرت منشورات أخرى أطفالاً فلسطينيين جرحى و/أو آثار الغارات الجوية في غزة. وقد طُرحت أسئلة إضافية على Meta، نظرًا لأن وصول الباحثين إلى اتجاهات المحتوى يقتصر على المحتوى العام الذي يظل باقيًا على المنصات، ولا يشمل المحتوى الذي أزالته Meta لانتهاكه سياسة المنظمات الخطرة والأفراد الخطرين. وقد عززت استجابة Meta نتائج البحث. ومن وجهة نظر الشركة، لم تظهر اتجاهات المحتوى خلال الأزمة أي تغيير في استخدام كلمة "شهيد" أو طريقة فهمها مقارنة بما كانت عليه قبل هذه الأحداث.

46. تشير هذه المعاني المختلفة إلى أن افتراض Meta الافتراضي بأن استخدام كلمة "شهيد" يشكّل انتهاكًا ويؤدي إلى حدوث ضرر على أرض الواقع، وبالتالي يجب إزالته في جميع الأحوال، يفرض تكاليف عالمية على حرية التعبير يجب معالجتها. وقد أوضحت Meta أن كلمة "شهيد" هي على الأرجح أكثر كلمة تم اتخاذ إجراءات إشراف بشأنها على منصاتها، وقد لاحظ العديد من أصحاب المصلحة أن المحتوى الذي ينشر تقارير عن الكيانات المصنّفة والعنف غالبًا ما تتم إزالته بواسطة Meta ( طلب الرأي الاستشاري بشأن سياسات المحتوى، في الصفحة 3). ويعُد هذا النهج في التعامل مع كلمة "شهيد" مثالاً على قيام الشركة بإعطاء الأولوية لأوجه التمايز الجلية (الواضحة) من أجل الإنفاذ على نطاق واسع. وفي حين قد تكون أوجه التمايز هذه مناسبة من حيث المبدأ أحيانًا نظرًا للمفاضلات الصعبة التي غالبًا ما تصاحب الإشراف على المحتوى على نطاق واسع، يخلُص المجلس في هذه الحالة إلى أن الافتراض الافتراضي بضرورة إزالة كلمة "شهيد" دائمًا عندما تتعلق بفرد مصنّف ليس له ما يبرره ويجب التخلي عنه. وكما أقرت Meta، يخفق نهجها من حيث التصميم في مراعاة السياق اللغوي والثقافي ويؤدي إلى الإفراط في إنفاذ سياساتها بدرجة كبيرة، وذلك بطريقتين. أولاً، يؤدي النهج الذي تتبعه الشركة إلى إزالة المحتوى الذي لا يهدف إلى الإشادة أو التمجيد ولكنه مع ذلك ينتهك السياسة لأن Meta اختارت افتراض أن كلمة "شهيد" تشكّل انتهاكًا دائمًا. ثانيًا، يعزز هذا النهج ارتفاع معدلات الإزالة الخاطئة للمحتوى الذي يستخدم كلمة "شهيد" فيما يتعلق بالأشخاص الذين ليسوا من الأفراد المصنّفين لأن هذا النهج يرسّخ نهجًا قاطعًا ولا يشجع عمليات التقييم الأكثر مراعاة للسياق.

47. على الرغم من المعاني المختلفة لكلمة "شهيد"، يلاحظ المجلس أن الأمثلة التي تم الاستشهاد بها سابقًا في الحظر الذي تفرضه Meta على "الإشادة" بالمنظمات الخطرة والأفراد الخطرين لم يتم وضعها في سياق الأسواق المختلفة، مع استخدام ترجمات مباشرة مفرطة في التبسيط لتلك الأمثلة. وقد كانت الإشارة الوحيدة في معايير المجتمع لنهج Meta في التعامل مع المحتوى الذي يستخدم كلمة "شهيد" عبارة عن مثال لعبارة تصف إرهابي مدان بكلمة "martyr"، وكان ذلك ضمن حظرها المعلن بشكل أوسع للإشادة. وقد استُخدم المثال نفسه عبر اللغات، وتمت ترجمته باللغة العربية إلى "شهيد"، على الرغم من أن المصطلحين ليسا متكافئين بالضرورة. ويشير المجلس إلى أن هذا المثال قد أزيل في تحديث السياسة الذي تم في ديسمبر 2023. وفي حين أن الترجمة في هذا المثال لم تكن تفتقر إلى الدقة بالضرورة، فإن استخدام هذا المثال الوحيد للتأكيد على أن كلمة "شهيد" هي المكافئ لكلمة "martyr" دائمًا هو أمر يفتقر إلى الدقة.

48. وللأسباب نفسها، لا ينبغي، بشكل عكسي، نقل استنتاجات المجلس فيما يتعلق بكلمة "شهيد" في هذا الرأي الاستشاري بشأن سياسات المحتوى تلقائيًا إلى كلمة "martyr" وجميع ترجمات هذه الكلمة إلى اللغات الأخرى. لا تشكّل كلمة "martyr" مكافئًا مباشرًا لكلمة "شهيد"، لأن الأولى أقل تغيرًا من الناحية الدلالية في اللغة الإنجليزية، داخل المناطق التي تتحدث باللغة الإنجليزية وعبرها. وعلى مستوى اللغات المختلفة، سيتعين على Meta تقييم المصطلحات التي تفي بشروطها لما يعتبر نوعًا من "التمجيد"، مع الأخذ في الاعتبار الإرشادات المنصوص عليها في هذا الرأي الاستشاري بشأن سياسات المحتوى. وعلى أية حال، لا يؤيد المجلس فرض حظر شامل يحظر استخدام كلمة "شهيد" ويعزلها عن السياق الأوسع للمنشورات التي تُستخدم فيها. وتمشيًا مع سابقة مجلس الإشراف، ينبغي تقييم هذه المنشورات في مجملها. وبالإضافة إلى ذلك، وبما يتماشى مع سياساتها المعلنة للجمهور، يجب أن تضمن Meta أن تسمح استثناءات السياسة للأشخاص "بنشر تقارير عن الأفراد المصنّفين أو إدانتهم أو إجراء مناقشات حيادية بشأنهم" عند استخدام كلمة "شهيد" (وما يقابلها فعليًا من كلمات التمجيد أو إبداء الإشارات الإيجابية في اللغات الأخرى). وهذا يؤكد أهمية تكييف الإرشادات الداخلية للمراجعين لتتوافق مع السياق المحلي والخصوصيات اللغوية للغة التي تتم مراجعتها (راجع المخاوف المماثلة التي تم التعبير عنها في قرار المجلس في حالة البرنامج التلقائي لميانمار، والتي كانت أساس التوصية رقم 1 في تلك الحالة).

49. في العديد من الحالات، دفع المجلس Meta لإعادة تقييم المفاضلة بين وضع قواعد واضحة يمكن إنفاذها على نطاق واسع والسياسات التي تولي اهتمامًا أكبر لسياق الإنفاذ، والتي غالبًا ما تفضل حرية التعبير وحرية الرأي لدى المستخدم (على سبيل المثال، لاحترام نشر تقارير عن الكيانات المصنّفة، راجع ذِكر طالبان في التقارير الإخبارية ومشاركة منشور الجزيرة). وفي حين لم تتعامل الحالات السابقة بشكل مباشر مع استخدام كلمة "شهيد"، فقد حذر المجلس من افتراضات سوء النية عندما يشير الناس إلى كيانات مصنّفة (راجع الاقتباس النازي). تسلط العديد من التعليقات العامة الضوء على أن افتراض Meta بأن كلمة "شهيد" تفيد "الإشادة" دائمًا يمكن أن يؤدي، نتيجة لارتكاب أخطاء من قبل المشرفين أو الأتمتة على نطاق واسع، إلى الإفراط في الإنفاذ ضد الأشخاص الذين يحيون ذكرى ضحايا الهجمات الإرهابية (راجع التعليقات العامة، على سبيل المثال، PC-11164 – ‏SMEX، صفحة 1؛ والتعليق العام PC-11197 من قِبل حكومة نيوزيلندا). وقد تتعارض إزالة هذا المحتوى مع أغراض سياسة المنظمات الخطرة والأفراد الخطرين لأنها قد تمنع مناقشة عنف الإرهاب والجهود المبذولة لمواجهة الإيديولوجيات الكامنة وراء هذا العنف (راجع على سبيل المثال، PC-11164 – ‏SMEX).

احترام حرية وسائل الإعلام والساحة المدنية

50. يشعر المجلس بالقلق بشكل خاص من تأثير النهج الذي تتبعه شركة Meta على الصحافة والخطاب المدني. وتشتد حدة تلك الآثار في الأماكن التي يكون فيها العنف الذي تمارسه المنظمات الإرهابية أو غيرها من المنظمات المصنّفة أكثر انتشارا، وفي الأماكن التي تتمتع فيها الكيانات المصنّفة بسيطرة إقليمية أو سلطة سياسية. أثارت التعليقات العامة المختلفة هذه المخاوف (راجع التعليقات العامة، على سبيل المثال PC-11196 – ‏Integrity Institute (معهد النزاهة)؛ PC-11157 – ‏Palestine Institute for Public Diplomacy (معهد فلسطين للدبلوماسية العامة)). قد تخشى المؤسسات الإعلامية والمعلقون الآخرون نشر تقارير عن الكيانات المصنّفة رغبة في تجنب عمليات إزالة المحتوى التي يمكن أن تعرضهم لعقوبات شديدة، بما في ذلك إزالة الصفحات أو المجموعات، أو تعطيل الحسابات. في بعض الحالات، قد لا يمكن التنبؤ بذلك - على سبيل المثال، نشر تقرير عن احتجاج ضد جهة حكومية يحمل الأشخاص في هذا الاحتجاج لافتات تظهر الدعم لأفراد مصنّفين قُتلوا على يد نفس الجهة. ويمكن أن تملي الأعراف اللغوية أو الثقافية أو الدينية استخدام كلمة "شهيد" للإشارة إلى الأشخاص الذين قتلوا في هذه الحالات، بمن فيهم الأشخاص الذين ماتوا أثناء ارتكاب أعمال عنف.

51. من المهم ملاحظة مدى تعقيد الحالات التي قد تشهد انخراط الكيانات المصنّفة في أعمال عنف، بما في ذلك الحالات التي قد توصف بأنها صراعات مسلحة، ومقاومة للاحتلال الأجنبي، واضطرابات مدنية. وقد تواجه وسائل الإعلام تحديات كبيرة في نشر تقارير بشأن تلك الحالات، حيث يتعين على وسائل الإعلام أن تكون حساسة للأعراف اللغوية أو الثقافية أو الدينية المحلية مع الامتثال أيضًا لسياسات المحتوى التي تفرضها شركة Meta. وتتفاقم هذه المخاوف بسبب الافتقار إلى الشفافية فيما يتعلق بقائمة Meta للكيانات المصنّفة وحقيقة أن المستخدمين لا يعرفون فعليًا الأفراد أو الكيانات المدرجة في هذه القائمة. وقد يتضمن نشر تقارير عن تلك الحالات أيضًا في كثير من الأحيان إشارات عنف، مثل تصوير الأسلحة، والتي يمكن أن تكون، خارج سياق استثناءات نشر التقارير، أو المناقشة الحيادية أو الإدانة، مؤشرًا على انتهاك السياسة. لذلك من المهم أن تطبق Meta استثناء السياسة في الحالات التي ينشر فيها المحتوى تقارير عن كيان مصنّف أو يتناوله بمناقشة حيادية أو يدينه.

52. قد يزيد الحظر أيضًا من صعوبة تعبير المستخدمين عن آرائهم وانتقاداتهم عند العيش في سياقات تعمل فيها كيانات مصنّفة أو تتمتع بسلطة سياسية. وتجنبًا للمواجهة المباشرة ومخاطر السلامة، قد يدلي المستخدمون في هذه السياقات بتعليقاتهم بطريقة محترمة لا ينبغي تفسيرها بالضرورة على أنها إشادة. ويعد فرض عقوبات على مثل هذا الخطاب أمرًا مثيرًا للقلق بشكل خاص، حيث توفر وسائل التواصل الاجتماعي منتدىً مهمًا للنقاش، وخاصة في مناطق النزاعات والبلدان التي تكون فيها حرية الصحافة محدودة.

المساواة وعدم التمييز

53. بسبب اتساع نطاق استخدام كلمة "شهيد" وتنوع هذا الاستخدام، لا سيّما بين المتحدثين باللغة العربية والمتحدثين بلغات أخرى بها كلمات مستعارة من كلمة "شهيد" (كثير منهم مسلمون)، فإن لسياسة Meta تأثير غير متناسب على هذه المجتمعات. ويثير ذلك مخاوف كبيرة فيما يتعلق بمسؤولية الشركة تجاه احترام حقوق المساواة وعدم التمييز لدى جميع المستخدمين في ممارسة حقوقهم في حرية التعبير. وقد شكّل ذلك محور العديد من التعليقات العامة (راجع على سبيل المثال، ‏PC-11183 ‏ECNL EFF، و‏PC-11190 – ‏Brennan Centre (مركز برينان)؛ PC-11188 – ‏Digital Rights Foundation (مؤسسة الحقوق الرقمية)؛ PC-11196 – ‏Integrity Institute (معهد النزاهة)؛ راجع أيضًا تقرير مؤسسة الأعمال من أجل المسؤولية الاجتماعية (BSR) عن تأثير Meta في إسرائيل وفلسطين). ويسلط برنامج الأمم المتحدة الإنمائي، في التقرير الذي نشره تحت عنوان "إيقاف الرحلة إلى التطرف"، الضوء على أن الدوافع الرئيسية لعنف المتطرفين هي، من بين أسباب جذرية أخرى، "عدم المساواة، والإقصاء، وانعدام الفرص، وتصورات الظلم". ويشعر المجلس بالقلق من أن نهج سياسة Meta قد يضاعف تجارب التهميش والإقصاء لبعض المجتمعات، بل وقد يؤدي إلى نتائج عكسية للهدف المعلن المتمثل في الحد من العنف. ويسلط برنامج الأمم المتحدة الإنمائي الضوء على أنه فيما يتعلق بالإشراف على المحتوى على المنصات عبر الإنترنت، يجب على الشركات التأكد من أن منع التطرف العنيف "لا يؤدي دون قصد إلى وصم الأفراد واستهدافهم".

الوسائل الأقل تدخلاً لمنع الضرر

54. يتطلب تقييم ضرورة السياسة وتناسبها أيضًا إجراء تحليل لتحديد مدى وجود وسائل أقل تقييدًا لتحقيق الهدف المشروع المعني. ستتطلب التوصيات التي أصدرها المجلس في هذا الرأي، في حالة تنفيذها، أن تتوقف Meta عن اتباع نهج قاطع في إزالة جميع استخدامات كلمة "شهيد" للإشارة إلى الأفراد المصنّفين. ومع ذلك، لا يزال بالإمكان إزالة المحتوى الذي يستخدم هذه الكلمة في ظروف أضيق حينما يكون ارتباط هذا الاستخدام بحدوث الضرر أقل غموضًا وأكثر وضوحًا. وستسمح التوصيات لشركة Meta بالاستمرار في إزالة المحتوى الذي يشير إلى الأفراد المصنّفين على أنهم "شهداء" عندما يكون مصحوبًا بانتهاكات أخرى للسياسة (على سبيل المثال، التمجيد أو الإشارات غير الواضحة)، أو عندما يتضمن المحتوى إشارات عنف. وسيظل ذلك يشكّل قيدًا هامًا، ويحد من الآثار السلبية لهذه السياسة، بما في ذلك الإفراط في اتخاذ إجراءات إنفاذ ضد مجموعات لغوية ودينية معينة.

55. يوفر وجود إشارات عنف جنبًا إلى جنب مع الإشارة إلى فرد مصنّف بكلمة "شهيد" مؤشرًا أوضح على أن المنشور يهدف إلى الإشارة بشكل إيجابي إلى هذا الشخص بسبب ارتباطه بالعنف (شريطة عدم انطباق استثناءات نشر التقارير أو المناقشة الحيادية أو الإدانة). اقترحت Meta إشارات العنف التالية في طلبها وهي مستمدة من الإرشادات الداخلية بشأن سياسة العنف والتحريض: (1) تصوير مرئي لسلاح؛ (2) عبارة تنم عن نية أو تأييد لاستخدام الأسلحة أو حملها؛ (3) إشارة إلى لغة عسكرية؛ (4) إشارة إلى إحراق متعمد أو نهب أو أي إتلاف آخر للممتلكات؛ (5) إشارة إلى حوادث عنف معروفة على أرض الواقع؛ و(6) عبارات تنم عن نية لارتكاب أعمال عنف ضد الأشخاص أو الدعوة إليها أو تمثيلها أو دعمها أو تأييدها. ويرى المجلس أن بعض هذه الإشارات توفر مؤشرات مفيدة بشأن المحتوى الذي يمكن أن يسبب الضرر، وهو ما لا يمكن افتراضه من استخدام كلمة "شهيد" وحدها. ومع ذلك، لا تعتبر الإشارات الأخرى بنفس القدر من الإفادة هنا. وتشير سياسة العنف والتحريض المعلنة للجمهور إلى "إشارات مؤقتة لوجود مخاطر كبيرة لحدوث عنف" ثلاث مرات، كل منها فيما يتعلق بالقواعد المصممة لمعالجة مخاطر العنف في مواقع محددة وفي أحداث محددة زمنيًا، مثل مراكز الاقتراع وأثناء الاحتجاجات. إن التطبيق الشامل لكل هذه الإشارات في توجيه إشارات الإنفاذ لكلمة "شهيد" في جميع السياقات، والتي لا يكون احتمال الضرر فيها محتملاً أو وشيكًا نسبيًا، يهدد بالإنفاذ غير المتناسب.

56. يرى المجلس أنه في السياق الأوسع لسياسة المنظمات الخطرة والأفراد الخطرين، من المناسب استخدام مجموعة أضيق من الإشارات. وينبغي النظر إلى إشارتي التصوير المرئي للسلاح والعبارة التي تنم عن وجود نية أو تأييد لاستخدام الأسلحة أو حملها كمؤشرات للمحتوى الذي يرجّح أن يسهم في حدوث الضرر. ويرى المجلس أن إشارة "الإشارة إلى حوادث عنف معروفة على أرض الواقع" واسعة النطاق للغاية، وتضم مع ذلك سيناريوهات كثيرة جدًا مستبعدة من العنف الذي تمارسه المنظمات أو الأفراد المصنّفين. ولذلك، يجب تضييق نطاقها وقصرها على الأحداث المصنّفة بموجب سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين، والتي تشمل الهجمات الإرهابية وأحداث الكراهية وأعمال العنف متعددة الضحايا أو محاولات ارتكاب أعمال عنف متعددة الضحايا، وجرائم القتل المتسلسل وجرائم الكراهية. وتسمح الإشارات الثلاث التي أوصى بها المجلس بمزيد من الفروق السياقية الدقيقة للمساعدة على ضمان إزالة الاستخدامات الأقل غموضًا لكلمة "شهيد"، والتي تشير بشكل أكثر صراحة إلى أعمال العنف الإرهابية.

57. إن الإشارات المتبقية التي اقترحتها Meta والمتمثلة في "الإشارة إلى لغة عسكرية" و"الإشارة إلى إحراق متعمد أو نهب أو أي إتلاف آخر للممتلكات" هي إشارات فضفاضة للغاية وستؤدي إلى الإنفاذ بشكل غير دقيق. وأما الإشارة الأخيرة المقترحة والمتمثلة في "العبارات التي تنم عن نية لارتكاب أعمال عنف ضد الأشخاص أو الدعوة إليها أو تمثيلها أو دعمها أو تأييدها" فستؤدي بشكل مستقل إلى محتوى ينتهك معيار المجتمع بشأن العنف والتحريض - وبالتالي ستكون مكررة وغير ضرورية إذا تم تضمينها كإشارة العنف.

58. وخلافًا لخيار السياسة الثالث لشركة Meta، يرى المجلس أنه حتى عند وجود إشارات إلى أفراد مصنّفين إلى جانب إشارات العنف هذه، فقد لا يعني ذلك وجود نية لتمجيد هؤلاء الأفراد أو أفعالهم. وتوضح Meta في طلبها (في الصفحتين 9 و10) احتمال الإفراط في الإنفاذ، مشيرة إلى ممارسات إعداد التقارير الإعلامية في باكستان. ومن وجهة نظر المجلس، سيكون من الشائع بالنسبة إلى وسائل الإعلام عند الإشارة إلى موت أحد الأفراد المصنّفين أن يتضمن الخبر صورًا يظهر فيها الشخص وهو مسلح و/أو صورًا للدمار الذي تسبب فيه، دون أن يمثل ذلك تمجيدًا لأفعال ذلك الشخص. ولهذا السبب، من الضروري تدريب المراجعين الذي يعملون على نطاق واسع للإبقاء على المحتوى في حالة وجود نية واضحة تنم عن نشر تقارير عن الكيان أو إدانته أو إجراء مناقشة حيادية بشأنه.

59. علاوة على ذلك، فإن التغييرات التي أوصى المجلس بإجرائها على السياسة لن تمس مجموعة واسعة من سياسات المحتوى الأخرى وذلك للحماية من استخدام الإرهابيين ومؤيديهم لمنصات Meta في إحداث ضرر على أرض الواقع. وستتم إزالة المنشورات التي تستخدم كلمة "شهيد" للإشارة إلى أفراد مصنّفين بموجب الفئة الأولى في الحالات التالية:

• عندما تكون مصحوبة بواحدة أو أكثر من إشارات العنف الثلاث المذكورة أعلاه.
• عندما يتضمن المنشور أي انتهاك آخر لسياسة المنظمات الخطرة والأفراد الخطرين (على سبيل المثال، تمثيل فرد مصنّف أو دعمه أو تمجيده). وقد يشمل التمجيد، على سبيل المثال، إضفاء الشرعية على أعمال العنف أو الكراهية التي يرتكبها فرد مصنّف أو الدفاع عنها، أو الاحتفال بالعنف أو الكراهية التي يمارسها باعتبارها إنجازًا.
• عندما يتضمن المنشور أي انتهاك لسياسة أخرى، بما في ذلك سياسة الخطاب الذي يحض على الكراهية أو العنف والتحريض.
• عندما يتضمن المنشور إشارات "غير واضحة أو لا سياق لها". ويشمل ذلك "الفكاهة غير الواضحة أو الإشارات الإيجابية أو التي لا يوجد بها شرح توضيحي والتي لا تمجّد أعمال العنف أو الكراهية التي يمارسها الكيان المُصنّف".

60. بالتالي لن تمنع توصيات المجلس Meta من مطالبة المستخدمين بالتأكد من وضوح النية وراء منشوراتهم عند استخدام كلمة "شهيد" للإشارة إلى فرد مصنّف بموجب الفئة الأولى. وتقتصر على منع Meta من الاعتماد فقط على وجود كلمة "شهيد" للتأكيد على أن المنشور يشكّل مخالفة. كما أن مشاركة Meta النشطة في منتدى الإنترنت العالمي لمكافحة الإرهاب واستخدام قاعدة بيانات مطابقة التجزئة الخاصة بها تضمن أيضا إزالة المحتوى الذي قد يؤدي إلى حدوث ضرر على أرض الواقع. وستسمح توصيات المجلس بمزيد من الوضوح ومراعاة السياق والتناسب عند اتخاذ إجراءات إنفاذ ضد المحتوى الذي يمكن أن يزيد من مخاطر العنف، وستعزز في الوقت ذاته احترام حرية التعبير وعدم التمييز.

تقييم خيارات السياسة البديلة

61. لهذه الأسباب، يخلُص المجلس إلى أن الاستمرار في الوضع الراهن للسياسة، والذي قدمته Meta كأحد الخيارات التي سينظر فيها المجلس، سيرسخ قيودًا غير متناسبة على حرية التعبير من شأنها التأثير بشكل غير متناسب على المتحدثين باللغة العربية، والمجتمعات اللغوية ذات الصلة والمسلمين. ويتشابه خيار السياسة الثاني الذي اقترحته Meta مع خيارها الثالث، والذي يوصي به المجلس، من حيث أنه يسعى إلى وضع سياق لاستخدام كلمة "شهيد" والسماح باستخدامها فيما يتعلق بالأفراد الخطرين بعدة طرق. في الواقع، وفقًا لشركة Meta، تسمح التغييرات التي طرأت على السياسة في 29 أغسطس 2023 بمزيد من الخطاب الاجتماعي والسياسي في حالات معينة، بما في ذلك ما يتعلق باتفاقيات السلام والانتخابات والقضايا المتعلقة بحقوق الإنسان والتقارير الإخبارية والمناقشات الأكاديمية والحيادية وتلك التي تهدف إلى الإدانة. وهو ما يزيد من تقارب النتائج المرجوة على صعيد السياسة من الخيارين الثاني والثالث. ويتعلق الفرق الأكثر أهمية بينهما بالجدوى الفنية والتنفيذ العملي على نطاق واسع. ويتطلب الخيار الثاني أن تثبت Meta بشكل إيجابي أن أحد الاستثناءات المسموح بها ينطبق على الحالة، لتقوم بعدها بفحص مدى احتواء المنشور على انتهاكات للسياسة أو إشارات عنف؛ في حين ينتقل الخيار الثالث مباشرةً إلى فحص مدى وجود انتهاكات للسياسة أو إشارات عنف. ووفقًا لشركة Meta، سيكون تصميم الخيار الثاني وتنفيذه أكثر تعقيدًا من الناحية الفنية لأنه يتطلب النظر في مجموعة واسعة من الاستثناءات المحتملة (وسيتسع نطاقها بشكل أكبر في أعقاب التغييرات الأخيرة على السياسة)، والتي يعتمد كل منها على تقييم السياق. وبالتالي فإن صعوبة إجراء هذه التقييمات بدقة واتساق تعني أنه من المرجّح أن تتطلب المزيد من المراجعة البشرية وأن تؤدي إلى ارتكاب عدد أكبر بكثير من أخطاء الإنفاذ.

62. يرى المجلس أنه من الأفضل أن تعتمد Meta على نهج يدرس جميع استخدامات كلمة "شهيد" فيما يتعلق بالأفراد المصنّفين بشكل أكثر اتساقًا، بما يتجاوز الاستثناءات الحالية، ويزيل تلك الاستخدامات عندما تكون مصحوبة بانتهاكات أخرى للسياسة أو إحدى إشارات العنف الثلاث المذكورة في التوصية رقم 1. إن تغيير السياسة لإقرار موقف أقرب إلى الخيار الثالث المقترح من Meta للتعامل مع كلمة "شهيد" كإشارة محظورة فقط عند وجود انتهاكات أخرى للسياسة أو إشارات محددة للعنف، كما يوصي المجلس، سيساعد في تقليل النتائج الإيجابية الخاطئة (عمليات إزالة المحتوى غير المخالف بالخطأ)، وحماية خطاب المصلحة العامة وحرية الإعلام والخطاب المدني بشكل أفضل، والحد من التأثير السلبي على الحق في المساواة وعدم التمييز بين الفئات المتضررة. وردًا على أسئلة المجلس بعد الهجمات التي شنتها حماس ضد إسرائيل في أكتوبر 2023 والصراع الذي أعقب ذلك، أكدت Meta أن هذه الأحداث لم تغير تحليلها لمدى قابلية توسيع نطاق الخيارات التي أوردتها في طلبها من البداية. ومن وجهة نظر المجلس، فإن التوصيات المقترحة، استنادًا إلى خيار Meta الثالث، ستكون الأكثر مرونة في مواجهة الأخطاء المحتملة عند حدوث أزمة بهذا الحجم، شريطة أن تظل استثناءات السياسة الخاصة "بنشر التقارير والمناقشة الحيادية والإدانة" متاحة. ويقر المجلس بأن إتاحة استثناءات السياسة هذه يضيف المزيد من التعقيد إلى قابلية تطبيق السياسة التي يقترحها خيار Meta الثالث على نطاق واسع، لكنه يخلُص إلى أنها ضرورية لتوفير حماية كافية لحرية التعبير فيما يتعلق بالإشراف على المحتوى الذي يستخدم كلمة "شهيد".

63. لا توافق أقلية من أعضاء المجلس على هذا الاستنتاج وتفضل التوصية بالحفاظ على الوضع الراهن أو أن تتبنى Meta الخيار المقترح الثاني. ويؤكد البعض أن كلمة "شهيد" تُستخدم في الواقع من قبل المنظمات الإرهابية للدلالة على الإشادة بالأشخاص الذين يرتكبون أعمال العنف وتمجيدهم، وهو ما يمكن أن يكون حافزًا للتطرف والتجنيد. وتمثل هذه الحقائق وحدها، بالنسبة لأعضاء المجلس هؤلاء، خطرًا جسيمًا بما يكفي لحدوث ضرر على أرض الواقع يبرر الاستمرار في تطبيق الحظر القاطع الحالي، حتى على حساب حرية التعبير المعترف بها. ويرى آخرون أن عدم كفاية البيانات عن مقدار الضرر الذي يحدث على أرض الواقع بسبب استخدام كلمة "شهيد" على منصات Meta، وعن معدل انتشار الإفراط في اتخاذ إجراءات الإنفاذ نتيجة لهذه السياسة، هو سبب لإقرار نهج أكثر حذرًا، يميل إلى توفير قدر أكبر من السلامة. بالنسبة إلى الخيار الثاني - الذي لا تنظر فيه Meta في معنى كلمة "شهيد" واستخدامها إلا بعد العثور على استثناءات محددة مسموح بها وقابلة للتطبيق - يعتقد بعض أعضاء المجلس بأنه حلاً وسطًا مصممًا بشكل أضيق، بغض النظر عن الآثار المترتبة على الصعوبات الفنية والجدوى المرتبطة بتطبيقه على نطاق واسع. وقد نظر المجلس في هذه البدائل وناقشها باستفاضة. وقد توصلت الأغلبية، في ضوء الأسباب الموضحة في الأقسام السابقة، إلى نتيجة مفادها أن التوازن المفضل يتمثل في التوصيات التي تستند إلى الخيار الثالث الذي اقترحته Meta.

الإنذارات والعقوبات

64. في حين أن الإبقاء على القيود الأخرى بموجب سياسة المنظمات الخطرة والأفراد الخطرين قد يكون له ما يبرره، يجب على Meta التأكد من أن هذه القيود وأي عقوبات تُفرض بسبب الانتهاكات متناسبة. وقد سبق أن أبلغت Meta المجلس بأنها دائمًا تطبق إنذارات شديدة على جميع انتهاكات سياسة المنظمات الخطرة والأفراد الخطرين، بما في ذلك حظرها السابق على "الإشادة". وقد تؤدي الإنذارات الشديدة إلى اتخاذ إجراءات على مستوى الحساب بوتيرة أسرع، مثل تقييد الميزات لفترة معينة، وتعليق الحساب وتعطيل الملفات الشخصية أو الصفحات نهائيًا. وقد تقيد هذه التدابير بشدة حقوق المستخدمين في حرية التعبير (وهو ما تم التأكيد عليه في التعليقات العامة، راجع على سبيل المثال ‏PC-11190 – ‏Brennan Centre (مركز برينان)). وقد أوصى المجلس Meta سابقًا بتحسين الوضوح والشفافية فيما يتعلق بنظام الإنذارات لديها ( ذِكر طالبان في التقارير الإخبارية، التوصية رقم 2؛ تعليق حسابات الرئيس السابق ترامب، التوصية رقم 15). واستجابة لذلك، وفرت Meta معلومات عن نظام الإنذارات في مركز الشفافية وتسمح للمستخدمين بمراجعة العقوبات التي فرضتها Meta على حساباتهم. وقد قامت Meta مؤخرًا بتحديث نظامها للإنذارات القياسية لتجعله أكثر تناسبًا، لكن ذلك لا يوضح للجمهور ما إذا كان نهج Meta بشأن "الإنذارات الشديدة" قد تم تعديله أيضًا.

65. ذكرت Meta أنها تعمل على إجراء تغييرات على نظام الإنفاذ فيما يتعلق بسياسة المنظمات الخطرة والأفراد الخطرين، على الرغم من أن شرحها لتحديث سياستها في ديسمبر 2023 لا يوضح ما إذا كان نظام الإنفاذ الخاص بها قد تغير أم سيتغير (على سبيل المثال، فيما يتعلق بالإنذارات الشديدة). ويرحب المجلس بإجراء تغييرات على نظام الإنفاذ إذا كان ذلك سيؤدي إلى فرض عقوبات أكثر تناسبًا ضد المحتوى الذي يتبيّن بشكل دقيق أنه مخالف، تمشيًا مع توصيات المجلس السابقة. وتعد الإنذارات الشديدة عقوبات غير متناسبة للانتهاكات الأكثر اعتدالاً والأكثر غموضًا من الناحية الدلالية لسياسة المنظمات الخطرة والأفراد الخطرين، حيث تؤدي إلى استمرار السياسة في تحقيق معدلات عالية من الإفراط في الإنفاذ والمعاملة غير العادلة للمستخدمين.

6.2 تحسين شفافية القائمة وتدقيقها

التوصية 4 - الشفافية: لتحسين شفافية قائمتها التي تضم الكيانات والأحداث المصنّفة، يتعين على Meta أن تشرح بمزيد من التفصيل الإجراء الذي يتم بموجبه تصنيف الكيانات والأحداث. ويتعين عليها أيضًا نشر معلومات مجمعة عن قائمة التصنيف بصفة دورية، بما في ذلك العدد الإجمالي للكيانات التي تندرج تحت كل فئة من فئات القائمة، وعدد ما تمت إضافته أو إزالته من كل فئة خلال العام الماضي.

سيعتبر المجلس أن ذلك قد دخل حيز التنفيذ عندما تنشر Meta المعلومات المطلوبة في مركز الشفافية الخاص بها.

التوصية رقم 5 - الإنفاذ: للتأكد من أن قائمة المنظمات الخطرة والأفراد الخطرين محدّثة، ولا تتضمن منظمات أو أفراد أو أحداث لم تعد تندرج تحت تعريف Meta للتصنيف، يتعين على الشركة وضع عملية واضحة وفعّالة لتدقيق التصنيفات بصفة دورية وإزالة تلك التي لم تعد تفي بالمعايير المنشورة.

سيعتبر المجلس أن ذلك قد دخل حيز التنفيذ عندما تنشئ Meta عملية تدقيق وتشرح هذه العملية في مركز الشفافية الخاص بها.

66. وفقًا لسياسة Meta السابقة بشأن المنظمات الخطرة والأفراد الخطرين، لم تكن "الإشادة" واستخدام كلمة "شهيد" محظورة إلا إذا كانت تشير إلى كيان تصنّفه Meta على أنه فرد خطير بموجب الفئة الأولى (بما في ذلك مرتكبي "أحداث العنف المخالفة" المصنّفة). في أعقاب تحديث ديسمبر 2023، تحظر السياسة الآن "الإشارات غير الواضحة" وتمجيد كل الكيانات المصنّفة بموجب الفئة الأولى. ويمكن أن تتضمن "الإشارات غير الواضحة" "الفكاهة غير الواضحة والإشارات التي لا سياق لها والإشارات الإيجابية التي لا تمجّد أعمال العنف أو الكراهية التي يمارسها الكيان المُصنّف". وتعتمد الآثار السلبية المحتملة لفرض حظر على حرية التعبير بدرجة كبيرة على الكيانات التي تصنّفها Meta كمنظمات من الفئة الأولى و"وأحداث العنف المخالفة" التي تصنّفها. في اجتماعات المائدة المستديرة والتعليقات العامة، انتقد الكثير من أصحاب المصلحة غياب الشفافية والإجراءات الواجبة بشأن القائمة، وأشاروا إلى أنه يتعين على Meta نشرها (راجع التعليقات العامة، على سبيل المثال، PC-11164 – ‏SMEX، صفحة 3؛ PC-11157 – ‏Palestine Institute for Public Diplomacy (معهد فلسطين للدبلوماسية العامة)). وقد أعرب أحد أصحاب المصلحة عن قلقه بشأن مشاركة هذه القائمة على نطاق واسع، حيث قال إن ذلك قد يثير مخاوف بشأن السلامة. ونظرًا للدور المهم الذي تمثله القائمة في فهم نطاق سياسات Meta، فقد زودت الشركة المجلس بقائمتها للمنظمات والأفراد المصنّفين من الفئة الأولى مع شرح لعمليات التصنيف لديها، والتي درسها المجلس بشكل متعمق، كما هو موضح أدناه.

67. كما ذُكر أعلاه، فإن العديد من القوائم التي تستمد منها Meta تصنيفات الفئة الأولى معلنة من قبل الحكومة الأمريكية. وتتضمن تلك القوائم "زعماء الاتجار بالمخدرات المُصنّفين تحديدًا (SDNTK)"؛ و"المنظمات الإرهابية الأجنبية (FTO): و"الإرهابيين العالميين المُصنّفين تحديدًا". وهذه القوائم واسعة النطاق، وتشمل الكيانات (وأعضائها) في سياقات مسيسة للغاية عبر عدة قارات ولا تقتصر على الكيانات الإرهابية. ويشير هذا الاتساع والتنوع إلى المدى الذي قد تصل إليه عمليات الحظر التي تفرضها سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين، بما في ذلك الحظر الأكثر صرامة على استخدام كلمة "شهيد" كإشارة إلى الأفراد المصنّفين - وما يحدثونه من تأثير.

68. أوضحت Meta أن عملية مراجعة الكيانات التي ستضاف إلى قائمة المنظمات الخطرة والأفراد الخطرين والموافقة عليها "تعتمد على التشاور مع مجموعة من الخبراء الداخليين وتقييم البيانات الداخلية والبحوث الخارجية". وتتبع Meta أيضًا عملية لتوثيق "الأعضاء الإضافيين أو الأسماء المستعارة أو الرموز أو الشعارات أو المجموعات الفرعية أو الأجنحة الإعلامية المرتبطة بالمنظمات والأفراد المصنّفين بالفعل". في 2022، واستنادًا إلى تقييم Meta لتهديدات المنظمات الخطرة والأفراد الخطرين على منصاتها، صنّفت الشركة أقل من 1000 كيان. وقد شكّلت الكيانات الإجرامية العدد الأكبر من عمليات التصنيف، تليها مباشرة كيانات الإرهاب ثم كيانات الكراهية. وتتبع Meta عملية سياسة لإلغاء الإدراج في قوائم التصنيف يتم فيها عادة فحص ما إذا كان الكيان لا يزال يفي بالحد الأدنى لمتطلبات السياسة للتصنيف كمنظمة خطرة أو فرد خطِر، وتأخذ في الاعتبار "الخطوات النشطة التي اتخذها الكيان لوقف أعمال العنف والسعي لتحقيق السلام". وتخضع العملية حاليًا لإعادة التطوير، ولم يتم تطبيقها إلا أقل من 10 مرات عام 2022. أوضحت Meta أنها تجري تدقيقًا للتصنيفات السابقة كجزء من جهودها المتواصلة لإبقائها محدّثة قدر الإمكان وتعكس بدقة التهديدات الصادرة عن المنظمات الخطرة والأفراد الخطرين.

69. أوضحت Meta أن مشاركة قائمتها للكيانات أو الأحداث المصنّفة بشكل علني، أو إبلاغ الكيانات عند إضافتها إلى القائمة، قد يشكّل بعض المخاطر على فعّالية الإنفاذ وسلامة الكثير من موظفي Meta. عندما اكتشفت الكيانات المصنّفة أنه قد تم تصنيفها، رفع بعضها دعاوى قانونية ضد Meta ( راجع قضية فيسبوك ضد كاساباوند، 29 أبريل 2020، محكمة روما، إيطاليا، والتحليل المنشور هنا). ويشير المجلس إلى أنه في بعض الحالات، كشفت Meta عن تصنيفات بعض المجموعات ردًا على استفسارات وسائل الإعلام، وتمت مشاركة التصنيفات من خلال قرارات مجلس الإشراف.

70. أوصى المجلس Meta سابقًا بمشاركة قائمتها للكيانات المصنّفة بشكل علني، أو على الأقل تقديم أمثلة توضيحية ( الاقتباس النازي، التوصية رقم 3). لم تقم Meta بنشر هذه القائمة ولم تُقدم تحديثات أخرى حول هذه التوصية عقب تقييم الجدوى الذي قامت بإصداره. وإذا استمرت Meta في رفض تنفيذ هذه التوصية، فإنه يتعين عليها على الأقل اتخاذ تدابير أخرى لتحسين الشفافية بشأن القائمة. وقد يساعد نشر بيانات مجمعة وتحسين الشفافية بشأن عملية التصنيف وإضفاء مزيد من الفعّالية على عملية إلغاء التصنيف إلى تحسين وعي المستخدم بقواعد Meta وعملياتها. وهو ما من شأنه أن يساهم أيضًا في توفير مزيد التدقيق والمساءلة بشأن تصنيفات Meta والعواقب على حرية التعبير وحقوق الإنسان الأخرى. وقد تنظر Meta أيضًا في إمكانية تسهيل وصول الباحثين إلى البيانات تعزيزًا للشفافية مع الحفاظ في الوقت ذاته على سرية القائمة.

6.3 بيانات تقييم دقة الإنفاذ واختبار أدوات التصنيف

التوصية 6 - الشفافية: لتحسين شفافية الإنفاذ لدى Meta، بما في ذلك الفروق الإقليمية بين الأسواق واللغات، يتعين على Meta شرح الطريقة التي تتبعها لتقييم دقة المراجعة البشرية وأداء الأنظمة التلقائية في إنفاذ سياستها بشأن المنظمات الخطرة والأفراد الخطرين. ويتعين عليها أيضًا مشاركة نتائج تقييم أداء أدوات التصنيف المستخدمة في إنفاذ نفس السياسة بشكل دوري، وتقديم النتائج بطريقة تسمح بمقارنة هذه التقييمات على مستوى اللغات و/أو المناطق.

سيعتبر المجلس أن ذلك قد دخل حيز التنفيذ عندما تقوم Meta بتضمين هذه المعلومات في مركز الشفافية الخاص بها وفي تقارير إنفاذ معايير المجتمع.

التوصية 7 - الشفافية: لتوفير معلومات لأصحاب المصلحة، يتعين على Meta تقديم تفسيرات بلغة واضحة بشأن كيفية استخدام أدوات التصنيف في التنبؤ بانتهاكات السياسة. ويتعين على Meta أيضًا توضيح آلية تعيين الحدود التي يتقرر عندها عدم اتخاذ إجراء أو توجيه المحتوى إلى قائمة انتظار المراجعة البشرية أو إزالة المحتوى وذلك من خلال وصف العمليات التي يتم من خلالها تعيين تلك الحدود. ويجب تقديم هذه المعلومات في مركز الشفافية الخاص بالشركة.

سيعتبر المجلس أن ذلك قد دخل حيز التنفيذ عندما تنشر Meta المعلومات المطلوبة في مركز الشفافية الخاص بها.

71. أكد العديد من أصحاب المصلحة، في اجتماعات المائدة المستديرة وفي التعليقات العامة، أن تطبيق Meta لسياسة المنظمات الخطرة والأفراد الخطرين، والتعامل مع كلمة "شهيد" في كل من المراجعة البشرية والتلقائية، كثيرًا ما أدى إلى ارتكاب أخطاء في الإنفاذ أثرت بشكل غير متناسب على المسلمين والمجتمعات اللغوية ذات الصلة (راجع التعليقات العامة، على سبيل المثال ‏PC-11183 ‏ECNL EFF، ‏PC-11190 – ‏Brennan Centre (مركز برينان)؛ PC-11188 – ‏Digital Rights Foundation (مؤسسة الحقوق الرقمية)؛ PC-11196 – ‏Integrity Institute (معهد النزاهة)، راجع أيضًا تقرير مؤسسة الأعمال من أجل المسؤولية الاجتماعية (BSR) عن تأثير Meta في إسرائيل وفلسطين). وقد أقرت Meta أيضًا في طلبها بأن ذلك نتيجة لسياستها بشأن كلمة "شهيد". ولتحسين الشفافية، والدقة والعدالة في عمليات الإنفاذ البشرية والتلقائية لدى Meta، يُصدر المجلس التوصيتين أعلاه.

72. أوضحت Meta أنها تقيس دقة عمليات الإنفاذ البشرية والتلقائية بانتظام. ويخضع المراجعون البشريون لعمليات تدقيق دورية من قبل شركاء التعهيد لدى Meta، وتخضع عمليات التدقيق هذه لتقييم إضافي من قبل فريق العمليات العالمية المعنية بالمحتوى لدى Meta.

73. أوصى المجلس Meta في السابق بتحسين تقارير الشفافية التي تُصدرها لزيادة المعلومات العامة عن معدلات الأخطاء من خلال إتاحة إمكانية الاطلاع عليها حسب البلد واللغة فيما يتعلق "بالإشادة" وتقديم "الدعم" للمنظمات الخطرة والأفراد الخطرين ( عزلة أوجلان، التوصية رقم 12) ولكل معيار من معايير المجتمع ( مخاوف البنجابيين تجاه منظمة راشتريا سوايامسيفاك سانغ (RSS) في الهند، التوصية رقم 3). وأوضحت Meta، بعد تقييم الجودة، أنها رفضت تنفيذ هذه التوصية ( عزلة أوجلان، التوصية رقم 12؛ تحديث Meta ربع السنوي عن الربع الرابع لعام 2021 حول مجلس الإشراف، في الصفحة 21)، وصرفت تركيزها نحو الجهود طويلة الأجل لتحديد أدوات قياس الدقة استنادًا إلى تقييدات الملف الشخصي والصفحة والحساب، بالإضافة إلى الموقع بدلاً من اللغة ( مخاوف البنجابيين تجاه منظمة راشتريا سوايامسيفاك سانغ (RSS) في الهند، التوصية رقم 3؛ تحديث Meta ربع السنوي عن الربع الثاني لعام 2023 حول مجلس الإشراف، في الصفحة 59). وإدراكًا للمخاوف المنتشرة على نطاق واسع بشأن الإنفاذ غير المتناسب لسياسة المنظمات الخطرة والأفراد الخطرين، والذي يوضحه موقف Meta في التعامل مع كلمة "شهيد"، والقصور الذي يكتنف إفصاح Meta عن معلومات مفيدة بشأن الإنفاذ، يعيد المجلس التأكيد على هذه التوصيات وأهمية قيام الشركة بتحسين شفافية الإنفاذ حسب الموقع.

74. لا توفر البيانات التي تشاركها Meta حاليًا في مركز الشفافية الخاص بها رؤى كافية عن دقة المراجعة البشرية وأداء الأنظمة التلقائية. وللسماح بتدقيق الأساليب التي تتبعها، يتعين على Meta شرح الطريقة التي تتبعها لتقييم دقة المراجعة البشرية وأداء الأنظمة التلقائية في إنفاذ سياستها بشأن المنظمات الخطرة والأفراد الخطرين. لتحسين الشفافية بشأن أداء أدوات التصنيف، يجب أن تشارك Meta أدوات قياس من بينها الدقة (تشير إلى نسبة المحتوى الذي تم تحديده بشكل صحيح على أنه مخالف من بين كل المحتوى الذي تم تمييزه على أنه مخالف) والتذكر (يشير إلى النسبة المئوية للمحتوى المخالف الذي تحدده أداة التصنيف على أنه مخالف من بين جميع عناصر المحتوى المخالفة الموجودة). ويمكن أن يسهم نشر معلومات عن دقة المراجعة البشرية على مستوى المناطق المختلفة، وأداء أدوات التصنيف باللغات المختلفة، في المساءلة بشأن التزامات Meta تجاه حقوق الإنسان. ولذلك يكرر المجلس التأكيد على توصياته السابقة ويحث Meta على تنفيذ التغييرات المقترحة.

75. تعتمد Meta على الأنظمة التلقائية، بما في ذلك أدوات التصنيف، في إنفاذ معايير مجتمعها. وتقوم نماذج أداة التصنيف تلقائيًا بتصنيف البيانات إلى "فئة" أو أكثر (على سبيل المثال، مخالف أو غير مخالف) استنادًا إلى مجموعة من بيانات التدريب. ويلزم فهم آلية عمل هذه الأنظمة ومدى دقتها لتقييم كيفية إشراف Meta على المحتوى على نطاق واسع. وتوفر Meta بعض المعلومات الأساسية بشأن استخدامها للأنظمة التلقائية في اكتشاف المحتوى المخالف في قسم الإنفاذ بمركز الشفافية الخاص بها، بينما تشرح Meta في قسم الميزات كيفية تصنيف المحتوى وتنظيمه. وتنشر Meta بالفعل معلومات في تقارير إنفاذ معايير المجتمع بشأن النسبة المئوية للمحتوى الذي تقوم بإزالته قبل الإبلاغ عنه (أي استنادًا إلى الاكتشاف التلقائي). تشير هذه البيانات إلى أهمية الاكتشاف التلقائي لكنها لا توفر أدوات قياس تفصيلية بشأن استخدام أنظمة Meta التلقائية ودقتها، وخصوصًا بشأن عمليات الإزالة التلقائية. وتهدف هذه المجموعة من التوصيات إلى تعزيز الشفافية بشأن استخدام Meta للخوارزميات.

76. ردًا على الأسئلة التي طرحها المجلس، أوضحت Meta أن أداة تصنيف المنظمات الخطرة والأفراد الخطرين بالنسبة إلى "اللغة العامة - العربية" تُجري مراجعة أولية للإنفاذ استنادًا إلى سياسات Meta. وتهدف أدوات التصنيف إلى اكتشاف المحتوى الذي قد ينتهك هذه السياسات. يرى المجلس أنه يتعين على Meta أن توضح للمستخدمين هذا الاعتماد على أدوات التصنيف في قسم الإنفاذ بمركز الشفافية، تماشيًا مع قراراته السابقة (راجع أعراض سرطان الثدي والعُري، التوصية رقم 3؛ الرسم الكاريكاتوري للشرطة الكولومبية، التوصية رقم 3). وعلى وجه الخصوص، من المهم توفير الشفافية بشأن حدود الثقة التقريبية لاتخاذ إجراء بشأن المحتوى أو عدم اتخاذه، وإضافته إلى قائمة انتظار المراجعة البشرية، بالإضافة إلى الاعتبارات أو العوامل التي تحدد تلك الدرجات.

77. أوضحت Meta أن اختبار الدقة لديها لا يركز على أنواع الانتهاكات الفردية ضمن السياسة، ويركز بدلاً من ذلك على معدلات الدقة الإجمالية على مستوى مجال السياسة بالكامل. وقد ذكرت Meta أنها "تُجري مراقبة منتظمة لأدوات القياس وتدقيق في معدلات الدقة على نطاق واسع". وقد أوضح المجلس سابقًا أن تقييم أداء إنفاذ Meta لمعايير المجتمع ككل لا يكفي (راجع قرار حزام وامبوم). من المحتمل للأنظمة التي تحقق أداءً جيدًا في المتوسط أن تحقق أداءً ضعيفًا للغاية في فئات المحتوى الفرعية، مثل المحتوى الذي يستخدم كلمة "شهيد"، حيث يكون للقرارات غير الصحيحة تأثير واضح لا سيّما على حقوق الإنسان. ولذلك من الضروري أن تبرهن Meta على أنها تبذل العناية الواجبة لاكتشاف الآثار السلبية المحتملة على حقوق الإنسان وتقليلها، وأنها تشارك المعلومات التي تسمح بالتدقيق في هذه الآثار.

78. ذكر العديد من أصحاب المصلحة أن أنظمة الإنفاذ التي تعتمد على الخوارزميات لدى Meta فشلت في مراعاة السياق، وكانت أقل دقة في اللغات الأخرى بخلاف اللغة الإنجليزية وأن هذا أحدث تأثيرًا متباينًا ضد المجتمعات المسلمة (راجع التعليقات العامة، على سبيل المثال، ‏PC-11190 – ‏Brennan Centre (مركز برينان).

79. أوصى بعض أصحاب المصلحة Meta بالتوقف تمامًا عن استخدام الأتمتة في الإشراف على كلمة "شهيد"، حيث فشلت الأتمتة بوجه عام في مراعاة السياق حتى الآن (راجع التعليقات العامة، على سبيل المثال، PC-11164 – ‏SMEX، صفحة 4؛ PC-11157 – ‏Palestine Institute for Public Diplomacy (معهد فلسطين للدبلوماسية العامة)). وقال آخرون، بالنظر إلى العقوبات الشديدة التي يتم فرضها على المحتوى الذي ينتهك سياسة المنظمات الخطرة والأفراد الخطرين، ينبغي ألا تُستخدم الأتمتة إلا لإضافة المحتوى إلى قائمة انتظار المراجعة وليس لإزالة المحتوى تلقائيًا (راجع على سبيل المثال التعليق العام ‏PC-11183 ‏ECNL EFF، صفحة 4 و). واقترح أصحاب المصلحة أن أي منشور يشير إلى شخص مصنّف باستخدام كلمة "شهيد" يجب "في الوضع المثالي أن تتم مراجعته بواسطة مشرف بشري على دراية بالسياق المحلي الذي نشأ منه المنشور"، (راجع التعليق العام PC-11188 – ‏Digital Rights Foundation (مؤسسة الحقوق الرقمية، صفحة 2). واقترح البعض تضمين إشارات للموقع الجغرافي للمنشورات، حتى تتمكن المراجعة البشرية والتلقائية من مراعاة السياق بشكل أفضل (راجع على سبيل المثال التعليق العام PC-11165 – ‏Taraaz، صفحة 1). وقد دعا أصحاب المصلحة أيضًا إلى توفير مزيد من المعلومات عن دقة الإنفاذ التلقائي لدى الشركة واستثمار المزيد من المال في تحسين أنظمتها المؤتمتة في اللغات الأخرى بخلاف اللغة الإنجليزية (راجع على سبيل المثال، التعليق العام PC-11164 – ‏SMEX، صفحة 5؛ ‏PC-11190 – ‏Brennan Centre (مركز برينان)). وحثوا شركة Meta أيضًا على إصدار تقارير أنشطة الإشراف لديها "بشكل متسق على مستوى اللغات، بما في ذلك تقديم بيانات شاملة عن بلاغات المستخدمين، ومعدل الإجراءات، وأنواع الإجراءات، وفعّالية التقنيات المتعلقة بتخفيف الآثار، ومعلومات التدريب، ومعدلات الطعن"، (راجع على سبيل المثال، التعليق العام PC-11196 – ‏Integrity Institute (معهد النزاهة)).

80. اختلف بعض الخبراء مع استخدام كلمة "شهيد" فيما يتعلق بكيان مصنّف كنقطة مرجعية وحيدة تستخدمها الأنظمة التلقائية لإزالة المحتوى من المنصة، لكنهم يشجعون على استخدام الكلمة كجزء من نهج متعدد المستويات للإشراف على المحتوى (على سبيل المثال، كإشارة للمحتوى الذي سيتم وضعه في قائمة انتظار المراجعة وفقًا لسياسات Meta، دون أن تتم إزالته لاحتوائه على هذه الإشارة وحدها).

81. يقر المجلس بأن الاعتماد على الأنظمة الخوارزمية ضروري عند الإشراف على المحتوى على نطاق واسع، وأن العديد من هذه النُهُج المقترحة لن تجدي نفعًا عند تطبيقها على نطاق واسع وباستخدام الأتمتة. لكن المجلس يخلُص أيضًا إلى أنه يتعين على Meta اتخاذ خطوات إضافية، بما في ذلك تلك الموصى بها أعلاه، لضمان شفافية هذه الأنظمة وعدالتها.

*ملاحظة إجرائية:

يتم إعداد الآراء الاستشارية بشأن سياسات المحتوى الصادرة عن مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى هذا الرأي الاستشاري بشأن سياسات المحتوى، تم إجراء بحث مستقل نيابة عن المجلس. تلقى المجلس مساعدة من معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج، والذي يعتمد على فريق مكون مما يزيد عن 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تلقى المجلس أيضًا مساعدة من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا. وقد تم تقديم تحليلات أيضًا بواسطة Memetica، وهي مؤسسة متخصصة في الأبحاث مفتوحة المصدر عن اتجاهات وسائل التواصل الاجتماعي. تم توفير الخبرة اللغوية بواسطة شركة Lionbridge Technologies LLC، التي يتقن المتخصصون بها أكثر من 350 لغة ويعملون من 5000 مدينة في جميع أنحاء العالم.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة