مجلس الإشراف ينشر رأيًا استشاريًا بشأن سياسات المحتوى فيما يتعلق بالإشارة إلى الأفراد المُصنَّفين كأفراد خطرين بكلمة "شهيد"

تم النشر بتاريخ 26 آذار 2024

نشر مجلس الإشراف، اليوم، رأيًا استشاريًا بشأن سياسات المحتوى ردًا على طلب Meta بشأن ما إذا كان يجب على الشركة الاستمرار في إزالة كل المحتوى الذي يستخدم الكلمة العربية "شهيد" للإشارة إلى أفراد مُصنَّفين بموجب سياسة المنظمات الخطرة والأفراد الخطرين. وقد توصل المجلس إلى أن النهج الذي تتبعه Meta حاليًا يقيد حرية التعبير بشكل غير متناسب، كما أنه نهج غير ضروري؛ ومن ثمَّ، يجب على الشركة إنهاء هذا الحظر الشامل الذي تفرضه.

اقرأ الملخص التنفيذي للرأي الاستشاري بشأن سياسات المحتوى أدناه. لقراءة النسخة الكاملة، انقر هنا.

الملخص التنفيذي

يرى المجلس أن نهج Meta في الإشراف على المحتوى الذي يستخدم كلمة "شهيد" للإشارة إلى أفراد مصنّفين على أنهم خطرون يقيد حرية التعبير بشكل كبير وغير متناسب. وتفسر Meta جميع استخدامات كلمة "شهيد" التي تشير إلى الأفراد الذين صنفتهم على أنهم "خطرون" على أنها مخالفة مما يدفعها إلى إزالة المحتوى. وفقًا لشركة Meta، من المرجّح أن تكون كلمة "شهيد" مسؤولة عن إزالة عناصر محتوى أكثر من أي كلمة أو عبارة أخرى على منصاتها بموجب معايير المجتمع. لأعمال العنف الإرهابية عواقب وخيمة - فهي تدمر حياة الأبرياء وتعرقل حقوق الإنسان وتضعف نسيج مجتمعاتنا. ومع ذلك، فإن أي تقييد لحرية التعبير بهدف منع مثل هذا العنف يجب أن يكون ضروريًا ومتناسبًا، نظرًا لأن إزالة المحتوى دون مبرر قد تكون غير فعالة بل وقد تؤدي إلى نتائج عكسية.

تبدأ توصيات المجلس من وجهة نظر مفادها أنه من الضروري أن تتخذ Meta إجراءات فعّالة لضمان عدم استخدام منصاتها للتحريض على أعمال عنف، أو تجنيد الأشخاص للمشاركة فيها. ويستخدم المتطرفون كلمة "شهيد" أحيانًا للإشادة بأشخاص لقوا حتفهم أثناء ارتكاب أعمال عنف إرهابية أو تمجيدهم. ومع هذا، يجب أن تسترشد استجابة Meta لهذا التهديد باحترام كافة حقوق الإنسان، بما في ذلك الحق في حرية التعبير.

في 7 أكتوبر 2023، بينما كان المجلس يضع اللمسات الأخيرة على هذا الرأي الاستشاري بشأن سياسات المحتوى، شنت حماس (وهي منظمة مصنَّفة بموجب الفئة الأولى من سياسة Meta بشأن المنظمات الخطرة والأفراد الخطرين) هجمات غير مسبوقة تم وصفها كهجمات إرهابية على إسرائيل مما أدى إلى مقتل نحو 1200 شخص وأسْر نحو 240 رهينة (وزارة الخارجية، حكومة إسرائيل). ووفقًا لتقارير إخبارية، يُعتقد أنه حتى 6 فبراير 2024 كان ما لا يقل عن 30 رهينة من أصل 136 رهينة بقوا في أسر حماس في أوائل يناير قد لقوا حتفهم. وعلى الفور، قامت Meta بتصنيف هذه الأحداث كهجوم إرهابي بموجب سياستها بشأن المنظمات الخطرة والأفراد الخطرين. وسرعان ما شنت إسرائيل حملة عسكرية ردًا على الهجمات. وقد أدت تلك الحملة العسكرية إلى مقتل أكثر من 30 ألف شخص في غزة حتى 4 مارس (مكتب الأمم المتحدة لتنسيق الشؤون الإنسانية، استنادًا إلى بيانات من وزارة الصحة في غزة). وأشارت التقارير الصادرة في يناير إلى أن 70‏% من الوفيات كانت من النساء والأطفال.

في أعقاب هذه الأحداث، أوقف المجلس مؤقتًا نشر هذا الرأي الاستشاري بشأن سياسات المحتوى لضمان تجاوب توصياته مع استخدام منصات Meta وكلمة "شهيد" في هذا السياق. وقد أكد هذا البحث الإضافي صمود ما أصدره المجلس من توصيات إلى شركة Meta بشأن الإشراف على كلمة "شهيد"، حتى في ظل الضغط الشديد الذي تمثله هذه الأحداث، ومن شأنه أن يضمن أيضًا احترامًا أكبر لجميع حقوق الإنسان عند استجابة Meta للأزمات. وفي الوقت نفسه، يؤكد المجلس على أن سياسات Meta في هذا الشأن عالمية وأن تأثيرها يمتد إلى ما هو أبعد من هذا الصراع. ومع الاعتراف بأهمية الأحداث الأخيرة في فلسطين وإسرائيل، فإن توصيات المجلس عالمية أيضًا ولا تقتصر على سياق بعينه.

من وجهة نظر المجلس، يتسم نهج Meta في الإشراف على كلمة "شهيد" بأنه فضفاض، ويقيد حرية التعبير والخطاب المدني بشكل غير متناسب. على سبيل المثال، قد تتم بالخطأ إزالة المنشورات التي تتحدث عن العنف وعن الكيانات المصنّفة. ويفشل نهج Meta أيضًا في مراعاة المعاني المتعددة لكلمة "شهيد"، والتي لا يهدف الكثير منها إلى التمجيد أو الإقرار، ويؤدي في كثير من الأحيان إلى حذف منشورات المتحدثين باللغة العربية والمتحدثين بلغات أخرى (الكثير منهم مسلمون)، دون أن تخدم هذه الإزالة أغراض سياسة المنظمات الخطرة والأفراد الخطرين. علاوة على ذلك، تحظر سياسات Meta، على سبيل المثال، تمجيد الأفراد المصنّفين والمنظمات والأحداث المصنّفة ودعمها وتمثيلها، وتحظر أيضًا التحريض على العنف. وتخفف هذه السياسات، التي يتم إنفاذها بدقة، من المخاطر الناتجة عن استخدام الإرهابيين لمنصات Meta. وبالتالي، يوصي المجلس Meta بإنهاء حظرها الشامل لكلمة "شهيد" للإشارة إلى أفراد مصنّفين كأفراد خطرين، وتعديل سياستها على نحو يكفل إجراء تحليل للمحتوى الذي يتضمن الكلمة يكون أكثر استنادًا إلى السياق.

الخلفية

في فبراير 2023، سألت Meta المجلس عما إذا كان يجب عليها الاستمرار في إزالة المحتوى الذي يستخدم الكلمة العربية "shaheed" أو "شهيد" عند كتابتها بحروف عربية، للإشارة إلى أفراد مصنّفين بموجب سياساتها للمنظمات الخطرة والأفراد الخطرين. وقد أصبحت كلمة "شهيد" أيضًا كلمة مستعارة (بمعنى أن العديد من اللغات غير العربية قد "استعارت" هذه الكلمة عربية الأصل، بما في ذلك من خلال مواءمة طريقة تهجئتها).

تصف الشركة كلمة "شهيد" على أنها كلمة "تشريفية"، تستخدمها العديد من المجتمعات عبر مختلف الثقافات والديانات واللغات، للإشارة إلى شخص توفي بشكل غير متوقع، في حادث على سبيل المثال، أو بشكل مُشرِّف، كما في الحرب. وتقر الشركة بأن للكلمة "معانٍ متعددة" وعلى الرغم من "عدم وجود مكافئ مباشر باللغة الإنجليزية،" فإن الترجمة الإنجليزية الشائعة لها هي "martyr". مع ملاحظة أن "كلمة "martyr" باللغة الإنجليزية تعني الشخص الذي عانى أو مات في سبيل قضية مبررة وعادة ما تكون للكلمة دلالات إيجابية،" وتذكر Meta أن "هذا الاستخدام هو ما دفعنا إلى تصنيف كلمة ["شهيد"] على أنها إشادة بموجب سياستنا بشأن [المنظمات الخطرة والأفراد الخطرين]".

أدى افتراض Meta بأن الإشارة إلى شخص مصنّف على أنه "شهيد" يعتبر "إشادة" في جميع الحالات بموجب سياسة المنظمات الخطرة والأفراد الخطرين إلى فرض حظر شامل على هذه الكلمة. وقد أقرت Meta أنها قد "تفرط في اتخاذ إجراءات إنفاذ تجاه أعداد كبيرة من عناصر الخطاب التي لا تهدف إلى الإشادة بشخص مصنّف، لا سيّما بين المتحدثين باللغة العربية" نتيجة لتعدد معاني هذه الكلمة. علاوة على ذلك، لا تطبق Meta استثناءات سياسة المنظمات الخطرة والأفراد الخطرين التي تسمح باستخدام كلمة "شهيد" على المحتوى الذي "يقدم تقارير عن كيانات مصنّفة أو يدينها أو يجري مناقشات حيادية بشأنها". وقد ظل هذا الوضع قائمًا بموجب آخر تحديثات السياسة - التي تمت في ديسمبر 2023 - والتي تحظر حاليًا "التمجيد" و"الإشارات غير الواضحة" بدلاً من "الإشادة"، التي أزيلت تمامًا.

بدأت Meta عملية تطوير للسياسة عام 2020 لإعادة تقييم نهجها في التعامل مع كلمة "شهيد" بسبب هذه المخاوف. ومع ذلك، لم يتم التوصل إلى إجماع داخل الشركة ولم يتم الاتفاق على نهج جديد.

عند طلب هذه الرأي الاستشاري بشأن سياسات المحتوى، قدمت Meta إلى المجلس ثلاثة خيارات ممكنة إلى المجلس:

1. الحفاظ على الوضع الراهن.
2. السماح باستخدام كلمة "شهيد" كإشارة إلى أفراد مصنّفين في المنشورات التي تستوفي استثناءات حظر "الإشادة" (على سبيل المثال، نشر التقارير أو المناقشات الحيادية أو الإدانة)، طالما لا توجد إشادة أو "إشارات عنف" أخرى. تضمنت بعض أمثلة الإشارات التي اقترحتها Meta التصوير المرئي للأسلحة، أو الإشارات إلى لغة عسكرية أو عنف على أرض الواقع.
3. السماح باستخدام كلمة "شهيد" كإشارة إلى أفراد مصنّفين طالما لا توجد إشادة أو إشارات عنف أخرى. وذلك بغض النظر عما إذا كان المحتوى يندرج تحت أي من الاستثناءات المذكورة أعلاه، على عكس الخيار الثاني.

لقد نظر المجلس في الخيارات المحتملة الأخرى بشأن السياسة. وللأسباب الواردة في هذا الرأي الاستشاري بشأن سياسة المحتوى، تتفق توصيات المجلس بشكل وثيق مع الخيار الثالث، على الرغم من أن عدد إشارات العنف التي تم إقرارها أقل مما اقترحته Meta في طلبها، وهناك حاجة إلى تطبيق استثناءات السياسة بشكل أوسع لأغراض نشر التقارير عن الكيانات المصنّفة وأفعالها أو إدانتها أو مناقشتها بحيادية.

النتائج والتوصيات الأساسية

يرى المجلس أن نهج Meta الحالي في التعامل مع كلمة "شهيد" فيما يتعلق بالأفراد المصنّفين على أنهم خطرون فضفاض للغاية، ويقيد حرية التعبير بشكل كبير وغير متناسب.

تحظى كلمة "شهيد" بأهمية ثقافية ودينية. وتُستخدم أحيانًا لتعبر عن الإشادة بالأشخاص الذين يلقون حتفهم وهم يرتكبون أعمال عنف بل و"تمجيدهم". لكنها غالبًا ما تُستخدم، حتى مع الإشارة إلى أفراد خطرين، في التقارير الصحفية والتعليقات المحايدة، والمناقشات الأكاديمية، والمناقشات بشأن حقوق الإنسان، وحتى بطرق أكثر سلبية. ومن بين المعاني الأخرى، تستخدم كلمة "شهيد" على نطاق واسع للإشارة إلى الأفراد الذين يموتون أثناء خدمة وطنهم، أو خدمة قضيتهم، أو كضحايا غير متوقعين لأحداث عنف اجتماعي أو سياسي أو مأساة طبيعية. وفي بعض المجتمعات الإسلامية، يتم استخدامها كاسم ولقب. وهناك سبب قوي للاعتقاد بأن تعدد معاني كلمة "شهيد" يؤدي إلى إزالة أعداد كبيرة من المواد التي لا تهدف إلى الإشادة بالإرهابيين أو أعمال العنف التي يرتكبونها.

إن نهج Meta المتمثل في إزالة المحتوى لمجرد استخدام كلمة "شهيد" عند الإشارة إلى أفراد مصنّفين يتجاهل عمدًا التعقيد اللغوي للكلمة واستخداماتها المتعددة، ويتعامل معها دائمًا وفقط على أنها المكافئ لكلمة "martyr" في اللغة الإنجليزية. ويؤثر القيام بذلك بشكل كبير في حرية التعبير وحريات وسائل الإعلام، ويقيد الخطاب المدني بشكل غير مبرر، ويؤثر بالسلب إلى درجة كبيرة على المساواة وعدم التمييز. ويؤثر فرط الإنفاذ هذا بشكل غير متناسب على المتحدثين باللغة العربية والمتحدثين باللغات الأخرى التي تحتوي على كلمات مستعارة من كلمة "شهيد". وفي الوقت ذاته، فإن الطرق الأخرى لتنفيذ سياسة المنظمات الخطرة والأفراد الخطرين من شأنها أن تمكن Meta من تعزيز قيمة السلامة التي تتبناها وهدفها المتمثل في الحيلولة دون نشر مواد تمجد الإرهابيين على منصاتها. وبالتالي فإن السياسة الحالية غير متناسبة وغير ضرورية.

ولمواءمة سياساتها وممارسات الإنفاذ التي تتبعها فيما يتعلق بكلمة "شهيد" بشكل أوثق مع معايير حقوق الإنسان، يوصي المجلس باتباع التوصيات التالية:

1. يجب أن تتوقف Meta عن افتراض أن كلمة "شهيد" تشكّل انتهاكًا في جميع الأحوال وأنها غير مؤهلة لأي من استثناءات السياسة، عند استخدامها للإشارة إلى فرد مصنّف أو أعضاء غير محددين في منظمة مصنّفة. يجب إزالة المحتوى الذي يشير إلى فرد مصنّف على أنه "شهيد" باعتباره "إشارة غير واضحة" في حالتين فقط. أولاً، عند وجود واحدة أو أكثر من ثلاث إشارات للعنف: تصوير مرئي لسلاح أو عبارة تنم عن نية أو تأييد لاستخدام أو حمل الأسلحة، أو إشارة إلى حدث مصنّف. ثانيًا، عندما ينتهك المحتوى سياسات Meta بطريقة أخرى (على سبيل المثال، بسبب التمجيد أو لأن الإشارة إلى فرد مصنّف لا تزال غير واضحة لأسباب أخرى غير استخدام كلمة "شهيد"). في أي من الحالتين، ينبغي أن يظل المحتوى مؤهلاً لاستثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

2. لتوضيح الحظر المفروض على "الإشارات غير الواضحة"، يجب على Meta تضمين عدة أمثلة للمحتوى المخالف، بما في ذلك منشور يشير إلى فرد مصنّف باستخدام كلمة "شهيد" مع إشارة أو أكثر من الإشارات الثلاث الموضحة في التوصية رقم 1.

3. يجب أيضًا تحديث إرشادات السياسة الداخلية لشركة Meta لتوضيح أن الإشارة إلى أفراد مصنّفين باستخدام كلمة "شهيد" لا تشكّل انتهاكًا إلا عندما تصحبها إشارات عنف، وأنه حتى مع وجود تلك الإشارات، قد يظل المحتوى يستفيد من استثناءات "نشر التقارير أو المناقشات الحيادية أو الإدانة".

إذا قبلت Meta هذه التوصيات ونفذتها، وفق قواعدها الحالية، فستستمر الشركة في إزالة المحتوى الذي "يمجد" الأفراد المصنّفين، أو يصف عنفهم أو كراهيتهم كإنجاز، أو يضفي الشرعية على أعمالهم العنيفة أو التي تحض على الكراهية أو يدافع عنها، بالإضافة إلى أي دعم أو تمثيل لكيان خطِر مصنّف. إن النهج الذي يقترحه المجلس انطلاقًا من هذه التوصيات يقضي بأن تتوقف Meta عن تفسير كلمة "شهيد" دائمًا كانتهاك عند استخدامها للإشارة إلى فرد مصنّف، والاقتصار في إزالة المحتوى على الحالات التي يكون مصحوبًا فيها بانتهاكات إضافية للسياسة (على سبيل المثال، التمجيد) أو عندما يشكّل "إشارة غير واضحة" بسبب وجود إشارات عنف. وسيظل هذا المحتوى بحاجة إلى أن يكون مؤهلاً لاستثناءات السياسة من قبيل "نشر التقارير عن أفراد مصنّفين أو تناولهم بمناقشات حيادية أو إدانتهم".

يوصي المجلس Meta أيضًا بما يلي:

4. تقديم توضيح أكثر تفصيلاً عن الإجراء الذي يتم وفقًا له تصنيف الكيانات والأحداث بموجب سياستها بشأن المنظمات الخطرة والأفراد الخطرين لتحسين الشفافية بشأن هذه القائمة. يجب على Meta أيضًا نشر معلومات مجمعة عن العدد الإجمالي للكيانات التي تندرج تحت كل فئة من فئات قائمة التصنيف، وعدد الكيانات التي أضيفت أو أزيلت خلال العام الماضي.

5. استحداث عملية واضحة وفعّالة لمراجعة التصنيفات بانتظام وإزالة تلك التي لم تعد تفي بالمعايير المعلنة للتأكد من أن قائمة المنظمات الخطرة والأفراد الخطرين محدّثة، ولا تتضمن منظمات أو أفراد أو أحداث لم تعد تندرج تحت تعريف Meta للتصنيف.

6. شرح الطريقة التي تتبعها لتقييم دقة المراجعة البشرية وأداء الأنظمة التلقائية في إنفاذ سياستها بشأن المنظمات الخطرة والأفراد الخطرين. يجب على Meta أيضًا مشاركة نتائج تقييم أداء أدوات التصنيف المستخدمة في إنفاذ هذه السياسة بشكل دوري، وتقديم النتائج بطريقة يمكن مقارنتها على مستوى اللغات و/أو المناطق.

7. تقديم شرح واضح لكيفية استخدام أدوات التصنيف في إنشاء تنبؤات بشأن انتهاكات السياسة والآلية التي تتبعها Meta لتعيين الحدود التي يتم وفقًا لها إما الامتناع عن اتخاذ إجراء أو إخضاع المحتوى إلى المراجعة البشرية أو إزالة المحتوى. يجب تقديم هذه المعلومات في مركز الشفافية الخاص بالشركة ليطلع عليها أصحاب المصلحة.

لمزيد من المعلومات

في إطار تحضير هذا الرأي الاستشاري بشأن سياسات المحتوى، نفذ المجلس تفاعلاً مكثفًا مع المساهمين. لمزيد من التفاصيل عن التعليقات العامة التي تلقيناها واجتماعات المائدة المستديرة لتفاعل المساهمين، انقر حتى تصل إلى الرأي الاستشاري بشأن سياسات المحتوى الكامل.

العودة إلى الأخبار