صحفي سويدي يصف حوادث عنف جنسي ضد قُصَّر

ملخص الحالة

ملاحظة: يرجى العلم قبل قراءة القرار التالي أنه يتضمن مادة يُحتمل أن تكون حساسة تتعلق بمحتوى العنف الجنسي ضد القُصَر.

ألغى مجلس الإشراف قرار شركة Meta بإزالة منشور يصف حوادث عنف جنسي ضد اثنين من القُصَر. وقد وجد المجلس أن المنشور لا ينتهك معيار المجتمع بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا. ويتضح من السياق الأوسع للمنشور أن المستخدم كان ينشر تقريرًا عن مشكلة تحظى باهتمام عام ويدين الاستغلال الجنسي لقاصر.

حول هذه الحالة

في أغسطس 2019، نشر مستخدم من السويد في صفحته على فيسبوك صورة جاهزة لفتاة جالسة وهي تضع رأسها بين يديها بطريقة تخفي وجهها. وكانت الصورة مصحوبة بشرح توضيحي باللغة السويدية يصف حوادث عنف جنسي ضد اثنين من القُصَّر. وقد تضمن المنشور تفاصيل حول حالتي اغتصاب لقاصرتين لم يذكر اسميهما، ولكنه حدد عمريهما، والبلدة التي وقعت فيها الجريمة الأولى. وقد ذكر المستخدم أيضًا تفاصيل أحكام الإدانة الصادرة ضد الجناة الاثنين في هاتين الجريمتين والذين لم يكشف عن اسميهما.

يزعم المنشور أن نظام العدالة الجنائية السويدي متساهل للغاية ويحفز على ارتكاب الجرائم. ودعا المستخدم إلى إنشاء سجل لمرتكبي الجرائم الجنسية داخل البلد. وقد أضاف المستخدم أيضًا المصادر في قسم التعليقات على المنشور، حيث أشار إلى القضايا الجنائية بالأرقام المرجعية للمحكمة وأضاف روابط إلى تغطية وسائل الإعلام المحلية للجرائم.

قدّم المنشور تفاصيل صادمة عن التأثير الضار للجريمة على الضحية الأولى. كما تضمن المنشور اقتباسات نُسبت إلى الجاني وهو يتباهى أمام أصدقائه بالاغتصاب، ويشير إلى الفتاة القاصر بألفاظ لها إيحاءات جنسية. وعلى الرغم من أن المستخدم نشر المحتوى على فيسبوك في شهر أغسطس من عام 2019، لم تقم Meta بإزالته إلا بعد مضيّ عامين من نشره، وتحديدًا في سبتمبر 2021، بموجب قواعدها بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا.

أهم النتائج

وجد المجلس أن هذا المنشور لا ينتهك معيار المجتمع بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا. وعلى الرغم من أن المنشور قد تضمن وصفًا دقيقًا ومجردًا لتداعيات الاغتصاب إلى جانب العبارة الجنسية الصريحة التي أدلى بها الجاني، فهو لم يشكّل لغة تستغل الأطفال جنسيًا أو تصف قاصرًا في "سياق يضفي طابعًا جنسيًا."

خلُص المجلس أيضًا إلى أن المنشور لم يكن يعرض قاصرًا في "سياق يضفي طابعًا جنسيًا" حيث يتضح من السياق الأوسع للمنشور أن المستخدم كان ينشر تقريرًا عن مشكلة تحظى باهتمام عام ويدين الاستغلال الجنسي لقاصر.

يشير المجلس إلى أن Meta لم تضع تعريفًا لمصطلحات مهمة مثل "وصف" و"إضفاء طابع جنسي" في معايير المجتمع المعلنة للجمهور. وعلاوة على ذلك، على الرغم من أن Meta قد أخبرت المجلس أنها تتيح "نشر تقارير" عن الاغتصاب والاستغلال الجنسي، لم تذكر الشركة ذلك في سياساتها المتاحة للعامة كما لم توضح الفرق بين "الوصف" و"نشر التقارير". وتتعامل إحدى التوصيات أدناه مع هذه النقاط.

من المثير للقلق أن شركة Meta أزالت المنشور من المنصة بعد عامين من نشره دون تقديم تفسير كافٍ لسبب الإزالة. ولم يطرأ على السياسات خلال تلك الفترة أي تغيير جوهري يفسر الإزالة.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta بإزالة المحتوى، وطلب استعادة المنشور.

وفي صورة بيان استشاري بشأن السياسة، يوصي المجلس شركة Meta بما يلي:

• وضع تعريف لمصطلحات الوصف الصادم وإضفاء الطابع الجنسي في معيار المجتمع بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيُا. ويجب أن توضح Meta أيضًا أن اللغة الصريحة لا تشكل في كل الحالات وصفًا صادمًا أو إضفاءً للطابع الجنسي وأن تشرح الفرق بين المصطلحات القانونية أو السريرية أو الطبية والمحتوى المصوّر أو الصادم. وينبغي على Meta أيضًا تقديم توضيح للتمييز بين استغلال الأطفال جنسيًا ونشر تقارير عن الاستغلال الجنسي للأطفال. وسيعتبر المجلس أن توصياته قد دخلت حيز التنفيذ عند إضافة نصوص إلى معيار المجتمع تعرِّف المصطلحات المهمة والفروق.
• إجراء عملية لتطوير السياسة، بما في ذلك كمناقشة في منتدى السياسات، لتحديد إمكانية وكيفية فرض حظر على تحديد هوية الأطفال ضحايا جرائم العنف الجنسي بشكل وظيفي في معايير مجتمعها. وينبغي أن تنطوي هذه العملية على مشاركة جهات مساهمة وخبراء في تحديد الهوية وظيفيًا وحقوق الطفل. وسيعتبر المجلس أن توصيته هذه قد دخلت حيز التنفيذ عندما تنشر Meta وقائع منتدى سياسة المنتج الذي تمت مناقشة الأمر فيه.

*توفر ملخصات الحالة نظرة عامة على الحالة ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

ألغى مجلس الإشراف قرار شركة Meta بإزالة المحتوى من فيسبوك. يتناول المنشور اغتصاب فتاتين قاصرتين ويستخدم لغة صريحة لوصف الاعتداء وتأثيره على إحدى الناجيات. طبقت Meta معيار المجتمع بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا لإزالة المنشور وأحالت الحالة إلى مجلس الإشراف. وجد المجلس أن المحتوى لم ينتهك السياسة التي تحظر وصف الاستغلال الجنسي للأطفال ويرى ضرورة استعادته.

2. وصف الحالة

في أغسطس 2019، نشر مستخدم في السويد بصفحته على فيسبوك صورة جاهزة لفتاة جالسة وهي تضع رأسها بين يديها بطريقة تخفي وجهها مع شرح توضيحي باللغة السويدية يصف حوادث عنف جنسي ضد فتاتين قاصرتين باستخدام لغة صادمة. وقد تضمن المنشور تفاصيل حول حالتي اغتصاب لقاصرتين لم يذكر اسميهما، ولكنه حدد عمريهما، والبلدة التي تمت فيها الجريمة الأولى. وقد ذكر المستخدم أيضًا تفاصيل أحكام الإدانة الصادرة ضد الجناة الاثنين في هذه الجرائم والذين لم يكشف عن اسميهما. وتفيد التقارير أن أحد هذين الجانين صدر بحقه حكم غير احتجازي نظرًا لأنه كان قاصرًا عندما ارتكب الجريمة. وأفادت التقارير أن الجاني في القضية الأخرى قد أنهى مؤخرًا عقوبة بالسجن لارتكابه جريمة عنف ضد امرأة أخرى. ويزعم المستخدم أن نظام العدالة الجنائية السويدي متساهل للغاية ويحفّز على ارتكاب الجرائم. ودعا المستخدم إلى إنشاء سجل لمرتكبي الجرائم الجنسية داخل البلد. وقد أضاف المستخدم المصادر في قسم التعليقات على المنشور، حيث أشار إلى القضايا الجنائية بالأرقام المرجعية للمحكمة وأضاف روابط إلى تغطية وسائل الإعلام المحلية للجرائم. وحين نُشر هذا المحتوى، كانت المناقشات التي تتناول عقوبات الاعتداء الجنسي على الأطفال جزءًا من المناقشات الأوسع نطاقًا بشأن إصلاح العدالة الجنائية في السويد. وقد كرّس المستخدم صفحته على فيسبوك للمنشورات التي تدور حول مرتكبي جرائم الإساءة الجنسية للأطفال والدعوة لإصلاح العقوبات الحالية للجرائم الجنسية في السويد.

يقدم المنشور تفاصيل مستفيضة وصادمة عن الأثر الضار للجريمة على الضحية الأولى، بما في ذلك وصف إصاباتها الجسدية والنفسية، والإساءة التي تعرضت لها على الإنترنت وعلى أرض الواقع، علاوة على الدعم النفسي الذي تلقته. وقد تضمن المنشور أيضًا اقتباسات نُسبت إلى الجاني وهو يتباهى أمام أصدقائه بالاغتصاب ويشير إلى الفتاة القاصر بألفاظ لها إيحاءات جنسية؛ وقد أورد المنشور وصفًا يشير إلى قول الجاني لأصدقائه إن "مهبل الفتاة كان 'ضيقًا' وأظهر بفخر يديه الملطختين بالدماء."

حصل المنشور على نحو مليوني مشاهدة، و2000 تعليق و20 ألف تفاعل. ووفقًا لشركة Meta، تمت مشاركة المنشور على صفحة تم تعيين إعدادات خصوصيتها إلى عامة، وهو ما يعني أن بإمكان أي شخص رؤية المحتوى المنشور بها. يتابع الصفحة نحو 100 ألف شخص، يقع 95‏% منهم في السويد.

منذ نشره في أغسطس 2019 حتى 1 سبتمبر 2021، قدّم ثمانية مستخدمين ملاحظات لتمييز المنشور باعتباره يمثل انتهاكًا محتملاً لمعايير المجتمع بشأن الخطاب الذي يحض على الكراهية، والعنف والتحريض والإساءة والمضايقة. وتختلف عمليات تقديم المستخدمين لملاحظات بشأن منشور عن قيامهم بالإبلاغ عن انتهاكات مزعومة؛ ويتوفر كلا الخيارين للمستخدمين. تُرسل الملاحظات إشارات إلى Meta يتم أخذها في الحسبان بشكل مجمع ويمكنها التأثير في ترتيب أولوية المحتوى الذي يظهر في الموجز لدى المستخدم المعني. وعندما يبلغ مستخدم عن منشور باعتباره يمثل انتهاكًا محتملاً للسياسة، تتولى شركة Meta تقييم المحتوى للوقوف على مدى امتثاله لسياساتها. وقد أبلغ أحد المستخدمين عن المنشور في 5 سبتمبر 2019، لانتهاك سياسة الإساءة والمضايقة، مما أدى إلى خضوعه إلى مراجعة تلقائية قيّمت المنشور باعتباره غير مخالف وبالتالي لم تتم إزالته. في أغسطس 2021، حددت تقنيات شركة Meta المنشور باعتباره يمثل انتهاكًا محتملاً. وبعد إجراء مراجعة بشرية، تم تحديد المنشور باعتباره يمثل انتهاكًا لسياسة عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا ومن ثم فقد تمت إزالته. وقد تعرض حساب منشئ المحتوى لمخالفة أدت إلى تقييد ميزتين منفصلتين. وقد منع تقييد إحدى الميزات المستخدم من إجراء بث مباشر على فيسبوك، واستخدام منتجات الإعلانات، وإنشاء غرف Messenger أو الانضمام إليها. وقد أدت العقوبة الأخرى إلى تقييد الميزات لمدة 30 يومًا، والذي تم منع المستخدم بموجبه من إنشاء أي محتوى جديد، عدا الرسائل الخاصة. وبعد أن طعن المستخدم على القرار وبعد إجراء مراجعة بشرية إضافية، لم تتم استعادة المنشور ولكن تم إلغاء المخالفة المصاحبة للإزالة. ألغت Meta المخالفة لأن الشركة رأت أن غرض المنشور كان زيادة الوعي بالقضية المعنية. تشير Meta في مركز الشفافية التابع لها أن تطبيق مخالفة من قبل المنصة "يعتمد على خطورة المحتوى، والسياق الذي تمت مشاركة المحتوى فيه وتوقيت نشره،" لكنها لم تذكر صراحة أنه يمكن إلغاء المخالفة أو إيقافها إذا كان غرض المنشور يتمثل في زيادة الوعي.

وفقًا لشركة Meta، أزالت الشركة خلال عام 2021 خمسة عناصر محتوى من هذه الصفحة بسبب انتهاك سياسة عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا. وقد تمت استعادة ثلاثة من المنشورات التي أزيلت، بعد إجراء مراجعة إضافية تقرر بموجبها أن المنشورات أزيلت عن طريق الخطأ. وقد تم إلغاء المخالفات المصاحبة لعمليات الإزالة تلك عند استعادة المنشورات.

عند إزالة هذا المنشور، خفضت شركة Meta أيضًا معدلات انتشار الصفحة وأزالتها من التوصيات. وتوضح Meta من خلال مركز الشفافية، أنه قد تتم إزالة الصفحات أو المجموعات التي تكرر انتهاك السياسات من التوصيات وقد يتم خفض معدلات انتشارها. ولا يوضح مركز الشفافية مدة فرض هذه العقوبة. وقد أخبرت Meta المجلس أن الصفحة تزال من التوصيات طالما تجاوزت حد المخالفة. ويبلغ حد المخالفة ثلاث مخالفات للانتهاك القياسي ومخالفة واحدة للانتهاك الجسيم (على سبيل المثال، الانتهاك الذي يتضمن استغلال الأطفال جنسيًا، أو الانتحار وإيذاء الذات أو الإرهاب).

3. السُلطة والنطاق

يتمتع المجلس بسلطة مراجعة القرارات التي تقدمها Meta للمراجعة (المادة 2، القسم 1 من اتفاقية المجلس؛ المادة 2، القسم 2.1.1 من اللائحة الداخلية). يجوز للمجلس تأييد قرار شركة Meta أو إلغائه (المادة 3، القسم 5 من اتفاقية المجلس)، ويكون قراره بهذا الشأن ملزمًا للشركة (المادة 4 من اتفاقية المجلس). يجب على شركة Meta أيضًا تقييم جدوى تطبيق قرارها على أي محتوى مماثل له سياق موازٍ (المادة 4 من اتفاقية المجلس). وقد تتضمن قرارات المجلس بيانات استشارية بشأن السياسية تضم توصيات غير ملزمة يجب على شركة Meta الرد عليها (اتفاقية المجلس، المادة 3، القسم 4؛ المادة 4).

4. المعايير ذات الصلة

أخذ مجلس الإشراف المعايير التالية في الاعتبار عند إصدار قراره:

1. معايير مجتمع فيسبوك

تنص مبادئ سياسة عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا على أن Meta لا تسمح بالمحتوى الذي "يستغل الأطفال جنسيًا أو يعرضهم للخطر." بموجب هذه السياسة، تزيل Meta المحتوى الذي "يهدد بالاستغلال الجنسي للأطفال أو يصوره أو يمتدحه أو يدعمه أو يوفر تعليمات بشأنه أو يدلي بتصريحات تنطوي على إبداء النية لارتكابه أو يعترف بالمشاركة فيه أو يشارك روابط للاستغلال الجنسي للأطفال." تحظر Meta أيضًا المحتوى "(بما في ذلك الصور ومقاطع الفيديو والأعمال الفنية الواقعية والمحتوى الرقمي والنصوص الوصفية اللغوية) الذي يعرض الأطفال في سياق جنسي." تحظر هذه السياسة أيضًا المحتوى الذي يحدد أو يسخر، بالاسم أو الصورة، من الضحايا المزعومين للاستغلال الجنسي للأطفال، لكنها لا تحظر تحديد هوية القاصرين بشكل وظيفي.

2. قيم شركة Meta

تم توضيح قيم شركة Meta في مقدمة معايير مجتمع فيسبوك. وقد جرى وصف قيمة "حرية الرأي" بأنها "ذات أهمية قصوى":

يتمثل هدف معايير مجتمعنا دائمًا في توفير مكان لحرية الرأي يستطيع الأشخاص من خلاله إبداء وجهات نظرهم. [ونحن نريد] أن يتمتع الأشخاص بالقدرة على التحدث بحرية عن القضايا التي تهمهم، حتى في حالة عدم اتفاق البعض أو اعتراضهم.

تُقيد شركة Meta "حرية الرأي" لخدمة أربع قيم أخرى، ترتبط ثلاثة منها بهذه الحالة:

"السلامة": إن المحتوى الذي يحمل تهديدًا للأشخاص قد يتسبب في إخافة الآخرين أو إقصائهم أو إسكاتهم ونحن لا نسمح بذلك على فيسبوك.

"الخصوصية": نحن ملتزمون بحماية الخصوصية والمعلومات الشخصية. وذلك لأن الخصوصية تمنح الأشخاص حرية التعبير عن ذواتهم الحقيقية، واختيار طريقة وتوقيت المشاركة على فيسبوك والتواصل بسهولة أكبر.

"الكرامة": نحن نؤمن بأن الأشخاص متساوون في الكرامة والحقوق. ونتوقع من الجميع احترام كرامة الآخرين وعدم الإساءة إليهم أو الحط من قدر الآخرين.

3. معايير حقوق الإنسان

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP) إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. خلال عام 2021، أعلنت شركة Meta عن سياسة حقوق الإنسان الخاصة بالشركة، والتي أعادت من خلالها التأكيد على الالتزام باحترام حقوق الإنسان على نحو يتفق مع مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. استند تحليل المجلس في هذه الحالة إلى معايير حقوق الإنسان التالية:

• الحق في حرية الرأي والتعبير: المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)؛ التعليق العام رقم 34، اللجنة المعنية بحقوق الإنسان 2011؛ تقرير مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير: A/74/486‏ (2019)؛ تقرير مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير: A/HRC/17/27 ‏(2011).
• مصلحة الطفل الفضلى: المادة 3، اتفاقية حقوق الطفل (CRC)؛ التعليق العام رقم 25، لجنة حقوق الطفل، 2021.
• الحق في الصحة البدنية والنفسية: المادة 12، العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية (ICESCR)؛ المادتان 17 و 19 من اتفاقية حقوق الطفل بشأن حقوق الأطفال في الوصول إلى المعلومات لتعزيز صحتهم البدنية والنفسية، والحماية من جميع أشكال العنف البدني والنفسي.
• الحق في الخصوصية: المادة 17، العهد الدولي الخاص بالحقوق المدنية والسياسية، المادة 16، اتفاقية حقوق الطفل، الملاحظات الختامية، نيبال، لجنة حقوق الطفل، 21 سبتمبر 2005، CRC/C/15/Add.261 الفقرتان 45 و46.

5. بيان المستخدم

بعد إحالة شركة Meta الحالة وقبول المجلس لها، تم إرسال رسالة إلى المستخدم لإخطاره بمراجعة المجلس ومنحه فرصة لتقديم بيان إلى المجلس. ولم يقدم المستخدم بيانًا.

6. شرح قرار شركة Meta

أوضحت شركة Meta في حيثيات قرارها أن المحتوى قد أزيل لأنه انتهك معيار مجتمعها بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا. أوضحت شركة Meta أن سطرين جعلا المنشور مخالفًا، السطر الذي يصف تفصيليًا التداعيات الجسدية للاغتصاب والسطر الذي يقتبس الوصف الجنسي الصريح الذي أدلى به الجاني حين قال إن مهبل القاصر "ضيق". أشارت شركة Meta إلى ما توصل إليه الخبراء من مجموعة واسعة من المصادر بما في ذلك الشبكة الوطنية للاغتصاب والاعتداء وسفاح المحارم (RAINN)، و"استراتيجية 2021 للتصدي للاعتداء الجنسي على الأطفال" في المملكة المتحدة و"استراتيجية الاتحاد الأوروبي من أجل مكافحة أكثر فعّالية ضد الاعتداء الجنسي على الأطفال" بالإضافة إلى عدد من المقالات الأكاديمية، من أن وصف الاغتصاب قد يؤذي الضحايا من خلال تكرار الشعور بالصدمة، وانتهاك الخصوصية وتسهيل الإساءة إليهم.

وقد أوضحت شركة Meta أيضًا أنه في حين تتضمن بعض سياساتها استثناءات تسمح بمشاركة المحتوى الذي يعتبر مخالفًا لولا تلك الاستثناءات إذا كان الغرض من نشره تعزيز الوعي أو إدانة الأفعال الضارة، فإن التحدي المتمثل في "تحديد أين يبدأ خطر [تكرار الشعور بالصدمة] وأين تنتهي فائدة تعزيز الوعي" قد أدى إلى حظر الأوصاف الصادمة حتى عند مشاركتها بحسن نية وبهدف تعزيز الوعي. وتذكر شركة Meta في حيثياتها إلى المجلس أنها تسمح بنشر التقارير التي تتناول الاغتصاب والاعتداء الجنسي، دون وصف صادم. أوضحت شركة Meta أيضًا أنها تعرِّف "الوصف" باعتبار أنه يتضمن عرض صور أو مقاطع صوتية أو أوصاف نصية أو عمليات بث.

أوضحت شركة Meta في حيثياتها أنها قررت تقديم قيم "الخصوصية"، و"السلامة" و"الكرامة" فيما يتعلق بالقُصَّر على قيمة حرية الرأي لأن المحتوى الصادم قد يؤدي إلى تكرار إيذاء الأطفال. وذكرت شركة Meta أيضًا أنه في حين لم يذكر المنشور اسم الضحية، يمكن استخدام المعلومات المضمنة في المنشور لتحديد هوية الضحية وتعرضها لمعاملة تمييزية.

أوضحت شركة Meta أيضًا أنها استرشدت باتفاقية حقوق الطفل (CRC) عند وضع سياساتها وقيمها، مستشهدة بالتعليق العام رقم ‎25 (2021) للجنة حقوق الطفل التابعة للأمم المتحدة لتنفيذ السياسات والممارسات التي "تحمي الأطفال من المخاطر المتعارف عليها والناشئة عن جميع أشكال العنف في البيئة الرقمية." وقد ذكرت شركة Meta للمجلس أن مخاطر تكرار إيذاء الأطفال هي ما دفعت الشركة إلى اتخاذ قرارها الذي ينص على ضرورة إزالة المحتوى. وفي حين تنظر شركة Meta في تطبيق استثناء الأهمية الإخبارية على المحتوى الصادم إذا كانت المصلحة العامة المترتبة على حرية التعبير قوية بشكل خاص وكانت مخاطر وقوع ضرر منخفضة، فقد قررت الشركة في هذه الحالة أن خطر وقوع ضرر يفوق قيمة المصلحة العامة المترتبة على حرية التعبير. ووفقًا لشركة Meta، فقد طبق فيسبوك استثناء الأهمية الإخبارية على انتهاكات سياسة الاستغلال الجنسي للأطفال ست مرات خلال العام الماضي.

7. المعلومات المقدمة من جهات خارجية

تلقى المجلس 10 تعليقات عامة بشأن هذه الحالة من مساهمين بما في ذلك الأوساط الأكاديمية ومنظمات المجتمع المدني التي تركز على حقوق الناجين من الاعتداءات الجنسية وحقوق الأطفال وحرية التعبير. وقد وردت ثلاثة من هذه التعليقات من أوروبا واثنين من أمريكا اللاتينية ومنطقة الكاريبي وخمسة من الولايات المتحدة وكندا. تناولت التعليقات موضوعات من بينها أهمية حماية خصوصية الناجين؛ وخطورة إزالة خطاب الناجين أو المنظمات التي تعمل على مكافحة الاستغلال الجنسي للأطفال وإساءة معاملتهم؛ ودور خيارات تصميم منصة Meta في ترويج المنشورات المثيرة للمشاعر؛ والحاجة إلى مزيد من الشفافية والوضوح فيما يتعلق بنظام الإشراف على المحتوى المنشور على المنصة.

في 30 نوفمبر 2021، عُقدت مائدة مستديرة افتراضية مع سبع مجموعات ومنظمات مناصرة تتمثل مهمتها في تمثيل الناجيات من العنف المنزلي والجنسي ضد النساء والأطفال. وقد تطرقت المناقشة إلى عدد من الموضوعات المتعلقة بمحتوى الحالة التي بين أيدينا بما في ذلك التمييز بين ما قد يعتبره عامة الجمهور أوصافًا صادمة للاغتصاب والأوصاف المجردة الفعلية للجريمة وتداعياتها؛ والاستغلال الثانوي للناجين أو إيذائهم لأغراض التماس التبرعات أو جمعها؛ وتمكين الناجين من خلال سؤالهم عما يريدون والحصول منهم على موافقة مستنيرة عند نشر تقارير عن الجرائم المرتكبة ضدهم؛ والأهمية القصوى التي تستحوذ عليها وكالة الناجين.

لقراءة التعليقات العامة المقدمة في هذه الحالة، يرجى النقر هنا.

8. تحليل مجلس الإشراف

ينظر المجلس في مسألة ما إذا كان ينبغي استعادة المحتوى من خلال ثلاث رؤى: معايير مجتمع فيسبوك؛ والقيم المعلنة لشركة Meta؛ ومسؤولياتها تجاه حقوق الإنسان. خلُص المجلس إلى أن المحتوى لا ينتهك معايير مجتمع فيسبوك وينبغي استعادته. علاوة على ذلك، تدعم قيم شركة Meta ومسؤولياتها تجاه حقوق الإنسان استعادة المحتوى. ويوصي المجلس بإجراء تغييرات على سياسات المحتوى التي تنتهجها شركة Meta بحيث توفر تعريفًا واضحًا لمصطلحات إضفاء الطابع الجنسي والوصف الصادم ونشر التقارير.

8.1. الامتثال لمعايير المجتمع

خلُص المجلس إلى أن هذا المنشور لا ينتهك معيار المجتمع بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا، ولم يكن ينبغي إزالته. وخلُص المجلس إلى أنه على الرغم مما تضمنه المنشور من وصف دقيق ومجرد لتداعيات الاغتصاب وما احتوى عليه من عبارة جنسية صريحة للجاني، فهو لم يشكّل لغة تستغل الأطفال جنسيًا أو تصف قاصرًا في "سياق يضفي طابعًا جنسيًا."

خلُص المجلس أيضًا إلى أن المنشور لم يكن يعرض قاصرًا في "سياق يضفي طابعًا جنسيًا" نظرًا لما يتضح من السياق الأوسع للمنشور من أن المستخدم كان ينشر تقريرًا عن مشكلة تحظى باهتمام عام ويدين الاستغلال الجنسي لقاصر. وقد كرر المستخدم اللغة المستخدمة في وسائل الإعلام الإخبارية السويدية التي تتناول الشهادات المقدمة في القضايا المنظورة أمام المحكمة بشأن حالات الاغتصاب المشار إليها في المنشور.

8.2. الامتثال لقيم شركة Meta

وجد المجلس أن قرار شركة Meta بإزالة هذا المنشور لا يتسق مع قيمة "حرية الرأي". ويتفق المجلس على أن قيم "الخصوصية" و"السلامة" و"الكرامة" تحظى بأهمية كبيرة عندما يتعلق الأمر بالمحتوى الذي يصف بشكل صادم الاستغلال الجنسي لشخص قاصر. ومع هذا، وجد المجلس أن الجملتين المعنيتين لم ترقيا إلى تشكيل محتوى يستغل الأطفال جنسيًا. وعلاوة على ذلك، فإن المصلحة العامة التي يمثلها تسليط الضوء على هذه القضية وتثقيف العامة، أو تأييد إجراء إصلاحات قانونية أو إصلاحات على صعيد السياسة هي من صميم قيمة "حرية الرأي". وعند موازنة القيم المختلفة المتضمنة في هذه الحالة، يلاحظ المجلس أيضًا أهمية عدم إسكات الأصوات التي تنادي بمكافحة الاستغلال الجنسي للأطفال والناجين منه. ويدرك المجلس أيضًا أن بعض الناجين قد يكونون أقل رغبة في التحدث علنًا خوفًا من انتشار التفاصيل الصادمة للهجوم انتشارًا واسعًا على المنصة.

8.3. الامتثال لمسؤوليات شركة Meta تجاه حقوق الإنسان

وجد المجلس أن استعادة المحتوى في هذه الحالة تتفق مع مسؤوليات شركة Meta تجاه حقوق الإنسان.

حرية التعبير والمادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية

توفر المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية حماية واسعة لحرية التعبير من خلال أي وسيلة إعلامية وبغض النظر عن أي حدود. ومع هذا، قد يتم تقييد هذا الحق بموجب بعض الشروط الضيقة والمحدودة، والتي تعرف باسم الاختبار الثلاثي الذي يتألف من الشرعية (الوضوح) والهدف المشروع والضرورة والتناسب. على الرغم من أن العهد الدولي الخاص بالحقوق المدنية والسياسية لا يفرض نفس الالتزامات على شركة Meta كما هو الحال مع الدول، فقد التزمت شركة Meta باحترام حقوق الإنسان كما هو منصوص عليها في مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان. ويشمل هذا الالتزام حقوق الإنسان المعترف بها دوليًا كما حددها العهد الدولي الخاص بالحقوق المدنية والسياسية، واتفاقية حقوق الطفل، إلى جانب اتفاقيات أخرى. وقد اقترح مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير أن المادة 19، الفقرة 3 من العهد الدولي الخاص بالحقوق المدنية والسياسية توفر إطارًا مفيدًا لتوجيه ممارسات الإشراف على المحتوى لدى المنصات (A/HRC/38/35، الفقرة 6)

1. الشرعية (وضوح القواعد وسهولة الوصول إليها)

ينص متطلب الشرعية في القانون الدولي لحقوق الإنسان أن يكون أي قيد يُفرض على حرية التعبير: (أ) متاحًا على نحو يوفر للأفراد مؤشرًا كافيًا عن كيفية تقييد القانون لحقوقهم؛ و(ب) أن تتم صياغة القانون بدقة كافية حتى يتمكن الأفراد من ضبط سلوكهم وفقًا له.

كما تمت مناقشته في القسم 8.1 أعلاه، خلُص المجلس إلى عدم انتهاك هذا المنشور لسياسية شركة Meta بشأن استغلال الأطفال جنسيًا، وبالتالي لم تكن الإزالة تستند إلى قاعدة سارية. وخلُص المجلس أيضًا إلى أن السياسة يمكن أن تستفيد من التعريف الواضح للمصطلحات المهمة وأمثلة الحالات التي يصعب تصنيفها. لم يتم تعريف مصطلحي "وصف" و"إضفاء طابع جنسي" في معايير المجتمع المعلنة للجمهور. وعندما تخفق شركة Meta في تعريف المصطلحات المهمة أو الكشف عن التوقعات ذات الصلة، سيتعذر على المستخدمين فهم كيفية الامتثال للقواعد.

يلاحظ المجلس أن "الأسئلة المعروفة" ومعايير التنفيذ الداخلية (IIS) لدى شركة Meta، والتي تمثل إرشادات لمراجعي المحتوى لمساعدتهم على تقييم المحتوى الذي قد يمثل انتهاكًا لأحد معايير مجتمع فيسبوك، توفر معايير أكثر تحديدًا عندما يتعلق الأمر بالمحتوى الذي يشكّل إضفاءً للطابع الجنسي على قاصر على المنصة بموجب سياسة عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا.

أخبرت شركة Meta المجلس من خلال حيثياتها لهذه الحالة أنها تتيح "نشر تقارير" عن الاغتصاب والاستغلال الجنسي، لكنها لم تذكر ذلك في السياسات المتاحة للعامة كما لم توضح الفرق بين "الوصف" و"نشر التقارير". يلاحظ المجلس أنه لا السياسات العامة ولا الأسئلة المعروفة ومعايير التنفيذ الداخلية تعالج الفرق بين الأمور المحظورة المتمثلة في الوصف الصادم أو إضفاء الطابع الجنسي على قاصر وبين النشر غير المخالف لتقارير تتناول اغتصاب قاصر أو استغلاله جنسيًا.

يرى المجلس أنه من المثير للقلق أن يظل محتوى الحالة على المنصة لمدة عامين قبل أن تتم إزالته دون تقديم تفسير كافٍ لأسباب الإزالة. ولم يطرأ على السياسات خلال تلك الفترة أي تغيير جوهري يفسر الإزالة. وقد تساءل المجلس عما إذا كان إرسال المحتوى للمراجعة البشرية قد تم بموجب تغيير طرأ على أداة التصنيف. وأشارت شركة Meta أن ما أدى إلى إرسال المنشور إلى المراجعة البشرية هو مزيج من درجات أداة التصنيف التي تستند إلى التعلُّم الآلي/التعلُّم الاصطناعي (تنبؤ تقوم به خوارزمية بشأن ما إذا كان عنصر محتوى معين يحتمل أن يمثل انتهاكًا لسياسة معينة) وعدد المشاهدات التي حصل عليها المنشور خلال فترة زمنية من أسبوعين. وفي ردها على أسئلة المجلس، لم تحدد شركة Meta ما إذا كان هناك تغيير قد طرأ على أدوات التصنيف التي تستخدمها أدى إلى تحديد أن المحتوى غير مخالف في 2019 بينما ستميز تقنياتها في 2021 نفس المحتوى باعتباره يشكل مخالفة محتملة ويستحق الإرسال إلى المراجعة البشرية.

2. الهدف المشروع

ينبغي أن تسعى القيود المفروضة على حرية التعبير إلى تحقيق هدف مشروع، وهو ما يتضمن حماية حقوق الآخرين. يتفق المجلس على أن معيار مجتمع فيسبوك بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا يهدف إلى منع إلحاق ضرر على أرض الواقع بحقوق القاصرين على نحو يرتبط بالمحتوى المنشور على فيسبوك. لذلك، تهدف القيود الواردة في هذه السياسة إلى خدمة الهدف المشروع المتمثل في حماية حقوق الأطفال في الصحة البدنية والنفسية (المادة 12 من العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية، والمادة 19 من اتفاقية حقوق الطفل)، بما يتفق مع مصالح الطفل الفضلى (المادة 3 من اتفاقية حقوق الطفل).

3. الضرورة والتناسب

تقتضي مبادئ الضرورة والتناسب التي ينص عليها القانون الدولي لحقوق الإنسان أن تكون أي تقييدات يتم فرضها على حرية التعبير "مناسبة لتحقيق وظيفتها الحمائية، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ [و] يجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34). يقتضي مبدأ التناسب أخذ شكل التعبير المعني في الاعتبار (التعليق العام رقم 34، الفقرة 34).

كما أشار المجلس في قراره بشأن الحالة ‎2020-006-FB-FBR القسم 8.3، يجب على شركة Meta إظهار ثلاثة أشياء لتبرهن على أنها اختارت أقل الوسائل تدخلاً لتحقيق الهدف المشروع:

(1) عدم القدرة على تحقيق مصلحة الطفل الفضلى عن طريق الإجراءات التي لا تنتهك حرية التعبير.

(2) قيام شركة Meta باختيار الإجراء الأقل تدخلاً من بين الإجراءات التي تنتهك حرية التعبير.

(3) أن يساعد الإجراء المحدد فعليًا على تحقيق الهدف وألا يفتقد إلى الفعّالية أو يتسبب في حدوث نتائج عكسية (A/74/486، الفقرة 52).

يتطلب تحليل إمكانية تحقيق الأهداف من خلال تدابير لا تنتهك حرية التعبير فهم النطاق الكامل للاختيارات التي قررتها شركة Meta والخيارات المتاحة لمعالجة الضرر. يتطلب ذلك توفير شفافية للمجلس فيما يتعلق بزيادة معدلات انتشار المحتوى ودور تصميم منصة Meta في التحفيز على نشر المحتوى المثير للمشاعر. وقد طلب المجلس من شركة Meta تقديم معلومات أو أبحاث داخلية عن دور اختيارات التصميم الخاصة بمنصة فيسبوك، بما في ذلك قراراتها أو عملياتها التي تؤثر في تحديد المنشورات التي تتم زيادة معدلات انتشارها، في تحفيز نشر التقارير المثيرة للمشاعر بشأن القضايا التي تؤثر في الأطفال. ولم تقدم شركة Meta للمجلس إجابة واضحة عن هذا السؤال كما لم تقدم أي أبحاث عن هذا الموضوع. وتعتبر الشفافية عاملاً ضروريًا لضمان إجراء تدقيق عام بشأن الإجراءات التي تتخذها شركة Meta. ويؤدي غياب التفاصيل في إجابة Meta عن سؤال المجلس أو عدم الإفصاح علنيًا عن مدى تأثر الخطاب باختيارات تصميم المنصة فيما يتعلق بزيادة معدلات انتشار المحتوى إلى التأثير في قدرة المجلس على أن يحدد بشكل كامل الأداة الأقل تقييدًا لاحترام حقوق الطفل بما يتماشى مع مصلحته الفضلى.

خلُص المجلس إلى أن إزالة هذا المحتوى الذي يناقش الجرائم الجنسية ضد القاصرين، وهي قضية محل اهتمام ونقاش عام في الوقت ذاته، لا تشكل الأداة الأقل تدخلاً لتعزيز حقوق الطفل. يسلط التعليق العام رقم 34 الضوء على أهمية التعبير السياسي في المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية، بما في ذلك الحق في حرية التعبير في "الخطاب السياسي" و"التعليق على الشؤون الذاتية والعامة"، و"مناقشة حقوق الإنسان"، والتي تشتمل جميعًا على مناقشة نظام العدالة الجنائية في الدولة ونشر تقارير عن عملياتها في قضايا بعينها.

المجلس على علم بما يتعرض له الناجين من الاستغلال الجنسي للأطفال من ضرر خارج المنصة نتيجة نشر وصف لذلك الاستغلال على المنصة. ومع ذلك، فإن المجلس يميز بين لغة الجاني التي تضفي طابعًا جنسيًا على الطفل ومنشور المستخدم الذي يورد اقتباسًا من كلام الجاني بغرض زيادة الوعي بقضية تحظى باهتمام عام. ويتفق المجلس مع آراء المنظمات التي تهتم بشؤون الناجين من الاستغلال الجنسي على أهمية مراعاة الحاجة إلى حماية شهادات الناجين أو أي محتوى آخر يهدف إلى تثقيف الجمهور والمشاركة في الدعوة إلى إصلاح الوسائل القانونية والاجتماعية والثقافية الرامية إلى منع الاستغلال الجنسي للأطفال.

نظر المجلس فيما إذا كان استخدام شاشة تحذير قد يكون أقل التدابير تدخلاً لحماية مصالح الطفل الفضلى. على سبيل المثال، ينص معيار المجتمع بشأن الاستغلال الجنسي للبالغين على أنه يتم تطبيق شاشات تحذيرية على المحتوى الذي يتضمن روايات أو تصريحات عن الاستغلال الجنسي للبالغين والتي تشاركها الضحية أو طرف آخر (بخلاف الضحية) والتي 1) تدعم الضحية أو 2) تدين الفعل أو (3) تعزز الوعي العام، وهو ما يتحدد من خلال السياق أو الشرح التوضيحي. ووفقًا لمنشور مدونة في غرفة أخبار Meta حول التعامل مع المعلومات المضللة، ذكرت الشركة أنه عندما يتم تطبيق شاشة تحذيرية على أحد عناصر المحتوى، فإن 95‏% من المستخدمين لا ينقرون لمشاهدته. ولأن المجلس ليس لديه معلومات عن المستوى الأساسي للتفاعل، يتعذر عليه التوصل إلى استنتاج بشأن تأثير الشاشات التحذيرية لا سيّما عند تطبيقها على المحتوى الذي ينشر تقارير عن الاستغلال الجنسي للأطفال.

في النهاية، نظر المجلس أيضًا إلى احتمال وقوع ضرر على أرض الواقع عندما ينطوي نشر التقارير على معلومات تكفي لتحديد هوية الطفل. إن المحتوى الذي قد يؤدي إلى تحديد هوية طفل من ضحايا الاستغلال الجنسي للأطفال بشكل وظيفي أو من خلال "تجميع القرائن" يؤثر سلبًا على حقوق الطفل في حرية التعبير (العهد الدولي الخاص بالحقوق المدنية والسياسية، المادة 19)، والخصوصية (اتفاقية حقوق الطفل، المادة 16) والسلامة (اتفاقية حقوق الطفل، المادة 19). قد يحدث تحديد الهوية بشكل وظيفي عندما يوفر المحتوى أو يجمع ما يكفي من أجزاء المعلومات المنفصلة لتحديد هوية الشخص دون تسميته. في هذه الحالة، يتعذر على المجلس تحديد ما إذا كانت أجزاء المعلومات المقدمة، إلى جانب روابط التقارير الإعلامية، يمكن أن تزيد من احتمال تحديد هوية الضحايا.

مع هذا، فقد أكد بعض أعضاء المجلس أنه عند وجود شك فيما إذا كان عنصر محتوى بعينه قد يؤدي إلى تحديد هوية طفل ضحية بشكل وظيفي، يجب على شركة Meta أن تميل إلى حماية خصوصية الطفل وصحته البدنية والنفسية على نحو يتفق مع مبادئ حقوق الإنسان الدولية. بالنسبة إلى هذه المجموعة من أعضاء المجلس، تعتبر قدرة المنصة على زيادة معدلات انتشار المحتوى عاملاً أساسيًا في تقييم مدى إمكانية تحديد هوية القاصر وتحديد وسائل الحماية المقدمة للأطفال ضحايا الاعتداء الجنسي.

يحظر معيار المجتمع الحالي بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا "المحتوى الذي يحدد الضحايا المزعومين للاستغلال الجنسي للأطفال بالاسم أو الصورة أو يسخر منهم." تترك السياسات الأخرى التي تتعامل مع منع تحديد هوية قاصر أو ضحية جريمة ما (على سبيل المثال، معيار المجتمع بشأن الحماية الإضافية للقاصرين؛ وتنسيق الأنشطة الضارة والدعاية للجرائم) ثغرات كبيرة في التعامل مع تحديد الهوية بشكل وظيفي للقاصرين من ضحايا الاستغلال الجنسي.

9. قرار مجلس الإشراف

ألغى مجلس الإشراف قرار شركة Meta بإزالة المحتوى، وطلب استعادة المنشور.

10. البيان الاستشاري بشأن السياسة

سياسة المحتوى

1. ينبغي على شركة Meta تعريف مصطلحات الوصف المصوّر وإضفاء الطابع الجنسي في معيار مجتمعها بشأن عُري الأطفال وإساءة معاملتهم واستغلالهم جنسيُا. ويجب أن توضح Meta أيضًا أن اللغة الصريحة لا تشكل في كل الحالات وصفًا صادمًا أو إضفاءً للطابع الجنسي وأن تشرح الفرق بين المصطلحات القانونية أو السريرية أو الطبية والمحتوى المصوّر أو الصادم. وينبغي على Meta أيضًا تقديم توضيح للتمييز بين استغلال الأطفال جنسيًا ونشر تقارير عن الاستغلال الجنسي للأطفال. وسيعتبر المجلس أن توصياته قد دخلت حيز التنفيذ عند إضافة نصوص إلى معيار المجتمع تعرِّف المصطلحات المهمة والفروق.
2. ينبغي على شركة Meta إجراء عملية لتطوير السياسة، بما في ذلك كمناقشة في منتدى السياسات، لتحديد إمكانية وكيفية فرض حظر على تحديد هوية الأطفال ضحايا جرائم العنف الجنسي بشكل وظيفي في معايير مجتمعها. وينبغي أن تنطوي هذه العملية على مشاركة جهات مساهمة وخبراء في تحديد الهوية وظيفيًا وحقوق الطفل. وسيعتبر المجلس أن توصيته هذه قد دخلت حيز التنفيذ عندما تنشر Meta وقائع منتدى سياسة المنتج الذي تمت مناقشة الأمر فيه.

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويتم اعتمادها من أغلبية أعضاء المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

بالنسبة إلى القرار المتخذ بشأن هذه الحالة، تم إجراء بحث مستقل نيابة عن المجلس. وقد توافرت الخبرة اللازمة في السياق الاجتماعي والسياسي والثقافي عن طريق معهد أبحاث مستقل يقع مقره في جامعة جوتنبرج ويعتمد على فريق مكون من أكثر من 50 عالم اجتماع من ست قارات، فضلاً عن أكثر من 3200 خبير محلي من جميع أنحاء العالم. وقد تم تقديم الأبحاث أيضًا من شركة Duco Advisors، وهي شركة تركز على نقطة التقاء الجغرافيا السياسية والثقة والأمان والتكنولوجيا.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة