أعراض سرطان الثدي والعُري

لقراءة هذا القرار باللغة البرتغالية البرازيلية، انقر هنا.
Para ler a decisão completa em Português do Brasil, clique aqui.

ملخص الحالة

ألغى مجلس الإشراف قرار فيسبوك بإزالة المنشور على Instagram. بعد تحديد المجلس لهذه الحالة، أعادت فيسبوك المحتوى. أزالت أنظمة فيسبوك التلقائية هذا المنشور في الأصل بداعي انتهاك معيار العُري والنشاط الجنسي للبالغين كأحد معايير المجتمع التي تقرها الشركة. وجد المجلس أن المنشور كان مسموحًا به بموجب استثناء ورد في السياسة بشأن "التوعية بسرطان الثدي" وأن الإشراف التلقائي لفيسبوك في هذه الحالة يثير مخاوف مهمة بشأن حقوق الإنسان.

حول هذه الحالة

في أكتوبر 2020، نشر مستخدم في البرازيل صورة على Instagram بعنوان كُتب باللغة البرتغالية يشير إلى أن الهدف هو تعزيز الوعي بعلامات سرطان الثدي. كانت الصورة وردية اللون، تماشيًا مع "أكتوبر الوردي"، وهي حملة عالمية لتعزيز الوعي بهذا المرض. عرضت ثماني صور فوتوغرافية تتألف منهم الصورة المنشورة أعراض سرطان الثدي مع أوصاف لكل منها. تضمنت خمس من تلك الصور ظهور حلمات ثدي أنثوي مكشوفة، بينما تضمنت الثلاث صور الأخرى ثديًا أنثويًا، مع عدم ظهور الحلمة في اللقطة أو تغطيتها باليد. تمت إزالة المنشور بواسطة النظام التلقائي إنفاذًا لمعيار العُري والنشاط الجنسي للبالغين ضمن معايير مجتمع فيسبوك. بعد تحديد المجلس للحالة، أفادت فيسبوك أن إزالة المنشور قد تمت عن طريق الخطأ ومن ثم فقد أعادته.

أهم النتائج

في ردها، ادعت فيسبوك أنه كان على المجلس رفض النظر في هذه الحالة. واحتجت الشركة أنه طالما تمت استعادة المنشور، لم يعد هناك خلاف بين المستخدم وفيسبوك على ضرورة بقاء المحتوى، وبالتالي لم تعد هذه الحالة مهمة.

رفض المجلس حجة فيسبوك. فلا تسري الحاجة إلى الاختلاف إلا عندما يستنفد المستخدم عملية الطعن الداخلية لدى فيسبوك. ونظرًا لوجود اختلاف بين فيسبوك والمستخدم في ذلك الوقت، يصبح بإمكان المجلس النظر في الحالة.

علاوة على ذلك، فإن قرار فيسبوك باستعادة المحتوى لا يلغي أهمية هذه الحالة، كما تدّعي الشركة. علاوة على اتخاذ قرارات ملزمة بشأن استعادة عناصر المحتوى، يقدم المجلس أيضًا للمستخدمين شرحًا كاملاً لسبب إزالة منشوراتهم. تشير إزالة هذا المنشور بشكل غير صحيح إلى عدم وجود إشراف بشري مناسب وهو ما يثير مخاوف تتعلق بحقوق الإنسان. وقد تم اكتشاف هذا المنشور وإزالته تلقائيًا بالكامل. وقد أخفقت أنظمة فيسبوك التلقائية في التعرف على هذه الكلمات "سرطان الثدي"، والتي ظهرت على الصورة باللغة البرتغالية، وتمت إزالة المنشور بالخطأ. ولأن قواعد فيسبوك تتعامل مع الصور التي تظهر بها حلمات ثدي النساء بطريقة تختلف عن تلك التي تظهر بها حلمات صدر الرجال، فإن الاستعانة بعمليات تلقائية غير دقيقة لإنفاذ هذه القواعد يؤثر بشكل غير متناسب في حرية التعبير لدى النساء. تتعارض جهود الإنفاذ التي تعتمد على الحلول التلقائية فقط دون إشراف بشري مناسب مع حرية التعبير.

في هذه الحالة، تم إخبار المستخدم أن المنشور قد انتهك إرشادات مجتمع Instagram، مما يوحي بأنه غير مسموح بمشاركة صور تعرض حلمات أنثوية غير مغطاة بهدف تعزيز الوعي بسرطان الثدي. على الرغم من ذلك، فإن معيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين يسمح صراحة بالعُري عندما يلتمس المستخدم "تعزيز الوعي بقضية أو لأسباب تعليمية أو طبية" ويسمح تحديدًا بالصور التي تعرض حلمات ثدي أنثوي مكشوفة لزيادة "الوعي بسرطان الثدي." ومع تطبيق معايير مجتمع فيسبوك على Instagram، فإن منشور المستخدم يندرج تحت الاستثناء الموضح أعلاه. ومن ثم، فإن إزالة فيسبوك للمحتوى لا تتفق مع معايير المجتمع.

قرار مجلس الإشراف

ألغى مجلس الإشراف قرار فيسبوك الأصلي بإزالة المحتوى وطلب استعادة المنشور. أشار المجلس إلى أن فيسبوك قد اتخذت بالفعل إجراءً يحقق تلك الغاية.

أوصى المجلس فيسبوك بما يلي:

• إخبار المستخدمين عند استخدام وسائل إنفاذ تلقائية للإشراف على المحتوى الذي ينشرونه، وضمان قدرة المستخدمين على تقديم طعون بشأن القرارات التلقائية إلى شخص في حالات معينة، وتحسين الاكتشاف التلقائي للصور التي تحتوي على تراكبات نصية حتى لا يتم تمييز المنشورات التي تعزز الوعي بأعراض سرطان الثدي عن طريق الخطأ باعتبارها تحتاج إلى المراجعة. وينبغي على فيسبوك أيضًا تحسين تقارير الشفافية فيما يتعلق باستخدام وسائل الإنفاذ التلقائية.
• مراجعة إرشادات مجتمع Instagram لتحديد إمكانية إظهار حلمات ثدي النساء في الصور لتعزيز الوعي بسرطان الثدي وتوضيح أنه عند وجود تعارض بين إرشادات مجتمع Instagram ومعايير مجتمع فيسبوك، تكون الألوية لمعايير مجتمع فيسبوك.

*توفر ملخصات الحالة نظرة عامة على الحالة ولا تُشكّل سابقة قانونية.

القرار الكامل للمجلس بشأن الحالة

1. ملخص القرار

ألغى مجلس الإشراف قرار فيسبوك الأصلي بإزالة المحتوى، وأشار إلى أن فيسبوك قد أعادت المنشور بعدما قرر المجلس النظر في هذه الحالة. ولا يحد قرار فيسبوك باستعادة المحتوى من سلطة المجلس وقدرته على النظر في الحالة.

وجد المجلس أن المحتوى كان مسموحًا به بموجب استثناء ورد في السياسة بشأن "التوعية بسرطان الثدي" في معيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين.

أصدر المجلس بيانًا استشاريًا بشأن السياسة حول العلاقة بين سياسات المحتوى على Instagram وفيسبوك، وحول استخدام الحلول التلقائية في الإشراف على المحتوى وشفافية هذه الممارسات.

2. وصف الحالة

في أكتوبر 2020، نشر مستخدم في البرازيل صورة على Instagram بعنوان كُتب باللغة البرتغالية يشير إلى أن الهدف هو تعزيز الوعي بعلامات سرطان الثدي. كانت الصورة وردية اللون، تماشيًا مع "أكتوبر الوردي"، وهي حملة شهيرة في البرازيل لتعزيز الوعي بسرطان الثدي. عرضت ثماني صور فوتوغرافية تألفت منها صورة المنشور أعراض سرطان الثدي مع تضمين وصف أسفل كل منها مثل "تموجات" و"تجمعات" و"جروح". تضمنت خمس من تلك الصور ظهور حلمات ثدي أنثوي مكشوفة. وتضمنت الصور الثلاث الأخرى ثديًا أنثويًا، مع عدم ظهور الحلمة في اللقطة أو تغطيتها باليد. لم يشارك المستخدم أي تعليقات إضافية مع المنشور.

تم اكتشاف المنشور وإزالته بواسطة أداة تصنيف تعتمد على التعلُّم الآلي تم تدريبها للتعرف على العُري في الصور، وإنفاذ معيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين، والتي تسري أيضًا على Instagram.

تقدم المستخدم بطعن على هذه القرار إلى فيسبوك. عبّرت فيسبوك في بيانات عامة سابقًا عن عدم قدرتها دائمًا على تزويد المستخدمين بخيار الطعن نتيجة انخفاض قدرتها على المراجعة مؤقتًا بسبب فيروس كورونا (كوفيد-١٩). علاوة على ذلك، صرحت فيسبوك أيضًا أن المراجعة البشرية لا تتوفر لكل الطعون المقدمة.

قدم المستخدم طلب مراجعة إلى المجلس ووافق المجلس على النظر في الحالة. بعد اختيار المجلس للحالة وإحالتها إلى إحدى اللجان، ألغت فيسبوك قرارها الأصلي بإزالة المنشور وقامت بإعادته في ديسمبر 2020. تدعي فيسبوك أن القرار الأصلي بإزالة المحتوى تم بطريقة آلية وتبين لاحقًا أنه خطأ في الإنفاذ. مع هذا، لم تعلم فيسبوك بالخطأ إلا بعد أن تنامى إلى علم الشركة من خلال عمليات المجلس.

3. السُلطة والنطاق

يتمتع المجلس بصلاحية مراجعة قرار فيسبوك بموجب المادة 2 (سلطة المراجعة) من اتفاقية المجلس ويجوز له تأييد هذا القرار أو إلغائه بموجب المادة 3، القسم 5 (إجراءات المراجعة: القرار) من الاتفاقية. لم تقدم فيسبوك أسبابًا لاستبعاد المحتوى وفقًا للمادة 2، القسم 1.2.1 (المحتوى غير المتاح للمجلس مراجعته) من اللائحة الداخلية للمجلس، كذلك لم تشر فيسبوك إلى أنها تعتبر الحالة غير مؤهلة بموجب المادة 2، القسم 1.2.2 (الالتزامات القانونية) من اللائحة الداخلية.

على الرغم من ترحيب فيسبوك علنًا بمراجعة المجلس لهذه الحالة، فقد اقترحت أنه كان على مجلس الإدارة رفض النظر في هذه الحالة وعدم تضمينها في الحالات المعروضة على المجلس لأن القضية الآن لم تعد مهمة.

ترى فيسبوك، أنه بعد استعادة المحتوى، لم يعد هناك خلاف بشأن ضرورة بقائه على Instagram وأن وجود الخلاف من متطلبات النظر في الحالة، وفقًا للمادة 2، القسم 1 من اتفاقية المجلس:

عند اختلاف الأشخاص مع نتيجة قرار فيسبوك واستنفادهم للطعون، يمكن تقديم طلب مراجعة إلى المجلس.

لا يتفق المجلس مع ذلك ويفسر الاتفاقية بأنها لا تشترط الاختلاف بين المستخدم وفيسبوك إلا عند استنفاد المستخدم لعملية فيسبوك الداخلية. وقد تم استيفاء هذا الشرط. وتنفصل عملية المراجعة التي يجريها المجلس عن عملية الطعن الداخلية لدى فيسبوك ولا تعتبر امتدادًا لها. وحتى تتمكن فيسبوك من تصحيح الأخطاء، يتولى المجلس لفت انتباهها إلى تلك الأخطاء وبالتالي فإن استبعاد الحالات من المراجعة سيدمج المجلس بشكل غير مناسب في عمليات فيسبوك الداخلية ويقلل من استقلاليته.

على الرغم من إلغاء فيسبوك لقرارها واستعادة المحتوى، فقد وقع ضرر في هذه الحالة لا يمكن تصحيحه. لم يعوض قرار فيسبوك باستعادة المحتوى في بداية ديسمبر 2020 إزالة منشور المستخدم طوال مدة حملة "الشهر الوردي" التي جرت خلال شهر أكتوبر 2020.

لا تعتبر استعادة المحتوى في هذه الحالة هي الغرض الوحيد للتصحيح الذي يعرضه المجلس. بموجب المادة 4 (التنفيذ) من اتفاقية المجلس، والمادة 2، القسم 2.3.1 (تنفيذ قرارات المجلس) من اللائحة الداخلية، تلتزم فيسبوك باتخاذ إجراءات بشأن أي "محتوى متطابق له سياق موازٍ". وبالتالي، فإن تأثير القرارات التي يتخذها المجلس يتجاوز نطاق المحتوى الوارد في هذه الحالة.

علاوة على ذلك، فإن اتخاذ قرار كامل هو أمر مهم، حتى في حالة امتثال فيسبوك لنتيجة هذا القرار مقدمًا. توفر عملية المجلس للمستخدمين فرصة للإدلاء بآرائهم والحصول على تفسير كامل لسبب إزالة المحتوى الخاص بهم عن طريق الخطأ. عند تنفيذ إزالة المحتوى بطريقة تلقائية بالكامل، تكون سياسات المحتوى مضمنة بشكل أساسي في الرمز البرمجي ويمكن اعتبارها جزء لا يتجزأ منه وأنها ذاتية الإنفاذ. ويتيح النظر في الحالة للمجلس إصدار بيانات استشارية بشأن السياسة تتناول كيفية تطبيق ممارسات فيسبوك للإشراف على المحتوى، بما في ذلك استخدام الحلول التلقائية.

لهذه الأسباب، يرى المجلس أن سلطته لمراجعة هذه الحالة لم تتأثر باتخاذ فيسبوك قرار استعادة المحتوى بعد تحديد المجلس لهذه الحالة. وعليه يتابع المجلس مراجعته للقرار الأصلي بإزالة المحتوى.

4. المعايير ذات الصلة

أخذ المجلس المعايير التالية في الاعتبار عند إصدار قراره:

1. سياسات المحتوى لدى فيسبوك:

تنص مبادئ السياسة لمعيار المجتمع المعني بمكافحة العُري والنشاط الجنسي للبالغين على أن فيسبوك تهدف إلى تقييد عرض العُري أو النشاط الجنسي لأن "هذا النوع من المحتوى قد يؤذي مشاعر بعض الأشخاص" و"لمنع مشاركة محتوى دون الموافقة عليه أو مشاركة محتوى للقاصرين". يجب على المستخدمين الامتناع عن "نشر صور أشخاص بالغين حقيقيين عراة، ونقصد بالعُريّ ما يلي [...] حلمات ثدي أنثوي مكشوفة، إلا في سياق [...] الحالات الصحية (على سبيل المثال، ما بعد استئصال الثدي أو التوعية بسرطان الثدي [...])."

تنص إرشادات مجتمع Instagram على منع عرض صور حلمات الثدي الأنثوي المكشوفة بشكل عام، مع تحديد بعض الاستثناءات المرتبطة بالصحة، لكنها لا تستثني "تعزيز الوعي بسرطان الثدي" على وجه التحديد. ترتبط إرشادات المجتمع بمعايير مجتمع فيسبوك.

2. قيم فيسبوك:

تم توضيح قيم فيسبوك ذات الصلة بهذه الحالة في مقدمة معايير المجتمع. القيمة الأولى هي "حرية الرأي"، والتي توصف بأنها "ذات أهمية قصوى":

يتمثل هدف معايير مجتمعنا دائمًا في توفير مكان لحرية الرأي يستطيع الأشخاص من خلاله إبداء وجهات نظرهم. [...] ونحن نريد أن يتمتع الأشخاص بالقدرة على التحدث بحرية عن القضايا التي تهمهم، حتى في حالة عدم اتفاق البعض أو اعتراضهم.

تقيد فيسبوك "حرية الرأي" لخدمة أربع قيم. ويرى المجلس أن قيمتين من هذه القيم على صلة بهذا القرار:

السلامة:"نحن ملتزمون بجعل فيسبوك مكانًا آمنًا. ولا شك أن أشكال التعبير التي تحمل تهديدًا للأشخاص قد تتسبب في إخافة الآخرين أو استبعادهم أو إسكاتهم ونحن لا نسمح بذلك على فيسبوك.

الخصوصية: نحن ملتزمون بحماية الخصوصية والمعلومات الشخصية. وذلك لأن الخصوصية تمنح الأشخاص حرية التعبير عن ذواتهم الحقيقية، واختيار طريقة وتوقيت المشاركة على فيسبوك والتواصل بسهولة أكبر.

3. المعايير الدولية لحقوق الإنسان:

تُرسي مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان (UNGP)، التي أقرها مجلس حقوق الإنسان التابع للأمم المتحدة عام 2011، إطار عمل تطوعي لمسؤوليات الأنشطة التجارية الخاصة فيما يتعلق بحقوق الإنسان. وقد استند تحليل المجلس في هذه الحالة إلى أحكام معاهدة الأمم المتحدة والتوجيهات الرسمية لآليات حقوق الإنسان التابعة للأمم المتحدة، بما في ذلك ما يلي:

• الحق في حرية التعبير: العهد الدولي الخاص بالحقوق المدنية والسياسية (ICCPR)؛ المادة 19؛ التعليق العام رقم 34، لجنة حقوق الإنسان (2011) (التعليق العام رقم 34)؛ تقارير مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير: A/HRC/38/35 ‏(2018)؛ A/73/348 ‏(2018)؛ وA/HRC/44/49 ‏(2020).
• الحق في الصحة: العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية (ICESCR)، المادة 12؛ التعليق العام رقم 14، اللجنة المعنية بالحقوق الاقتصادية والاجتماعية والثقافية، E/C.12/2000/4 ‏(2000).
• الحق في سبل انتصاف فعّال: المادة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية؛ التعليق العام رقم 31، لجنة حقوق الإنسان CCPR/C/21/Rev.1/Add. 13 ‏(2004).
• الحق في الخصوصية: المادة 17 من العهد الدولي الخاص بالحقوق المدنية والسياسية.
• الحق في عدم التعرض للتمييز: المادة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية، (الفقرة 1)؛ اتفاقية القضاء على جميع أشكال التمييز ضد المرأة (CEDAW)، المادة 1.
• حقوق الطفل: اتفاقية حقوق الطفل (CRC)، المادة 6؛ التعليق العام رقم 13، لجنة حقوق الطفل، CRC/C/GC/13‏ (2011).

5. بيان المستخدم

أشار المستخدم إلى أن المحتوى قد تم نشره كجزء من حملة وطنية بعنوان "أكتوبر الوردي" للوقاية من سرطان الثدي. وكان يعرض مجموعة من العلامات الرئيسية لسرطان الثدي، والتي يقول المستخدم إنها ضرورية للكشف المبكر عن هذا المرض والحفاظ على الأرواح.

6. شرح قرار فيسبوك

أوضحت فيسبوك أن قرارها الأصلي بإزالة المحتوى كان عن طريق الخطأ. أوضحت الشركة للمجلس أن معايير المجتمع تسري على Instagram. على الرغم من أن معايير المجتمع تحظر بوجه عام عرض صور حلمات الثدي الأنثوي الظاهرة والمكشوفة، فإنها تسمح بذلك "للأغراض التعليمية والطبية" بما في ذلك التوعية بسرطان الثدي. استعادت فيسبوك المحتوى لأنه يندرج تحت هذا الاستثناء.

تزعم فيسبوك أن السماح بنشر هذا المحتوى على المنصة أمر مهم على صعيد قيم "حرية الرأي" و"السلامة". وتشير الشركة إلى أن اكتشاف المحتوى وقرار الإنفاذ الأصلي تم بطريقة تلقائية تمامًا. أخفقت هذه العملية التلقائية في تحديد أن المحتوى له "أغراض تعليمية أو طبية" واضحة. تزعم فيسبوك أيضًا أنه سواء تمت إزالة المحتوى من خلال عملية تلقائية أو من خلال مراجعة داخلية بواسطة مشرف بشري، فإن ذلك لا يرتبط بنظر الحالة أمام المجلس. ترغب فيسبوك في أن يركز المجلس على نتائج الإنفاذ، وليس طريقته.

7. المعلومات المقدمة من جهات خارجية

نظر المجلس في 24 تعليقًا عامًا بشأن هذه الحالة: ثمانية تعليقات من أوروبا؛ وخمسة من أمريكا اللاتينية ومنطقة الكاريبي، و11 تعليقًا من الولايات المتحدة وكندا. تم تقديم سبعة من تلك التعليقات نيابة عن إحدى المنظمات. ولم نحصل على موافقة بالنشر لأحد التعليقات المقدمة.

تناولت التعليقات المقدمة الموضوعات التالية: ما إذا كان المنشور يمتثل لإرشادات وقيم مجتمع فيسبوك؛ وأهمية التوعية بسرطان الثدي في التشخيص المبكر؛ ونقد الإفراط في إضفاء الطابع الجنسي والرقابة على عرض صور حلمات ثدي النساء مقارنة بحلمات صدر الذكور؛ وتأثير فيسبوك في المجتمع؛ والإنفاذ الزائد عن الحد نتيجة اتباع وسائل تلقائية للإشراف على المحتوى، بالإضافة إلى ملاحظات لتحسين عملية التعليق العام.

8. تحليل مجلس الإشراف

8.1 الامتثال لسياسات المحتوى في فيسبوك

لم يمتثل قرار فيسبوك بإزالة منشور المستخدم على Instagram لسياسات المحتوى التي تقرها الشركة.

وفقًا لفيسبوك، تسري معايير المجتمع على مستوى منتجات الشركة، بما في ذلك Instagram. وفي الحالة التي بين أيدينا، تم إخطار المستخدم بأن المحتوى ينتهك إرشادات مجتمع Instagram والتي تم إيراد اقتباس منها للمستخدم. والفروق بين هذه القواعد تضمن إجراء تحليل منفصل.

1. إرشادات مجتمع Instagram

تلخص إرشادات المجتمع "القصيرة" قواعد Instagram على النحو التالي: "عليك احترام الجميع في مجتمع Instagram، وعدم نشر محتوى غير مهم أو احتيالي أو عريّ." في حد ذاتها، توحي هذه الإرشادات بأن منشور المستخدم قد انتهك قواعد Instagram.

تتناول إرشادات المجتمع "الطويلة" القواعد بمزيد من التفصيل. تحت عنوان "نشر الصور ومقاطع الفيديو التي تناسب الجمهور المتنوع،" تنص الإرشادات على ما يلي:

[نتيجة] لمجموعة متنوعة من الأسباب، لا نسمح بالعُريّ على Instagram [...] كما تشتمل أيضًا على بعض الصور التي تعرض حلمة ثدي المرأة، لكننا نسمح بعرض صور ندبات ما بعد استئصال الثدي أو صور المرأة أثناء قيامها بإرضاع الطفل طبيعيًا.

هذا التوضيح لا يسمح صراحةً بعرض صور تظهر بها حلمات ثدي أنثوي مكشوفة لتوعية بسرطان الثدي. على الرغم من احتواء إرشادات مجتمع Instagram على رابط إلى معيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين، لم يتم توضيح العلاقة بين هاتين المجموعتين من القواعد، بما في ذلك تحديد أيهما له الأولوية.

2. معايير مجتمع فيسبوك

ينص معيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين، تحت عنوان "المحتوى محل الاعتراض"، على تقييد عرض عُري البالغين بوجه عام على المنصة ويتضمن تعريف هذا العُري "حلمات ثدي أنثى مكشوفة". وقد تم إيراد سببين لذلك: "هذا النوع من المحتوى قد يؤذي مشاعر بعض الأشخاص في مجتمعنا" و"لمنع مشاركة محتوى دون الموافقة عليه أو مشاركة محتوى للقاصرين".

تحدد معايير المجتمع أن نشر عُري البالغين بموافقتهم مسموح به عندما يشير المستخدم بوضوح إلى أن هدف المحتوى يتمثل في "تعزيز الوعي بقضية ما أو لأسباب تعليمية أو طبية." يورد القسم "يجب عدم نشر" ضمن معايير المجتمع "التوعية بسرطان الثدي" كمثال على الحالات الصحية التي يُسمح فيها بإظهار حلمات ثدي أنثوية غير مغطاة.

وجد المجلس أن منشور المستخدم، على الرغم من أنه يعرض حلمات ثدي أنثوي مكشوفة، يندرج تمامًا تحت استثناء الحالات الصحية التي تهدف إلى تعزيز الوعي بسرطان الثدي. وبقبول توضيح فيسبوك الذي يفيد بأن معايير المجتمع تسري أيضًا على Instagram، وجد المجلس أن منشور المستخدم يمتثل لتلك المعايير.

من هذا المنطلق، لم يكن قرار فيسبوك بإزالة المحتوى متوافقًا مع معايير المجتمع. ويقر المجلس بأن فيسبوك قد وافقت على هذا الاستنتاج.

8.2 الامتثال لقيم فيسبوك

ورد توضيح قيم فيسبوك في مقدمة معايير المجتمع ولكن لم تتم الإشارة إليها بشكل مباشر في إرشادات مجتمع Instagram.

لم يمتثل قرار فيسبوك بإزالة محتوى المستخدم لقيم فيسبوك. إن قيمة "حرية الرأي" تتضمن بوضوح إجراء مناقشات بشأن الأمور المتعلقة بالصحة وتحظى بأهمية خاصة فيما يتعلق بتعزيز الوعي بأعراض سرطان الثدي. وتحظى صور الأعراض المبكرة لسرطان الثدي بأهمية خاصة على صعيد توفير المعلومات الطبية لأكبر عدد من الأشخاص. تساهم مشاركة هذه المعلومات في تعزيز "السلامة" لكل الأشخاص المعرضين لخطر الإصابة بالمرض. لا توجد إشارة إلى أن الصور قد تم التقاطها دون موافقة. وبالتالي، لم تحل قيمة "حرية الرأي" محل "السلامة" و"الخصوصية" في هذه الحالة.

8.3 الامتثال للمعايير الدولية لحقوق الإنسان

1. حرية التعبير (المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

لم يتمثل قرار إزالة المنشور الذي اتخذته فيسبوك أيضًا للمعايير الدولية لحقوق الإنسان المعنية بحرية التعبير (المادة 19، العهد الدولي الخاص بالحقوق المدنية والسياسية). تحظى المعلومات الصحية بأهمية خاصة (A/HRC/44/49، الفقرة 6) وتتمتع بحقوق حماية إضافية كجزء من الحق في الصحة (المادة 12، العهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية؛ E/C.12/2000/4، الفقرة 11). في البرازيل، حيث تكون لحملات تعزيز الوعي أهمية خاصة فيما يتعلق بترويج التشخيص المبكر لسرطان الثدي، يؤكد المجلس على الارتباط بين هذين الحقين.

هذا الحق في حرية التعبير ليس مطلقًا. عند تقييد حرية التعبير، ينبغي على فيسبوك استيفاء متطلبات الشرعية والهدف المشروع والضرورة والتناسب. وقد أخفقت إزالة فيسبوك للمحتوى في استيفاء المتطلب الأول والثالث من هذه المتطلبات.

أ. الشرعية

يجب أن تكون أي قواعد تقيد حرية التعبير واضحة ودقيقة، ومتاحة للجمهور (التعليق العام رقم 34، الفقرة 25). تسمح معايير مجتمع فيسبوك بعرض حلمات ثدي الإناث في سياق التوعية بسرطان الثدي، بينما لا تذكر إرشادات مجتمع Instagram إلا ندبات بعد استئصال الثدي. علاوة على ذلك، لم يتم إخبار مستخدمي Instagram أن معايير مجتمع فيسبوك لها الأولوية على إرشادات مجتمع Instagram. وقد ازداد تأثير هذا التعارض وانعدام الوضوح من خلال إشعارات الإزالة التي تم إرسالها للمستخدمين والتي اقتصرت على الإشارة إلى إرشادات المجتمع. ومن ثَم فقد أخفقت قواعد فيسبوك بهذا الصدد في استيفاء متطلب الشرعية.

ب. الهدف المشروع

يجب أن يستند أي تقييد لحرية التعبير إلى وجود هدف مشروع، حسبما ورد في المادة 19، الفقرة 3 من العهد الدولي الخاص بالحقوق المدنية والسياسية. تزعم فيسبوك أن معيار المجتمع المعني بمكافحة العُري والنشاط الجنسي للبالغين يساعد على منع مشاركة صور الإساءة إلى الأطفال والصور الحميمية بغير موافقة أصحابها على فيسبوك وInstagram. لاحظ المجلس أن كلا فئتي المحتوى محظورتان بموجب معايير منفصلة من معايير المجتمع ولا تخضعان للاستثناءات التي تنطبق على نشر عُري البالغين بموجب موافقة منهم. تتوافق هذه الأهداف مع تقييد حرية التعبير بموجب القانون الدولي لحقوق الإنسان بهدف حماية "حقوق الآخرين" (المادة 19، الفقرة 3، العهد الدولي الخاص بالحقوق المدنية والسياسية). وهو ما يتضمن الحق في خصوصية ضحايا مشاركة الصور الحميمية دون موافقة (المادة 17 من العهد الدولي الخاصة بالحقوق المدنية والسياسية)، وحقوق الطفل في الحياة والنمو (المادة 6، اتفاقية حقوق الطفل)، والتي تكون مهددة في حالات الاستغلال الجنسي (CRC/C/GC/13، الفقرة 62).

ج. الضرورة والتناسب

يجب أن تكون أي تقييدات لحرية التعبير "مناسبة لتحقيق وظيفتها الحمائية، ويجب أن تكون أقل الوسائل تدخلاً مقارنة بغيرها من الوسائل التي يمكن أن تحقق النتيجة المنشودة؛ ويجب أن تكون متناسبة مع المصلحة التي ستحميها" (التعليق العام رقم 34، الفقرة 34).

يرى المجلس أن إزالة المعلومات لتحقيق مصلحة عامة دون سبب لا يمكن أن تكون متناسبة.

يشعر المجلس بالقلق من أن إزالة المحتوى قد تمت بشكل خاطئ من خلال نظام إنفاذ تلقائي وربما دون مراجعة بشرية أو طعن. يعكس ذلك قيود الوسائل التكنولوجية التلقائية وعدم قدرتها على فهم السياق وإدراك مدى تعقيد التواصل البشري للإشراف على المحتوى (مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير، A/73/348، الفقرة 15). في هذه الحالة، فشلت هذه الوسائل التكنولوجية في التعرف على كلمات "سرطان الثدي" التي تظهر أعلى يسار الصورة باللغة البرتغالية. يتقبل المجلس أن الوسائل التكنولوجية التلقائية ضرورية لاكتشاف المحتوى الذي يشكل انتهاكات محتملة. ومع هذا، فإن الإنفاذ الذي يعتمد فقط على الحلول التلقائية، لا سيّما عند استخدام الوسائل التكنولوجية ذات القدرة المحدودة على فهم السياق، يؤدي إلى الإنفاذ الزائد عن الحد والذي يتداخل بقدر غير متناسب مع حرية التعبير لدى المستخدم.

يدرك المجلس أن الإنفاذ التلقائي قد يكون مطلوبًا لسرعة إزالة الصور الحميمية المنشورة دون موافقة وصور الإساءة إلى الأطفال، وذلك لتجنب وقوع ضرر فوري غير قابل للإصلاح. ومع ذلك، عند إزالة المحتوى للحماية من هذه الأضرار، يجب أن يستند الإجراء إلى السياسات المعمول بها بشأن الاستغلال الجنسي، وإبلاغ المستخدمين أنه تمت إزالة المحتوى الخاص بهم لهذه الأغراض. وبغض النظر، فإن عمليات الإزالة التلقائية ينبغي أن تخضع لإجراءات التدقيق الداخلي الموضحة في القسم ‎9.2 (1) مع ضرورة توفير إمكانية الطعن بهدف الخضوع لمراجعة بشرية (A/73/348، الفقرة 70)، مما يسمح بتصحيح أخطاء الإنفاذ.

لا تُعتبر إجراءات الإشراف التلقائي على المحتوى التي تفتقد إلى وسائل الحماية الضرورية طريقة متناسبة لتواجه من خلالها فيسبوك الأشكال المخالفة من عُري البالغين.

د. المساواة وعدم التمييز

يجب أن تراعي أي قيود على التعبير مبدأ المساواة وعدم التمييز (التعليق العام رقم 34، الفقرتان 26 و32). ناقشت العديد من التعليقات العامة أن سياسات فيسبوك فيما يتعلق بعُري البالغين تشكّل تمييزًا ضد المرأة.

ومن منطلق تعامل قواعد فيسبوك مع الصور التي تعرض حلمات ثدي الإناث بطريقة مختلفة عن تلك التي تعرض حلمات صدر الرجال، فإن الاعتماد على وسائل تلقائية غير دقيقة لإنفاذ تلك القواعد سيؤدي على الأرجح إلى تأثير غير متناسب على النساء، وهو ما يثير مخاوف بشأن التمييز (المادة 1، اتفاقية القضاء على جميع أشكال التمييز ضد المرأة؛ المادة 2 العهد الدولي الخاص بالحقوق المدنية والسياسية). في البرازيل، وفي العديد من البلدان، تحظى التوعية بأعراض سرطان الثدي على أهمية كبيرة. ومن هذا المنطلق، فإن إجراءات فيسبوك لا تعرض حق المرأة في حرية التعبير للخطر فحسب، بل تهدد أيضًا حقها في الصحة.

2. الحق في سبل الانتصاف (المادة 2 من العهد الدولي الخاص بالحقوق المدنية والسياسية)

يرحب المجلس باستعادة فيسبوك للمحتوى. ومع ذلك، فإن الآثار السلبية لهذا الخطأ لا يمكن تصحيحها بالكامل. لم تتم استعادة المنشور، الذي كان يهدف إلى التوعية بسرطان الثدي خلال شهر أكتوبر، إلا في بداية شهر ديسمبر. استعادة المحتوى لم تبطل أهمية هذه الحالة: لأن المجلس قد اختار هذه الحالة، أصبح للمستخدم الحق في أن يتم النظر في حالته وأن يحصل على قرار مبرر بالكامل.

حدد مقرر الأمم المتحدة الخاص المعني بحرية الرأي والتعبير مسؤولية توفير سبل الانتصاف كأحد أكثر الجوانب ارتباطًا بالمبادئ التوجيهية للأمم المتحدة لصلتها بالمؤسسات التجارية التي تشارك في الإشراف على المحتوى (A/HRC/38/35، الفقرة 11). أخفق اعتماد فيسبوك المفرط على وسائل الإنفاذ التلقائي، حال عدم وجود إمكانية للطعن، في احترام حق المستخدم في الحصول على سبل انتصاف فعّالة (المادة 2، العهد الدولي الخاص بالحقوق المدنية والسياسية؛ CCPR/C/21/Rev.1/Add. 13، الفقرة 15) أو الوفاء بمسؤوليات الشركة بموجب المبادئ التوجيهية للأمم المتحدة (المبدأين 29 و31). يشعر المجلس بالقلق على نحو خاص تجاه عدم إخطار فيسبوك للمستخدمين عند إنفاذ القواعد على المحتوى الخاص بهم عبر الوسائل التلقائية، ومن احتمال عدم توفر إمكانية الطعن لإجراء مراجعة بشرية في كل الحالات. يعكس ذلك مخاوف أوسع بشأن عدم شفافية فيسبوك بشأن استخدامها لوسائل الإنفاذ التلقائية، والظروف التي قد لا يكون فيها الطعن الداخلي متاحًا.

9. قرار مجلس الإشراف

9.1 القرار بشأن المحتوى

ألغى مجلس الإشراف قرار فيسبوك الأصلي بإزالة المحتوى، وطلب الإبقاء على المنشور. أشار المجلس إلى قيام فيسبوك باتخاذ إجراءً يحقق تلك الغاية بالفعل.

9.2 البيان الاستشاري بشأن السياسة

1. اتباع الوسائل التلقائية لإنفاذ القواعد، والشفافية والحق في الانتصاف الفعّال

أوصى المجلس فيسبوك بما يلي:

• تحسين وسائل الاكتشاف التلقائي للصور التي تتضمن تراكبات نصية لضمان عدم تمييز المنشورات التي تعزز الوعي بأعراض سرطان الثدي عن طريق الخطأ كمنشورات تتطلب المراجعة.
• التأكد من إبلاغ المستخدمين دائمًا بأسباب إنفاذ سياسات المحتوى على منشوراتهم، مع تقديم قاعدة معايير مجتمع فيسبوك التي استند إليها القرار على وجه التحديد.
• إبلاغ المستخدمين عند استخدام الوسائل التلقائية لاتخاذ قرارات الإنفاذ بشأن المحتوى الخاص بهم، بما في ذلك تقديم أوصاف يسهل الوصول إليها لما يعنيه ذلك.
• ضمان تمكن المستخدمين من الطعن على القرارات المتخذة بواسطة الأنظمة التلقائية لإخضاع تلك القرارات لمراجعة بشرية عند اكتشاف انتهاك المحتوى الخاص بهم لمعيار مجتمع فيسبوك المعني بمكافحة العُري والنشاط الجنسي للبالغين. عندما تسعى فيسبوك إلى منع استغلال الأطفال جنسيًا أو نشر صور حميمية دون موافقة، يجب أن تعمل على إنفاذ قواعدها استنادًا إلى معايير المجتمع المعنية بمكافحة الاستغلال الجنسي للبالغين وعُري الأطفال وإساءة معاملتهم واستغلالهم جنسيًا، بدلاً من الاعتماد على الإفراط في إنفاذ السياسات على عُري البالغين. يجب أن تظل إمكانية تقديم الطعون متوفرة في هذه الحالات، لتتوفر إمكانية تصحيح عمليات الإزالة غير الصحيحة للمنشورات التي تتضمن صور عُري توافقي للبالغين.
• تنفيذ إجراء تدقيق داخلي لإجراء تحليل مستمر لعينة مُعبرة إحصائيًا من قرارات إزالة المحتوى التلقائية لتصحيح أخطاء الإنفاذ والتعلم منها.
• توسيع نطاق تقارير الشفافية للكشف عن بيانات عدد قرارات الإزالة التلقائية لكل معيار من معايير المجتمع، ونسبة القرارات التي تم تصحيحها لاحقًا بعد المراجعة البشرية.

ينبغي ألا يتم تنفيذ هذه التوصيات بطريقة من شأنها تقويض حق مشرفي المحتوى في الصحة خلال جائحة فيروس كورونا (كوفيد-١٩).

2. العلاقة بين معايير المجتمع وإرشادات المجتمع:

أوصى المجلس فيسبوك بما يلي:

• مراجعة الشرح "القصير" لإرشادات مجتمع Instagram بهدف توضيح أن الحظر المفروض على عُري البالغين ليس مطلقًا؛
• مراجعة الشرح "الطويل" لإرشادات مجتمع Instagram لتوضيح أنه يمكن عرض حلمات ثدي النساء المكشوفة للتوعية بسرطان الثدي؛
• توضيح أن إرشادات مجتمع Instagram يتم تفسيرها بما يتماشى مع معايير مجتمع فيسبوك، وفي حالة وجود أي تعارض، تكون الأسبقية لمعايير مجتمع فيسبوك.

*ملاحظة إجرائية:

يتم إعداد قرارات مجلس الإشراف من قِبل لجان مكونة من خمسة أعضاء ويجب أن يوافق عليها أغلبية المجلس. ولا يلزم بالضرورة أن تُعبّر قرارات المجلس عن وجهات النظر الشخصية لجميع الأعضاء.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة