مجلس الإشراف يلغي قرار فيسبوك الأصلي: الحالة 2020-004-IG-UA
تم النشر بتاريخ 28 كانُون الثانِي 2021
ألغى مجلس الإشراف قرار فيسبوك بشأن إزالة منشور على Instagram. بعد اختيار المجلس لهذه الحالة، قامت فيسبوك باستعادة المحتوى. أزالت الأنظمة التلقائية الخاصة بفيسبوك في الأصل المنشور لمخالفته معايير المجتمع الخاصة بالشركة المتعلقة بالعري والنشاط الجنسي للبالغين. وقد تبين للمجلس أنه تم السماح بالمنشور في إطار استثناء يرتكز إلى السياسة المتعلقة "بالتوعية بمرض سرطان الثدي"، كما أن الإشراف التلقائي الخاص بفيسبوك يثير في هذه الحالة تحفظات مهمة تتعلق بحقوق الإنسان.
حول الحالة
نشر أحد المستخدمين في شهر أكتوبر 2020 بالبرازيل صورة على Instagram تحمل عنوانًا مكتوبًا باللغة البرتغالية يشير إلى أن الغرض من الصورة تعزيز الوعي بعلامات الإصابة بمرض سرطان الثدي. تم عرض الصورة باللون الوردي، تماشيًا مع الحملة الإعلانية "شهر أكتوبر الوردي"، وهي حملة دولية تهدف إلى تعزيز الوعي بهذا المرض. تعرض ثماني صور من الصور الفوتوغرافية التي تتألف منها الصورة أعراض سرطان الثدي مع تضمين شروحًا مناسبة لها. فقد تضمنت خمس صور منها لقطات لحلمات إناث مرئية ومكشوفة، بينما تضمنت الصور الثلاث الأخرى أثداءً أنثوية، مع الحلمات إما خارج الصورة أو مغطاة باليد. تمت إزالة المنشور بواسطة نظام تلقائي يقوم بإنفاذ معايير مجتمع فيسبوك المتعلقة بالعري والنشاط الجنسي للبالغين. وبعد اختيار المجلس للحالة، قررت فيسبوك أن إزالة المنشور كان إجراء خطأ ومن ثم قامت باستعادة المنشور.
النتائج الرئيسية
طالبت فيسبوك في ردها بضرورة رفض المجلس النظر في هذه الحالة. وذكرت الشركة أنه بعد استعادة المنشور، لم يعد هناك ثمة خلاف بين المستخدم وفيسبوك بشأن ضرورة بقاء المحتوى، مما يجعل هذه الحالة غير ذات موضوع.
رفض المجلس احتجاج فيسبوك، حيث إن ضرورة وجود خلاف لا ينطبق إلا في اللحظة التي يستنفذ فيها المستخدم عملية الطعن الداخلي على فيسبوك. ونظرًا لحدوث خلاف بين المستخدم وفيسبوك في ذلك الوقت، صار من الممكن للمجلس النظر في الحالة.
كما أن اتخاذ فيسبوك قرارًا بشأن استعادة المحتوى لا يجعل هذه الحالة غير ذات موضوع، كما تزعم الشركة. فبالإضافة إلى اتخاذ قرارات ملزمة بشأن ما إذا كان يتعين استعادة عناصر المحتوى أم لا، يقدم المجلس أيضًا إلى المستخدمين تفسيرًا كاملاً للسبب الذي أدى إلى إزالة منشورهم.
ويتضح من عملية إزالة هذا المنشور غير الصحيحة إلى افتقار الرقابة البشرية المناسبة وهو ما يثير تحفظات تتعلق بحقوق الإنسان. لقد تمت عملية اكتشاف هذا المنشور وإزالته بصورة تلقائية تمامًا. وفشلت الأنظمة التلقائية الخاصة بفيسبوك في التعرف على عبارة "سرطان الثدي"، التي ظهرت على الصورة باللغة البرتغالية، ومن ثم تمت إزالة المنشور عن طريق الخطأ. ونظرًا لتعامل قواعد فيسبوك مع حلمات ثدي الرجال والنساء بطريقة مختلفة، فإن استخدام نظام أتمتة غير دقيق لإنفاذ هذه القواعد يؤثر على حرية المرأة في التعبير على نحو غير متكافئ. فالإنفاذ الذي يعتمد فقط على نظام الأتمتة دون وجود إشراف بشري كاف يتعارض أيضًا مع حرية التعبير.
بالنسبة لهذه الحالة، فقد تم إخبار المستخدم أن المنشور ينتهك إرشادات مجتمع Instagram، مما يعني ضمنيًا عدم السماح بمشاركة صور لحلمات ثدي إناث مكشوفة تهدف إلى تعزيز الوعي بمرض سرطان الثدي. ومع ذلك، فإن معايير مجتمع فيسبوك المتعلقة بالعري والنشاط الجنسي للبالغين، تسمح بالعري على نحو صريح عندما يسعى المستخدم إلى "تعزيز الوعي تجاه حالة ما أو لأسباب تعليمية أو طبية"، وتسمح بالتحديد بكشف حلمات ثدي الإناث لإذكاء "الوعي بمرض سرطان الثدي". ونظرًا لأن معايير مجتمع فيسبوك تنطبق على تطبيق Instagram، تم إدراج منشور المستخدم بموجب الاستثناء المذكور أعلاه. وبناءً على ذلك، فإن إزالة فيسبوك للمحتوى لا تتوافق مع معايير مجتمعها.
قرار مجلس الإشراف
مجلس الإشراف يلغي القرار الأصلي الذي اتخذته فيسبوك بشأن إزالة المحتوى ويكلف باستعادة المنشور. كما نوّه المجلس باتخاذ فيسبوك لإجراء بهذا الصدد.
يوصي المجلس بأن تقوم فيسبوك بما يلي:
- إبلاغ المستخدمين عند استخدام نظام الإنفاذ التلقائي للإشراف على المحتوى الخاص بهم، والتأكد من إمكانية تقديم المستخدمين لطلب طعن بشأن القرارات التلقائية إلى أشخاص حقيقيين في حالات بعينها، وتحسين الاكتشاف التلقائي للصور ذات التراكب النصي بحيث لا يتم الإشارة عن طريق الخطأ لمراجعة منشورات تعمل على تعزيز الوعي بأعراض مرض سرطان الثدي. كما ينبغي أن تعمل فيسبوك على تحسين مستوى شفافية عملية الإبلاغ فيما يتعلق باستخدامها للإنفاذ التلقائي.
- راجع إرشادات مجتمع Instagram للإشارة إلى أن حلمات ثدي الإناث يمكن إظهارها لتعزيز الوعي بمرض سرطان الثدي واحرص على توضيح أنه في حالة وجود تناقضات بين إرشادات مجتمع Instagram ومعايير مجتمع فيسبوك، فالأولوية تكون لفيسبوك.
لمزيد من المعلومات:
للاطلاع على القرار الكامل الخاص بالحالة، انقر هنا.
للاطلاع على ملخص التعليقات العامة لهذه الحالة، انقر هنا.
