برنامج Meta للتحقق الشامل

عقب الإعلان في شهر أكتوبر 2021 عن برنامج Meta للتحقق الشامل في صحيفة وول ستريت جورنال، وافق مجلس الإشراف على طلب مُقدم من الشركة بشأن إجراء مراجعة لبرنامج التحقق الشامل وتقديم توصيات تتعلق بكيفية إضفاء تحسينات عليه. ويعتبر هذا الرأي الاستشاري بشأن السياسة هو وسيلتنا للرد على هذا الطلب. فهو يحلّل عملية التحقق الشامل في ضوء التزامات Meta تجاه حقوق الإنسان والقيم المعلنة، كما أنه يثير تساؤلات مهمة حول كيفية تعامل Meta مع أهم مستخدميها.

لقراءة النسخة الكاملة من رأينا الاستشاري بشأن السياسة فيما يتعلق ببرنامج Meta للتحقق الشامل، انقر هنا.

يرجى ملاحظة: رغم توفر ترجمات لملخص رأينا الاستشاري بشأن السياسة بالفعل، لا يتوفر الرأي الكامل سوى باللغة الإنجليزية فقط في الوقت الحالي. يجري العمل حاليًا على ترجمة رأينا الاستشاري بشأن السياسة إلى اللغات الأخرى وسيتم تحميله على موقعنا على الويب في أسرع وقت ممكن خلال عام 2023.

عندما بدأ المجلس دراسة هذا الرأي الاستشاري بشأن السياسة، شاركت Meta أنها، في ذلك الوقت، تقوم بتنفيذ نحو 100 مليون محاولة إنفاذ على المحتوى كل يوم. وفي ظل وجود هذا الكم الهائل، حتى لو استطاعت Meta اتخاذ قرارات دقيقة بنسبة 99٪ تتعلق بالمحتوى، فإنها لا تزال ترتكب مليون خطأ يوميًا. وفي هذا الصدد، وفي الوقت الذي يتعين على نظام مراجعة المحتوى أن يعامل جميع المستخدمين معاملة منصفة، يستجيب برنامج التحقق الشامل لتحديات أوسع نطاقًا تتعلق بالإشراف على كميات هائلة من المحتوى.

ووفقًا لشركة Meta، فإن اتخاذ قرارات بشأن المحتوى على هذا النطاق يعني في بعض الأحيان إزالة محتوى لا ينتهك سياساتها عن طريق الخطأ. ويهدف برنامج التحقق الشامل إلى معالجة هذا الأمر من خلال توفير مراحل إضافية من المراجعة البشرية لمنشورات معينة تقرر بشكل مبدئي أنها تخالف قواعد الشركة. عندما ينشر المستخدمون المدرجون في قوائم Meta للتحقق الشامل مثل هذا المحتوى، لا تتم إزالة المحتوى على الفور كما هو الحال بالنسبة إلى معظم الأشخاص، ولكن يتم تركه، في انتظار الخضوع لمراجعة بشرية إضافية. وتشير Meta إلى هذا النوع من التحقق الشامل باسم "المراجعة الثانوية للاستجابة المبكرة" (ERSR). في أواخر عام 2021، شرعت Meta في توسيع نطاق برنامج التحقق الشامل ليشمل منشورات معينة تم وضع علامة عليها لتخضع لمراجعة إضافية استنادًا إلى المحتوى نفسه، بدلاً من هوية الشخص الذي قام بنشرها. تشير Meta إلى هذا النوع من التحقق الشامل باسم "المراجعة الثانوية العامة" (GSR).

في إطار المراجعة التي نجريها، وجدنا العديد من العيوب في برنامج Meta للتحقق الشامل. في الوقت الذي أخبرت فيه Meta المجلس أن الهدف من برنامج التحقق الشامل هو الوفاء بالتزامات Meta تجاه حقوق الإنسان، وجدنا أن البرنامج قد تمت هيكلته بصورة أكبر لتبديد مخاوف الأنشطة التجارية. ويدرك المجلس أن Meta تعتبر نشاطًا تجاريًا، ولكن مع توفير حماية إضافية لبعض المستخدمين الذين يتم اختيارهم بناءً على اهتمامات النشاط التجاري، فإن برنامج التحقق الشامل يتيح إبقاء بعض عناصر المحتوى لفترة أطول، رغم أنها كانت ستزال لولا هذا البرنامج، وهو الأمر الذي قد يؤدي إلى حدوث ضرر. وقد اكتشفنا كذلك إخفاق Meta في تتبع البيانات المتعلقة بما إذا كان نظام التحقق الشامل قد أسفر عن اتخاذ قرارات أكثر دقة أم لا، وأعربنا عن قلقنا إزاء الافتقار إلى الشفافية فيما يتعلق بالبرنامج.

ولمواجهة هذا الأمر، بادر المجلس بتقديم عدة توصيات إلى Meta. يتعين على أي نظام تم تصميمه لمنع الأخطاء أن يعطي الأولوية للتعبير نظرًا لأهميته بالنسبة لمجال حقوق الإنسان، بما في ذلك التعبير الذي يحظى باهتمام عام. بينما تتحرك Meta نحو تحسين عملياتها لجميع المستخدمين، يتعين على الشركة اتخاذ خطوات لتخفيف الضرر الناجم عن المحتوى الذي تم تركه لحين إجراء المراجعة الإضافية، وزيادة مستوى الشفافية فيما يتعلق بأنظمتها بشكل جذري.

أهم النتائج

يدرك المجلس أن حجم ومستوى تعقيد المحتوى المنشور على فيسبوك وInstagram ينطوي على تحديات تتعلق بإنشاء أنظمة تدعم Meta في الوفاء بالتزاماتها المتعلقة بحقوق الإنسان. ومع ذلك، فإن نظام التحقق الشامل بشكله الحالي، تشوبه العيوب في مجالات رئيسية يتعين على الشركة معالجتها:

عدم المساواة في معاملة المستخدمين. يمنح برنامج التحقق الشامل مستخدمين محددين قدرًا أكبر من الحماية عن غيرهم. إذا تبين أن منشورًا لمستخدم مدرج ضمن قوائم Meta للتحقق الشامل ينتهك قواعد الشركة، فإن المنشور يظل على المنصة في انتظار الخضوع لمراجعة إضافية. وبعد ذلك، تقوم Meta بتطبيق سياساتها بالكامل، بما في ذلك الاستثناءات والأحكام التي تستند إلى السياق، على المنشور، مما يزيد من فرصة بقائه على المنصة. وعلى العكس من ذلك، تقل فرص وصول محتوى المستخدمين العاديين إلى المراجعين الذين يمكنهم تطبيق قواعد Meta بالكامل. إن هذا النوع من عدم المساواة في المعاملة يثير القلق بشكل خاص في ظل عدم وجود معايير شفافة بشأن قوائم Meta للتحقق الشامل. وعلى الرغم من وجود معايير واضحة تحكم ضم شركاء الأعمال وقادة الحكومات، فإن المستخدمين الذين ينشرون محتوى يُرجح أن يكون مهمًا من منظور حقوق الإنسان، مثل الصحفيين ومنظمات المجتمع المدني، لديهم مسارات أقل وضوحًا للوصول إلى البرنامج.

الإزالة المتأخرة للمحتوى المخالف. عند تحديد محتوى وارد من مستخدمين مدرجين في قوائم التحقق الشامل على أنه ينتهك قواعد Meta، يظل المحتوى متاحًا بشكل كامل على المنصة أثناء خضوعه لعملية المراجعة الإضافية. أخبرت Meta المجلس بأن عملية المراجعة قد تستغرق، في المتوسط، أكثر من خمسة أيام للتوصل إلى قرار بشأن المحتوى الوارد من مستخدمين مدرجين في قوائم التحقق الشامل. ويعني هذا أن برنامج التحقق الشامل يتسبب في ترك المحتوى الذي تم تحديده على أنه ينتهك قواعد Meta على فيسبوك وInstagram أثناء تحقيقه لانتشار كبير ويمكن أن يتسبب في حدوث ضرر. ونظرًا لأن حجم المحتوى المحدد للتحقق الشامل قد يتجاوز قدرة Meta على المراجعة، فقد أصبحت لدى البرنامج حالات متراكمة مما يؤخر اتخاذ القرارات.

الإخفاق في تتبع أدوات القياس الأساسية. لا ترصد أدوات القياس التي تستخدمها Meta حاليًا لقياس مدى فعالية برنامج التحقق الشامل جميع المخاوف الأساسية. على سبيل المثال، لم تُقدم Meta للمجلس معلومات توضح قيامها بتتبع ما إذا كانت القرارات التي اتخذتها من خلال برنامج التحقق الشامل تتسم بدقة أكثر أم أقل مقارنة بآلياتها العادية لمراقبة الجودة. وبدون ذلك، يصعب معرفة ما إذا كان البرنامج يحقق أهدافه الأساسية المتمثلة في إصدار قرارات صحيحة بشأن الإشراف على المحتوى، أو قياس ما إذا كان برنامج التحقق الشامل يمنح Meta وسيلة لتحيد عن سياساتها.

الافتقار إلى الشفافية بشأن كيفية عمل برنامج التحقق الشامل. يشعر المجلس بالقلق أيضًا إزاء المعلومات المحدودة التي قدمتها Meta إلى العامة ولمستخدميها بشأن برنامج التحقق الشامل. لا تبلغ Meta حاليًا المستخدمين بأنهم مدرجون في قوائم التحقق الشامل ولا تقوم بمشاركة إجراءات البرنامج المتعلقة بإنشاء هذه القوائم وتدقيقها بشكل علني. فمن غير الواضح، على سبيل المثال، ما إذا كان يتم الاحتفاظ في قوائم التحقق الشامل بالكيانات التي تكرر نشر محتوى مخالف على أساس ملفها الشخصي. ويحول هذا الافتقار إلى الشفافية دون فهم المجلس والعامة للنتائج الكاملة المترتبة على البرنامج.

توصيات مجلس الإشراف

للوفاء بالتزامات Meta في مجال حقوق الإنسان ومعالجة هذه المشاكل، يجب هيكلة البرنامج الذي يصحح الأخطاء الأعلى تأثيرًا على فيسبوك وInstagram بشكل مختلف تمامًا. وقد قدّم المجلس 32 توصية في هذا المجال، وتم تلخيص العديد منها أدناه.

في الوقت الذي تسعى فيه Meta إلى تحسين إشرافها على المحتوى لجميع المستخدمين، ينبغي عليها إعطاء الأولوية للتعبير الذي يتسم بأهمية خاصة بالنسبة لحقوق الإنسان، بما في ذلك التعبير الذي يحظى بأهمية خاصة بالنسبة للعامة. ينبغي إعطاء الأولوية للمستخدمين الذين يُحتمل أن يقدموا هذا النوع من التعبير لإدراجهم ضمن قوائم الكيانات التي تحظى بمراجعة إضافية مقارنة بشركاء أعمال Meta. يجب مراجعة المنشورات التي يتم نشرها من قبل هؤلاء المستخدمين في دفق عمل منفصل، بحيث لا تكون في وضع منافسة مع شركاء أعمال Meta على الموارد المحدودة. على الرغم من أن عدد المتابعين يمكن أن يشير إلى اهتمام عام بتعبير المستخدم، يجب ألا تكون شهرة المستخدم أو عدد المتابعين هو المعيار الوحيد للحصول على حماية إضافية. إذا كرر المستخدمون الذين تم تضمينهم بسبب أهميتهم التجارية نشر محتوى مخالف، فلا ينبغي أن يستفيدوا من ميزة الحماية الخاصة.

تعزيز مستوى الشفافية بشأن التحقق الشامل وكيفية عمله بشكل جذري. يجب على Meta الوقوف على مستوى أداء أدوات القياس الرئيسية المتعلقة ببرنامج التحقق الشامل الخاص بها وتدقيقها ونشرها حتى تتمكن من تحديد ما إذا كان البرنامج يعمل بفعالية أم لا. يجب على الشركة وضع معايير علنية وواضحة للإدراج في قوائم التحقق الشامل الخاصة بها، ويجب أن تتيح للمستخدمين الذين يستوفون هذه المعايير إمكانية التقدم بطلب لإضافتهم إليها. ويجب أيضًا تمييز حسابات بعض فئات الكيانات التي تتمتع بالحماية من خلال برنامج التحقق الشامل، بما في ذلك الجهات الحكومية والمرشحون السياسيون وشركاء الأعمال، على أنها حسابات عامة. سيتيح ذلك للعامة مساءلة المستخدمين المتميزين بشأن مدى وفاء الكيانات المحمية بالتزاماتها نحو اتباع القواعد. وعلاوة على ذلك، ونظرًا لعدم إمكانية تصعيد نحو ثلث محتوى نظام Meta للتحقق الشامل إلى المجلس اعتبارًا من شهر مايو وحتى يونيو 2022، يتعين على Meta التأكد من إمكانية تقديم طعون إلى المجلس بشأن محتوى برنامج التحقق الشامل وكل أنواع المحتوى الأخرى التي تخضع للوثائق الحاكمة.

تقليل الضرر الناجم عن المحتوى الذي تم تركه على المنصة أثناء المراجعة المحسَّنة. يجب إزالة المحتوى الذي حدد التقييم الأولي لشركة Meta أنه مخالف ويتسم بخطورة شديدة أو إخفائه أثناء إخضاعه لمراجعة إضافية. لا ينبغي السماح ببقاء مثل هذا المحتوى على المنصة وحصده لمشاهدات لمجرد أن الشخص الذي قام بنشره هو شريك أعمال أو أحد المشاهير. ولضمان اتخاذ القرارات في أسرع وقت ممكن، يتعين على Meta استثمار الموارد اللازمة بما يتناسب مع قدرتها على مراجعة المحتوى الذي تقرر أنه يحتاج إلى مراجعة إضافية.

العودة إلى قرارات الحالة والآراء الاستشارية المتعلقة بالسياسة