ينشر مجلس الإشراف الرأي الاستشاري بشأن السياسة فيما يتعلق ببرنامج Meta للتحقق الشامل

تم النشر بتاريخ 6 كانُون الْأَوَّل 2022

عقب الكشف في شهر أكتوبر 2021 عن برنامج Meta للتحقق الشامل في صحيفة وول ستريت جورنال، وافق مجلس الإشراف على طلب مُقدم من الشركة بشأن إجراء مراجعة لبرنامج التحقق الشامل وتقديم توصيات تتعلق بكيفية إضفاء تحسينات عليه. ويعتبر هذا الرأي الاستشاري بشأن السياسة هو وسيلتنا للرد على هذا الطلب. فهو يحلّل عملية التحقق الشامل في ضوء التزامات Meta بحقوق الإنسان والقيم المعلنة، كما أنه يثير تساؤلات مهمة حول كيفية تعامل Meta مع أهم مستخدميها.

لقراءة النسخة الكاملة من رأينا الاستشاري بشأن السياسة فيما يتعلق ببرنامج Meta للتحقق الشامل، انقر هنا.

يرجى ملاحظة: رغم توفر ترجمات لملخص رأينا الاستشاري بشأن السياسة بالفعل، لا يتوفر الرأي الكامل سوى باللغة الإنجليزية فقط في الوقت الحالي. يجري العمل حاليًا على ترجمة رأينا الاستشاري بشأن السياسة إلى اللغات الأخرى وسيتم تحميله على موقعنا على الويب في أسرع وقت ممكن خلال عام 2023.

عندما بدأ المجلس في دراسة هذا الرأي الاستشاري بشأن السياسة، أفادت Meta بقيامها في ذلك الوقت بتنفيذ نحو 100 مليون محاولة إنفاذ على المحتوى كل يوم. وفي ظل وجود هذا الكم الهائل، حتى لو استطاعت Meta اتخاذ قرارات دقيقة بنسبة 99٪ تتعلق بالمحتوى، فإنها لا تزال ترتكب مليون خطأ يوميًا. وفي هذا الصدد، وفي الوقت الذي يتعين على نظام مراجعة المحتوى أن يعامل جميع المستخدمين معاملة منصفة، يستجيب برنامج التحقق الشامل لتحديات أوسع نطاقًا تتعلق بالإشراف على كميات هائلة من المحتوى.

ووفقًا لـ Meta، فإن اتخاذ قرارات بشأن المحتوى على هذا النطاق يعني في بعض الأحيان إزالة محتوى لا ينتهك سياساتها عن طريق الخطأ. يهدف برنامج التحقق الشامل إلى معالجة هذا الأمر من خلال توفير مراحل إضافية من المراجعة البشرية لمنشورات معينة تقرر منذ البداية أنها تخالف قواعدها. عندما ينشر المستخدمون المدرجون في قوائم Meta للتحقق الشامل مثل هذا المحتوى، لا تتم إزالة المحتوى على الفور كما هو الحال بالنسبة لمعظم الأشخاص، ولكن يتم تركه، في انتظار الخضوع للمزيد من المراجعة البشرية. تشير Meta إلى هذا النوع من التحقق الشامل باسم "المراجعة الثانوية للاستجابة المبكرة" (ERSR). في أواخر عام 2021، شرعت Meta في توسيع نطاق برنامج التحقق الشامل ليشمل منشورات معينة تم وضع علامة عليها لتخضع لمراجعة إضافية استنادًا إلى المحتوى نفسه، بدلاً من تحديد هوية الشخص الذي قام بنشرها. تشير Meta إلى هذا النوع من التحقق الشامل باسم "المراجعة الثانوية العامة" (GSR).

في إطار المراجعة التي نجريها، وجدنا العديد من العيوب في برنامج Meta للتحقق الشامل. في الوقت الذي أخبرت فيه Meta المجلس أن الهدف من برنامج التحقق الشامل هو الوفاء بالتزامات Meta في مجال حقوق الإنسان، وجدنا أن البرنامج قد تم هيكلته بشكل مباشر بصورة أكبر لتبديد مخاوف الأنشطة التجارية. يدرك المجلس أن Meta تعتبر نشاطًا تجاريًا، ولكن مع توفير حماية إضافية لبعض المستخدمين الذين يتم اختيارهم بناءً على اهتمامات النشاط التجاري، فإن برنامج التحقق الشامل يتيح للمحتوى، الذي كان من الممكن إزالته، بالبقاء لفترة أطول، وهو الأمر الذي قد يؤدي إلى إلحاق الضرر. وقد اكتشفنا كذلك إخفاق Meta في تتبع البيانات المتعلقة بما إذا كان نظام التحقق الشامل قد نتج عنه قرارات تتسم بالدقة بشكل أكبر أم لا، ومن ثم أعربنا عن قلقنا إزاء الافتقار إلى الشفافية فيما يتعلق بالبرنامج.

ولمواجهة هذا الأمر، بادر المجلس بتقديم عدة توصيات إلى Meta. يتعين على أي نظام تم تصميمه لمنع الأخطاء أن يعطي الأولوية للتعبير نظرًا لأهميته بالنسبة لمجال حقوق الإنسان، بما في ذلك التعبير عن أهمية العامة. بينما تتحرك Meta نحو تحسين عملياتها لجميع المستخدمين، يتعين على الشركة اتخاذ خطوات لتخفيف الضرر الناجم عن المحتوى الذي تم تركه أثناء عملية المراجعة الإضافية، وزيادة مستوى الشفافية فيما يتعلق بأنظمتها بشكل جذري.

النتائج الرئيسية

يدرك المجلس أن حجم ومستوى تعقيد المحتوى المنشور على فيسبوك وInstagram ينطوي على تحديات تتعلق بإنشاء أنظمة تدعم Meta في الوفاء بالتزاماتها المتعلقة بحقوق الإنسان. ومع ذلك، فإن نظام التحقق الشامل بشكله الحالي، تشوبه العيوب في مجالات رئيسية يتعين على الشركة معالجتها:

عدم المساواة في معاملة المستخدمين. يمنح برنامج التحقق الشامل مستخدمين محددين قدرًا أكبر من الحماية عن غيرهم. إذا تبين أن منشورًا خاص بمستخدم مدرج ضمن قوائم Meta للتحقق الشامل ينتهك قواعد الشركة، فإن المنشور يظل على المنصة في انتظار الخضوع للمزيد من المراجعة. وبعد ذلك، تقوم Meta بتطبيق مجموعة كاملة من السياسات، من بينها الاستثناءات والأحكام الخاصة بالسياق، على المنشور، مما يزيد من فرصة بقائه على المنصة. وعلى العكس من ذلك، تقل فرصة اطلاع المراجعين الذين بإمكانهم تطبيق مجموعة كاملة من قواعد Meta على المحتوى الخاص بالمستخدمين العاديين. إن عدم المساواة في المعاملة هذا يثير القلق بشكل خاص نظرًا لعدم وجود معايير شفافة لقوائم Meta للتحقق الشامل. وعلى الرغم من وجود معايير واضحة تحكم ضم شركاء الأعمال وقادة الحكومات، فإن المستخدمين الذين ينشرون محتوى يُرجح أن يكون مهمًا من منظور حقوق الإنسان، مثل الصحفيين ومنظمات المجتمع المدني، لديهم مسارات أقل وضوحًا للوصول إلى البرنامج.

الإزالة المتأخرة للمحتوى المخالف. عند تحديد محتوى وارد من مستخدمين مدرجين في قوائم التحقق الشامل على أنه ينتهك قواعد Meta، يظل المحتوى متاحًا بشكل كامل على المنصة أثناء خضوعه لعملية المراجعة الإضافية. أخبرت Meta المجلس بأن عملية المراجعة قد تستغرق، في المتوسط، أكثر من خمسة أيام للتوصل إلى قرار بشأن المحتوى الوارد من مستخدمين مدرجين في قوائم التحقق الشامل. ويعني هذا أن برنامج التحقق الشامل يتسبب في ترك المحتوى الذي تم تحديده على أنه ينتهك قواعد Meta على فيسبوك وInstagram أثناء تحقيقه لانتشار كبير ويمكن أن يتسبب في حدوث ضرر. ونظرًا لأن حجم المحتوى المحدد للتحقق الشامل قد يتجاوز قدرة Meta على المراجعة، فقد تم تشغيل البرنامج للحالات المتراكمة التي تؤخر اتخاذ القرارات.

الإخفاق في تتبع المقاييس الأساسية. لا ترصد المقاييس التي تستخدمها Meta حاليًا لقياس مدى فعالية برنامج التحقق الشامل جميع المخاوف الأساسية. على سبيل المثال، لم تُقدم Meta للمجلس معلومات توضح قيامها بتتبع ما إذا كانت القرارات التي اتخذتها من خلال برنامج التحقق الشامل تتسم بدقة أكثر أم أقل من خلال آلياتها العادية لمراقبة الجودة. وبدون ذلك، يصعب معرفة ما إذا كان البرنامج يحقق أهدافه الأساسية المتمثلة في إصدار قرارات صحيحة بشأن الإشراف على المحتوى، أو قياس ما إذا كان برنامج التحقق الشامل يمنح Meta وسيلة لتحيد عن سياساتها.

الافتقار إلى الشفافية حول كيفية عمل برنامج التحقق الشامل. يساور المجلس القلق أيضًا إزاء المعلومات المحدودة التي قدمتها Meta إلى العامة ولمستخدميها بشأن التحقق الشامل. لا تبلغ Meta حاليًا المستخدمين بأنهم مدرجون في قوائم التحقق الشاملة ولا تقوم بمشاركة إجراءات البرنامج المتعلقة بإنشاء هذه القوائم وتدقيقها بشكل علني. فمن غير الواضح مثلاً، ما إذا كانت الكيانات التي تنشر بشكل مستمر محتوى مخالفًا يتم الاحتفاظ بها في قوائم التحقق الشاملة على أساس ملفها الشخصي. وهذا الافتقار إلى الشفافية يحول دون قدرة المجلس والعامة على فهم النتائج الكاملة المترتبة على البرنامج.

توصيات مجلس الإشراف

للوفاء بالتزامات Meta في مجال حقوق الإنسان ومعالجة هذه المشاكل، يجب هيكلة البرنامج الذي يصحح الأخطاء الأكثر تأثيرًا على فيسبوك وInstagram بشكل مختلف إلى حد كبير. وقد قدّم المجلس 32 توصية في هذا المجال، وتم تلخيص العديد منها أدناه.

في الوقت الذي تسعى فيه Meta إلى تحسين الإشراف على محتواها لجميع المستخدمين، ينبغي عليها إعطاء الأولوية للتعبير الذي يتسم بأهمية خاصة بالنسبة لحقوق الإنسان، بما في ذلك التعبير الذي يحظى بأهمية خاصة بالنسبة للعامة. ينبغي إعطاء الأولوية للمستخدمين الذين يُحتمل أن يقدموا هذا النوع من التعبير لإدراجهم ضمن قوائم الكيانات التي تحظى بعملية مراجعة إضافية عن شركاء أعمال Meta. يجب مراجعة المنشورات التي يتم نشرها من قبل هؤلاء المستخدمين في دفق عمل منفصل، بحيث لا تكون في وضع منافسة مع شركاء أعمال Meta على الموارد المحدودة. على الرغم من أن عدد المتابعين يمكن أن يشير إلى اهتمام عام بتعبير المستخدم، فلا يجب أن تكون شهرة المستخدم أو عدد المتابعين هو المعيار الوحيد للحصول على حماية إضافية. إذا قام المستخدمون الذين تم تضمينهم بسبب أهميتهم التجارية بنشر محتوى مخالف بشكل متكرر، فلا ينبغي أن يستفيدوا من ميزة الحماية الخاصة.

لتعزيز مستوى الشفافية بشأن التحقق الشامل وكيفية عمله بشكل جذري، يجب أن تقوم Meta بقياس مستوى أداء المقاييس الرئيسية المتعلقة ببرنامج التحقق الشامل الخاص بها وتدقيقها ونشرها حتى تتمكن من تحديد ما إذا كان البرنامج يعمل بفعالية أم لا. ينبغي للشركة أن تضع معايير عامة واضحة للإدراج في قوائم التحقق الشامل الخاصة بها، كما ينبغي تمكين المستخدمين الذين يستوفون هذه المعايير من التقدم بطلب لإضافتهم إليها. وينبغي أيضًا تمييز حسابات بعض فئات الكيانات التي تتمتع بالحماية من خلال برنامج التحقق الشامل، بما في ذلك الجهات الفاعلة والمرشحون السياسيون والشركاء الأعمال، على أنها حسابات عامة. سيتيح ذلك للعامة مساءلة المستخدمين المتميزين عما إذا كانت الكيانات المحمية تستوفي التزاماتها باتباع القواعد أم لا. وعلاوة على ذلك، ونظرًا لعدم إمكانية تصعيد نحو ثلث محتوى نظام Meta للتحقق الشامل إلى المجلس اعتبارًا من شهر مايو وحتى يونيو 2022، يتعين على Meta التأكد من إمكانية تقديم طعون إلى المجلس بشأن محتوى برنامج التحقق الشامل وكل أنواع المحتوى الأخرى التي تخضع للوثائق الحاكمة.

لتقليل الضرر الناجم عن المحتوى الذي تم تركه على المنصة أثناء عملية مراجعة محسَّنة، يجب إزالة أو إخفاء المحتوى الذي تم تحديده على أنه مخالف أثناء التقييم الأولى لـ Meta والذي يتسم بأنه شديد الخطورة أثناء إخضاعه للمزيد من المراجعة. لا ينبغي السماح ببقاء مثل هذا المحتوى على المنصة وحصده لمشاهدات لمجرد أن الشخص الذي قام بنشره هو شريك أعمال أو أحد المشاهير. ولضمان اتخاذ القرارات في أسرع وقت ممكن، يتعين على Meta استثمار الموارد اللازمة بحيث تلاءم قدرتها على مراجعة المحتوى الذي تحدده باعتباره يتطلب مراجعة إضافية.

لمزيد من المعلومات

لقراءة الرأي الاستشاري الكامل للمجلس بشأن السياسة، بالإضافة إلى طلب Meta المُقدم إلى المجلس، وتعليقات العامة بشأن هذا الرأي، يرجى النقر على المرفقات أدناه.

العودة إلى الأخبار