الإشراف على المحتوى في عام الانتخابات التاريخي: دروس رئيسية للصناعة

الإشراف على المحتوى

في هذا العام الانتخابي التاريخي الذي يستعد فيه مواطنو 80 دولة على الأقل في جميع أرجاء العالم للمشاركة في الانتخابات، نجد أنه لم يكن هناك وقت أكثر أهمية للديمقراطية وحقوق الإنسان والمجتمعات المتفتحة والعادلة. في الأشهر الثلاثة الأولى فقط من 2024، ذهب الناس في بنجلاديش وباكستان وإندونيسيا إلى صناديق الاقتراع. وتجري الانتخابات بالفعل طوال الفترة المتبقية من العام‎ في الهند ويُتوقع إجراؤها عبر بلدان ومناطق أخرى عديدة، تشمل أفريقيا الجنوبية والمكسيك والاتحاد الأوروبي والمملكة المتحدة والولايات المتحدة.

لمنصات التواصل الاجتماعي دور محوري في الخطاب المدني، وتثير جدلًا واسع النطاق بسبب تأثيرها على العمليات الديمقراطية. في حين أن للمنصات تأثيرًا إيجابيًا في توفير عملية انتخابية تمتاز بدرجة أعلى من الشفافية من خلال توسيع نطاق الوصول إلى المعلومات، فهي أيضًا لها تأثير سلبي إذ يمكن استخدامها للتحريض على العنف ذي الصلة بالانتخابات أو نشر الأكاذيب لمحاولة التلاعب بالرأي العام والتأثير على النتائج. ويمكن أن يفاقم الإنفاذ غير الدقيق من قِبل المنصات من هذه الانتهاكات. لهذا السبب من الضروري التدقيق في أفعال شركات التكنولوجيا الخاصة التي تتحكم في تدفق الكثير من المعلومات السياسية المضللة.

لقد جعل مجلس الإشراف، وهو هيئة مستقلة مكونة من 22 خبيرًا في حقوق الإنسان وحرية التعبير من جميع أنحاء العالم ومن مختلف وجهات النظر السياسية، حماية الانتخابات والمساحة المدنية أحد الأولويات الإستراتيجية السبع. نحن نؤمن بأنه من الضروري أن تدعم منصات التواصل الاجتماعي وجود فضاء مدني مفتوح يمكن فيه للأشخاص، بمن فيهم الأفراد الذين ينتمون إلى المعارضة السياسية، والمدافعون عن حقوق الإنسان، والأصوات المهمشة، التعبير بحرية عن آرائهم، ومشاركة المعلومات، والمشاركة في العمليات الديمقراطية. من المهم في عام الانتخابات هذا بوجه خاص تحديد الطرق التي يمكن بها لشركات التواصل الاجتماعي حماية نزاهة الانتخابات بشكل أفضل، مع الاستمرار في احترام حرية التعبير. نتج بالفعل عن توصياتنا في مجلس الإشراف التزام ميتا بممارسات أفضل، ولكن لا يزال هناك المزيد من العمل للقيام به ويشمل هذا العمل شركة Meta ومنصات وجهات تنظيمية أخرى.  

تستعين هذه الورقة بتحليلنا في الحالات ذات الصلة، والتي تأخذ في الاعتبار أجزاءً رمزية من المحتوى على منصات Meta، لتسليط الضوء على بعض الطرق التي باتباعها تستطيع شركات التواصل الاجتماعي حماية الخطاب السياسي بدرجة أفضل والتصدي للتحديات عبر الإنترنت لإجراء انتخابات آمنة وموثوقة، وكل هذا بموجب توجيهات المعايير الدولية لحقوق الإنسان. واستنادًا إلى الأفكار والرؤى العامة المستمدة من هذه الحالات، نشارك الدروس الرئيسية الموصوفة بشكل تفصيلي في الفصل الأخير من هذه الورقة.

تسعة دروس رئيسية للصناعة

• السياسات جزء واحد من القصة، ولكن إنفاذها مهم بالقدر نفسه. يستلزم هذا أن تخصص شركات التواصل الاجتماعي موارد كافية للإشراف على المحتوى قبل الانتخابات وخلالها وبعدها.

• يجب أن تضع الشركات معايير عالمية للمنصات للانتخابات في كل مكان. عليها أن تضمن أنه لا يتم تجاهل الانتخابات العديدة التي تجري في البلدان أو الأسواق التي تُعدّ أقل ربحية وهذا لأن الفشل في إنفاذ هذه المعايير هناك يؤدي إلى أشد العواقب على حقوق الإنسان. ينبغي أن تخضع المنصات التي لا تلتزم بهذا إلى المساءلة.

• يجب ألا يُترك الخطاب السياسي الذي يحرض على العنف من دون تدقيق. ينبغي إعطاء الأولوية لتصعيد المحتوى بشكل أسرع إلى المراجعة البشرية وتطبيق العقوبات الصارمة على المنتهكين المُكررين لأفعالهم.

• يجب أن تحذر المنصات من مخاطر السماح للحكومات باستخدام المعلومات الخطأ أو الأسباب الغامضة أو غير المحددة، لقمع الخطاب النقدي، وبالتحديد في السياقات الانتخابية ومسائل الصالح العام.

• يجب أن تحدد السياسات التي تقمع حرية التعبير الأضرار الحقيقية التي تحاول منعها، وهذا لضمان أنها ضرورية ومتناسبة مع مدى الضرر.

• كانت الأكاذيب دائمًا جزءًا من حملات الانتخابات، ولكن أصبح نشرها أسهل وأرخص وأصعب في الرصد بسبب التقدم التكنولوجي. يجب وضع معايير واضحة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي أو تقنية "التزييف العميق" والأنواع الأخرى من المحتوى الذي تم التلاعب به مثل "الوسائط المزيفة الرخيصة".

• تنبغي حماية الصحفيين ومجموعات المجتمع المدني والمعارضة السياسية بشكل أفضل من الانتهاكات عبر الإنترنت وكذلك من الإنفاذ المفرط من قِبل شركات التواصل الاجتماعي، بما في ذلك طلبات الحكومات والأطراف الأخرى.

• عندما يتعلق الأمر بالحفاظ على نزاهة الانتخابات، فإن أهمية الشفافية ازدادت أكثر من أي وقت مضى. يجب أن تكون الشركات منفتحة بشأن الخطوات التي تتبعها لمنع الضرر والأخطاء التي ترتكبها.

• يجب التعامل مع الحملات المنسقة التي تهدف إلى نشر المعلومات الخطأ أو التحريض على العنف لتقويض العمليات الديمقراطية على أنها أولوية.

أهمية حرية التعبير بالنسبة للانتخابات

بإرشاد من المعايير الدولية لحقوق الإنسان

يتوقع المجتمع الدولي من الشركات، بما فيها منصات التواصل الاجتماعي، احترام حقوق الإنسان. المعيار الأساسي لحقوق الإنسان الذي نطبقه في قراراتنا هو المادة 19 من العهد الدولي الخاص بالحقوق المدنية والسياسية (‏ICCPR)، والتي تحمي بشكل عام حرية التعبير. بشأن الانتخابات، أكدت لجنة حقوق الإنسان التابعة للأمم المتحدة أن "النقل الحر للمعلومات والأفكار عن المشكلات العامة والسياسية بين المواطنين والمرشحين والممثلين المنتخبين أمر ضروري"، (التعليق العام رقم 34، الفقرة رقم 13).

حماية الخطاب السياسي

تؤكد الكثير من حالاتنا على الحماية الكبيرة التي يتلقاها الخطاب السياسي بموجب قانون حقوق الإنسان بسبب أهميته للخطاب والنقاش العام. في حالة مقطع الفيديو المعدَّل للرئيس بايدن، التي راجعنا فيها مقطع فيديو تم تعديله ليجعل رئيس الولايات المتحدة يبدو وكأنه يلمس صدر حفيدته بشكل غير ملائم، أكدنا على أنه لا يمكن للأكاذيب المجردة أن تكون الأساس الوحيد لتقييد حرية التعبير بموجب قانون حقوق الإنسان.

كجزء من مراجعتنا، وجدنا أن سياسة الوسائط التي تم التلاعب بها الخاصة بـ Meta، والتي تحكم الطريقة التي يتم الإشراف بها على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، مليئة بالفجوات والتناقضات، بما في ذلك التعامل مع المحتوى الذي يصور الأشخاص وهم يقولون شيئًا لم يقولونه بشكل مختلف عن ذلك الذي يُظهر الأشخاص وهم يفعلون شيئًا لم يفعلوه. كما أنها عاملت أنواع الوسائط السمعية والوسائط السمعية البصرية بشكل غير متسق.

في حين أننا أبقينا مقطع الفيديو المعدَّل في هذه الحالة، رغم أنه يُظهر الرئيس بايدن وهو يفعل شيئًا لم يفعله، لقد حثثنا Meta على إعادة النظر في سياساتها الخاصة بالوسائط التي تم التلاعب بها لضمان إزالة المحتوى عند الضرورة لمنع أو تقليل أضرار معينة. ينبغي تحديد هذه الأضرار بشكل أفضل. كما أننا وصينا الشركة بإزالة الاختلافات والتناقضات الموضحة بالأعلى. في النهاية، لقد شجعنا شركات التواصل الاجتماعي على الاعتماد على تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي كحل بديل للإزالة، إلا عندما ينتهك هذا المحتوى سياسات أخرى. ولقد أعلنت Meta أنها تعمل على تنفيذ نصيحتنا، ما سوف يوفر للأشخاص السياق الذي يحتاجون إليه لاتخاذ قرارات مستنيرة بشأن المحتوى.

في حالات أخرى، قررنا أيضًا حماية الخطاب السياسي حتى في الأوقات التي يمكن أن يُعدّ فيها شديدًا، إذ رأينا أن هذا جزء ضروري من النقاش العام، بشرط عدم وجود صلة مباشرة له بضرر محتمل على أرض الواقع. على سبيل المثال، طلبنا من Meta ألا تُزيل الأخبار التي تُبلغ عن خطاب أحد السياسيين في البرلمان الباكستاني، والذي احتوى على إشارة كلاسيكية والتي كانت تتسم بالعنف لكنها لم تكن حرفية أو ستؤدي إلى ضرر فعلي (الإبلاغ عن خطاب البرلمان الباكستاني). في مناسبة أخرى، قررت أغلبية المجلس أن تعبيرًا مثيرًا للجدل بشأن الهجرة لم يكن خطابًا يحض على الكراهية لأنه لم يحتوِ على هجوم مباشر بناءً على سمة محمية (تعليقات أحد الساسة على التغييرات الديموغرافية). في كلا الحالتين، قررنا أن المحتوى رغم أنه قد يكون مهينًا للبعض فهو عبارة عن خطاب سياسي محمي وينبغي ألا يُزال.

كانت إرشاداتنا لـ Meta واضحة: إذا كانت ستُزيل محتوى ذا صلة بالسياسة، خاصة في سياق الانتخابات، ينبغي أن تكون الإزالة ضرورية لمنع أو تقليل أضرار حقيقية على أرض الواقع. حق الناخبين في سماع آراء الساسة أمر ضروري.

تحديات حماية الانتخابات عبر الإنترنت

يجب التعامل مع التحديات المفروضة على النزاهة الانتخابية وحماية الديمقراطيات بمنتهى الجد. تتراوح هذه التحديات بين التحريض على العنف من قِبل القادة السياسيين والمعلومات الخطأ التي يمكن أن تُضعف الثقة في العمليات الانتخابية. في كثير من الأحيان أدت خيارات التصميم التي تتخذها المنصات إلى جعل مشكلات المعلومات الخطأ أسوأ أو إلى تحفيز هذه الإجراءات، ويهدد ظهور الذكاء الاصطناعي التوليدي إلى تفاقم هذا الأمر بشكل أكبر. ولهذا السبب أصبح الالتزام التام بالشفافية أمرًا ضروريًا. يجب أن يرى المستخدمون وأصحاب المصلحة الآخرون الإجراءات التي تتخذها الشركات لمواجهة هذه المشكلات وما إذا كانت تتعلم من أخطائها السابقة.

العنف والترهيب بواسطة القادة السياسيين

رغم أن حرية التعبير محمية بشكل عام بموجب قانون حقوق الإنسان الدولي، لكن هناك ظروف محددة تكون محدودة فيها. وغالبًا ما تتسم الانتخابات والتحولات السياسية بالتوترات التي تزداد حدتها، مع استخدام وسائل التواصل الاجتماعي في بعض الأحيان في سياقات تتسم بتهديد متزايد بالعنف. في 2021، تناولنا قضية العنف بعد الانتخابات بالبحث فيما إذا كانت Meta مُحقة في تعليق الرئيس الأسبق للولايات المتحدة دونالد ترامب من منصاتها عقب أعمال الشغب في مبنى الكابيتول في الولايات المتحدة في 6 يناير (تعليق حسابات الرئيس الأسبق ترامب).

لقد نظرنا في أمر القادة الذين يحرضون على العنف في سياقات الانتخابات، على سبيل المثال، في حالة خطاب الجنرال البرازيلي. في كلا القرارين، وجدنا أنه كان ينبغي لـ Meta أن تتخذ إجراءً بشكل أسرع ضد التشجيع على العنف أو إباحته. وصينا بأنه خلال فترة تزايد خطر العنف ينبغي ألا تتم حماية مثل هذه الرسائل تحت شعار الحق في الاحتجاج. كما أننا أوضحنا في القرار البرازيلي أنه إزالة محتوى المنشورات الفردية طريقة محدودة الفعالية عندما تكون تلك المنشورات جزءًا من إجراء منسق لتعطيل العمليات الديمقراطية. على المنصات أن تُحسن من استعدادها لمثل هذه الأزمات وطرق استجابتها لها.

جهود المحافظة على نزاهة الانتخابات (أي ضمان نزاهة عملية التصويت) وبروتوكولات الأزمات اللتين تمثلان أفضل الممارسات التي على المنصات اتباعها خلال الأحداث الخطيرة هما حلان أساسيان. لقد وصينا في كلا القرارين المذكورين بالأعلى أن تضع Meta إطار عمل للاستجابة للأحداث بالغة الخطورة. واستجابت Meta بإنشاء بروتوكول سياسة الأزمات، وهي سياسة تسترشد بها Meta في استجابتها للأزمات حينما لا تكون إجراءاتها الطبيعية كافية لمنع الأضرار. يمكن تطبيق هذه الأداة على الخلافات الانتخابية مثل الخلافات الإجرائية والنتائج المتنازع عليها، والتي غالبًا ما تكون أوضاعًا متأزمة سريعة الحركة. في قرار البرازيل، أوصينا Meta أيضًا بإنشاء إطار عمل للتقييم والإبلاغ العلني عن جهودها للحفاظ على نزاهة الانتخابات في جميع أنحاء العالم، بما في ذلك تبني مقاييس النجاح، وتوفير البيانات ذات الصلة للشركة لتحسين نظامها العام للإشراف على المحتوى، بما في ذلك كلٌّ من المحتوى الطبيعي والمدفوع. لقد التزمت Metaبهذا في الجزء الأخير من 2024. ونظرًا لخطورة القضية، فإننا نراقب هذا الالتزام عن كثب. ينبغي أن تساعد المعلومات المستقاة من هذه المعايير Meta في تحديد طريقة نشرها لمواردها خلال الانتخابات والاعتماد على المعرفة المحلية لمواجهة الحملات المنسقة التي تهدف إلى تعطيل العمليات الديمقراطية، بالإضافة إلى إنشاء قنوات للتعليقات وتحديد المقاييس الفعالة عندما يستمر العنف السياسي بعد الانتهاء الرسمي للانتخابات.

بالطبع لا يقتصر التحريض على العنف على الفترة السابقة أو اللاحقة بالانتخابات مباشرة. في حالة رئيس الوزراء الكمبودي، طلبنا من Meta إزالة أحد المنشورات المخالفة من هون سين رئيس الوزراء آنذاك الذي كان يستهدف فيه المعارضة السياسية ويهدد فيه بالعنف وذلك قبل أشهر من الانتخابات المحدد موعدها. رغم اهتمام الجمهور الكمبودي في السماع من رئيس وزرائهم عبر وسائل التواصل الاجتماعي قبل الانتخابات، أدت ضراوة القمع الذي تعرضت له قوى المعارضة إلى أن يطلب المجلس من Meta تعليق حساب إنستغرام وصفحة فيسبوك الخاصَّين بهون سين لمدة ستة أشهر. ونظرًا للوضع المتقلب في كمبوديا، توصلنا إلى أنه لا يمكن تبرير تهديداته للمعارضة السياسية على أنه محتوى "جدير بالتغطية الإعلامية" وهناك احتمال كبير أن يتسبب في أذى جسدي.

للأسف، يشكل قرار Meta النهائي بعدم تعليق حساب هون سين سابقة يُحتمل أن تكون خطيرة للحكام في الأماكن الأخرى الذين يستخدمون منصات Meta بشكل متكرر لتهديد منتقديهم وترهيبهم. تحدث عدد من مجموعات حقوق الإنسان الدولية وحثوا Meta على اتباع توصيات المجلس.

بالنظر إلى المخاطر، إننا نراقب عن كثب كيفية تنفيذ Meta للتوصيات الأخرى التي أصدرناها في هذه الحالات وسوف نستمر في تحميل الشركة مسؤوليتها عن الوفاء بوعودها.

في حالة تعليق حسابات الرئيس الأسبق ترامب، حثثنا Meta على أن تشرح بوضوح سياسة الإنذارات والعقوبات لديها لتقييد الحسابات التي بها مخالفات شديدة للسياسات المتعلقة بالمحتوى، وقد اتسمت الشركة بشفافية أكثر في هذا الإطار منذ ذلك الوقت. وفي حالة رئيس الوزراء الكمبودي، أوصينا Meta أيضًا بأن تعيد النظر في سياستها بشأن تقييد حسابات القادة السياسيين ليس فقط خلال الأزمات ولكن أيضًا في المواقف التي تقمع فيها الدولة بشكل استباقي التعبير السياسي باستخدام العنف أو التهديدات بالعنف. كما أننا أوضحنا أنه ينبغي لـ Meta تحديث أنظمة أولويات المراجعة لديها حتى يراجع الخبراء بشكل سريع ومستمر المحتوى الذي يُحتمل أن يكون مخالفًا من رؤساء الدول – ولكي يزال عندما يشكل خطرًا بضرر وشيك محتمل.

لقد اكتشفنا مؤخرًا حدًا لقيود الخطاب السياسي، وهذه المرة في حالات الحملة الانتخابية اليونانية لعام 2023. دعم قرار الأغلبية إزالة منشورَين لانتهاكهما سياسة الأفراد الخطرين والمنظمات الخطرة. لحماية نزاهة الانتخابات، وجدنا أنه من المناسب لـ Meta أن تحد من حرية المرشحين السياسيين والأحزاب السياسية التي تقوم بحملات على منصاتها عند يشيرون بالتحديد إلى تأييد أفراد خطيرين ومجموعات خطيرة معروف عنهم أنهم مرتبطون بالعنف أو رموز لهؤلاء الأشخاص أو تلك المجموعات. إلا إننا لاحظنا أيضًا أنه يمكن أن تكون قواعد Meta أوضح بسبب أن الشركة لا تفصح عن قائمة بالكيانات التي تعُدها خطيرة. منذ ذلك القرار، حظرت المحكمة العليا في اليونان ذلك الحزب السياسي (الإسبرطيين) من المشاركة في انتخابات الاتحاد الأوروبي القادمة، لأنه عرض حزبه كعباءة للمتحدث السابق باسم حزب الفجر الذهبي.

أخيرًا، أدركنا أيضًا أن هناك حالات يتعرض فيها مسؤولو الحكومات والساسة، بما فيهم مسؤولو الانتخابات، إلى المضايقة أو الهجوم. لمعالجة هذا جزئيًا، نصحنا Meta في رأينا الاستشاري بشأن سياسة مشاركة معلومات محل الإقامة الخاصة ألا تسمح بمشاركة هذه المعلومات عند تنظيم احتجاجات بالقرب من أماكن السكن الخاصة لمسؤول حكومي رفيع المستوى، مع احتمال عدم وجود إجراءات أمنية كافية لحماية أمان من بالداخل.

مخاطر الإنفاذ المفرط

غالبًا ما تتضمن الفترة السابقة للانتخابات وخلال العملية الانتخابية بالإضافة إلى حفلات التنصيب ونقل السلطة عمليات تواصل وتبادل معلومات متزايدة بين المستخدمين. وهذه هي الأوقات المهمة التي تقع فيها على Meta والشركات الأخرى مسؤولية إضافية لتطبيق قرارات إنفاذها للسياسات المتعلقة بالمحتوى بشكل صحيح. لقد دفع العديد من حالاتنا Meta إلى تحسين أدائها في أخطاء الإنفاذ.

هناك مشكلة واحدة محددة يشيع حدوثها خلال الانتخابات بالتحديد هي أن الحكومات تمارس الضغط على المنصات لإزالة المحتوى المشروع بناءً على (أحيانًا تكون ذريعة) أنها تنتهك سياسات المنصة. كأدنى شرط، أصررنا على أن تُبلغ Meta المستخدمين بأنه تمت إزالة محتواهم بسبب طلب حكومي، وهذا ما تفعله الشركة الآن. في موسيقى دريل البريطانية، التي وجدنا فيها أن Meta أزالت موسيقى مشروعة لم تنتهك في الواقع سياسات المنصة بناءً على طلب قوة الشرطة، وصينا الشركة بأن تستخدم نهجًا متسقًا بشكل عام عند تلقي طلبات إزالة محتوى من الدولة، وأن تشارك بيانات هذه الطلبات بشكل عام، وأن تقيّم أوجه التحيز النظامي في قرارات الإشراف على المحتوى الناتجة عن طلبات الحكومة. تم تسليط الضوء على هذه التوصية بزيادة الشفافية حول طلبات الإزالة من الحكومات ومشاركتها بشكل عام أيضًا في حالة عزلة أوجلان ورأينا الاستشاري بشأن السياسة الخاص بـ إزالة المعلومات المضللة بشأن فيروس كورونا (كوفيد-19).

مشكلة أخرى متكررة نراها في طعون المستخدمين هي الصعوبات التي تواجهها الشركة في التمييز بين النقد السياسي المجازي والتهديدات الحقيقية التي تحظرها سياسة العنف والتحريض. أوضحت حالة شعار الاحتجاجات في إيران مخاوفنا الشديدة بأن هذا النوع من الإفراط في الإنفاذ يمكن أن يعوق حركات الاحتجاج التي تهدف إلى الترويج لحقوق الإنسان. هنا، قررنا أنه ينبغي السماح باستخدام شعار معين ("Marg bar Khamenei" والذي يُترجم حرفيًا إلى "الموت لخامنئي" وهو المرشد الأعلى لإيران) كان يُستخدم في الاحتجاجات الجارية في إيران. قبل اختيارنا لهذه الحالة، كانت أُزيلت بالفعل كميات كبيرة من المحتوى بها هذا الشعار بزعم أنه يحرض على العنف. كان التطبيق الحرفي المفرط للسياسة يمنع المحتجين من التعبير عن استيائهم من النظام الحاكم على منصات Meta. لقد سلطنا الضوء في قرارنا على أن التصريحات السياسية البلاغية، التي لا تُمثل تهديدًا حقيقيًا، لا تنتهك السياسة ولا تتطلب تطبيق استثناء سياسة الأهمية الإخبارية. كما أوصينا بتغييرات لمعيار المجتمع الخاص بالعنف والتحريض لحماية الخطاب السياسي البلاغية الواضحة خلال الاحتجاجات، وكل هذا بهدف تمكين الناس من التعبير عن انتقاداتهم لحكوماتهم بحرية.

أحد السياسات التي تؤدي غالبًا إلى الإفراط في التنفيذ هي سياسة الأفراد الخطرين والمنظمات الخطرة لدى Meta، والتي تحظر تمجيد ودعم وتمثيل الأفراد والمجموعات والفعاليات التي تعُدها الشركة خطيرة. في حين أن السياسة تسعى إلى هدف مشروع، لكنها من الناحية العملية تؤدي في الكثير من الأحيان إلى الإزالة التعسفية للمحتوى الذي ينشره المستخدمون الذي يبلغ عن مواقف تشمل هذه المجموعات، ويدافع عن حقوق الإنسان أو يجرون مقارنات لا يمكن الاعتراض عليها.

في رأي استشاري حديث بشأن السياسة تعمقنا فيه في أسئلة السياسة الصعبة التي تنظر Meta فيها، نصحنا الشركة بإنهاء افتراضها بأن كلمة "shaheed" (والتي تُترجم بشكل فضفاض إلى "شهيد" في أحد معانيها) دائمًا تعني الإشادة عند الإشارة إلى أفراد معينين (الإشارة إلى الأفراد المُصنّفين كأفراد خطرين بكلمة "شهيد"). ينبغي أن يضمن هذا إنفاذًا أكثر دقة لما وصفته Meta بـ "كلمتها الأكثر اعتدالًا"، ما يضمن احترام التعبير السياسي بشكل أكبر. كما أننا ألححنا لتوفير إيضاحات إضافية والأهم من ذلك أننا طلبنا من Meta أن تشرح بشكل واضح للمستخدمين كيفية استخدام أنظمة Meta التلقائية لتوليد التوقعات بشأن انتهاكات المحتوى المحتملة لهذه السياسة.

أكدت جميع التوصيات بالأعلى المسؤوليات المتعلقة بحقوق الإنسان التي تتحملها منصات التواصل الاجتماعي لتعالج التأثيرات الشديدة على الأفراد والمجتمع، بدلًا من أن يتم توجيهها بدافع الاهتمامات السياسية أو التجارية.

المعلومات الخطأ

يمكن أن تتخذ المعلومات الخطأ أشكالًا عدة، وتشكل المعلومات الخطأ أضرارًا واضحة فيما يتعلق بالانتخابات وحماية المساحة الديمقراطية، وتغذي الاستقطاب، وتُضعف الثقة في نزاهة العملية الديمقراطية. كما يمكن أن يؤدي المحتوى المضلل إلى خلق التشكيك في المؤسسات الحكومية والمجتمع المدني والإعلام. ومن الناحية الأخرى، فإن السؤال عما إذا كانت المعلومات حقيقية أم مزيفة (أو مضللة) جزء مشروع من الخلاف الديمقراطي في أغلب الأحيان  أحيانًا ما تستخدم الحكومات والجهات الفاعلة القوية وجود معلومات مضللة كذريعة لقمع الحقائق غير المريحة. ولهذا السبب فإن محاولة مكافحة المعلومات المضللة الضارة معقدة، خاصة مع أهمية هذه القضايا خلال الانتخابات.

التضخيم وتنسيق المعلومات المضللة

جهات عديدة – بما فيها الحكومات – تستخدم وسائل التواصل الاجتماعي لتقويض العمليات الديمقراطية، مع تطور تكتيكات نشر المعلومات الخطأ. رغم أن Meta قد حددت وأزالت الحسابات الزائفة التي تحاول إعاقة الانتخابات وتعاون الشركة مع مدققي حقائق لتصنيف بعض أشكال المعلومات الكاذبة أو المضللة، فإن حملات المعلومات الخطأ تستمر في الانتشار.

رغم الجهود المبذولة لمواجهة السلوك غير الأصيل، فإن خيارات تصميم وسياسة Meta وبالتحديد خوارزميات التوصيات وموجز الأخبار قد مكنوا روايات المعلومات الخطأ التي تروج لها شبكات المؤثرين من أن تلقى رواجًا وتنتشر، مؤدية في بعض الأحيان إلى العنف. وهذا جزء مما دفعنا إلى توصية Meta بإجراء مراجعة شاملة لكيفية مساهمة هذه الخيارات في رواية التزوير الانتخابي والتوترات التي بلغت ذروتها في أعمال الشغب في مبنى الكابيتول في الولايات المتحدة في يناير 2021 (‬‏تعليق حسابات الرئيس الأسبق ترامب). كما أننا نصحنا Meta بالبحث عن تدابير لتقليل المحتوى الضار المضخم الطبيعي والمنتشر بسبب الخوارزمية (حالة علاج فيروس كورونا (كوفيد-19) المزعوم والرأي الاستشاري بشأن السياسة فيما يتعلق بـ إزالة المعلومات المضللة بشأن جائحة فيروس كورونا (كوفيد-19)). وفي الرأس الاستشاري ذاته بشأن السياسة، حثثنا Meta على إجراء بحث يحلل الحسابات التي تضخم حملات المعلومات الخطأ الصحية أو تنسيقها. ينبغي تطبيق اعتبارات مماثلة على المعلومات الخطأ المتعلقة بالانتخابات، ولقد أثرنا أهمية أن تتوفر طرق للمستخدمين بتقديم طعن في قرار Meta عندما تخفض الشركة رتبة محتواهم بناءً على تصنيف أحد مدققي الحقائق كـ "مزيف" أو "مضلل" أو "معدَّل" (مقطع الفيديو المعدَّل للرئيس بايدن).

الوسائط التي تم التلاعب بها

يمكن للمستخدمين إنشاء وسائط تم التلاعب بها تقوض العمليات الديمقراطية وتجعل الصراع السياسي أسوأ. في حين أن الذكاء الاصطناعي (AI) التوليدي يهدد بجعل هذا الأمر أسوأ، فإن الأساليب الأولية مثل "الوسائط المزيفة الرخيصة" أكثر شيوعًا ويمكنها أن تسبب الضرر نفسه. كما هو موضح بالأعلى/ في حالة مقطع الفيديو المعدَّل للرئيس بايدن‬‏‫، حثثنا Meta على إصلاح ‬‏‫سياسة الوسائط التي تم التلاعب بها الخاصة بها لمعالجة المناطق الغامضة العديدة في الإنفاذ. أعلنت Meta من ذلك الحين أنها ستنفذ توصيات المجلس بالكامل.

الإعلان السياسي والتسويق من خلال المؤثرين

في كثير من الأحيان تحجب الإعلانات المدفوعة على منصات التواصل الاجتماعي المصدر الحقيقي لهذا المحتوى، والذي يمكن استغلاله كجزء من حملات المعلومات الخطأ. أحد الطرق التي تستخدمها Meta للإجابة عن أسئلة النسب هي أن تطلب أن تعرض الإعلانات ملصق "مدفوع من قِبل". كحد أدنى، يجب على الإعلانات السياسية الامتثال للمجموعة نفسها من معايير المجتمع التي تنطبق على كل المحتوى على منصات Meta بالإضافة إلى سياستها الإعلانية. مع ذلك، أعرب أصحاب المصلحة عن مخاوفهم بشأن الإنفاذ غير الدقيق لمعايير المجتمع الخاصة بـ Meta فيما يتعلق بالإعلانات السياسية. لقد لاحظنا سابقًا بلاغات عن إعلانات سياسية تستخدم بيانات غير صحيحة بشكل واضح لمهاجمة شرعية الانتخابات البرازيلية على منصات Meta (خطاب الجنرال البرازيلي). وفقًا لأحد مجموعات المجتمع المدني، كان هناك تطورات مماثلة في انتخابات ميانمار وكينيا. وكانت هذه الظاهرة جزءًا مما دفعنا إلى التوصية بإنشاء إطار عمل لمقاييس النجاح لتقييم مدى فعالية جهود الحفاظ على نزاهة الانتخابات التي تبذلها الشركة. وسيساعد هذا Meta في تحقيق التوازن بين الحفاظ على النقد المشروع للانتخابات كجزء من نقاش عام صحي وإزالة المحتوى التي يمثل محاولات حقيقية لتقويض عملية التصويت.

يمكن للرسائل السياسية، بما فيها تلك التي يشاركها المؤثرون الصغار والمؤثرون المبتدؤون، أن تزرع بذور الروايات المنشأة للتأثير على الرأي العام بشأن المرشحين السياسيين أو صناديق الاقتراع. يشكّل هذا التطوير تحديًا آخر لفكرتنا عن المحتوى الأصلي وغير الأصلي. يوفر تعريف الإعلانات عن القضايا الاجتماعية أو الانتخابات أو السياسة الذي وضعته Meta بعض التفاصيل لكن مصطلح "القضايا الاجتماعية" عام. إنه يشمل "موضوعات حساسة يتم النقاش فيها بشكل مكثف، وقد تؤثر على نتيجة الانتخابات أو نتيجة في/ذات صلة بقانون حالي أو مقترح".

كجزء من الاستجابة لتوصيتنا (مقطع الفيديو المعدَّل للرئيس بايدن) لـ Meta بإبلاغ المستخدمين بصورة أفضل بأصول الوسائط التي تم التلاعب بها، تطلب الشركة أيضًا الآن من المعلنين الإفصاح عن استخدامهم للذكاء الاصطناعي لإنشاء أو تعديل إعلان سياسي أو عن قضية اجتماعية تم "إنشاؤه رقميًا أو تعديله ليصور شخصًا حقيقيًا يقول أو يفعل شيئًا لم يقُله أو لم يفعله".

الخاتمة: دروس رئيسية للصناعة

سنظل ملتزمين بحماية الانتخابات من خلال قراراتنا في الحالات الرمزية وإصدار التوصيات التي تتبع أفضل الممارسات في الإشراف على المحتوى، وهذا يشمل الحماية العالية التي يكفلها الخطاب السياسي والإجراءات التي يمكن للمنصات اتخاذها لمواجهة انتشار الأكاذيب عبر الإنترنت بشكل أفضل. استنادًا إلى الأفكار والرؤى الجماعية المستمدة من هذا العمل المستمر ذي الصلة بالانتخابات، حددنا الدروس الرئيسية التالية لهؤلاء الذين يعملون على الحفاظ على نزاهة الانتخابات على منصات التواصل الاجتماعي. هذه القواعد الإرشادية مخصصة في المقام الأول للصناعة، لكننا نأمل أنها ستساعد في التأثير على أصحاب المصلحة الآخرين وهم يحملون الشركات مسؤوليتها.

• ‏‫السياسات جزء واحد من القصة، ولكن إنفاذها مهم بالقدر نفسه خلال المواقف التي تتفاقم بسرعة. يتطلب هذا أن تخصص شركات التواصل الاجتماعي موارد كافية للإشراف على المحتوى، قبل الانتخابات وخلالها وبعدها، والقيام بهذا على نطاق عالمي بغض النظر عما إذا كان لديهم مصالح سياسية أو اقتصادية في البلد المتضرر. يمكن أن تؤدي الانتخابات المتنازع عليها إلى حدوث أزمة وصراع. من الضروري أن يكون لدى شركات التواصل الاجتماعي الخبرة الكافية باللغة المحلية والسياق المحلي لتسترشد بتلك الخبرة في وضع السياسات الخاصة بالانتخابات والممارسات العالمية لكل منطقة.

• يجب أن تضع الشركات معايير منصات عالمية أساسية في كل مكان ويجب تحميل المنصات مسؤوليتها عند فشلها في الالتزام بالمطلوب منها. من المهم ألا تتجاهل الشركات الانتخابات العديدة التي تجري في البلدان أو الأسواق التي تُعدّ أقل ربحية وهذا لأن الفشل في إنفاذ هذه المعايير هناك يؤدي إلى أشد العواقب على حقوق الإنسان. في حين أن الموارد محدودة، فقد تكون أضرار المعلومات الخطأ التي لا يتم التحقق منها أو التحريض على العنف الذي لا تتم مراجعته بالحدة نفسها في المناطق التي غالبًا ما يتم التغاضي عنها؛ إذ يؤدي عدم الاستقرار في مكان واحد إلى تأجيج عدم الاستقرار في مكان آخر وتشجيع الجهات سيئة النوايا في كل مكان آخر.

• يجب ألا يُترك الخطاب السياسي الذي يحرض على العنف من دون تدقيق. ينبغي إعطاء الأولوية لتصعيد المحتوى بشكل أسرع إلى المراجعة البشرية وتطبيق العقوبات الصارمة على المنتهكين المُكررين لأفعالهم. هذا الأمر مهم خاصة عند النظر إلى محتوى رؤساء الدول وكبار أعضاء الحكومة الذي من المحتمل أن يحرض على العنف. في حين أنه للأشخاص الحق في رؤية المحتوى الذي يُعدّ "ذا أهمية إخبارية"، فإنه يجب تسريع وصول المحتوى الذي يغلب ضرره على المصلحة العامة والذي يقوض العملية الانتخابية بشكل جوهري إلى المراجعة البشرية وإزالته عند الضرورة. إذا كان الساسة يخرقون القواعد باستمرار، فقد يلزم تعليقهم من جميع المنصات عبر الإنترنت. وتتجلى أهمية وخطورة هذه النقطة في أوقات الانتخابات عندما تكون إمكانية تضخيم الأضرار والتهديدات والترهيب هي الأعلى.

• يجب أن تحذر المنصات من مخاطر السماح للحكومات باستخدام المعلومات الخطأ أو الأسباب الغامضة أو غير المحددة، لقمع الخطاب النقدي. وخاصة في سياقات الانتخابات والسياقات ذات الصلة بمسائل الصالح العام.

• يجب أن تحدد السياسات التي تقمع حرية التعبير الأضرار الحقيقية التي تحاول منعها، وهذا لضمان أنها ضرورية ومتناسبة مع مدى الضرر. عند التعامل مع المعلومات المضللة والمعلومات الخطأ، هناك توترات واضحة بين السماح بحرية التعبير والوصول إلى المعلومات – وهما أمران ضروريان للعمليات الديمقراطية – في مقابل حماية الأشخاص من أضرار العالم الحقيقي وخاصة العنف. ينبغي أن تعكس السياسات المخاطر على الأمن والأمان الجسدي، بالإضافة إلى مخاطر الترهيب والاستبعاد والإسكات. يجب ألا يتم قمع أي خطاب لا يُشكل ضررًا باستخدام ذريعة المعلومات المضللة.

• كانت الأكاذيب دائمًا جزءًا من حملات الانتخابات، ولكن أصبح نشرها أسهل وأرخص وأصعب في الرصد بسبب التقدم التكنولوجي. ينبغي وضع معايير واضحة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي أو تقنية "التزييف العميق" والأنواع الأخرى من المحتوى الذي تم التلاعب به مثل "الوسائط المزيفة الرخيصة". إذا كان هناك شيء ضار، فتنبغي معاملته على أنه كذلك. تعني الوتيرة السريعة لتغييرات التكنولوجيا أنه يمكن للسياسات أن تصبح قديمة وغير مناسبة، ما يتسبب في ظهور فجوات ويسمح للاعتداءات بالانتشار. من المهم جدًا عند تصميم السياسات والعمليات أن تكون الشركات واضحة حيال الهدف النهائي أو الضرر النهائي التي تحاول الشركة تحقيقه أو منعه، مع استشارة أصحاب المصلحة العامين ضمن هذه العملية.

• تنبغي حماية الصحفيين ومجموعات المجتمع المدني والمعارضة السياسية بشكل أفضل من الانتهاكات عبر الإنترنت وكذلك من الإنفاذ المفرط من قِبل شركات التواصل الاجتماعي. من الضروري لكي تكون العملية الانتخابية عادلة أن يتم ضمان إمكانية تعبير المعارضين السياسيين والجهات الفاعلة المدنية عن أنفسهم، ويجب على شركات التواصل الاجتماعي أن تعطي الأولوية لهذا المجال خاصةً في الدول التي يتم فيها قمع حرية التعبير بشكل روتيني. وتجب حماية المتظاهرين والأشخاص الآخرين الذين ينتقدون حكوماتهم بشكل سلمي. يجب التدقيق في طلبات الحكومات بإزالة المحتوى مع مراعاة اعتبارات حقوق الإنسان. تحقيق التوازن الصحيح خلال أزمة ليس سهلًا ولكن توفر سياسات متسقة للتعامل مع هذه المواقف مع توفير دعم وتدريب إضافيين للمشرفين هما من الخطوات الأولى المهمة.

• عندما يتعلق الأمر بالحفاظ على نزاهة الانتخابات، فإن أهمية الشفافية ازدادت أكثر من أي وقت مضى. يجب أن يرى الناس مصدر المعلومات الخطأ والمحتوى الضار الآخر، وأشكالهم، وتأثيرهم. ‏‫يجب أن تكون الشركات منفتحة بشأن الخطوات التي تتبعها لمنع الضرر والأخطاء التي ترتكبها وأن تضع المعايير الموضحة حول كيفية تحسين أدائها. يشمل هذا الالتزام بقدر أكبر من الوضوح فيما يتعلق بطلبات الإزالة المدعومة من الدولة، والتي لها القدرة على إسكات المعارضين من دون وجه حق.

• يجب التعامل مع الحملات المنسقة التي تهدف إلى نشر المعلومات الخطأ أو التحريض على العنف لتقويض العمليات الديمقراطية على أنها أولوية. تُضعف هذه الحملات الثقة في العمليات الديمقراطية لأنها تجعل من الأصعب على الأشخاص أن يجدوا معلومات دقيقة، ما يمكّن من مضايقة من يعبِّرون عن المعارضة السياسية ونشر الأكاذيب على أنها حقائق مقبولة. ينبغي أن تحسن شركات التواصل الاجتماعي من خيارات التصميم والسياسة لديها لضمان أن الروايات المضللة لا يتم تضخيمها.

شكر وتقدير

أعد هذه الورقة أعضاء مجلس الإشراف مايكل مكونيل وباميلا سان مارتن و‬‏‫آفيا أسانتيوا أساري كيي وراجعها جميع أعضاء المجلس. استعان هذا المجهود التعاوني بإسهامات كلٍّ من: جيني دومينو وهي مسؤولة أولى في فريق الحالات والسياسات، وكارلي ميلر وهي مسؤولة في فريق البيانات والتنفيذ، بالإضافة إلى تعديلات وموافقات من سيمونا سيكيميك وهي مديرة الاتصالات والتفاعل، ونينا ديلون وهي قائدة فريق المحتوى والتحرير، وأندرو سميث وهو رئيس فريق الحالات والسياسات. 

العودة إلى قيادة الفك