ओवरसाइट बोर्ड ने सूडान की रैपिड सपोर्ट फ़ोर्स के बंधक वाले वीडियो से जुड़े केस में Meta का फ़ैसला पलट दिया

11 अप्रैल 2024

ओवरसाइट बोर्ड ने एक ऐसे वीडियो को बनाए रखने के Meta के मूल फ़ैसले को पलट दिया जिसमें सूडान में रैपिड सपोर्ट फ़ोर्स (RSF) के सशस्त्र व्यक्ति, किसी व्यक्ति को सैन्य वाहन के पीछे से बंदी बना रहे हैं. वीडियो, खतरनाक संगठनों और लोगों और नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करता है. बोर्ड इस बात से चिंतित है कि Meta ने कंटेंट को पर्याप्त जल्दी हटाया नहीं – जिसमें एक युद्धबंदी को दिखाया गया है और जिसमें एक ऐसे ग्रुप के लिए समर्थन शामिल है जिसे कंपनी ने खतरनाक चिह्नित किया है. यह केस इस बारे में व्यापक चिंताओं की ओर इशारा करता है कि कंपनी सशस्त्र संघर्षों में किस तरह कंटेंट का एन्फ़ोर्समेंट करती है और किसी युद्धबंदी की पहचान जाहिर करने (“उजागर करने”) वाले कंटेंट का रिव्यू किस तरह किया जाता है. बोर्ड ने Meta से कहा कि वह सशस्त्र संघर्ष के दौरान युद्धबंदियों की पहचान उजागर करने वाले कंटेंट की जल्दी से जल्दी पहचान करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाए.

केस की जानकारी

27 अगस्त, 2023 को Facebook के एक यूज़र ने एक वीडियो पोस्ट किया जिसमें सूडान में कुछ हथियारबंद लोग, एक सैन्य वाहन में पीछे से एक व्यक्ति को बंदी बना रहे हैं. अरबी भाषा बोलने वाला एक व्यक्ति खुद को RSF का सदस्य बता रहा है और वह दावा करता है कि उसके ग्रुप ने एक विदेशी व्यक्ति को पकड़ा है, जो शायद सूडानीज़ आर्म्ड फ़ोर्सेज़ (SAF) का एक लड़ाका है. वह व्यक्ति आगे कहता है कि वे इस व्यक्ति को RSF के लीडरों को सौंपेंगे और वे SAF के लीडरों के साथ-साथ सूडान में SAF के सभी विदेशी सहयोगियों को ढूँढना और पकड़ना चाहते हैं. वीडियो में SAF का समर्थन करने वाले विदेशी नागरिकों और अन्य देशों के लीडरों के लिए अपमानजनक टिप्पणियाँ हैं. साथ दिए कैप्शन में अरबी भाषा में कहा गया है कि “हम जानते हैं कि कुछ विदेशी लोग शैतानी ब्रदरहुड ब्रिगेड के साथ-साथ लड़ रहे हैं.”

अप्रैल 2023 में सूडान में RSF पैरामिलिट्री ग्रुप और SAF, जो सरकार की आधिकारिक मिलिट्री फ़ोर्स है, के बीच सशस्त्र संघर्ष शुरू हुआ. संघर्ष के कारण लगभग 7.3 मिलियन लोगों को अपने घरों से विस्थापित होना पड़ा और 25 मिलियन से ज़्यादा लोग खाद्य असुरक्षा की समस्या झेल रहे हैं. सूडान के मानवाधिकार संगठनों ने रिपोर्ट किया है कि RSF ने 5,000 से ज़्यादा लोगों को बंदी बनाया है और उन्हें अमानवीय परिस्थितियों में रखा जा रहा है. ऐसी भी रिपोर्ट है कि दोनों तरफ से युद्ध अपराध और मानवीयता के खिलाफ़ अपराध किए जा रहे हैं. Meta ने RSF को खतरनाक संगठनों और लोगों से जुड़े अपने कम्युनिटी स्टैंडर्ड में चिह्नित किया है.

वीडियो को पोस्ट किए जाने के कुछ ही समय बाद, Facebook के तीन यूज़र्स ने कंटेंट की रिपोर्ट की लेकिन कम गंभीरता (कम्युनिटी स्टैंडर्ड का उल्लंघन करने की संभावना) और वायरल होने (देखे जाने की संख्या) के कम स्कोर के कारण, उन्हें ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई और कंटेंट को बनाए रखा गया. एक यूज़र ने अपील की लेकिन रिपोर्ट को Meta की COVID-19 ऑटोमेशन पॉलिसीज़ के कारण बंद कर दिया गया. फिर उसी यूज़र ने ओवरसाइट बोर्ड के सामने अपील पेश की. बोर्ड द्वारा केस को Meta के ध्यान में लाए जाने के बाद, कंपनी ने खतरनाक संगठनों और लोगों से जुड़े अपने कम्युनिटी स्टैंडर्ड के तहत Facebook पोस्ट को हटा दिया. साथ ही उस व्यक्ति की प्रोफ़ाइल पर स्टैंडर्ड और गंभीर स्ट्राइक भी लगाई जिसने वीडियो पोस्ट किया था.

मुख्य निष्कर्ष

यह कंटेंट, खतरनाक संगठनों और लोगों से जुड़े Meta के कम्युनिटी स्टैंडर्ड का उल्लंघन करता है क्योंकि इसमें किसी ऐसे ग्रुप का समर्थन किया गया है जिसे कंपनी ने टियर 1 के खतरनाक संगठन के रूप में चिह्नित किया है – खास तौर पर संगठन की ओर से “आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनकर.” जो व्यक्ति वीडियो में बोल रहा है, वह खुद को RSF का हिस्सा बताता है और उन कामों की बात करता है जो उसका ग्रुप कर रहा है और उसने RSF के कमांडर मोहम्मद हमदान डागालो का सीधे नाम लिया है. बोर्ड ने पाया कि इस कंटेंट को हटाना, जिसमें ऐसे सभी लोगों को धमकियाँ दी गई हैं जो RSF का विरोध करते हैं या उसे चुनौती देते हैं, आवश्यक और आनुपातिक है.

पहले के फ़ैसलों में, बोर्ड ने अपनी इस चिंता पर ज़ोर दिया है कि चिह्नित संगठनों और लोगों की Meta की लिस्ट में पारदर्शिता की कमी है. सूडान की स्थिति को देखते हुए, जहाँ देश के सभी भागों पर RSF का प्रभाव या नियंत्रण हैं, जो लोग ज़रूरी सुरक्षा और मानवतावादी जानकारी के लिए RSF के कम्युनिकेशन चैनलों सहित Facebook पर निर्भर हैं, उन्हें उन कम्युनिकेशन चैनलों पर लगाए गए प्रतिबंधों के कारण ज़्यादा खतरा हो सकता है.

इसके अलावा, बोर्ड ने पाया कि यह कंटेंट नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी का भी उल्लंघन करती है क्योंकि इसमें एक बंधक व्यक्ति को दिखाया गया है जिसे स्पष्ट रूप से पहचाना जा सकता है और वीडियो में उसे SAF से संबद्ध एक “विदेशी व्यक्ति” कहा गया है. Meta की पॉलिसी में किसी सशस्त्र संघर्ष के दौरान किसी युद्धबंदी की पहचान जाहिर करने की परमिशन नहीं है. सशस्त्र संघर्ष में बंदियों की सुरक्षा के लिए अंतरराष्ट्रीय मानवतावादी कानून के खास नियमों को देखते हुए वीडियो को हटाना ज़रूरी है. बोर्ड इस बात से चिंतित है कि इस कंटेंट को युद्धबंदियों की पहचान उजागर करने के खिलाफ़ Meta के नियमों के उल्लंघन के कारण पहचाना और हटाया नहीं गया. एन्फ़ोर्समेंट की यह गलती शायद इसलिए हुई क्योंकि इस नियम को अभी सिर्फ़ एस्केलेशन पर एन्फ़ोर्स किया जाता है, जिसका अर्थ है कि कंटेंट का शुरुआती मॉडरेशन करने वाले ह्यूमन रिव्यूअर खुद एक्शन नहीं ले सकते. वास्तव में इस नियम को सिर्फ़ तभी लागू किया जा सकता है जब कंटेंट को कुछ अन्य साधनों से एस्केलेशन के समय काम करने वाली Meta की टीमों के ध्यान में लाया जाए, जैसे कि भरोसेमंद पार्टनर द्वारा या जब कंटेंट को बड़ा प्रेस कवरेज मिले.

अंत में बोर्ड इस बात से भी चिंतित है कि Meta इस कंटेंट को पोस्ट किए जाने के बाद तुरंत या कुछ समय बाद हटाने में विफल रहा. Meta के ऑटोमेटेड सिस्टम इस वीडियो की उल्लंघन के लिए सही पहचान करने में विफल रहे, जिससे एन्फ़ोर्समेंट की व्यापक समस्या का पता चलता है. बोर्ड यह मानता है कि कंपनी को ऐसे बदलाव करने की ज़रूरत है कि जब सशस्त्र संघर्षों की बात हो, तब खतरनाक संगठनों का समर्थन करने वाले ज़्यादा कंटेंट को ह्यूमन रिव्यू के लिए भेजा जाए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पोस्ट को बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

बोर्ड ने सुझाव दिया है कि Meta:

• नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी को एन्फ़ोर्स करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाएँ, जो सशस्त्र संघर्ष के संदर्भ में युद्धबंदियों की पहचान उजागर करने को प्रतिबंधित करती है. संघर्ष के दौरान युद्धबंदियों की पहचान उजागर करने वाले कंटेंट को प्राथमिकता देने और उसकी जल्दी पहचान के लिए एक विशेषज्ञ टीम होनी चाहिए.
• क्लासिफ़ायर को समझने के लिए अपने वीडियो कंटेंट में उपयोग किए गए ट्रेनिंग डेटा का ऑडिट करे और यह मूल्यांकन करे कि क्या उसमें सशस्त्र संघर्ष के संदर्भ में चिह्नित संगठनों का समर्थन करने वाले कंटेंट के पर्याप्त रूप से विविध उदाहरण मौजूद हैं, जिनमें अलग-अलग भाषाएँ, बोलियाँ, क्षेत्र और संघर्ष शामिल हैं.
• अपने कम्युनिटी स्टैंडर्ड में उन जगहों पर अमेरिका की विदेशी आतंकी संगठन और विशेष रूप से चिह्नित वैश्विक आतंकवादियों की लिस्ट का हाइपरलिंक शामिल करना चाहिए, जहाँ इन लिस्ट का उल्लेख किया गया है.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट्स का सारांश पढ़ने के लिए, कृपया नीचे दिए गए अटैचमेंट पर क्लिक करें.

समाचार पर लौटें