सूडान की रैपिड सपोर्ट फ़ोर्स का बंधक वाला वीडियो

सारांश

ओवरसाइट बोर्ड ने एक ऐसे वीडियो को बनाए रखने के Meta के मूल फ़ैसले को पलट दिया जिसमें सूडान में रैपिड सपोर्ट फ़ोर्स (RSF) के सशस्त्र व्यक्ति, किसी व्यक्ति को सैन्य वाहन के पीछे से बंदी बना रहे हैं. वीडियो, खतरनाक संगठनों और लोगों और नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करता है. बोर्ड इस बात से चिंतित है कि Meta ने कंटेंट को पर्याप्त जल्दी हटाया नहीं – जिसमें एक युद्धबंदी को दिखाया गया है और जिसमें एक ऐसे ग्रुप के लिए समर्थन शामिल है जिसे कंपनी ने खतरनाक चिह्नित किया है. यह केस इस बारे में व्यापक चिंताओं की ओर इशारा करता है कि कंपनी सशस्त्र संघर्षों में किस तरह कंटेंट का एन्फ़ोर्समेंट करती है और किसी युद्धबंदी की पहचान जाहिर करने (“उजागर करने”) वाले कंटेंट का रिव्यू किस तरह किया जाता है. बोर्ड ने Meta से कहा कि वह सशस्त्र संघर्ष के दौरान युद्धबंदियों की पहचान उजागर करने वाले कंटेंट की जल्दी से जल्दी पहचान करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाए.

केस की जानकारी

27 अगस्त, 2023 को Facebook के एक यूज़र ने एक वीडियो पोस्ट किया जिसमें सूडान में कुछ हथियारबंद लोग, एक सैन्य वाहन में पीछे से एक व्यक्ति को बंदी बना रहे हैं. अरबी भाषा बोलने वाला एक व्यक्ति खुद को RSF का सदस्य बता रहा है और वह दावा करता है कि उसके ग्रुप ने एक विदेशी व्यक्ति को पकड़ा है, जो शायद सूडानीज़ आर्म्ड फ़ोर्सेज़ (SAF) का एक लड़ाका है. वह व्यक्ति आगे कहता है कि वे इस व्यक्ति को RSF के लीडरों को सौंपेंगे और वे SAF के लीडरों के साथ-साथ सूडान में SAF के सभी विदेशी सहयोगियों को ढूँढना और पकड़ना चाहते हैं. वीडियो में SAF का समर्थन करने वाले विदेशी नागरिकों और अन्य देशों के लीडरों के लिए अपमानजनक टिप्पणियाँ हैं. साथ दिए कैप्शन में अरबी भाषा में कहा गया है कि “हम जानते हैं कि कुछ विदेशी लोग शैतानी ब्रदरहुड ब्रिगेड के साथ-साथ लड़ रहे हैं.”

अप्रैल 2023 में सूडान में RSF पैरामिलिट्री ग्रुप और SAF, जो सरकार की आधिकारिक मिलिट्री फ़ोर्स है, के बीच सशस्त्र संघर्ष शुरू हुआ. संघर्ष के कारण लगभग 7.3 मिलियन लोगों को अपने घरों से विस्थापित होना पड़ा और 25 मिलियन से ज़्यादा लोग खाद्य असुरक्षा की समस्या झेल रहे हैं. सूडान के मानवाधिकार संगठनों ने रिपोर्ट किया है कि RSF ने 5,000 से ज़्यादा लोगों को बंदी बनाया है और उन्हें अमानवीय परिस्थितियों में रखा जा रहा है. ऐसी भी रिपोर्ट है कि दोनों तरफ से युद्ध अपराध और मानवीयता के खिलाफ़ अपराध किए जा रहे हैं. Meta ने RSF को खतरनाक संगठनों और लोगों से जुड़े अपने कम्युनिटी स्टैंडर्ड में चिह्नित किया है.

वीडियो को पोस्ट किए जाने के कुछ ही समय बाद, Facebook के तीन यूज़र्स ने कंटेंट की रिपोर्ट की लेकिन कम गंभीरता (कम्युनिटी स्टैंडर्ड का उल्लंघन करने की संभावना) और वायरल होने (देखे जाने की संख्या) के कम स्कोर के कारण, उन्हें ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई और कंटेंट को बनाए रखा गया. एक यूज़र ने अपील की लेकिन रिपोर्ट को Meta की COVID-19 ऑटोमेशन पॉलिसीज़ के कारण बंद कर दिया गया. फिर उसी यूज़र ने ओवरसाइट बोर्ड के सामने अपील पेश की. बोर्ड द्वारा केस को Meta के ध्यान में लाए जाने के बाद, कंपनी ने खतरनाक संगठनों और लोगों से जुड़े अपने कम्युनिटी स्टैंडर्ड के तहत Facebook पोस्ट को हटा दिया. साथ ही उस व्यक्ति की प्रोफ़ाइल पर स्टैंडर्ड और गंभीर स्ट्राइक भी लगाई जिसने वीडियो पोस्ट किया था.

मुख्य निष्कर्ष

यह कंटेंट, खतरनाक संगठनों और लोगों से जुड़े Meta के कम्युनिटी स्टैंडर्ड का उल्लंघन करता है क्योंकि इसमें किसी ऐसे ग्रुप का समर्थन किया गया है जिसे कंपनी ने टियर 1 के खतरनाक संगठन के रूप में चिह्नित किया है – खास तौर पर संगठन की ओर से “आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनकर.” जो व्यक्ति वीडियो में बोल रहा है, वह खुद को RSF का हिस्सा बताता है और उन कामों की बात करता है जो उसका ग्रुप कर रहा है और उसने RSF के कमांडर मोहम्मद हमदान डागालो का सीधे नाम लिया है. बोर्ड ने पाया कि इस कंटेंट को हटाना, जिसमें ऐसे सभी लोगों को धमकियाँ दी गई हैं जो RSF का विरोध करते हैं या उसे चुनौती देते हैं, आवश्यक और आनुपातिक है.

पहले के फ़ैसलों में, बोर्ड ने अपनी इस चिंता पर ज़ोर दिया है कि चिह्नित संगठनों और लोगों की Meta की लिस्ट में पारदर्शिता की कमी है. सूडान की स्थिति को देखते हुए, जहाँ देश के सभी भागों पर RSF का प्रभाव या नियंत्रण हैं, जो लोग ज़रूरी सुरक्षा और मानवतावादी जानकारी के लिए RSF के कम्युनिकेशन चैनलों सहित Facebook पर निर्भर हैं, उन्हें उन कम्युनिकेशन चैनलों पर लगाए गए प्रतिबंधों के कारण ज़्यादा खतरा हो सकता है.

इसके अलावा, बोर्ड ने पाया कि यह कंटेंट नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी का भी उल्लंघन करती है क्योंकि इसमें एक बंधक व्यक्ति को दिखाया गया है जिसे स्पष्ट रूप से पहचाना जा सकता है और वीडियो में उसे SAF से संबद्ध एक “विदेशी व्यक्ति” कहा गया है. Meta की पॉलिसी में किसी सशस्त्र संघर्ष के दौरान किसी युद्धबंदी की पहचान जाहिर करने की परमिशन नहीं है. सशस्त्र संघर्ष में बंदियों की सुरक्षा के लिए अंतरराष्ट्रीय मानवतावादी कानून के खास नियमों को देखते हुए वीडियो को हटाना ज़रूरी है. बोर्ड इस बात से चिंतित है कि इस कंटेंट को युद्धबंदियों की पहचान उजागर करने के खिलाफ़ Meta के नियमों के उल्लंघन के कारण पहचाना और हटाया नहीं गया. एन्फ़ोर्समेंट की यह गलती शायद इसलिए हुई क्योंकि इस नियम को अभी सिर्फ़ एस्केलेशन पर एन्फ़ोर्स किया जाता है, जिसका अर्थ है कि कंटेंट का शुरुआती मॉडरेशन करने वाले ह्यूमन रिव्यूअर खुद एक्शन नहीं ले सकते. वास्तव में इस नियम को सिर्फ़ तभी लागू किया जा सकता है जब कंटेंट को कुछ अन्य साधनों से एस्केलेशन के समय काम करने वाली Meta की टीमों के ध्यान में लाया जाए, जैसे कि भरोसेमंद पार्टनर द्वारा या जब कंटेंट को बड़ा प्रेस कवरेज मिले.

अंत में बोर्ड इस बात से भी चिंतित है कि Meta इस कंटेंट को पोस्ट किए जाने के बाद तुरंत या कुछ समय बाद हटाने में विफल रहा. Meta के ऑटोमेटेड सिस्टम इस वीडियो की उल्लंघन के लिए सही पहचान करने में विफल रहे, जिससे एन्फ़ोर्समेंट की व्यापक समस्या का पता चलता है. बोर्ड यह मानता है कि कंपनी को ऐसे बदलाव करने की ज़रूरत है कि जब सशस्त्र संघर्षों की बात हो, तब खतरनाक संगठनों का समर्थन करने वाले ज़्यादा कंटेंट को ह्यूमन रिव्यू के लिए भेजा जाए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पोस्ट को बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी को एन्फ़ोर्स करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाएँ, जो सशस्त्र संघर्ष के संदर्भ में युद्धबंदियों की पहचान उजागर करने को प्रतिबंधित करती है. संघर्ष के दौरान युद्धबंदियों की पहचान उजागर करने वाले कंटेंट को प्राथमिकता देने और उसकी जल्दी पहचान के लिए एक विशेषज्ञ टीम होनी चाहिए.
• क्लासिफ़ायर को समझने के लिए अपने वीडियो कंटेंट में उपयोग किए गए ट्रेनिंग डेटा का ऑडिट करे और यह मूल्यांकन करे कि क्या उसमें सशस्त्र संघर्ष के संदर्भ में चिह्नित संगठनों का समर्थन करने वाले कंटेंट के पर्याप्त रूप से विविध उदाहरण मौजूद हैं, जिनमें अलग-अलग भाषाएँ, बोलियाँ, क्षेत्र और संघर्ष शामिल हैं.
• अपने कम्युनिटी स्टैंडर्ड में उन जगहों पर अमेरिका की विदेशी आतंकी संगठन और विशेष रूप से चिह्नित वैश्विक आतंकवादियों की लिस्ट का हाइपरलिंक शामिल करे, जहाँ इन लिस्ट का उल्लेख किया गया है.

*केस के सारांश से केस का ओवरव्यू मिलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने एक ऐसे वीडियो को बनाए रखने के Meta के मूल फ़ैसले को पलट दिया जिसमें खुद को रैपिड सपोर्ट फ़ोर्स (RSF) के लोग बताने वाले सशस्त्र लोगों को एक व्यक्ति को सैन्य वाहन के पीछे से बंदी बनाते दिखाया गया है. RSF के सदस्य बता रहे हैं कि बंधक, जिसका चेहरा स्पष्ट रूप से देखा जा सकता है, सूडानीज़ आर्म्ड फ़ोर्सेस (SAF) से जुड़ा हुआ एक विदेशी नागरिक है. Meta ने RSF को खतरनाक संगठनों और लोगों से जुड़े अपने कम्युनिटी स्टैंडर्ड में चिह्नित किया है. बोर्ड द्वारा केस का चयन किए जाने के बाद, Meta ने अपने मूल फ़ैसले का रिव्यू किया और वीडियो को खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण हटा दिया जिसके तहत चिह्नित एंटिटी का “समर्थन” करने की मनाही है, खास तौर पर “किसी चिह्नित एंटिटी या घटना की ओर से आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनने की.” पोस्ट नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी Meta की पॉलिसी का उल्लंघन भी करती है, जिसके तहत किसी सशस्त्र संघर्ष के दौरान किसी युद्धबंदी की पहचान उजागर करने वाले कंटेंट की मनाही है; इस केस में, वह व्यक्ति जिसे वाहन में बंदी बनाया गया है. बोर्ड इस बात से चिंतित है कि Meta ने कंटेंट को पर्याप्त शीघ्रता से नहीं हटाया, जिससे यह संकेत मिल सकता है कि सशस्त्र संघर्षों के दौरान पॉलिसी के प्रभावी एन्फ़ोर्समेंट में व्यापक समस्याएँ हैं.

2. केस की जानकारी और बैकग्राउंड

27 अगस्त, 2023 को एक Facebook यूज़र ने एक वीडियो पोस्ट किया जिसमें सूडान में हथियारबंद लोगों को एक सैन्य वाहन में एक व्यक्ति को बंदी बनाते हुए दिखाया गया है. वीडियो में शामिल वह व्यक्ति, जो कंटेंट पोस्ट करने वाला यूज़र नहीं है, खुद को अरबी भाषा में RSF पैरामिलिट्री ग्रुप का सदस्य बताता है. वह दावा करता है कि ग्रुप ने एक विदेशी नागरिक को पकड़ लिया है, जो शायद SAF से जुड़ा हुआ लड़ाका है, और यह कि वे उस व्यक्ति को RSF के लीडरों को सौंपना चाहते हैं. वह व्यक्ति यह भी कहता है कि उनका इरादा सूडान में SAF बलों के लीडरों और उनके विदेशी सहयोगियों को ढूँढना है, यह कि वे उसे सभी लोगों को बंदी बना लेंगे जो RSF के खिलाफ़ काम कर रहे हैं और यह कि वे अपने खुद के लीडर मोहम्मद हमदान डागालो के वफ़ादार हैं. वीडियो में विदेशी नागरिकों और SAF का समर्थन करने वाले अन्य देशों के लीडर के बारे में अपमानजनक टिप्पणियाँ शामिल हैं.

वीडियो के साथ अरबी भाषा में ही एक कैप्शन दिया गया है जिसका अर्थ है “हम जानते हैं कि दुष्ट पड़ोसियों के कुछ विदेशी लोग शैतानी ब्रदरहुड ब्रिगेड के साथ-साथ लड़ रहे हैं.” वीडियो पोस्ट किए जाने के कुछ ही समय बाद, यूज़र ने कैप्शन को एडिट कर दिया. एडिट किए गए कैप्शन का अनुवाद है “हम जानते हैं कि कुछ विदेशी लोग शैतानी ब्रदरहुड ब्रिगेड के साथ-साथ लड़ रहे हैं.” पोस्ट को 100 से कम रिएक्शन, 50 कमेंट और 50 शेयर मिले जबकि कंटेंट को पोस्ट करने वाले व्यक्ति के लगभग 4,000 फ़्रेंड और 32,000 फ़ॉलोअर हैं.

कंटेंट को पोस्ट किए जाने के कुछ ही समय बाद, अन्य Facebook यूज़र्स ने कंटेंट की रिपोर्ट की, लेकिन इन रिपोर्ट को ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई और पोस्ट को प्लेटफ़ॉर्म पर बनाए रखा गया. इनमें से एक यूज़र ने Meta के फ़ैसले के खिलाफ़ अपील की लेकिन अपील को रिव्यू किए बिना ही बंद कर दिया गया. फिर उसी यूज़र ने ओवरसाइट बोर्ड के सामने अपील पेश की. अक्टूबर 2023 में बोर्ड द्वारा केस को Meta के ध्यान में लाए जाने और Meta के पॉलिसी विषय विशेषज्ञों द्वारा किए गए रिव्यू के बाद, कंपनी ने पोस्ट को खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी के उल्लंघन के कारण Facebook से हटा दिया. कंटेंट को हटाने के बाद, Meta ने कंटेंट को पोस्ट करने वाले व्यक्ति की प्रोफ़ाइल पर स्टैंडर्ड स्ट्राइक के साथ-साथ एक गंभीर स्ट्राइक भी लगाई क्योंकि स्टैंडर्ड स्ट्राइक की तुलना में गंभीर स्ट्राइक के परिणामस्वरूप अलग और कठोर पेनल्टी लगती हैं. स्टैंडर्ड स्ट्राइक की ज़्यादा संख्या के परिणामस्वरूप, पेनल्टी की गंभीरता बढ़ सकती है. जब पोस्ट किया गया कंटेंट, Meta की ज़्यादा गंभीर पॉलिसीज़ का उल्लंघन करता है, जैसे खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का, तो कंपनी स्टैंडर्ड प्रतिबंधों के अलावा अतिरिक्त और ज़्यादा गंभीर प्रतिबंध भी लगा सकती है. जैसे, निश्चित समयावधि तक यूज़र को विज्ञापन बनाने और Facebook Live का उपयोग करने से रोका जा सकता है.

बोर्ड ने इस केस में अपना फ़ैसला करते समय नीचे दिए संदर्भ पर विचार किया.

सूडान में अप्रैल 2023 में SAF – अंतरराष्ट्रीय मान्यता प्राप्त सरकार की मिलिट्री फ़ोर्सेज़ जिनका लीडर जनरल अब्देल फत्ताह अल-बुरहान है – और पैरामिलिट्री ग्रुप RSF, जिसका लीडर मोहम्मद हमदान डागालो है जिसे सामान्य तौर पर “हेमेदती” के नाम से जाना जाता है, के बीच सशस्त्र संघर्ष की शुरुआत हुई. संघर्ष शुरू होने के कुछ ही समय बाद SAF ने घोषणा की कि RSF एक विद्रोही ग्रुप है और उसने उसे भंग करने का आदेश दिया. देश में चल रहे युद्ध को एक गैर-अंतरराष्ट्रीय सशस्त्र संघर्ष के रूप में वर्गीकृत किया गया है. नवंबर 2023 तक, सूडान वॉर मॉनीटर के अनुसार, राजधानी खार्तूम के आसपास के क्षेत्र वेस्ट दारफ़ूर और उत्तरी और पश्चिमी कोरदोफ़ान के कुछ भागों का नियंत्रण RSF के पास था जबकि SAF के पास अधिकांश नील घाटी और देश के पूर्वी प्रांतों और बंदरगाहों का नियंत्रण था.

अमेरिकी ट्रेजरी विभाग ने 6 सितंबर, 2023 को RSF के प्रमुख और मोहम्मद हमदान डागालो के भाई अब्देल रहीम हमदान डागालो को प्रतिबंधित कर दिया. Meta ने लगभग एक महीने पहले खतरनाक संगठनों और लोगों से जुड़ी अपनी पॉलिसी के अंतर्गत 11 अगस्त, 2023 को RSF को अलग से टियर 1 आतंकी संगठन के रूप में चिह्नित किया. इस फ़ैसले के प्रकाशन के समय, RSF को Meta के चिह्नित संगठनों की लिस्ट में बनाए रखा गया है.

संयुक्त राष्ट्र के अनुसार, अप्रैल 2023 के बाद से लगभग 7.3 मिलियन लोग इस संघर्ष के कारण विस्थापित हुए हैं जिनमें से आधी संख्या महिलाओं और बच्चों की है. 25 मिलियन से ज़्यादा लोग, जिनमें 14 मिलियन से ज़्यादा बच्चे शामिल हैं, गंभीर खाद्य असुरक्षा का सामना कर रहे हैं और उन्हें मानवीय सहायता की ज़रूरत है. लिंग आधारित हिंसा, यौन हिंसा, उत्पीड़न, यौन शोषण और ट्रैफ़िकिंग की घटनाएँ बढ़ रही हैं. एक अनुमान के अनुसार बीमारियों के फैलने और स्वास्थ्य सुविधाओं की कमी से पूरे सूडान में लगभग 6,000 लोग मारे गए हैं. अक्टूबर 2023 में, संयुक्त राष्ट्र मानवाधिकार आयोग ने सूडान में एक स्वतंत्र अंतरराष्ट्रीय फ़ैक्ट-फ़ाइंडिंग मिशन को तत्काल स्थापित करने के प्रस्ताव को स्वीकार किया और उस मिशन के लिए संघर्ष के दौरान मानवाधिकारों और अंतरराष्ट्रीय मानवतावादी कानून के कथित उल्लंघनों के तथ्यों और परिस्थितियों की जाँच करना और उनसे जुड़े तथ्यों का पता लगाना अनिवार्य बनाया गया. सूडान के मानवाधिकार संगठनों ने रिपोर्ट किया है कि RSF ने राजधानी खार्तूम में 5,000 से ज़्यादा लोगों को बंधक बनाया है और उन्हें अपमानजनक और अमानवीय स्थितियों में रखा गया है जहाँ मानवीय गरिमा के लिए ज़रूरी बुनियादी सुविधाएँ मौजूद नहीं हैं.

कई सोर्स के अनुसार, जिनमें इंटरनेशनल क्रिमिनल कोर्ट और यू. एस. डिपार्टमेंट ऑफ़ स्टेट शामिल हैं, ऐसी रिपोर्ट्स प्राप्त हुई हैं कि SAF और RSF दोनों ने सूडान में नरसंहार, मानवता के विरुद्ध अपराध और युद्ध अपराध किए हैं. इसके अलावा, रिपोर्ट्स में उल्लेख किया गया है कि RSF और सहयोगी मिलिशिया ने सूडान में और चाड बॉर्डर में मासालित कम्युनिटी को जातीय रूप से निशाना बनाकर युद्ध संबंधी अपराध किए हैं. बोर्ड द्वारा परामर्श किए गए मध्य-पूर्व और उत्तरी अफ़्रीका स्टडीज़ के विशेषज्ञों ने इन रिपोर्ट को हाइलाइट किया कि दोनों पक्ष, बंधकों से व्यापक दुर्व्यवहार के लिए भी ज़िम्मेदार हैं जिनमें अमानवीय स्थितियाँ, गैर-कानूनी और मनमानी करके बंधक बनाना, जातीय रूप से निशाना बनाना, यौन हिंसा, हत्याएँ और बंधकों को मानवीय ढाल के रूप में उपयोग करना शामिल है.

बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने नोट किया कि Meta द्वारा RSF को एक खतरनाक संगठन के रूप में चिह्नित किए जाने के कारण, नुकसानदेह बातों सहित संगठन द्वारा फैलाई जाने वाली जानकारी में कमी आई. हालाँकि, RSF को चिह्नित किए जाने से संगठन को जानकारी शेयर करने अन्य तरीके एक्सप्लोर करने के लिए बढ़ावा मिला, जैसे गैर-आधिकारिक निजी पेज और अकाउंट का सहारा लेना, जिसमें बंधों से जुड़ा कंटेंट पोस्ट करना भी शामिल है. इससे ऑब्ज़र्वर्स के लिए ग्रुप की एक्टिविटी की प्रभावी रूप से निगरानी करना और उनकी रोकथाम करना कठिन बन जाता है. विशेषज्ञों ने यह भी नोट किया कि RSF को चिह्नित करने से जानकारी में विषमता आई और लोगों के लिए जानकारी की एक्सेस में रुकावट आई. जैसे कि लोग इस बारे में कम दिलचस्पी लेंगे कि Meta के प्लेटफ़ॉर्म के ज़रिए कुछ एरिया में उन्हें सुरक्षा की स्थितियों के बारे में RSF के अपडेट प्राप्त हों (सिविक मीडिया ऑब्ज़र्वेटरी का पब्लिक कमेंट देखें, PC -24020).

सूडान के नागरिक और मीडिया, सामाजिक, राजनैतिक, सैन्य और मानवतावादी घटनाक्रमों के बारे में महत्वपूर्ण जानकारी और अपडेट पाने और इस जानकारी को सूडान के बाहर फैलाने; सूडान में सुरक्षित जगहों पर जाने और सूडान से बाहर निकलने के लिए सुरक्षित मार्ग ढूँढने; कुछ खास लोकेशन पर की जा रही सैन्य कार्रवाइयों की जानकारी पाने के लिए सैन्य कार्रवाइयों या हिंसक घटनाओं की महत्वपूर्ण जानकारी पाने और शरण चाहने या उन कार्रवाइयों से बचने (सिविक मीडिया ऑब्जर्वेटरी का पब्लिक कमेंट देखें, PC -24020); मानवीय और चिकित्सीय मदद पाने; और बंधकों और युद्धबंदियों की जानकारी पाने के लिए सोशल मीडिया प्लेटफ़ॉर्म, खास तौर पर Facebook पर निर्भर हैं.

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसने पहले ऐसे कंटेंट की रिपोर्ट की थी जिसे छोड़ दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम आर्टिकल 3, सेक्शन 1).

बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाह शामिल हो सकती हैं, जिन पर Meta को जवाब देना ज़रूरी है (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.

4. अथॉरिटी और मार्गदर्शन के सोर्स

इस केस में बोर्ड ने इन स्टैंडर्ड और पुराने फ़ैसलों को ध्यान में रखते हुए विश्लेषण किया:

I.

• नाज़ी उद्धरण
• टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो
• आर्मेनिया के युद्धबंदियों का वीडियो
• भारत में RSS पर पंजाबी चिंता
• ओजलान का एकांतवास
• यहूदी नरसंहार को नकारना (होलोकॉस्ट डिनायल)
• सूडान के संघर्ष से जुड़ी हथियारों वाली पोस्ट
• खतरनाक लोगों को “शहीद” कहना पॉलिसी एडवाइज़री टीम की राय

II. Meta की कंटेंट पॉलिसीज़

बोर्ड का विश्लेषण, Meta की अभिव्यक्ति की प्रतिबद्धता, जिसे कंपनी “सर्वोपरि” बताती है, और सुरक्षा, प्राइवेसी और गरिमा की उसकी वैल्यू के आधार पर किया गया है.

बोर्ड द्वारा इस केस को रिव्यू के लिए चुने जाने के बाद, Meta ने कंटेंट को चिह्नित एंटिटी का समर्थन करने के कारण खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के उल्लंघन के तहत हटा दिया. कंटेंट से किसी सशस्त्र संघर्ष में किसी पहचाने जाने योग्य युद्धबंदी को दिखाने के संबंध में नुकसान पहुँचाने में मदद करना और अपराध से जुड़ी पॉलिसी का भी उल्लंघन होता है. Meta ने पुराने केसों में बोर्ड को बताया कि जब कंटेंट कई पॉलिसी का उल्लंघन करता है, तो कंपनी सबसे गंभीर उल्लंघन के तहत एन्फ़ोर्समेंट करती है. इस केस में, Meta ने खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी के उल्लंघन को सबसे गंभीर उल्लंघन माना.

खतरनाक संगठन और लोग

खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी बनाने के कारण के अनुसार वास्तव में होने वाले नुकसान को रोकने और नाकाम करने की कोशिश में Meta ऐसे किसी भी संगठन या व्यक्ति को अपने प्लेटफ़ॉर्म पर मौजूद रहने की परमिशन नहीं देता जो किसी हिंसक मिशन की घोषणा करता है या हिंसा में शामिल होता है. Meta इन एंटिटी का आकलन उनके ऑनलाइन और ऑफ़लाइन दोनों व्यवहारों के आधार पर करता है और सबसे महत्वपूर्ण रूप से, हिंसा से उनके संबंधों को देखता है. जिस समय इस केस का कंटेंट पोस्ट किया गया था, तब पॉलिसी के तहत चिह्नित एंटिटी की “प्रशंसा, बुनियादी समर्थन और प्रतिनिधित्व” की मनाही थी.

“बुनियादी समर्थन” में किसी चिह्नित एंटिटी या घटना की ओर से “निंदा करने, निष्पक्ष चर्चा करने या न्यूज़ रिपोर्टिंग का भाग बताने वाले कैप्शन के बिना “किसी चिह्नित एंटिटी का सीधे नाम लेकर आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनना” शामिल है.

29 दिसंबर, 2023 को, Meta ने “बुनियादी समर्थन” की अपनी पॉलिसी लाइन अपडेट की. अपडेट किए गए वर्जन में कहा गया है कि Meta उस कंटेंट को हटा देता है जिसमें “टियर 1 की एंटिटी के महिमामंडन, समर्थन और प्रतिनिधित्व” करता है. Meta ने दो कैटेगरी जोड़ी: “बुनियादी समर्थन” और “अन्य समर्थन.” “चैनल करने” का नियम अब “अन्य समर्थन” में दिखाई देता है.

नुकसान पहुँचाने में मदद करना और अपराध को बढ़ावा देना

पॉलिसी बनाने के कारण के अनुसार, नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का लक्ष्य “लोगों, बिज़नेस, प्रॉपर्टी या जीव-जंतुओं को निशाना बनाने वाली कुछ तय आपराधिक या नुकसान पहुँचाने वाली एक्टिविटी को आसान बनाने, उन्हें आयोजित करने, उन्हें प्रमोट करने या उन्हें अमल में लाने” से लोगों को प्रतिबंधित करके “ऑफ़लाइन नुकसान और नकल करने वाले व्यवहार को रोकना है.” यह कम्युनिटी स्टैंडर्ड “उजागर करना: किसी व्यक्ति की पहचान उजागर करना और उन्हें नुकसान के जोखिम में डालना” प्रतिबंधित करता है. जिन ग्रुप्स को “उजागर करने” से सुरक्षा दी गई है, उनमें पॉलिसी के तहत “सशस्त्र संघर्ष के संदर्भ में युद्धबंदियों” को लिस्ट किया गया है।

III. Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिबद्धता दोहराई. ख़ास तौर पर, UNGP किसी संघर्ष वाले माहौल में काम करने वाले बिज़नेस को ज़्यादा ज़िम्मेदार बनाता है (“बिज़नेस, मानवाधिकार और संघर्ष से प्रभावित क्षेत्र: बड़े स्तर की कार्रवाई की ओर,” A/75/212).

इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन अंतरराष्ट्रीय स्टैंडर्ड को ध्यान में रखते हुए किया:

• अभिव्यक्ति की आज़ादी का अधिकार: अनुच्छेद 19, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य कमेंट सं. 34, मानवाधिकार समिति, 2011; विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का खास रैपर्टर, रिपोर्ट: A/HRC/38/35 (2018) और A/74/486 (2019), सशस्त्र संघर्षों के दौरान गलत जानकारी और विचारों और अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र का विशेष रैपर्टर, रिपोर्ट A/77/288; सशस्त्र संघर्ष में मानवाधिकारों की अंतरराष्ट्रीय कानूनी सुरक्षा पर OHCHR की रिपोर्ट (2011).
• जीवन का अधिकार: अनुच्छेद 6, ICCPR.
• व्यक्ति की आज़ादी और सुरक्षा का अधिकार: अनुच्छेद 9, ICCPR.
• प्रताड़ना, अमानवीय और अपमानजनक व्यवहार से मुक्त रहने के अधिकार: अनुच्छेद 7, ICCPR.
• प्राइवेसी का अधिकार: अनुच्छेद 17, ICCPR.
• कैद में मानवीय व्यवहार पाने का अधिकार: अनुच्छेद 10, ICCPR.
• अपमानजनक और अमानवीय व्यवहार से युद्धबंदियों की रक्षा, जिसमें अपमान और सार्वजनिक जिज्ञासा से सुरक्षा शामिल है: जिनेवा समझौते पर कॉमन आर्टिकल 3 और अतिरिक्त प्रोटोकॉल II; आर्टिकल 13, पैरा. 2, जिनेवा समझौता III, जिनेवा समझौते की कमेंटरी (III), अंतरराष्ट्रीय रेड क्रॉस कमिटी (ICRC), 2020; सामान्य कमेंट 31, मानवाधिकार कमिटी, 2004.

5. यूज़र सबमिशन

जिस यूज़र ने कंटेंट को बनाए रखने के कंपनी के फ़ैसले के खिलाफ़ अपील की, उसने कहा कि पोस्ट में गुमराह करने वाली जानकारी और दृश्य हैं और सूडान की राजधानी खार्तूम में RSF द्वारा हिंसा की धमकियाँ हैं. यूज़र ने कहा कि कंटेंट को हटाया जाना चाहिए क्योंकि इससे सूडान के लोगों को खतरा उत्पन्न होता है.

6. Meta के सबमिशन

Meta ने बोर्ड से कहा कि कंटेंट को बनाए रखने का उसका शुरुआरती फ़ैसला इसलिए लिया गया था क्योंकि उसके ऑटोमेटेड सिस्टम ने इस कंटेंट को ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी. Meta के ट्रांसपेरेंसी सेंटर के अनुसार सामान्य तौर पर संभावित उल्लंघन की गंभीरता, कंटेंट के वायरल होने और इस बात की आशंका कि कंटेंट से कम्युनिटी स्टैंडर्ड का उल्लंघन होगा, जैसे कारणों के आधार पर रिपोर्ट को डायनेमिक रूप से प्राथमिकता दी जाती है. जिन रिपोर्ट को कतार में प्राथमिकता में अन्य कंटेंट से लगातार नीचे रखा जाता है, उन्हें आम तौर पर 48 घंटों के भीतर बंद कर दिया जाता है. इस केस के कंटेंट को पोस्ट किए जाने के कुछ समय बाद ही, Facebook के तीन यूज़र्स ने “आतंकवाद”, “नफ़रत फैलाने वाली भाषा” और “हिंसा” के लिए कंटेंट की चार बार रिपोर्ट की. कम गंभीरता और वायरल होने के कम स्कोर के कारण, इन रिपोर्ट को ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई थी और कंटेंट को प्लेटफ़ॉर्म पर रखा गया. तीन में से एक यूज़र ने उस कंटेंट को बनाए रखने के Meta के फ़ैसले के खिलाफ़ अपील की. कंपनी के अनुसार, उस अपील को COVID-19 ऑटोमेशन पॉलिसीज़ के कारण अपने आप बंद कर दिया गया था. इन पॉलिसीज़ को Meta ने 2020 में वैश्विक महामारी की शुरुआत में प्रस्तुत किया था ताकि ह्यूमन रिव्यूअर्स को भेजी जाने वाली रिपोर्ट्स की संख्या को कम किया जा सके, जबकि “उच्च जोखिम” वाली संभावित रिपोर्ट को खुला रखा गया था (यहूदी नरसंहार को नकारना (होलोकॉस्ट डिनायल) फ़ैसला देखें). जब रिपोर्ट को अपने आप बंद किया गया, तब कंटेंट को अतिरिक्त रिव्यू के लिए पॉलिसी और विषयवस्तु विशेषज्ञों को एस्केलेट नहीं किया गया था.

Meta ने बताया कि बोर्ड द्वारा इस केस को चुने जाने के बाद, कंपनी ने इस पोस्ट को हटाने का फ़ैसला किया क्योंकि इससे खतरनाक संगठनों और लोगों से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होता है. Meta इस निष्कर्ष पर पहुँचा कि कोई ऐसा वीडियो पोस्ट करना जिसमें खुद को RSF का सदस्य बताने वाला एक व्यक्ति संगठन की गतिविधियों की चर्चा कर रहा है और उसमें ऐसा कोई कैप्शन नहीं है जिसमें “निंदा करने, निष्पक्ष चर्चा करने या न्यूज़ रिपोर्टिंग” का भाग होने का संदर्भ दिया गया हो, दिखाता है कि यूज़र ने टियर 1 की चिह्नित एंटिटी के बारे में “जानकारी का माध्यम बनकर” “बुनियादी समर्थन” की पॉलिसी का उल्लंघन किया है. Meta ने इसलिए इसे प्लेटफ़ॉर्म से हटा दिया.

बोर्ड ने Meta से 13 लिखित सवाल पूछे. सवाल सूडान के संघर्ष के संबंध में Meta की एन्फ़ोर्समेंट की कार्रवाइयों, ऑटोमेटेड सिस्टम और रैंकिंग मॉडलों, खतरनाक संगठनों और लोगों को चिह्नित करने से जुड़ी प्रोसेस, RSF के टियर 1 के आतंकी संगठन के रूप में चिह्नित करने की पॉलिसी बनाने के कारण और सूडान में जानकारी की एक्सेस पर इस फ़ैसले के प्रभाव से जुड़े थे. Meta ने सभी सवालों के जवाब दिए.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड को 16 ऐसे पब्लिक कमेंट मिले जो सबमिशन की शर्तें पूरी करते हैं. उनमें से दस कमेंट मध्य-पूर्व और उत्तरी अफ़्रीका से, तीन यूरोप से और एक-एक कमेंट लैटिन अमेरिका और कैरिबियन, सब-सहारन अफ़्रीका और अमेरिका और कनाडा से प्राप्त हुए थे. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ पर क्लिक करें.

सबमिशन में इन थीम पर बात की गई थी: बंधकों, कैदियों और नागरिकों के साथ RSF का व्यवहार; RSF द्वारा कथित दुर्व्यवहार और क्षेत्र में हिंसा की घटनाएँ; पहचाने जाने लायक बंधकों और कैदियों के सोशल मीडिया पर उजागर होने के खतरे; RSF द्वारा सोशल मीडिया का उपयोग; सूडान में नागरिकों के लिए सोशल मीडिया का महत्व; सूडान में जानकारी के माहौल पर Meta द्वारा RSF को चिह्नित किए जाने का प्रभाव; और संघर्ष की स्थितियों में ऑटोमेटेड और ह्यूमन रिव्यू के लिए कंटेंट की Meta द्वारा प्राथमिकता.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस बात का परीक्षण किया कि क्या Meta की कंटेंट पॉलिसी, मानवाधिकार ज़िम्मेदारियों और वैल्यू का विश्लेषण करके इस कंटेंट को हटा दिया जाना चाहिए. बोर्ड ने यह भी आकलन किया कि कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस केस का क्या असर पड़ेगा.

बोर्ड ने इस केस का चयन इसलिए किया क्योंकि इससे यह जानने का अवसर मिलता है कि सूडान जैसे देशों में सोशल मीडिया कंपनियों को जानकारी की एक्सेस का सम्मान किस तरह करना चाहिए जहाँ जारी संघर्ष के दौरान जानकारी महत्वपूर्ण हो सकती है, खास तौर पर नागरिकों के लिए, और खतरनाक संगठन भी इन प्लेटफ़ॉर्म का उपयोग अपने हिंसक मिशन को आगे बढ़ाने और असली दुनिया को नुकसान पहुँचाने के लिए कर सकते हैं.

इसके अलावा, यह केस बोर्ड को यह आकलन करने का अवसर देता है कि Meta किस तरह अंतरराष्ट्रीय मानवतावादी कानून के अनुसार सशस्त्र संघर्ष में बंधकों की रक्षा करता है. यह केस मुख्य रूप से बोर्ड की संकट और संघर्ष की स्थितियों से जुड़ी स्ट्रेटेजिक प्राथमिकता के तहत आता है, लेकिन साथ ही यह पॉलिसी के ऑटोमेटेड एन्फ़ोर्समेंट और कंटेंट क्यूरेशन से भी कुछ हद तक जुड़ा हुआ है.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट नियम

खतरनाक संगठन और लोगों से जुड़ा कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि इस केस का कंटेंट खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का उल्लंघन करता है क्योंकि यह टियर 1 के चिह्नित संगठन का समर्थन करता है.

Meta ने बोर्ड को बताया कि उसने इस केस के कंटेंट को हटा दिया क्योंकि इसमें टियर 1 के आतंकी संगठन के लिए “बुनियादी समर्थन” शामिल था. कंपनी ने बताया कि बुनियादी समर्थन में किसी चिह्नित एंटिटी की ओर से “निंदा करने, निष्पक्ष चर्चा करने या न्यूज़ रिपोर्टिंग का भाग बताने वाले कैप्शन के बिना “किसी चिह्नित एंटिटी का सीधे नाम लेकर आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनना” शामिल है. इस वीडियो में एक व्यक्ति को दिखाया गया है जो खुद को RSF का सदस्य बताता है, वह RSF की गतिविधियों और उन कामों के बारे में बताता है जो किए जाएँगे. साथ ही वह RSF के कमांडर का नाम लेता है.

इसके अलावा, Meta की आंतरिक गाइडलाइन में उन लिखित या विज़ुअल एलिमेंट के उदाहरणों की असंपूर्ण लिस्ट भी दी गई है जिनमें बुनियादी समर्थन दिखाया गया है. इसमें ऐसी पोस्ट शामिल हैं जिनके “कंटेंट में किसी चिह्नित एंटिटी के ऐसे किसी लीडर, प्रवक्ता या स्वघोषित सदस्य को दिखाया गया हो या दिखाने का दावा किया गया हो जो संगठन या उसके उद्देश्य की बातें करता हो.”

29 दिसंबर, 2023 को, Meta ने “बुनियादी समर्थन” के बारे में खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी को अपडेट किया. अपडेट किए गए वर्जन में कहा गया है कि Meta उस कंटेंट को हटा देता है जिसमें “टियर 1 की एंटिटी के महिमामंडन, समर्थन और प्रतिनिधित्व” करता है. भले ही Meta ने “बुनियादी समर्थन” शब्द को “समर्थन” से बदल दिया, लेकिन इन बदलावों से इस केस के विश्लेषण या इस बात पर कोई असर नहीं पड़ता कि Meta किस तरह इस कंटेंट के खिलाफ़ एन्फ़ोर्समेंट करेगा.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी

बोर्ड ने यह पाया कि कंटेंट से नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन भी होता है.

Meta की पॉलिसी, किसी सशस्त्र संघर्ष के दौरान किसी युद्धबंदी की पहचान जाहिर करना प्रतिबंधित करती है. Meta के अनुसार, इस पॉलिसी को सिर्फ़ एस्केलेशन के समय एन्फ़ोर्स किया जाता है और इसके तहत युद्धबंदियों के बारे में जागरूकता फैलाने या उनसे हो रहे व्यवहार की निंदा करने वाले कंटेंट पर कोई अपवाद लागू नहीं होता. Meta ने युद्धबंदी को “सशस्त्र सेनाओं के ऐसे सदस्य के रूप में परिभाषित किया गया है जिसे सशस्त्र संघर्ष के दौरान या उसके तुरंत बाद विरोधी बलों द्वारा पकड़ लिया गया हो या वह उनके हाथों में आ गया हो.” बोर्ड समझता है कि यह नियम अंतरराष्ट्रीय सशस्त्र संघर्षों और गैर-अंतरराष्ट्रीय सशस्त्र संघर्षों में समान रूप से लागू होता है.

इस केस में, बोर्ड ने पाया कि वीडियो में एक पहचाने जाने लायक व्यक्ति को दिखाया गया है. इस व्यक्ति के बारे में RSF के सशस्त्र लोगों ने बताया है कि उसे SAF से जुड़े “विदेशी कैदी” के रूप में पकड़ा गया है, जो सूडान के जारी संघर्ष में RSF का मुख्य विरोधी है. इसलिए, कंटेंट से पॉलिसी का उल्लंघन होता है और उसे हटा दिया जाना चाहिए.

8.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR)

ICCPR के अनुच्छेद 19 में अभिव्यक्ति की विस्तृत सुरक्षा का प्रावधान है, जिसमें राजनैतिक अभिव्यक्ति शामिल है. इस अधिकार में “सभी प्रकार की जानकारी और आइडिया माँगना, पाना और देना” शामिल है. सशस्त्र संघर्षों के दौरान इन अधिकारों की सुरक्षा की जानी चाहिए और Meta को अपनी मानवाधिकार संबंधी ज़िम्मेदारियों में इनकी मदद लेते रहना चाहिए. ये सुरक्षा उपाय ऐसे संघर्षों के दौरान लागू होने वाले अंतरराष्ट्रीय मानवतावादी कानून के परस्पर सुदृढ़ बनाने वाले और पूरक नियमों के साथ लागू किए जाते हैं (सामान्य टिप्पणी 31, मानवाधिकार समिति, 2004, पैरा. 11; UNGP की कमेंटरी, सिद्धांत 12; सशस्त्र संघर्षों के दौरान गलत जानकारी और विचारों और अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र का विशेष रैपर्टर, रिपोर्ट A/77/288, पैरा. 33-35 (2022); और सशस्त्र संघर्ष में मानवाधिकारों की अंतरराष्ट्रीय कानूनी सुरक्षा पर OHCHR की रिपोर्ट (2011) का पेज 59 भी देखें).

अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर में कहा गया है कि “सशस्त्र संघर्ष के दौरान, लोग सबसे ज़्यादा असुरक्षित होते हैं और उन्हें अपनी सुरक्षा और कल्याण के लिए एकदम सही और भरोसेमंद जानकारी की सबसे ज़्यादा ज़रूरत होती है. फिर भी, ऐसी ही स्थितियों में उनके विचारों और अभिव्यक्ति की आज़ादी, जिसमें ‘सभी तरह की जानकारी और विचार माँगना, पाना और बताना शामिल है, युद्ध की परिस्थितियों और संघर्ष में शामिल पार्टियों के कृत्यों और राजनैतिक, सैन्य और रणनीतिक उद्देश्यों के लिए जानकारी में फेरबदल करने और उसे प्रतिबंधित करने वाले अन्य कारणों द्वारा सबसे ज़्यादा प्रतिबंधित की जाती हैं” (रिपोर्ट A/77/288, पैरा. 1). बोर्ड, संघर्ष के दौरान जानकारी शेयर करने की आज़ादी के महत्व को समझता है, खास तौर पर जब सोशल मीडिया जानकारी का मुख्य सोर्स हो. साथ ही वह यह सुनिश्चित करने का महत्व भी समझता है कि ऐसे कंटेंट को हटा दिया जाए जिससे ऑफ़लाइन हिंसा के और भड़कने की आशंका हो.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अंतरराष्ट्रीय मानवाधिकार कानून के तहत वैधानिकता के सिद्धांत के अनुसार अभिव्यक्ति पर रोक लगाने वाले नियम स्पष्ट और सार्वजनिक रूप से उपलब्ध होने चाहिए (सामान्य कमेंट सं. 34, पैरा. 25). अभिव्यक्ति पर प्रतिबंध का निर्माण पर्याप्त सटीकता से किया जाना चाहिए ताकि लोग अपने व्यवहार को उसके अनुसार बदल सकें (पूर्वोक्त). जैसा कि Meta पर लागू होता है, कंपनी को यूज़र्स को इस बारे में मार्गदर्शन देना चाहिए कि प्लेटफ़ॉर्म पर किस कंटेंट की परमिशन है और किस कंटेंट की परमिशन नहीं है. इसके अलावा, अभिव्यक्ति को प्रतिबंधित करने वाले नियम “उन लोगों को प्रतिबंधित करने के निरंकुश अधिकार नहीं दे सकते जिन पर इन्हें लागू करने की ज़िम्मेदारी है” और नियमों में "उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना ज़रूरी है जिन पर इन्हें लागू करने की ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं,” (A/HRC/38/35, पैरा. 46).

खतरनाक संगठन और लोग

अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र के विशेष रैपर्टर ने "प्रशंसा" और "समर्थन" को प्रतिबंधित करने से जुड़े सोशल मीडिया के नियमों को लेकर चिंता जताते हुए उन शर्तों को "अत्यधिक अस्पष्ट" बताया है (A/HRC/38/35, पैरा. 26). खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी की अस्पष्टता के कारण बोर्ड ने पहले इसकी आलोचना की है. Meta उन एंटिटी की लिस्ट को सार्वजनिक रूप से शेयर नहीं करता जिन्हें इस पॉलिसी के तहत चिह्नित किया गया है. कंपनी ने बताया कि वह उन एंटिटी को चिह्नित करने का चुनाव करती है जिन्हें अमेरिका की सरकार द्वारा विदेशी आतंकी संगठन (FTO) या विशेष रूप से चिह्नित वैश्विक आतंकी (SDGT) के रूप में चिह्नित किया जाता है. आतंकवादियों को चिह्नित करने की Meta की टियर 1 की लिस्ट, कंपनी द्वारा बनाई जाती है और उसमें अमेरिकी सरकार द्वारा चिह्नित लोगों के अलावा भी अन्य लोग होते हैं, इसलिए बोर्ड यह समझता है कि Meta द्वारा टियर 1 की चिह्नित आतंकवादी एंटिटी का एक बड़ा भाग FTO और SDGT लिस्ट में मौजूद है. भले ही अमेरिका सरकार की लिस्ट सार्वजनिक हैं, लेकिन Meta के कम्युनिटी स्टैंडर्ड में सिर्फ़ FTO और SDGT फ़्रेमवर्क को रेफ़रेंस किया गया है और उनमें अमेरिका सरकार की इन लिस्ट का कोई लिंक नहीं दिया गया है. इसलिए बोर्ड यह सुझाव देता है कि Meta, यूज़र्स के लिए पारदर्शिता और स्पष्ट बेहतर बनाने के लिए अपने कम्युनिटी स्टैंडर्ड में विदेशी आतंकी संगठनों और विशेष रूप से चिह्नित वैश्विक आतंकियों की लिस्ट को हाइपरलिंक करे

हालाँकि, इस केस में RSF को अमेरिकी सरकार द्वारा चिह्नित नहीं किया गया है, जिसका अर्थ है कि लोगों को यह पता नहीं लगेगा कि Meta ने इस संघर्ष की एक पार्टी को चिह्नित किया है. चिह्नित करने के बारे में पारदर्शिता की इस कमी का अर्थ है कि लोगों को यह जानकारी नहीं मिलेगी कि क्या उनका कंटेंट संभावित रूप से उल्लंघन करने वाला है. नाज़ी उद्धरण केस में, बोर्ड ने सुझाव दिया था कि Meta “खतरनाक लोग और संगठन के कम्युनिटी स्टैंडर्ड में ‘खतरनाक’ घोषित संगठनों और व्यक्तियों की सार्वजनिक लिस्ट दे.” व्यवहार्यता का आकलन करने के बाद, Meta ने इस सुझाव को लागू करने से मना कर दिया.

बोर्ड इस बात से चिंतित है कि सूडान की स्थिति को देखते हुए, RSF को टियर 1 के आतंकी संगठन के रूप में चिह्नित करने, इस चिह्नित करने की कार्रवाई से जुड़ी पारदर्शिता में कमी के साथ मिलकर, का अर्थ है कि सूडान के लोगों को इस बात की जानकारी नहीं है कि संघर्ष में शामिल एक पार्टी को प्लेटफ़ॉर्म पर भाग लेने से प्रतिबंधित किया गया है. इसका सूडान में जानकारी की एक्सेस पर अनुपातहीन प्रभाव पड़ सकता है और यूज़र्स को इस बात की कोई जानकारी नहीं होगी. बोर्ड यह मानता है कि सशस्त्र संघर्षों से प्रभावित उन क्षेत्रों में फ़ैसले करते समय Meta को ज़्यादा पारदर्शी रहना चाहिए जहाँ नागरिकों के लिए उपलब्ध जगहों की कमी है, जहाँ नागरिकों के लिए उपलब्ध जानकारी के भरोसेमंद सोर्स सीमित हैं, मीडिया की आज़ादी को खतरा है और नागरिक समाज नाजुक दौर से गुज़र रहा है. देश के कई भागों पर RSF के प्रभाव और नियंत्रण (सेक्शन 2 देखें) और सुरक्षा और मानवता से जुड़ी महत्वपूर्ण जानकारी पाने के लिए सूडान के लोगों की Facebook पर निर्भरता को देखते हुए, RSF के कम्युनिकेशन चैनलों सहित, बोर्ड ने पाया कि संघर्ष में शामिल पार्टियों के चिह्नांकन के बारे में Meta की ओर से पारदर्शिता की कमी के स्थानीय लोगों पर अप्रत्याशित प्रभावों से उनकी शारीरिक सुरक्षा को अतिरिक्त खतरा होगा.

चिह्नित खतरनाक लोगों को “शहीद” कहना पॉलिसी एडवाइज़री टीम की राय में, बोर्ड ने चिह्नित एंटिटी की Meta की लिस्ट से जुड़ी पारदर्शिता की कमी के समस्या को हल किया. सुझाव सं. 4 में, बोर्ड ने Meta से कहा कि वह “उस प्रक्रिया के बारे में विस्तार से बताए जिसके तहत एंटिटी और घटनाओं को चिह्नित किया जाता है.” उसे “ऐसी सामूहिक जानकारी भी प्रकाशित करनी चाहिए कि चिह्नित लोगों की उसकी लिस्ट के हर टियर में कुल कितनी एंटिटी शामिल हैं और पिछले एक वर्ष के दौरान कितनी एंटिटी को जोड़ा और हटाया गया है,” (चिह्नित खतरनाक लोगों को “शहीद” कहना सुझाव सं. 4). बोर्ड ने इस सुझाव पर फिर से ज़ोर देते हुए इस बारे में ज़्यादा पारदर्शिता लाने के लिए कहा.

भले ही RSF के चिह्नांकन को Meta ने सार्वजनिक रूप से अनाउंस नहीं किया, बोर्ड के अल्पसंख्य सदस्यों के लिए RSF द्वारा किए गए दुर्व्यवहारों के बारे में लोगों को व्यापक रूप से जानकारी है, जिसमें युद्ध अपराध और मानवीयता के विरुद्ध अपराध शामिल हैं और संघर्ष के बढ़ने के दौरान व्यापक रूप से उनकी रिपोर्ट की गई थी (सेक्शन 2 देखें). इन दुर्व्यवहारों के बारे में लोगों की जागरूकता के चलते, यूज़र्स यह यथोचित रूप से आशा कर सकते हैं कि RSF द्वारा रिकॉर्ड किया गया या फैलाया गया कंटेंट शेयर करने से Meta के कम्युनिटी स्टैंडर्ड का उल्लंघन हो सकता है.

सूडान के विशिष्ट संदर्भ पर विचार करते हुए, बोर्ड इस निष्कर्ष पर पहुँचा कि इस केस में लागू किया गया नियम – “चिह्नित एंटिटी या घटना की ओर से आधिकारिक कम्युनिकेशन सहित जानकारी या रिसोर्स का माध्यम बनकर” “बुनियादी समर्थन” को प्रतिबंधित करना – खतरनाक संगठनों और लोगों से जुड़ी Meta की पॉलिसी में स्पष्ट रूप से बताया गया है, वह यूज़र्स के लिए उपलब्ध है और इसलिए वह वैधानिकता के टेस्ट को पूरा करता है. “समर्थन” के बारे में अपडेट की गई पॉलिसी के नियमों के लिए भी बोर्ड इसी निष्कर्ष पर पहुँचा, जिसे Meta ने 29 दिसंबर, 2023 को प्रकाशित किया था. इसमें “बुनियादी समर्थन” को “समर्थन” से बदला गया था. बोर्ड ने नोट किया कि यद्यपि Meta ने दो कैटेगरी, “भौतिक समर्थन” और “अन्य समर्थन” जोड़ी हैं जिसमें “माध्यम बनने” से जुड़ी पॉलिसी लाइन अब “अन्य समर्थन” के तहत दिखाई देती है, खुद नियम में कोई बड़ा बदलाव नहीं हुआ है.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि “युद्धबंदियों की पहचान उजागर करने” से जुड़ा Meta का नियम पर्याप्त रूप से स्पष्ट और लोगों के लिए उपलब्ध है, इसलिए वह वैधानिकता के सिद्धांत की पूर्ति करता है.

II. वैधानिक लक्ष्य

अभिव्यक्ति से संबंधित सीमाओं में ICCPR में सूचीबद्ध वैधानिक लक्ष्यों में से किसी एक का अनुसरण किया जाना चाहिए, जिसमें राष्ट्रीय सुरक्षा, लोक व्यवस्था और अन्य लोगों के अधिकारों का सम्मान शामिल है.

पॉलिसी बनाने के उसके कारण के अनुसार, खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का लक्ष्य “वास्तव में होने वाले नुकसान को रोकना और नाकाम करना” है और वह “ऐसे किसी भी संगठन या व्यक्ति को Meta के प्लेटफ़ॉर्म पर मौजूद रहने की परमिशन नहीं देती जो किसी हिंसक मिशन की घोषणा करता है या हिंसा में शामिल होता है.” बोर्ड ने पहले यह माना है कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी, दूसरों के अधिकारों की रक्षा करने का लक्ष्य पूरा करती है, जिसमें जीवन का अधिकार, व्यक्ति की सुरक्षा और समानता और भेदभाव न करना शामिल है (अनुच्छेद 19, पैरा. 3, ICCPR; भारत में RSS पर पंजाबी चिंता और नाज़ी उद्धरण फ़ैसले भी देखें). बोर्ड ने यह पहले भी पाया है कि खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का ऑफ़लाइन नुकसान से रोकने का उद्देश्य एक वैधानिक लक्ष्य है (ओजलान का एकांतवास फ़ैसला देखें).

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी, जीवन, प्राइवेसी और यातनापूर्ण या क्रूर, अमानवीय और अपमानजनक व्यवहार से सुरक्षा के अधिकार सहित दूसरे लोगों के अधिकारों (अनुच्छेद 19, पैरा. 3, ICCPR) की रक्षा करने के वैधानिक लक्ष्य की पूर्ति करती है. इस केस में, पहचाने जा सकने वाले युद्धबंदियों को दिखाने वाले कंटेंट पर प्रतिबंध में निहित लक्ष्य की वैधानिकता में अंतरराष्ट्रीय मानवतावादी कानून के नियमों की मदद ली गई जो युद्धबंदियों के जीवन, प्राइवेसी और गरिमा की सुरक्षा का आह्वान करते हैं (सामान्य अनुच्छेद 3, जिनेवा समझौता; आर्मेनिया के युद्धबंदियों का वीडियो भी देखें). साथ ही इस तथ्य पर भी विचार किया गया कि सूडान के युद्ध को सशस्त्र संघर्ष माना जाता है (अनुच्छेद 2 देखें).

III. आवश्यकता और आनुपातिकता

अभिव्यक्ति की आज़ादी पर लगाए जाने वाले सभी प्रतिबंध "उनके सुरक्षात्मक कार्य को पूरा करने के लिए उपयुक्त होने चाहिए; वे अपने सुरक्षात्मक कार्य कर सकने वाले उपायों में से कम से कम हस्तक्षेप करने वाले उपाय होने चाहिए; [और] वे सुरक्षित रखे जाने वाले हित के अनुपात में होना चाहिए” (सामान्य कमेंट 34, पैरा. 34). सोशल मीडिया कंपनियों को समस्या वाले कंटेंट को हटाने के बजाय उस पर कई तरह की संभावित प्रतिक्रियाओं पर विचार करना चाहिए ताकि यह सुनिश्चित किया जा सके कि प्रतिबंध कम से कम हों (A/74/486, पैरा. 51).

जैसा कि बोर्ड ने पहले टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो फ़ैसले में हाइलाइट किया था, संघर्ष की परिस्थितियों में काम करने वाले बिज़नेस के लिए UNGP ज़्यादा ज़िम्मेदारियाँ तय करते हैं. आर्मेनिया के युद्धबंदियों का वीडियो फ़ैसले में, बोर्ड ने पाया कि “सशस्त्र संघर्ष की स्थिति में, अभिव्यक्ति की आज़ादी के बोर्ड के विश्लेषण में अंतरराष्ट्रीय मानवतावादी कानून के अधिक सटीक नियमों की मदद ली जाती है.”

खतरनाक संगठन और लोग

बोर्ड ने पाया कि इस केस में कंटेंट को हटाना एक आवश्यक और आनुपातिक उपाय था. ऐसे कंटेंट को प्रतिबंधित करना ज़रूरी था, जिसमें किसी चिह्नित संगठन के स्वघोषित सदस्य द्वारा सीधे कही गई बातें थीं, वह संगठन नागरिकों के खिलाफ़ व्यापक हिंसा में शामिल था और जिसमें ऐसा कोई कैप्शन नहीं था जो निंदा करता हो, निष्पक्ष चर्चा करता हो या पोस्ट को न्यूज़ रिपोर्टिंग का भाग बताता हो. इस केस में, पोस्ट में एक वीडियो शेयर किया गया है जिसमें RSF का एक सदस्य अपने ग्रुप की एक्टिविटी और योजनाओं की जानकारी दे रहा है. साथ ही वह उन लोगों को धमकियाँ भी दे रहा है जो उनका विरोध करेंगे या जो उन्हें चुनौती देंगे. Facebook पर किसी चिह्नित संगठन की ओर से इस तरह की जानकारी फैलाना, खास तौर पर सूड में सशस्त्र संघर्ष के संदर्भ में जहाँ RSF व्यापक हिंसा, युद्ध अपराधों और मानवता के विरुद्ध अपराधों (अनुच्छेद 2 देखें) में शामिल रहा है, वास्तविक नुकसान का ज़्यादा जोखिम उत्पन्न कर सकता है. ऐसी परिस्थितियों में, कंटेंट को हटाने से कम किसी भी उपाय से नुकसान का जोखिम कम नहीं होगा और दूसरों के अधिकारों की रक्षा के लिए कंटेंट को हटाना सबसे कम बाधक उपाय है.

बोर्ड इस बात से चिंतित है कि Meta इस कंटेंट को पोस्ट किए जाने के बाद तुरंत या कुछ समय बाद हटाने में विफल रहा और उसने दो महीने बाद सिर्फ़ तभी कार्रवाई की जब बोर्ड ने इस केस का चुनाव किया. Meta ने बोर्ड को बताया कि कई यूज़र्स द्वारा रिपोर्ट किए जाने के बाद भी उसके ऑटोमेटेड सिस्टमों ने इस कंटेंट को कम स्कोर दिया, जिसका मतलब है कि उसे ह्यूमन रिव्यू के लिए प्राथमिकता नहीं दी गई. किसी कंटेंट पर क्या कार्रवाई की जानी चाहिए, यह तय करने के लिए Meta के ऑटोमेटेड सिस्टम कई फ़ीचर्स का उपयोग करते हैं, जिनमें मशीन लर्निंग क्लासिफ़ायर शामिल हैं जो उल्लंघन की आशंका, संभावित उल्लंघन की गंभीरता और कंटेंट के वायरल होने के आधार पर कंटेंट को स्कोर देते हैं. अगर कंटेंट को रिव्यू की कतार में जोड़ा जाता है, तो इन फ़ीचर का उपयोग प्राथमिकता या क्रम देने के लिए भी किया जा सकता है जिसके आधार पर कंटेंट का रिव्यू किया जा सकता है. Meta के अनुसार, इस केस के कंटेंट को प्राथमिकता इसलिए नहीं दी गई क्योंकि कंपनी के सिस्टम इस वीडियो में उल्लंघन का पता नहीं लगा पाए और उन्होंने यह अनुमान लगाया कि कंटेंट को कम संख्या में देखा गया है और इसलिए 48 घंटों की अवधि पूरी होते ही रिव्यू किए बिना उसे अपने आप बंद कर दिया गया. खास तौर पर इस वीडियो को रैंक करते समय, ऐसे दो क्रॉस-प्रॉब्लम क्लासिफ़ायर थे जिन्होंने अनुमानित गंभीरता रैंकिंग स्कोर जेनरेट किए और दोनों क्लासिफ़ायर ने कम स्कोर जेनरेट किए. बोर्ड इस बात से चिंतित है कि इस केस में Meta द्वारा ऑटोमेटेड रूप से उल्लंघन का पता लगाने में हुई गलतियाँ, बड़ी समस्याओं की ओर इशारा कर सकती हैं, खास तौर पर RSF, एक ऐसी चिह्नित एंटिटी जिसे प्लेटफ़ॉर्म पर मौजूद रहने की परमिशन नहीं है, का समर्थन करने वाले कंटेंट को पहचानने में क्लासिफ़ायर की विफलता और एक सदस्य को यह कहते हुए दिखाना कि वह चिह्नित एंटिटी का भाग है – किसी ऐसे कैप्शन के बिना जिसमें निंदा की गई हो, निष्पक्ष चर्चा की गई हो या उसे न्यूज़ रिपोर्टिंग का भाग बताया गया हो. बोर्ड के इन सवालों के जवाब में कि किन कारणों से क्लासिफ़ायर इस केस में उल्लंघन को पहचान नहीं पाए, Meta ने यह नोट किया कि वह यह पता नहीं लगा पाया कि इस कंटेंट को किन कारणों से इतना कम स्कोर प्राप्त हुआ.

इसलिए बोर्ड इस नतीजे पर पहुँचा कि Meta को ऑटोमेटेड पहचान और कंटेंट को प्राथमिकता देने की प्रक्रिया को बेहतर बनाने के लिए ज़रूरी कदम उठाने चाहिए. इसके लिए उसे क्लासिफ़ायर को समझने के लिए अपने वीडियो कंटेंट में उपयोग किए गए ट्रेनिंग डेटा का ऑडिट करना चाहिए और यह मूल्यांकन करना चाहिए कि क्या उसमें सशस्त्र संघर्ष के संदर्भ में चिह्नित संगठनों का समर्थन करने वाले कंटेंट के पर्याप्त रूप से विविध उदाहरण मौजूद हैं, जिनमें अलग-अलग भाषाएँ, बोलियाँ, क्षेत्र और संघर्ष शामिल हैं. Meta को यह सुनिश्चित करना चाहिए कि इस बदलाव से ज़्यादा कंटेंट को ह्यूमन रिव्यू के लिए भेजा जाए. हो सकता है कि इसके कारण यह सुनिश्चित करने के लिए ह्यूमन रिव्यू की क्षमता बढ़ानी पड़े कि किसी संघर्ष के शुरू होने के बाद रिव्यू की ज़रूरत वाले कंटेंट की बढ़ी हुई मात्रा का प्रभावी समाधान करने में Meta सक्षम है. इस एडजस्टमेंट से कंपनी यह कैलीब्रेट कर पाएगी कि सशस्त्र संघर्ष से जुड़ी चुनौतियों पर उसके ऑटोमेटेड सिस्टम किस तरह प्रतिक्रिया करते हैं और इन संदर्भों में खतरनाक संगठनों को शामिल करने वाले कंटेंट को बेहतर रूप से पहचान पाएगी और उसका समाधान कर पाएगी जिससे उसके एन्फ़ोर्समेंट उपायों की प्रभावशीलता बेहतर बनेगी.

इसके अलावा, बोर्ड ने पाया कि Meta, सूडान में युद्ध के दौरान उसकी कंटेंट पॉलिसीज़ को पर्याप्त रूप से एन्फ़ोर्स करने का सस्टेनेबल मैकेनिज़्म स्थापित करने में विफल रहा. सूडान के संघर्ष से जुड़ी हथियारों वाली पोस्ट केस में, Meta ने बताया कि उसने सूडान में इंटीग्रिटी प्रोडक्ट ऑपरेशन सेंटर सेट नहीं किया, जिसका उपयोग रियल-टाइम में खतरों पर प्रतिक्रिया करने के लिए किया जाता है, क्योंकि कंपनी “अपनी मौजूदा प्रक्रियाओं के ज़रिए कंटेंट से जुड़े पहचाने गए जोखिम को निपटाने में सक्षम थी.” Meta ने इस केस में भी उसी स्थिति को दोहराया. पहले, बोर्ड ने सुझाव दिया था कि “सशस्त्र संघर्ष के समय में अपनी कंटेंट पॉलिसी का एन्फ़ोर्समेंट बेहतर बनाने के लिए, Meta को दीर्घकालिक आंतरिक मैकेनिज़्म बनाने की व्यवहार्यता का आकलन करना चाहिए जो संघर्ष के दौरान कंटेंट का प्रभावी रूप से रिव्यू करने और उस पर प्रतिक्रिया करने के लिए ज़रूरी विशेषज्ञता, क्षमता और समन्वय प्रदान करे (टिग्रे कम्युनिकेशन अफ़ेयर्स ब्यूरो फ़ैसला, सुझाव सं. 2 देखें).” अगस्त 2023 में, Meta ने बोर्ड को सूचित किया कि उसने “संकट के दौरान समन्वय करने और तात्कालिक और उभरते हुए संकटों के पूरे जीवनचक्र के दौरान समर्पित ऑपरेशन ओवरसाइट देने के लिए एक टीम बनाई है. इसलिए हमने स्टाफ़िंग से जुड़ी ज़रूरतें पूरी कर दी हैं और अब वह उच्च जोखिम वाली घटनाओं और चुनावों के पहले, उनके दौरान और उनके बाद में ऑपरेशन से जुड़ी अपनी निष्पादन ज़िम्मेदारियों के लिए इस टीम के निर्माण की प्रक्रिया में है. टीम के लिए ऑपरेशनल लॉजिस्टिक से जुड़ी सभी ज़रूरतें तय कर दी गई हैं और यह टीम आने वाले महीनों में सभी क्षेत्रों के लिए पूरी तरह सक्रिय होगी. जैसे-जैसे हमारे सामने संघर्ष की घटनाएँ आती रहेंगी और हम इस ढाँचे की प्रभावशीलता का आकलन करते रहेंगे, वैसे-वैसे हम इसके निष्पादन फ़्रेमवर्क को बेहतर बनाना जारी रखेंगे. हम अब इस सुझाव को पूर्ण मानते हैं और हम इस पर आगे कोई अपडेट नहीं देंगे.” हालाँकि, बोर्ड के सवाल के जवाब में Meta ने नोट किया कि उसने सूडान के संघर्ष के लिए ऐसा कोई मैकेनिज़्म स्थापित नहीं किया है, लेकिन कंपनी इस सुझाव को पूर्ण मानती है.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

युद्धबंदियों की पहचान उजागर करने वाली पॉलिसी के तहत इस कंटेंट को हटाने की आवश्यकता और आनुपातिकता में अंतरराष्ट्रीय मानवतावादी कानून के कुछ ज़्यादा खास नियमों की मदद ली गई थी (आर्मेनिया के युद्धबंदियों का वीडियो देखें). जिनेवा समझौते का सामान्य अनुच्छेद 3, अंतरराष्ट्रीय और गैर-अंतरराष्ट्रीय सशस्त्र संघर्षों के दौरान बंधकों की “निजी गरिमा पर जुल्म, खास तौर पर अपमानजनक और अमानवीय व्यवहार” को प्रतिबंधित करता है. जिनेवा समझौते (III) का अनुच्छेद 13, युद्धबंदियों के खिलाफ़ हिंसा के कृत्यों या धमकी के साथ-साथ उन्हें अपमान और सार्वजनिक जिज्ञासा का विषय बनाने से प्रतिबंधित करता है. सिर्फ़ कुछ सीमित परिस्थितियों में, अंतरराष्ट्रीय मानवतावादी कानून, युद्धबंदियों की फ़ोटो को लोगों के सामने प्रकट करने की परमिशन देता है. जैसा कि मीडिया को दिए गए मार्गदर्शन में ICRC ने नोट किया है कि अगर किसी “ज़रूरी जनहित” या कैदी के “बड़े हित” के लिए ज़रूरी हो, तो युद्धबंदी को दिखाने वाली फ़ोटो को अपवादस्वरूप तब तक रिलीज़ किया जा सकता है जब तक कि युद्धबंदी की गरिमा की रक्षा की जाती है. जब किसी बंदी को अपमानजनक या अमानवीय परिस्थितियों में दिखाया जाता है, तो पहचान को “उचित साधनों से छिपाया जाना चाहिए, जैसे कि धुँधला करके, पिक्सेल बढ़ाकर या चेहरों और नाम के टैगों को अन्यथा ढँककर,” (अनुच्छेद 13 के बारे में ICRC की कमेंटरी, पे.1627 पर). भले ही बोर्ड इस बात को स्वीकार करता है कि युद्धबंदियों के संवेदनशील कंटेंट को अनाम बनाने के लिए यूज़र्स के लिए ऑनलाइन टूल उपलब्ध हैं, लेकिन Meta अभी यूज़र्स को उसके प्लेटफ़ॉर्म पर प्रकाशित वीडियो कंटेंट में युद्धबंदियों के चेहरों को धुँधला करने या उन्हें ढँकने के ऐसे कोई साधन उपलब्ध नहीं कराता.

अंतरराष्ट्रीय मानवतावादी कानून के ये प्रतिबंध और संक्षिप्त अपवाद, संघर्ष के दौरान बंधकों की रक्षा के उद्देश्य से बनाए गए हैं. जैसा कि बोर्ड ने पहले आर्मेनिया के युद्धबंदियों का वीडियो केस में कहा था, युद्धबंदियों की फ़ोटो को शेयर करने पर प्रतिबंध “अंतरराष्ट्रीय मानवतावादी कानून में बताए गए लक्ष्यों के अनुरूप है” और “जहाँ कंटेंट, युद्धबंदी की पहचान या लोकेशन जाहिर करता है, वहाँ ऐसे कंटेंट के परिणामस्वरूप हो सकने वाले नुकसानों की गंभीरता को देखते हुए कंटेंट को हटाना आम तौर पर उचित होता है.”

इस केस में, अंतरराष्ट्रीय मानवतावादी कानून के नियमों और सूडान में संघर्ष द्वारा उत्पन्न खतरों को देखते हुए, पोस्ट को हटाना ज़रूरी था. जैसा कि ऊपर अनुच्छेद 2 में बताया गया है, संघर्ष की शुरुआत के बाद से RSF ने हज़ारों नागरिकों और SAF की फ़ोर्स के सदस्यों या उन्हें समर्थन देने के संदेह वाले लोगों को बंधक बनाया है. अंतरराष्ट्रीय मानवतावादी कानून के उल्लंघनों की भी व्यापक रिपोर्ट्स सामने आई हैं, जहाँ बंधकों को अमानवीय और अपमानजनक स्थितियों में रखा गया है, उनसे बुरा व्यवहार किया जा रहा है और उन्हें मार भी दिया गया है. ऐसी परिस्थितियों में और इस कंटेंट को प्लेटफ़ॉर्म पर बने रहने देने के लिए मानवाधिकार से जुड़े किसी बड़े कारण की अनुपस्थिति के चलते, बंधकों की गरिमा और सुरक्षा सुनिश्चित करने के लिए कंटेंट को हटाना ज़रूरी और आनुपातिक है.

संभावित नुकसानों की गंभीरता और सशस्त्र संघर्ष में बढ़े हुए खतरों को देखते हुए बोर्ड इस बात से चिंतित है कि इस कंटेंट को युद्धबंदियों की पहचान उजागर (पहचान बताना) करने के खिलाफ़ Meta के नियम के उल्लंघन के लिए पकड़ा और हटाया नहीं गया. संभावित रूप से उल्लंघन इसलिए नहीं हो पाया क्योंकि किसी सशस्त्र संघर्ष के दौरान युद्धबंदियों की पहचान उजागर करने को प्रतिबंधित करने वाला नियम अभी सिर्फ़ एस्केलेशन के समय ही एन्फ़ोर्स किया जाता है, जिसका अर्थ है कि शुरुआती कंटेंट मॉडरेटर्स इस पॉलिसी को एन्फ़ोर्स नहीं कर सकते. आर्मेनिया के युद्धबंदियों का वीडियो केस में, बोर्ड ने कहा कि “नियम को एन्फ़ोर्स करने के लिए अतिरिक्त संदर्भ की ज़रूरत और इसलिए उसे एन्फ़ोर्स किए जा सकने से पहले आंतरिक टीमों को एस्केलेट करना ज़रूरी है क्योंकि यह तय करने में विशेषज्ञों द्वारा सोच-विचार किए जाने की ज़रूरत होती है कि सशस्त्र संघर्ष के संदर्भ में दिखाया गया व्यक्ति, पहचाना जा सकने वाला युद्धबंदी है.” हालाँकि, उस फ़ैसले के प्रकाशन के बाद बोर्ड ने पाया कि Meta के शुरुआती मॉडरेटर्स को ऐसे कंटेंट की पहचान के लिए निर्देश या साधन नहीं दिए गए हैं जो कंपनी को सिर्फ़ एस्केलेशन के समय उपयोग होने वाली पॉलिसी का उल्लंघन करते हैं, जैसे कि इस केस में विचाराधीन नियम. दूसरे शब्दों में, इस नियम को सिर्फ़ तभी एन्फ़ोर्स किया जा सकता है जब कंटेंट को कुछ अन्य साधनों से एस्केलेशन के समय काम करने वाली Meta की टीमों के ध्यान में लाया जाए, जैसे कि भरोसेमंद पार्टनर द्वारा या जब कंटेंट को बड़ा प्रेस कवरेज मिले.

व्यवहार में इसका मतलब है कि युद्धबंदियों की पहचान बताने वाले कंटेंट की बड़ी मात्रा संभावित रूप से प्लेटफ़ॉर्म पर बनी रह सकती है. इससे Meta के ऑटोमेटेड डिटेक्शन एन्फ़ोर्समेंट के बारे में अतिरिक्त चिंताएँ उत्पन्न होती हैं क्योंकि सिर्फ़ एस्केलेशन के समय उपयोग होने वाली पॉलिसीज़ से इतने मानवीय फ़ैसलों के उत्पन्न होने की संभावना नहीं है जिनसे ऑटोमेटेड क्लासिफ़ायर को ट्रेन किया जा सके.

इसलिए, भले ही बोर्ड ने यह पाया हो कि किसी सशस्त्र संघर्ष में युद्धबंदियों की पहचान उजागर करना प्रतिबंधित करने वाले नियम का होना ज़रूरी है, लेकिन बोर्ड ने पाया कि पॉलिसी का Meta द्वारा एन्फ़ोर्समेंट, युद्धबंदियों के अधिकारों का सम्मान करने की कंपनी की ज़िम्मेदारी पूरी करने के लिए पर्याप्त नहीं है. अंतरराष्ट्रीय मानवतावादी कानून के तहत बंधकों के अधिकारों की प्रभावी सुरक्षा सुनिश्चित करने के लिए, कंपनी को पॉलिसी एन्फ़ोर्स करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाना चाहिए. किसी सशस्त्र संघर्ष के दौरान ऐसे कंटेंट की पहचान के लिए Meta को एक विशेषज्ञ प्रोसेस या प्रोटोकॉल स्थापित करना चाहिए.

समाधान की एक्सेस

Meta ने बोर्ड को बताया कि इस केस की अपील को Meta की COVID-19 ऑटोमेशन पॉलिसीज़ के कारण अपने आप बंद कर दिया गया था, जिसका मतलब है कि कंटेंट प्लेटफ़ॉर्म पर बना रहा. यहूदी नरसंहार को नकारना (होलोकॉस्ट डिनायल) केस में, बोर्ड ने Meta को सुझाव दिया था कि वह “सार्वजनिक रूप से यह कन्फ़र्म करे कि क्या उसने उन सभी COVID-19 ऑटोमेशन पॉलिसीज़ को पूरी तरह समाप्त कर दिया है जिन्हें COVID-19 वैश्विक महामारी के समय उपयोग में लाया गया था.” बोर्ड इस बात से चिंतित है कि Meta की COVID-19 ऑटोमेशन पॉलिसीज़, जो उस समय वैश्विक महामारी के कारण ह्यूमन रिव्यू की क्षमता में अस्थायी कमी के कारण उचित थीं, अभी भी उपयोग की जा रही हैं और बोर्ड ने अपने सुझाव को दोहराते हुए Meta से कहा कि वह सार्वजनिक रूप से यह बताए कि वह अब आगे ह्यूमन रिव्यूअर्स की क्षमता में कोई कमी नहीं करेगा.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

10. सुझाव

एन्फ़ोर्समेंट

1. अंतरराष्ट्रीय मानवतावादी कानून के तहत बंधकों की प्रभावी सुरक्षा सुनिश्चित करने के लिए, Meta को नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी को एन्फ़ोर्स करने के लिए ज़रूरत के अनुसार बदला जा सकने वाला समाधान बनाना चाहिए, जो सशस्त्र संघर्ष के संदर्भ में युद्धबंदियों की पहचान उजागर करने को प्रतिबंधित करती है. Meta को किसी संघर्ष की अवधि के लिए एक प्रोटोकॉल सेट करना चाहिए जिसके तहत एक ऐसी विशेषज्ञ टीम बनाई जाए जो युद्धबंदियों की पहचान उजागर करने वाले कंटेंट को प्राथमिकता दे और आगे रहकर उसकी पहचान करे.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, बोर्ड के साथ इस बात का डेटा शेयर करेगा कि सशस्त्र संघर्ष की स्थितियों में युद्धबंदियों की पहचान उजागर करने वाले कंटेंट की पहचान करने वाला प्रोटोकॉल कितना प्रभावी है और हर छह महीने में बोर्ड को इस प्रोटोकॉल की प्रभावशीलता के अपडेट दे.

2. खतरनाक संगठनों और लोगों से जुड़ी पॉलिसी का संभावित रूप से उल्लंघन करने वाले कंटेंट की ऑटोमेटेड पहचान करने और उसे ह्यूमन रिव्यू के लिए प्राथमिकता देने की अपनी प्रक्रिया को बेहतर बनाने के लिए, Meta को ऑटोमेटेड पहचान और कंटेंट को प्राथमिकता देने की प्रक्रिया को बेहतर बनाने के लिए ज़रूरी कदम उठाने चाहिए. इसके लिए उसे क्लासिफ़ायर को समझने के लिए अपने वीडियो कंटेंट में उपयोग किए गए ट्रेनिंग डेटा का ऑडिट करना चाहिए और यह मूल्यांकन करना चाहिए कि क्या उसमें सशस्त्र संघर्ष के संदर्भ में चिह्नित संगठनों का समर्थन करने वाले कंटेंट के पर्याप्त रूप से विविध उदाहरण मौजूद हैं, जिनमें अलग-अलग भाषाएँ, बोलियाँ, क्षेत्र और संघर्ष शामिल हैं.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, बोर्ड को अपने ऑडिट के विस्तृत परिणाम और उन ज़रूरी सुधारों की जानकारी उपलब्ध कराएगा जिन्हें कंपनी इस ऑडिट के परिणामस्वरूप लागू करेगी.

3. यूज़र्स को ज़्यादा स्पष्टता देने के लिए, Meta को अमेरिकी विदेशी आतंकी संगठन और विशेष रूप से चिह्नित वैश्विक आतंकवादियों की लिस्ट का हाइपरलिंक शामिल करना चाहिए, जहाँ इन लिस्ट का उल्लेख किया गया है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपने कम्युनिटी स्टैंडर्ड में ये बदलाव कर लेगा.

प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन्हें बोर्ड के बहुमत के आधार पर स्वीकृति दी जाती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की निजी राय दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें