राष्ट्रीयता के आधार पर आपराधिक आरोप

25 सितम्बर 2024

बोर्ड ने ऐसे तीन केसों का एक साथ रिव्यू किया जिनमें लोगों पर उनकी राष्ट्रीयता के आधार पर आपराधिक आरोप लगाए गए थे. एक Facebook पोस्ट को हटाने के Meta के फ़ैसलों को पलटते समय बोर्ड ने इस बात पर विचार किया कि किस तरह ये केस, सरकार की कार्रवाइयों और पॉलिसीज़ की निंदा करने और लोगों पर उनकी राष्ट्रीयता के आधार पर हमले करने वाले कंटेंट में अंतर करने की व्यापक समस्या को हाइलाइट करते हैं. Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी में संशोधन करने और एन्फ़ोर्समेंट से जुड़ी चुनौतियों का समाधान करने के संबंध में सुझाव देते हुए, बोर्ड ने कहा कि शुरुआती मॉडरेशन के दौरान गहराई से जाँच की जानी चाहिए और कंटेंट के नकारात्मक परिणामों को रोका जाना चाहिए. नफ़रत फैलाने वाली भाषा से जुड़े प्रासंगिक नियम के भाग के रूप में, Meta को सीमित सबकैटेगरी के लिए एक अपवाद बनाना चाहिए जिसमें यह तय करने के लिए निष्पक्ष सिग्नलों का उपयोग किया जाता है कि ऐसे कंटेंट का टार्गेट कोई सरकार या उसकी पॉलिसीज़ हैं या लोगों का कोई समूह.

केस की जानकारी

पहले केस में, एक Facebook पोस्ट में रूसी और अमेरिकी लोगों को “अपराधी” बताया गया और यूज़र ने अमेरिकी लोगों को ज़्यादा “सम्माननीय” बताया क्योंकि वे अपने अपराध स्वीकार करते हैं जबकि रूसी लोग अमेरिकी लोगों के “अपराधों से फ़ायदा उठाना” चाहते हैं. इस पोस्ट को Meta के ऑटोमेटेड सिस्टमों द्वारा ह्यूमन रिव्यू के लिए भेजा गया, लेकिन रिपोर्ट को अपने आप बंद कर दिया गया और कंटेंट Facebook पर बना रहा. तीन माह बाद, जब Meta ने इस केस का चयन बोर्ड को रेफ़र करने के लिए किया, तो Meta के पॉलिसी विषयवस्तु विशेषज्ञों ने तय किया कि इस पोस्ट से नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होता है और उन्होंने पोस्ट को हटा दिया. यूज़र के अपील करने के बाद भी, Meta ने बाद के ह्यूमन रिव्यू में तय किया कि कंटेंट को हटाना सही था.

दूसरे केस में, एक यूज़र ने एक Threads पोस्ट पर एक कमेंट का जवाब दिया. पोस्ट में इज़राइल-गाज़ा संघर्ष से जुड़ा वीडियो था और उसमें “genocide of terror tunnels?” (आतंकी सुरंगों का नरसंहार?) कमेंट शामिल था. यूज़र के जवाब में कहा गया था: “Genocide … all Israelis are criminals” (नरसंहार...सभी इज़राइली अपराधी हैं). Meta के ऑटोमेटेड सिस्टमों ने इस कंटेंट को ह्यूमन रिव्यू के लिए भेजा और फिर उसे नफ़रत फैलाने वाली भाषा से जुड़े नियमों का उल्लंघन करने के कारण हटा दिया गया.

तीसरा केस एक Instagram पोस्ट पर एक यूज़र के कमेंट से संबंधित है जिसमें उसने “सभी भारतीयों” को “बलात्कारी” कहा. मूल Instagram पोस्ट में एक वीडियो था जिसमें एक महिला को पुरुषों ने घेर रखा है जो उस महिला को घूरते दिखाई पड़ रहे हैं. Meta ने कमेंट को नफ़रत फैलाने वाली भाषा से जुड़े नियमों के तहत हटा दिया.

सभी तीनों केसों को Meta ने बोर्ड को रेफ़र किया. कंपनी के अनुसार लोगों को उनकी राष्ट्रीयता के आधार पर निशाना बनाकर लगाए गए आपराधिक आरोपों से निपटने की चुनौतियाँ, संकट और संघर्ष के दौरान खास तौर पर प्रासंगिक होती हैं, जब उन्हें “किसी देश की पॉलिसीज़, उसकी सरकार या उसके लोगों के बजाय सेना पर हमला” समझा जा सकता है.

मुख्य निष्कर्ष

बोर्ड ने पाया कि पहले केस, जिसमें रूसी और अमेरिकी लोगों का उल्लेख किया गया था, में Facebook पोस्ट को हटाने का Meta का फ़ैसला गलत था क्योंकि इस बात के सिग्नल मौजूद थे कि कंटेंट का टार्गेट नागरिकों के बजाय देश थे. नफ़रत फैलाने वाली भाषा से जुड़े अपने नियमों के तहत Meta “किसी व्यक्ति या लोगों के समूह को उनकी राष्ट्रीयता के आधार पर टार्गेट करते हुए अमानवीय दिखाने वाली ऐसी भाषा” की परमिशन नहीं देता जिसमें उनकी तुलना “अपराधियों” से की गई हो. हालाँकि, इस पोस्ट में रूसी और अमेरिकी लोगों द्वारा किए गए अपराधों के संदर्भ, उनके संबंधित देशों या उनकी पॉलिसीज़ को टार्गेट किए गए लगते हैं. बोर्ड द्वारा विशेषज्ञों से माँगी गई रिपोर्ट में इसकी पुष्टि की गई है.

दूसरे और तीसरे केस में, बोर्ड के अधिकांश सदस्य Meta की इस बात से सहमत हैं कि कंटेंट में राष्ट्रीयता के आधार पर लोगों को टार्गेट करने के कारण नियमों का उल्लंघन हुआ है क्योंकि उसमें “सभी इज़राइली” और “सभी भारतीय” कहने से पता चलता है कि लोगों को टार्गेट किया जा रहा है. इस बात का कोई संदर्भात्मक संकेत मौजूद नहीं है कि कंटेंट में इज़राइल की सरकार की कार्रवाइयों या भारत की सरकार की पॉलिसीज़ की आलोचना की जा रही है. इसलिए, दोनों केसों में कंटेंट को हटा दिया जाना चाहिए था. हालाँकि, बोर्ड के कुछ सदस्यों ने इस बात से असहमति जताते हुए कहा कि इन केसों में कंटेंट को हटाना, संभावित नुकसानों को रोकने के लिए Meta के पास उपलब्ध विकल्पों में से सबसे कम रुकावट डालने वाला साधन नहीं था. बोर्ड ने इन सदस्यों ने नोट किया कि Meta, कंटेंट को हटाते समय आवश्यकता और आनुपातिकता के सिद्धांतों को संतुष्ट करने में विफल रहा.

पॉलिसी परिवर्तनों की व्यापक समस्या के बारे में, बोर्ड का मानना है कि टार्गेट किए गए समूहों को नुकसान का जोखिम बढ़ने से रोकते हुए प्रासंगिक राजनैतिक अभिव्यक्ति की रक्षा के लिए विस्तृत और ज़रूरत के अनुसार बदलाव करने लायक तरीके की ज़रूरत है. पहले, Meta को ऐसे विशिष्ट और निष्पक्ष सिग्नल ढूँढने चाहिए जिनसे सही कंटेंट को हटाया जाना और नुकसानदेह कंटेंट को रखा जाना, दोनों रुके.

सिग्नलों की व्यापक लिस्ट दिए बिना, बोर्ड ने निर्धारित किया कि Meta को उन स्थितियों में आपराधिक आरोपों की परमिशन देनी चाहिए जब उनका निशाना देश के प्रॉक्सी के रूप में काम करने वाला कोई खास समूह हो, जैसे पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी. एक अन्य सिग्नल उस अपराध की प्रकृति से संबंध होगा जिसका आरोप लगाया जा रहा है, जैसे अत्याचार से जुड़े अपराध या मानवाधिकारों का गंभीर उल्लंघन, जो आम तौर पर सरकार से ज़्यादा जुड़ी होती है.. इसका अर्थ यह होगा कि जिन पोस्ट में कुछ तरह के अपराधों का संबंध राष्ट्रीयता से होता है, उन्हें सरकार की कार्रवाइयों की आलोचना करने वाली राजनैतिक अभिव्यक्ति मानकर प्लेटफ़ॉर्म पर बनाए रखा जाएगा.

इसके अलावा, Meta ऐसे भाषाई सिग्नलों पर विचार कर सकता है जो राजनैतिक बयानों और राष्ट्रीयता के आधार पर लोगों पर हमलों में अंतर कर सकते हैं. भले ही हर भाषा में इस तरह के अंतर अलग-अलग होंगे, जो पोस्ट के संदर्भ को और भी गंभीर बनाते हैं, बोर्ड ने यह सुझाव दिया कि निश्चयवाचक उपपद की उपस्थिति या अनुपस्थिति ऐसा सिग्नल हो सकती है. उदाहरण के लिए, “all” (“all Americans commit crimes”) या “the” (“the Americans commit crimes”) जैसे शब्द इस बात के संकेत हो सकते हैं कि यूज़र उन लोगों के देश के बजाय उन लोगों के पूरे समूह के बारे में सामान्य बात कह रहा है.

अगर पॉलिसी में इस बारे में विस्तार से नियम बनाए जाते हैं तो उनके एन्फ़ोर्समेंट में चुनौतियाँ आएँगी, जैसा कि Meta ने बताया और बोर्ड ने स्वीकार किया. बोर्ड ने नोट किया कि Meta ऐसे लोगों और अपराधों की लिस्ट बना सकता है जिन्हें देश की पॉलिसी या लोगों का संदर्भ माने जाने की ज़्यादा संभावना है. ऐसी लिस्ट में पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी शामिल हो सकते हैं. फ़ोटो और वीडियो के लिए, रिव्यूअर्स इस बात पर विचार कर सकते हैं कि कंटेंट में कौन-से विजुअल संकेत मौजूद हैं, जैसे सेना की वर्दी पहने लोग. जब ऐसे किसी संकेत को अपराध से जुड़ी किसी सामान्य बात के साथ मिलाया जाता है, तो इससे पता चल सकता है कि यूज़र किसी देश की कार्रवाइयों या लोगों का संदर्भ दे रहा है, न कि लोगों की तुलना अपराधियों से कर रहा है.

बोर्ड ने Meta से कहा कि वह अभिव्यक्ति की आज़ादी को सीमित करते समय यूज़र को शिक्षित और सशब्द करने वाले एन्फ़ोर्समेंट उपाय तलाशे. बोर्ड के एक पुराने सुझाव के जवाब में Meta इस बात से पहले ही प्रतिबद्धता जता चुका है कि वह कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों के बारे में यूज़र्स को नोटिफ़िकेशन भेजेगा. बोर्ड मानता है कि अगर इसका क्रियान्वयन किया जाता है, तो यह Meta के प्लेटफ़ॉर्म पर यूज़र की शिक्षा और सशक्तिकरण के लिए एक महत्वपूर्ण कदम होगा.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पहले केस में कंटेंट हटाने के Meta के फ़ैसले को पलट दिया है और पोस्ट को रीस्टोर करने के लिए कहा है. दूसरे और तीसरे केस में, बोर्ड ने कंटेंट को हटाने Meta के फ़ैसलों को कायम रखा है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड में संशोधन करे, खास तौर पर उस नियम को जो राष्ट्रीयता के आधार पर लोगों की “अपराधियों से तुलना करके या उनके बारे में सामान्य धारणाएँ बनाकर उन्हें अमानवीय दिखाने वाली अभिव्यक्ति” को परमिशन नहीं देता और उसमें इन लाइनों के आधार पर अपवाद शामिल करे: “उन स्थितियों को छोड़कर जिनमें कार्यकर्ता (जैसे पुलिस, सेना, सैनिक, सरकार, सरकारी अधिकारी) और/या अपराध (जैसे अत्याचार से जुड़े अपराध या मानवाधिकार के गंभीर उल्लंघन, जैसे वे अपराध जिन्हें अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में निर्दिष्ट किया गया है) ऐसा संदर्भ देता है कि उसका टार्गेट कोई देश है, न कि उन्होंने राष्ट्रीयता के आधार पर लोगों को टार्गेट किया है.”
उस आंतरिक ऑडिट के परिणाम प्रकाशित करे जो उसने अपनी नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी को एन्फ़ोर्स करने में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए किया है. परिणाम इस तरह उपलब्ध कराए जाने चाहिए जो इन आकलनों को सभी भाषाओं और/या क्षेत्रों के अनुसार तुलना करने की सुविधा दे.

Note:

In July 2024, as part of its update on a policy forum about speech using the term “Zionist,” Meta stated it had referred cases to the Board to seek guidance on “how to treat comparisons between proxy terms for nationality (including Zionists) and criminals (e.g. ‘Zionists are war criminals’).” The Board takes this opportunity to clarify that none of the three cases that have been reviewed as part of this decision includes the term “Zionists” and neither does the decision discuss use of the term.

अधिक जानकारी के लिए

Read the Full Decision

समाचार पर लौटें