राष्ट्रीयता के आधार पर आपराधिक आरोप

सारांश

बोर्ड ने ऐसे तीन केसों का एक साथ रिव्यू किया जिनमें लोगों पर उनकी राष्ट्रीयता के आधार पर आपराधिक आरोप लगाए गए थे. एक Facebook पोस्ट को हटाने के Meta के फ़ैसलों को पलटते समय बोर्ड ने इस बात पर विचार किया कि किस तरह ये केस, सरकार की कार्रवाइयों और पॉलिसीज़ की निंदा करने और लोगों पर उनकी राष्ट्रीयता के आधार पर हमले करने वाले कंटेंट में अंतर करने की व्यापक समस्या को हाइलाइट करते हैं. Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी में संशोधन करने और एन्फ़ोर्समेंट से जुड़ी चुनौतियों का समाधान करने के संबंध में सुझाव देते हुए, बोर्ड ने कहा कि शुरुआती मॉडरेशन के दौरान गहराई से जाँच की जानी चाहिए और कंटेंट के नकारात्मक परिणामों को रोका जाना चाहिए. नफ़रत फैलाने वाली भाषा से जुड़े प्रासंगिक नियम के भाग के रूप में, Meta को सीमित सबकैटेगरी के लिए एक अपवाद बनाना चाहिए जिसमें यह तय करने के लिए निष्पक्ष सिग्नलों का उपयोग किया जाता है कि ऐसे कंटेंट का टार्गेट कोई सरकार या उसकी पॉलिसीज़ हैं या लोगों का कोई समूह.

केस की जानकारी

पहले केस में, एक Facebook पोस्ट में रूसी और अमेरिकी लोगों को “अपराधी” बताया गया और यूज़र ने अमेरिकी लोगों को ज़्यादा “सम्माननीय” बताया क्योंकि वे अपने अपराध स्वीकार करते हैं जबकि रूसी लोग अमेरिकी लोगों के “अपराधों से फ़ायदा उठाना” चाहते हैं. इस पोस्ट को Meta के ऑटोमेटेड सिस्टमों द्वारा ह्यूमन रिव्यू के लिए भेजा गया, लेकिन रिपोर्ट को अपने आप बंद कर दिया गया और कंटेंट Facebook पर बना रहा. तीन माह बाद, जब Meta ने इस केस का चयन बोर्ड को रेफ़र करने के लिए किया, तो Meta के पॉलिसी विषयवस्तु विशेषज्ञों ने तय किया कि इस पोस्ट से नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होता है और उन्होंने पोस्ट को हटा दिया. यूज़र के अपील करने के बाद भी, Meta ने बाद के ह्यूमन रिव्यू में तय किया कि कंटेंट को हटाना सही था.

दूसरे केस में, एक यूज़र ने एक Threads पोस्ट पर एक कमेंट का जवाब दिया. पोस्ट में इज़राइल-गाज़ा संघर्ष से जुड़ा वीडियो था और उसमें “genocide of terror tunnels?” (आतंकी सुरंगों का नरसंहार?) कमेंट शामिल था. यूज़र के जवाब में कहा गया था: “Genocide … all Israelis are criminals” (नरसंहार...सभी इज़राइली अपराधी हैं). Meta के ऑटोमेटेड सिस्टमों ने इस कंटेंट को ह्यूमन रिव्यू के लिए भेजा और फिर उसे नफ़रत फैलाने वाली भाषा से जुड़े नियमों का उल्लंघन करने के कारण हटा दिया गया.

तीसरा केस एक Instagram पोस्ट पर एक यूज़र के कमेंट से संबंधित है जिसमें उसने “सभी भारतीयों” को “बलात्कारी” कहा. मूल Instagram पोस्ट में एक वीडियो था जिसमें एक महिला को पुरुषों ने घेर रखा है जो उस महिला को घूरते दिखाई पड़ रहे हैं. Meta ने कमेंट को नफ़रत फैलाने वाली भाषा से जुड़े नियमों के तहत हटा दिया.

सभी तीनों केसों को Meta ने बोर्ड को रेफ़र किया. कंपनी के अनुसार लोगों को उनकी राष्ट्रीयता के आधार पर निशाना बनाकर लगाए गए आपराधिक आरोपों से निपटने की चुनौतियाँ, संकट और संघर्ष के दौरान खास तौर पर प्रासंगिक होती हैं, जब उन्हें “किसी देश की पॉलिसीज़, उसकी सरकार या उसके लोगों के बजाय सेना पर हमला” समझा जा सकता है.

मुख्य निष्कर्ष

बोर्ड ने पाया कि पहले केस, जिसमें रूसी और अमेरिकी लोगों का उल्लेख किया गया था, में Facebook पोस्ट को हटाने का Meta का फ़ैसला गलत था क्योंकि इस बात के सिग्नल मौजूद थे कि कंटेंट का टार्गेट नागरिकों के बजाय देश थे. नफ़रत फैलाने वाली भाषा से जुड़े अपने नियमों के तहत Meta “किसी व्यक्ति या लोगों के समूह को उनकी राष्ट्रीयता के आधार पर टार्गेट करते हुए अमानवीय दिखाने वाली ऐसी भाषा” की परमिशन नहीं देता जिसमें उनकी तुलना “अपराधियों” से की गई हो. हालाँकि, इस पोस्ट में रूसी और अमेरिकी लोगों द्वारा किए गए अपराधों के संदर्भ, उनके संबंधित देशों या उनकी पॉलिसीज़ को टार्गेट किए गए लगते हैं. बोर्ड द्वारा विशेषज्ञों से माँगी गई रिपोर्ट में इसकी पुष्टि की गई है.

दूसरे और तीसरे केस में, बोर्ड के अधिकांश सदस्य Meta की इस बात से सहमत हैं कि कंटेंट में राष्ट्रीयता के आधार पर लोगों को टार्गेट करने के कारण नियमों का उल्लंघन हुआ है क्योंकि उसमें “सभी इज़राइली” और “सभी भारतीय” कहने से पता चलता है कि लोगों को टार्गेट किया जा रहा है. इस बात का कोई संदर्भात्मक संकेत मौजूद नहीं है कि कंटेंट में इज़राइल की सरकार की कार्रवाइयों या भारत की सरकार की पॉलिसीज़ की आलोचना की जा रही है. इसलिए, दोनों केसों में कंटेंट को हटा दिया जाना चाहिए था. हालाँकि, बोर्ड के कुछ सदस्यों ने इस बात से असहमति जताते हुए कहा कि इन केसों में कंटेंट को हटाना, संभावित नुकसानों को रोकने के लिए Meta के पास उपलब्ध विकल्पों में से सबसे कम रुकावट डालने वाला साधन नहीं था. बोर्ड ने इन सदस्यों ने नोट किया कि Meta, कंटेंट को हटाते समय आवश्यकता और आनुपातिकता के सिद्धांतों को संतुष्ट करने में विफल रहा.

पॉलिसी परिवर्तनों की व्यापक समस्या के बारे में, बोर्ड का मानना है कि टार्गेट किए गए समूहों को नुकसान का जोखिम बढ़ने से रोकते हुए प्रासंगिक राजनैतिक अभिव्यक्ति की रक्षा के लिए विस्तृत और ज़रूरत के अनुसार बदलाव करने लायक तरीके की ज़रूरत है. पहले, Meta को ऐसे विशिष्ट और निष्पक्ष सिग्नल ढूँढने चाहिए जिनसे सही कंटेंट को हटाया जाना और नुकसानदेह कंटेंट को रखा जाना, दोनों रुके.

सिग्नलों की व्यापक लिस्ट दिए बिना, बोर्ड ने निर्धारित किया कि Meta को उन स्थितियों में आपराधिक आरोपों की परमिशन देनी चाहिए जब उनका निशाना देश के प्रॉक्सी के रूप में काम करने वाला कोई खास समूह हो, जैसे पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी. एक अन्य सिग्नल उस अपराध की प्रकृति से संबंध होगा जिसका आरोप लगाया जा रहा है, जैसे अत्याचार से जुड़े अपराध या मानवाधिकारों का गंभीर उल्लंघन, जो आम तौर पर सरकार से ज़्यादा जुड़ी होती है.. इसका अर्थ यह होगा कि जिन पोस्ट में कुछ तरह के अपराधों का संबंध राष्ट्रीयता से होता है, उन्हें सरकार की कार्रवाइयों की आलोचना करने वाली राजनैतिक अभिव्यक्ति मानकर प्लेटफ़ॉर्म पर बनाए रखा जाएगा.

इसके अलावा, Meta ऐसे भाषाई सिग्नलों पर विचार कर सकता है जो राजनैतिक बयानों और राष्ट्रीयता के आधार पर लोगों पर हमलों में अंतर कर सकते हैं. भले ही हर भाषा में इस तरह के अंतर अलग-अलग होंगे, जो पोस्ट के संदर्भ को और भी गंभीर बनाते हैं, बोर्ड ने यह सुझाव दिया कि निश्चयवाचक उपपद की उपस्थिति या अनुपस्थिति ऐसा सिग्नल हो सकती है. उदाहरण के लिए, “all” (“all Americans commit crimes”) या “the” (“the Americans commit crimes”) जैसे शब्द इस बात के संकेत हो सकते हैं कि यूज़र उन लोगों के देश के बजाय उन लोगों के पूरे समूह के बारे में सामान्य बात कह रहा है.

अगर पॉलिसी में इस बारे में विस्तार से नियम बनाए जाते हैं तो उनके एन्फ़ोर्समेंट में चुनौतियाँ आएँगी, जैसा कि Meta ने बताया और बोर्ड ने स्वीकार किया. बोर्ड ने नोट किया कि Meta ऐसे लोगों और अपराधों की लिस्ट बना सकता है जिन्हें देश की पॉलिसी या लोगों का संदर्भ माने जाने की ज़्यादा संभावना है. ऐसी लिस्ट में पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी शामिल हो सकते हैं. फ़ोटो और वीडियो के लिए, रिव्यूअर्स इस बात पर विचार कर सकते हैं कि कंटेंट में कौन-से विजुअल संकेत मौजूद हैं, जैसे सेना की वर्दी पहने लोग. जब ऐसे किसी संकेत को अपराध से जुड़ी किसी सामान्य बात के साथ मिलाया जाता है, तो इससे पता चल सकता है कि यूज़र किसी देश की कार्रवाइयों या लोगों का संदर्भ दे रहा है, न कि लोगों की तुलना अपराधियों से कर रहा है.

बोर्ड ने Meta से कहा कि वह अभिव्यक्ति की आज़ादी को सीमित करते समय यूज़र को शिक्षित और सशब्द करने वाले एन्फ़ोर्समेंट उपाय तलाशे. बोर्ड के एक पुराने सुझाव के जवाब में Meta इस बात से पहले ही प्रतिबद्धता जता चुका है कि वह कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों के बारे में यूज़र्स को नोटिफ़िकेशन भेजेगा. बोर्ड मानता है कि अगर इसका क्रियान्वयन किया जाता है, तो यह Meta के प्लेटफ़ॉर्म पर यूज़र की शिक्षा और सशक्तिकरण के लिए एक महत्वपूर्ण कदम होगा.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पहले केस में कंटेंट हटाने के Meta के फ़ैसले को पलट दिया है और पोस्ट को रीस्टोर करने के लिए कहा है. दूसरे और तीसरे केस में, बोर्ड ने कंटेंट को हटाने के Meta के फ़ैसलों को कायम रखा है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड में संशोधन करे, खास तौर पर उस नियम को जो राष्ट्रीयता के आधार पर लोगों की “अपराधियों से तुलना करके या उनके बारे में सामान्य धारणाएँ बनाकर उन्हें अमानवीय दिखाने वाली अभिव्यक्ति” को परमिशन नहीं देता और उसमें इन लाइनों के आधार पर अपवाद शामिल करे: “उन स्थितियों को छोड़कर जिनमें कार्यकर्ता (जैसे पुलिस, सेना, सैनिक, सरकार, सरकारी अधिकारी) और/या अपराध (जैसे अत्याचार से जुड़े अपराध या मानवाधिकार के गंभीर उल्लंघन, जैसे वे अपराध जिन्हें अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में निर्दिष्ट किया गया है) ऐसा संदर्भ देता है कि उसका टार्गेट कोई देश है, न कि उन्होंने राष्ट्रीयता के आधार पर लोगों को टार्गेट किया है.”
• उस आंतरिक ऑडिट के परिणाम प्रकाशित करे जो उसने अपनी नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी को एन्फ़ोर्स करने में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए किया है. परिणाम इस तरह उपलब्ध कराए जाने चाहिए जो इन आकलनों को सभी भाषाओं और/या क्षेत्रों के अनुसार तुलना करने की सुविधा दे.

* केस के सारांश से केस का ओवरव्यू मिलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. केस की जानकारी और बैकग्राउंड

ये केस तीन कंटेंट के संबंध में Meta द्वारा किए गए फ़ैसलों से संबंधित हैं, जिनमें Facebook, Threads और Instagram का एक-एक कंटेंट शामिल था. Meta ने तीन केसों को बोर्ड को रेफ़र किया.

पहले केस में दिसंबर 2023 में अरबी भाषा में Facebook पर की गई एक पोस्ट शामिल है जिसमें कहा गया है कि रूसी और अमेरिकी लोग “अपराधी” होते हैं. कंटेंट में यह भी कहा गया है कि “अमेरिकी लोग ज़्यादा सम्माननीय हैं” क्योंकि वे “अपने अपराध स्वीकार करते हैं” जबकि रूसी लोग अमेरिकी लोगों के “अपराधों से फ़ायदा लेना चाहते हैं.” Meta के एक ऑटोमैटिक क्लासिफ़िकेशन टूल (द्वेषपूर्ण भाषा पहचानने वाला टूल) द्वारा पॉलिसी का संभावित उल्लंघन करने वाला माने जाने के बाद, इसे ह्यूमन रिव्यू के लिए भेज दिया गया था. हालाँकि, इसे अपने आप बंद कर दिया गया इसलिए कंटेंट का रिव्यू नहीं हुआ और वह Facebook पर बना रहा. मार्च 2024 में, जब Meta ने इस केस को बोर्ड को रेफ़र करने के लिए चुना, तब कंपनी के पॉलिसी विषयवस्तु विशेषज्ञों ने पाया कि पोस्ट से नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होता है. फिर इस पोस्ट को Facebook से हटा दिया गया. कंटेंट को पोस्ट करने वाले यूज़र ने Meta को इस फ़ैसले के खिलाफ़ अपील की. एक और ह्यूमन रिव्यू होने के बाद, कंपनी ने पाया कि इस केस में कंटेंट को हटाना सही था.

दूसरा केस, जनवरी 2024 में की गई Threads की एक पोस्ट पर एक यूज़र के अंग्रेज़ी भाषा में जवाब से जुड़ा है. उस पोस्ट में इज़राइल-गाज़ा संघर्ष की चर्चा करने वाला एक वीडियो था जिसके कमेंट में कहा गया था कि “आतंकी सुरंगों का नरसंहार” और आगे प्रश्नचिह्न लगा था. जवाब में इसे “नरसंहार” कहा गया था और “सभी इज़राइली लोगों को अपराधी” बताया गया था. Meta के ऑटोमैटिक क्लासिफ़िकेशन टूल (द्वेषपूर्ण भाषा पहचानने वाला टूल) ने कंटेंट को पॉलिसी का संभावित उल्लंघन करने वाला माना. ह्यूमन रिव्यू के बाद, Meta ने नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण कमेंट के जवाब को हटा दिया. कंपनी द्वारा इस केस को बोर्ड को रेफ़र किए जाने के लिए चुने जाने के बाद, Meta को पॉलिसी विषयवस्तु विशेषज्ञों ने भी फिर पाया कि कंटेंट को हटाने का मूल फ़ैसला सही था.

तीसरा केस मार्च 2024 की एक Instagram पोस्ट पर एक यूज़र के अंग्रेज़ी भाषा में कमेंट से संबंधित था जिसमें कहा गया था कि “किसी पाकिस्तानी की तरह” “सभी भारतीय भी बलात्कारी होते हैं.” यह कमेंट एक वीडियो के जवाब में किया गया था जिसमें एक महिला को पुरुषों का एक समूह घेरकर खड़ा था और वे पुरुष महिला को घूरते लग रहे थे. Meta के एक ऑटोमैटिक क्लासिफ़िकेशन टूल (द्वेषपूर्ण भाषा पहचानने वाला टूल) द्वारा इसे नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का संभावित उल्लंघन करने वाला माने जाने के बाद, कंपनी ने इसे हटा दिया. Meta द्वारा इस केस को बोर्ड को रेफ़र किए जाने के लिए चुने जाने के बाद, कंपनी के पॉलिसी विषयवस्तु विशेषज्ञों ने पाया कि कंटेंट को हटाने का मूल फ़ैसला सही था.

तीनों केसों में से किसी में भी यूज़र्स ने Meta के फ़ैसलों के खिलाफ़ बोर्ड को अपील नहीं की, लेकिन Meta ने सभी तीन केसों को रेफ़र किया.

बोर्ड द्वारा कमीशन की गई विशेषज्ञों की रिपोर्ट के अनुसार, “Meta के प्लेटफ़ॉर्म पर और लोगों की सामान्य बातचीत में देशों, देश की एंटिटी और लोगों पर आपराधिक व्यवहार के आरोप सामान्य हैं.” यूक्रेन पर फ़रवरी 2022 में रूस के हमले के बाद सोशल मीडिया पर रूस के प्रति नकारात्मक व्यवहार में बढ़ोतरी देखी गई है. विशेषज्ञों के अनुसार, सोशल मीडिया पर रूसी लोगों पर अक्सर उनके अधिकारियों की पॉलिसीज़ का समर्थन करने के आरोप लगते रहे हैं, जिनमें यूक्रेन पर रूस की कार्रवाई शामिल है. हालाँकि, रूसी नागरिकों पर “अपराधी” होने के आरोप कम ही लगे हैं – जो एक ऐसा शब्द है जिसका उपयोग अक्सर रूस के राजनैतिक नेतृत्व और रूसी सेना के जवानों के संदर्भ में किया जाता रहा है. बोर्ड ने जिन भाषाई विशेषज्ञों से परामर्श किया, उनके अनुसार, पहले केस में “अमेरिकी” और “रूसी” के अरबी भाषा में अनुवाद का उपयोग अमेरिका और रूस की पॉलिसी, सरकार और राजनीति के प्रति असंतोष व्यक्त करने के लिए किया जा सकता है, न कि वहाँ के लोगों के प्रति.

विशेषज्ञों ने यह भी रिपोर्ट किया कि नरसंहार के संबंध में इज़राइल और इज़राइली शब्दों का उल्लेख, गाज़ा में इज़राइल की सैन्य कार्रवाई के बाद से Meta के प्लेटफ़ॉर्म पर बढ़ गया है. इज़राइल ने यह कार्रवाई, अक्टूबर 2023 में इज़राइल पर हमास के आतंकवादी हमले के बाद की थी. नरसंहार से जुड़ी कार्रवाइयों के आरोपों के संबंध में चर्चाओं में बढ़ोतरी हुई है, खास तौर पर इंटरनेशनल कोर्ट ऑफ़ जस्टिस (ICJ) के 26 जनवरी, 2024 के आदेश के बाद, जिसमें ICJ ने दक्षिण अफ़्रीका बनाम इज़राइल केस में नरसंहार के अपराध की रोकथाम और दंड पर समझौते के तहत इज़राइल के खिलाफ़ तात्कालिक उपायों का आदेश दिया था . जब से इस आदेश को स्वीकार किया गया है, तब से इसकी आलोचना और समर्थन दोनों होते रहे हैं. विशेषज्ञों ने यह तर्क भी दिया कि इज़राइल की सरकार के खिलाफ़ आरोप “अक्सर यहूदी विरोधी नफ़रत फैलाने वाली भाषा और उकसावे के आधार बने हैं, यह देखते हुए कि नागरिकता चाहे कुछ भी हो, सार्वजनिक राय में वे अक्सर इज़राइल से “ जुड़े रहते हैं.”

अंत में, विशेषज्ञों ने यह भी बताया कि बलात्कार को लेकर भारतीयों के संबंध में सोशल मीडिया पर इस तरह की सामान्य धारणा बहुत कम ही देखी गई है. संघर्ष वाले क्षेत्रों में भारतीय सुरक्षा बलों द्वारा कथित यौन हिंसा के आरोप के संदर्भ में कभी-कभी “भारतीयों को बलात्कारी” बताया जाता रहा है, लेकिन बहुत कम मामलों में इसे “सभी भारतीयों” से जोड़ा गया है. इन घटनाओं के बारे में अधिकांश विद्वत्तापूर्ण, पत्रकारितापूर्ण और मानवाधिकार संबंधी डॉक्यूमेंट में स्पष्ट रूप से सेना द्वारा दुर्व्यवहार की बात की गई है और उनमें व्यापक जनसंख्या का कोई संदर्भ नहीं दिया गया है.

2. यूज़र सबमिशन

पोस्ट के लेखकों को बोर्ड के रिव्यू के बारे में सूचित किया गया था और उन्हें कथन सबमिट करने का अवसर दिया गया था. किसी भी यूज़र ने कथन सबमिट नहीं किया.

3. Meta की कंटेंट पॉलिसी और सबमिशन

I. Meta की कंटेंट पॉलिसी

Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी को बनाने के कारण में नफ़रत फैलाने वाली भाषा को राष्ट्रीय मूल, नस्ल और जातीयता सहित सुरक्षित विशिष्टताओं के आधार पर लोगों पर - अवधारणाओं या संस्थाओं के बजाय - सीधे हमले के रूप में परिभाषित किया गया है. Meta अपने प्लेटफ़ॉर्म पर नफ़रत फैलाने वाली भाषा की परमिशन नहीं देता क्योंकि इससे “डर और बहिष्कार का माहौल बनता है और कुछ मामलों में इससे ऑफ़लाइन हिंसा को बढ़ावा मिल सकता है.”

नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी का टियर 1 “अपराधियों” के बारे में “तुलना करने वाले कथन, आम धारणाओं या व्यवहार से जुड़े अयोग्य कथन (लिखित या विजुअल) के रूप में अमानवीय भाषा या इमेजरी” पर रोक लगाता है.

पॉलिसी को किस तरह एन्फ़ोर्स किया जाए, इस बारे में कंटेंट रिव्यूअर्स के लिए Meta की आंतरिक गाइडलाइन में आम धारणाओं को “लोगों के वंशानुगत गुणों के बारे में कथनों” के रूप में परिभाषित किया गया है. इसके अलावा, Meta की आंतरिक गाइडलाइन में व्यवहार से जुड़े “योग्य” और “अयोग्य” कथनों को उदाहरणों सहित दिया गया है. इन गाइडलाइन के तहत, “योग्य कथन” पॉलिसी का उल्लंघन नहीं करते जबकि “अयोग्य कथन” उल्लंघन करते हैं और हटा दिए जाते हैं. कंपनी, लोगों को व्यवहार से जुड़े योग्य कथन वाला कंटेंट पोस्ट करने की परमिशन देती है जिनमें खास ऐतिहासिक, आपराधिक या संघर्ष से जुड़ी घटनाएँ शामिल हो सकती हैं. Meta के अनुसार, व्यवहार से जुड़े अयोग्य कथनों में “स्पष्ट रूप से सुरक्षित विशिष्टताओं द्वारा परिभाषित सभी लोगों के या अधिकांश लोगों के व्यवहार की बात की जाती है.”

II. Meta के सबमिशन

“राष्ट्रीयता के आधार पर आपराधिक आरोप लगाकर लोगों को निशाना बनाने” के कारण Meta ने तीनों पोस्ट को हटा दिया, क्योंकि उनमें किसी समूह के वंशानुगत गुणों पर आधारित आम धारणाएँ थीं, न कि उनके कामों के आधार पर. Meta ने नोट किया कि ये कथन सिर्फ़ उन लोगों तक सीमित नहीं थे जो कथित आपराधिक गतिविधि में शामिल थे और उनमें आगे ऐसा कोई संदर्भ भी नहीं था जो बताए कि कथन किसी खास संघर्ष या आपराधिक घटना से जुड़े हैं.

जब Meta ने इन केसों को बोर्ड को रेफ़र किया, तो उसने कहा कि लोगों की राष्ट्रीयता के आधार पर उन पर लगाए गए आपराधिक आरोपों से नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के तहत कैसे निपटा जाए, इस बारे में ये केस उनके लिए चुनौती प्रस्तुत करते हैं. Meta ने बोर्ड से कहा कि कंपनी यह मानती है कि यह पॉलिसी “अधिकांश परिस्थितियों में अभिव्यक्ति और सुरक्षा के बीच सही संतुलन कायम करती है,” लेकिन खास तौर पर संकट और संघर्ष के दौरान ऐसी स्थितियाँ आती हैं “जब किसी राष्ट्रीयता के लोगों पर लगाए गए आपराधिक आरोप, उस देश की पॉलिसीज़, सरकार या सेना पर लगाए गए माने जा सकते हैं, न कि उसके लोगों पर.”

इन केसों में पॉलिसी एडवाइज़री टीम की राय की रिक्वेस्ट करने की ज़रूरत नहीं है, लेकिन Meta ने यह आकलन करने के लिए बोर्ड द्वारा विचार किए जाने के लिए पॉलिसी के वैकल्पिक तरीके प्रस्तुत किए कि आपराधिक गतिविधियों के लिए देशों की आलोचना को परमिशन देते हुए क्या कंपनी को राष्ट्रीयता के आधार पर लोगों पर लगाए गए आपराधिक आरोपों को हटाने के उसके मौजूदा तरीकों में संशोधन करने चाहिए और कैसे करने चाहिए. बोर्ड के सवालों के जवाब में, Meta ने कहा कि कंपनी ने इन केसों के लिए पॉलिसी के विकल्पों के निर्माण के लिए नया पॉलिसी आउटरीच नहीं किया, लेकिन उसके बजाय उसने स्टेकहोल्डर्स के उन व्यापक इनपुट पर विचार किया जो उसे अन्य पॉलिसी निर्माण प्रोसेस के दौरान प्राप्त हुए थे. Meta को यह स्पष्ट हुआ कि देशों के सदस्यों को “युद्ध अपराधी” कहकर उन पर आलोचना के स्वरूप में हमले करने पर उन पर ज़रूरत से ज़्यादा एन्फ़ोर्समेंट होगा और विधिसम्मत राजनैतिक अभिव्यक्ति सीमित होगा, क्योंकि इस तरह के हमले और सरकार द्वारा की जाने वाली कार्रवाइयों के बीच लिंक हो सकते हैं.

पहले विकल्प के तहत, Meta ने एक ऐसे फ़्रेमवर्क को प्रस्तुत करने पर विचार किया जो सिर्फ़ एस्केलेशन पर लागू होता है जो राष्ट्रीय मूल के आधार पर किए जाने वाले हमलों और किसी अवधारणा पर किए जाने वाले हमलों में अंतर करता है. इस निर्धारण में मदद करने के लिए पहचान करने वाले कारकों की ज़रूरत होगी, जैसे क्या कोई खास देश युद्ध या संकट में शामिल है या क्या उस कंटेंट में किसी देश के लोगों के अलावा उस देश या उसकी सेना के संदर्भ भी दिए गए हैं. अन्य शब्दों में, अगर कोई ऑटोमेटेड सिस्टम, किसी पोस्ट को संभावित रूप से उल्लंघन करने वाली मानता है, तो उसे हटा दिया जाएगा, बशर्ते Meta के विषयवस्तु विशेषज्ञों को एस्केलेशन के बाद वे कोई दूसरा फ़ैसला नहीं लेते हैं. Meta ने जोड़ा कि अगर इस तरह के फ़्रेमवर्क को अपनाया जाता है, तो कंपनी इस फ़्रेमवर्क को संभावित रूप से नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के तहत सिर्फ़ एस्केलेशन के समय उपयोग होने वाली मौजूदा अवधारणा बनाम लोगों से जुड़ी पॉलिसी की पृष्ठभूमि में उपयोग करेगी. इसका मतलब है कि Meta “कंटेंट को परमिशन नहीं देगा, भले ही अवधारणा बनाम लोग फ़्रेमवर्क के तहत यह तय पाया जाए कि कंटेंट में लोगों के बजाय देश को टार्गेट किया गया है, भले ही उसे अन्यथा हटा दिया जाएगा.” एस्केलेशन के समय उपयोग होने वाली मौजूदा अवधारणा बनाम लोगों से जुड़ी पॉलिसी के तहत, Meta “ऐसे कंटेंट को हटा देता है जो सुरक्षित विशिष्टताओं से जुड़ी अवधारणाओं, संस्थानों, विचारों, प्रथाओं या मान्यताओं पर हमला करता हो और जिससे जान-माल के तात्कालिक नुकसान, धमकी या भेदभाव की संभावना हो.

Meta ने नोट किया कि यह नया फ़्रेमवर्क, कंपनी को संदर्भ से जुड़े ज़्यादा संकेतों पर विचार करने की सुविधा देगा, लेकिन संभवतः इसे बहुत कम ही मामलों में और सिर्फ़ एस्केलेशन के समय लागू किया जाएगा. इसके अलावा, “चूँकि एस्केलेशन के समय उपयोग की जाने वाली पॉलिसीज़ सिर्फ़ Meta की विशेषज्ञ टीमों को एस्केलेट किए गए कंटेंट पर ही लागू होती हैं, इसलिए उन्हें उन लोगों के लिए अनुचित माना जा सकता है जिनके पास उन टीमों की एक्सेस नहीं होती और जिनका कंटेंट शुरुआती रिव्यूअर्स द्वारा रिव्यू किया जाता है.”

दूसरे विकल्प के तहत, Meta ने शुरुआती रिव्यू में ज़रूरत से ज़्यादा एन्फ़ोर्समेंट के जोखिम के समाधान के लिए कई उप-विकल्प प्रस्तुत किए. पहले विकल्प के विपरीत, कंटेंट को आकलन में शामिल किए जाने के लिए इसमें अतिरिक्त संदर्भ की ज़रूरत नहीं होगी और इसे शुरुआती रिव्यू में लागू किया जा सकेगा. उप-विकल्पों में शामिल हैं:

(a) राष्ट्रीयता के आधार पर सभी आपराधिक तुलनाओं की परमिशन देना. Meta ने नोट किया कि इस विकल्प के कारण ज़रूरत से कम एन्फ़ोर्समेंट होगा और कुछ ऐसी आपराधिक तुलनाएँ प्लेटफ़ॉर्म पर बनी रह जाएँगी जो लोगों पर उनकी राष्ट्रीयता के आधार पर हमला करती हैं और जिनका राजनैतिक बयानों से कोई सीधा संबंध नहीं है.

(b) राष्ट्रीयता के कुछ खास सबसेट की सभी आपराधिक तुलनाओं को परमिशन देना. Meta ने कहा कि राष्ट्रीयता के सबसेट के लिए ऐसे कुछ खास अपवादों पर विचार किया जा सकता है जो सरकार या राष्ट्रीय पॉलिसी (जैसे “रूसी सैनिक,” “अमेरिकी पुलिस” या “पोलिश सरकार के अधिकारी”) के प्रतिनिधि हो सकते हैं. यह इस मान्यता पर आधारित होता है कि इन सबसेट के सरकार या राष्ट्रीय पॉलिसी के प्रॉक्सी होने की ज़्यादा संभावना है.

(c) अलग-अलग आपराधिक आरोपों के बीच अंतर करना. Meta ने नोट किया कि कुछ तरह के अपराधों के संदर्भों को बार-बार किसी देश या संस्था से जोड़ा जाता है या वे अन्य के बजाय ज़्यादा राजनैतिक दिखाई पड़ते हैं.

बोर्ड ने Meta से पॉलिसी के प्रस्तावित वैकल्पिक उपायों को ऑपरेट करने से संबंधित व्यवहार्यता और सामंजस्य से जुड़े सवाल पूछे और यह पूछा कि मौजूदा पॉलिसीज़ और प्रस्ताविक पॉलिसी उपायों के बीच किस तरह तालमेल कायम किया जाएगा. Meta ने सभी सवालों के जवाब दिए.

4. पब्लिक कमेंट

ओवरसाइट बोर्ड को सबमिट करने की शर्तों को पूरा करने वाले 14 पब्लिक कमेंट मिले. इनमें से सात कमेंट अमेरिका और कनाडा से, छह कमेंट यूरोप से और एक एशिया पैसिफ़िक और ओशियानिया से सबमिट किया गया था. प्रकाशन की सहमति के साथ सबमिट किए गए पब्लिक कमेंट पढ़ने के लिए यहाँ क्लिक करें.

सबमिशन में इन विषयों पर बात की गई थी: संघर्ष के समय में पूरे देश पर लगाए गए अपराध के आरोपों के निहितार्थ, Meta का नफ़रत फैलाने वाली भाषा से जुड़ा कम्युनिटी स्टैंडर्ड और संघर्ष की स्थितियों में Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियाँ.

5. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस बात पर विचार करने के लिए इन रेफ़रल केसों को स्वीकार किया कि Meta को राष्ट्रीयता के आधार पर लगाए गए आपराधिक आरोपों को किस तरह मॉडरेट करना चाहिए, खास तौर पर कंपनी को राष्ट्रीयता के आधार पर लोगों पर किए गए हमलों और संघर्ष और संकट के समय देश की कार्रवाई और उसे अंजाम देने वाले लोगों के संदर्भों के बीच किस तरह अंतर करना चाहिए. ये केस बोर्ड की "संकट और संघर्ष की स्थिति" और "कमज़ोर समूहों के प्रति नफ़रत फैलाने वाली भाषा" से जुड़ी रणनीतिक प्राथमिकताओं के दायरे में आते हैं.

बोर्ड ने Meta की कंटेंट पॉलिसी, वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण करके इन केसों में Meta के फ़ैसलों का परीक्षण किया. बोर्ड ने यह आकलन भी किया कि Meta को लोगों को किसी राष्ट्र का सदस्य होने के नाते अपराधी बताने वाली अभिव्यक्ति और देशों को अपराधी बताने वाली अभिव्यक्ति के बीच किस तरह अंतर करना चाहिए. सैद्धांतिक रूप से यह अंतर पर्याप्त है, लेकिन इसका क्रियान्वयन चुनौतीपूर्ण है, खास तौर पर बड़े पैमाने पर.

5.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट से जुड़े नियम

बोर्ड ने पाया कि दूसरे और तीसरे केस का कंटेंट, Meta की नफ़रत फैलाने वाली भाषा का उल्लंघन करता है. हालाँकि बोर्ड मानता है कि पहले केस में कंटेंट को हटाने का Meta का फ़ैसला गलत था क्योंकि उसमें मौजूद सिग्नलों से यह पता चलता है कि Facebook पोस्ट में देशों को टार्गेट किया गया है, न कि उनके नागरिकों को.

Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी का रिव्यू करने के बाद, बोर्ड ने यह सुझाव दिया कि कंपनी, व्यापक डिफ़ॉल्ट नियमों से अपनी निर्भरता कम करे और इसके बजाय ऐसी सीमित सबकैटेगरी बनाए जिनमें किसी स्केलेबल लेवल पर फ़ाल्स पॉज़ीटिव और फ़ाल्स नेगेटिव को न्यूनतम करने के लिए निष्पक्ष सिग्नलों का उपयोग किया जाए. उदाहरण के लिए, कंपनी को उन खास समूहों के खिलाफ़ आपराधिक आरोपों की परमिशन देनी चाहिए जिनके देशों, सरकारों और/या उनकी पॉलिसीज़ के प्रॉक्सी के रूप में काम करने की संभावना है, जैसे पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी. कंपनी को उन तुलनाओं को भी परमिशन देनी चाहिए जिनमें ऐसे अपराधों का उल्लेख होता है जो ज़्यादातर देश की ओर से काम करने वाले लोगों और खतरनाक संगठनों द्वारा किए जाते हैं, जैसा कि Meta की खतरनाक लोगों और संगठनों से जुड़ी पॉलिसी में बताया गया है, खास तौर पर अत्याचार से जुड़े अपराध या मानवाधिकार के गंभीर उल्लंघन, जैसे कि वे अपराध जो अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में बताए गए हैं.

अलग-अलग केस

बोर्ड ने पाया कि पहले केस में शामिल पोस्ट, Meta की नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड के तहत, राष्ट्रीयता के आधार पर “अपराधियों से तुलना करके, उनके बारे में आम धारणाएँ बताकर या उनके व्यवहार से जुड़ी अयोग्य बातें कहकर” “किसी व्यक्ति या लोगों के समूह को उनकी राष्ट्रीयता के आधार पर टार्गेट करते हुए अमानवीय दिखाने वाली ऐसी भाषा” पर प्रतिबंध का उल्लंघन नहीं करती. बोर्ड द्वारा कमीशन की गई विशेषज्ञों की एक रिपोर्ट में दिखाया गया है कि “रूसी” और “अमेरिकी” लोगों द्वारा किए गए अपराधों के संदर्भ, उनके संबंधित देशों या उनकी पॉलिसीज़ को टार्गेट किए गए लगते हैं, न कि उन देशों के लोगों को. इसके अलावा, पोस्ट में रूसी और अमेरिकी लोगों की तुलना की गई है. अंतरराष्ट्रीय संबंधों और राजनीति में रूस और अमेरिकी ने जिस तरह की भूमिका निभाई है, उसे देखते हुए यह तुलना दर्शाती है कि यूज़र ने संबंधित देशों का संदर्भ दिया है, न कि उनके लोगों का. बोर्ड इस निष्कर्ष पर पहुँचा कि पहले केस में शामिल पोस्ट, देशों या उनकी पॉलिसीज़ को टार्गेट करती है, इसलिए उसमें अपराधियों के बारे में आम धारणाओं के रूप में राष्ट्रीयता के आधार पर लोगों के खिलाफ़ अमानवीय बताने वाली अभिव्यक्ति नहीं है और उसे बहाल किया जाना चाहिए.

बोर्ड इस बात पर Meta से सहमत है कि दूसरे और तीसरे केस का कंटेंट, Meta की नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करता है क्योंकि इन पोस्ट में “अपराधियों” से जुड़ी आम धारणाएँ शामिल हैं जिनमें राष्ट्रीयता के आधार पर लोगों को टार्गेट किया गया है. “सभी इज़राइली” और “सभी भारतीय” के संदर्भ, ज़्यादा विश्वसनीय ढंग से इज़राइल और भारत के लोगों को टार्गेट करते हैं, न कि संबंधित देशों या सरकारों को. इसके अलावा, किसी भी पोस्ट में इस निष्कर्ष पर पहुँचने के पर्याप्त संदर्भ नहीं हैं कि वे किसी खास काम या आपराधिक घटना की बात कर रही हैं.

दूसरे केस में कंटेंट को एक अन्य Threads यूज़र की पोस्ट के जवाब में पोस्ट किया गया था. उस पोस्ट में एक वीडियो था जिसमें इज़राइल-गाज़ा संघर्ष की चर्चा की गई थी. इज़राइल के लोगों के संदर्भ में “सभी” शब्द इस बात का मज़बूत संकेत है कि वहाँ के सभी लोगों को टार्गेट किया जा रहा है, न कि सिर्फ़ सरकार को. इसके अलावा, भले ही कंटेंट में “नरसंहार” का संदर्भ भी शामिल है, लेकिन ऐसा कोई दूसरा संदर्भात्मक सिग्नल शामिल नहीं है जो निसंदेह रूप से दर्शाए कि यूज़र का इरादा इज़राइल की सरकार के कामों या पॉलिसीज़ की बात करना था, न कि इज़राइल को लोगों को उनकी राष्ट्रीयता के आधार पर टार्गेट करने का. इसी तरह से तीसरे केस में भी ऐसा कोई संदर्भ मौजूद नहीं था: यह तथ्य कि यूज़र उस Instagram वीडियो पर कमेंट कर रहा है जिसमें पुरुष एक महिला को घूर रहे हैं, दर्शाता है कि यूज़र संभावित रूप स लोगों को टार्गेट कर रहा था. वीडियो में मौजूद लोगों का भारत की सरकार से कोई स्पष्ट संबंध नहीं है. इसके अलावा, इस बात का कोई संकेत नहीं था कि यूज़र, बलात्कार के मामले में भारत सरकार की पॉलिसीज़ या कामों की आलोचना कर रहा था. अगर देशों की आलोचना दर्शाने वाले असंदिग्ध संदर्भ मौजूद नहीं होने पर, बोर्ड इस निष्कर्ष पर पहुँचा कि दूसरे और तीसरे केस में कंटेंट को हटाना, Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के अनुसार उचित था.

व्यापक समस्याएँ

इन तीन केसों द्वारा उठाई गई व्यापक समस्याओं की बात करें, तो बोर्ड, देशों के कामों और पॉलिसी की आलोचना करने वाले और राष्ट्रीयता के आधार पर लोगों पर हमला करने वाले कंटेंट के बीच अंतर करने से जुड़ी चुनौतियों को समझता है, खास तौर पर संकट और संघर्ष की स्थितियों में. इसलिए, बोर्ड यह मानता है कि Meta को पॉलिसी में छोटे-छोटे बदलाव करने चाहिए जो टार्गेट किए गए समूहों को नुकसान का जोखिम बढ़ने से रोकते हुए प्रासंगिक राजनैतिक अभिव्यक्ति की रक्षा करके उसे Meta के प्लेटफ़ॉर्म पर बनाए रखे. बोर्ड की समझ के अनुसार, इसके लिए ज़रूरत के अनुसार बदलाव करने लायक तरीका अपनाना होगा जिनमें प्रतिकूल दूरगामी परिणामों को रोकने की व्यवस्था हो.

बोर्ड ने सुझाव दिया कि Meta ऐसे खास, निष्पक्ष रूप से सुनिश्चित करने योग्य सिग्नल ढूँढे जो केसों के महत्वपूर्ण सबग्रुप में फ़ाल्स पॉज़ीटिव और फ़ाल्स नेगेटिव की संख्या कम करे. उदाहरण के लिए – और ऐसे सिग्नलों की व्यापक लिस्ट देने की इच्छा के बगैर – बोर्ड की राय यह है कि राष्ट्रीयता के आधार पर लगाए गए अपराध के आरोपों को तब सामान्य तौर पर परमिशन दी जानी चाहिए जब उनका टार्गेट ऐसा ग्रुप हो जिनके देशों के प्रॉक्सी के रूप में काम करने की संभावना है, जैसे सैनिक, सेना, पुलिस, सरकार या अन्य सरकारी अधिकारी.

एक अन्य निष्पक्ष सिग्नल, चुनौती दी गई पोस्ट में कथित अपराधी की प्रकृति से संबंधित है. कुछ अपराध, खास तौर पर अत्याचार से जुड़े अपराध या मानवाधिकार के गंभीर उल्लंघन, जैसे कि वे अपराध जो अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में बताए गए हैं, आम तौर पर देश की ओर से काम करने वाले लोगों और खतरनाक संगठनों द्वारा किए जाते हैं, जबकि अन्य अपराध लगभग सिर्फ़ निजी लोगों द्वारा किए जाते हैं. इसके अनुसार, जो पोस्ट पहले वाले तरीके के अपराध को राष्ट्रीयता से जोड़ती हैं और जिनके बाद देश की कार्रवाइयों या पॉलिसीज़ से जुड़े संदर्भ होते हैं, उन्हें देश की कार्रवाई की निंदा करने वाली राजनैतिक अभिव्यक्ति माना जाना चाहिए और प्लेटफ़ॉर्म पर रखा जाना चाहिए, जबकि बाद वाले प्रकार की पोस्ट को सामान्य तौर पर हटा दिया जाना चाहिए.

इसके अलावा, कुछ भाषाई सिग्नल, राजनैतिक बयानों और नफ़रत फैलाने वाली भाषा में अंतर करने के लिए इसी तरह की भूमिका निभा सकते हैं. ऐसे सिग्नलों का अनुमान लगाना हर भाषा के लिए अलग हो सकता है, लेकिन बोर्ड ने यह सुझाव दिया कि निश्चयवाचक उपपद की उपस्थिति या अनुपस्थिति महत्वपूर्ण हो सकती है. यह कहना कि “the Americans” अपराध करते हैं और “Americans” अपराध करते हैं, दो अलग-अलग बाते हैं क्योंकि निश्चयवाचक उपपद का उपयोग किसी खास समूह या लोकेशन का सिग्नल हो सकता है. इसी तरह, “सभी” जैसे शब्द इस बात के मज़बूत सिग्नल हो सकते हैं कि स्पीकर, लोगों के देश के बजाय उनके पूरे समूह के बारे में आम राय बता रहा है. ये अंतर सभी भाषाओं में अलग-अलग हो सकते हैं, जो संदर्भ से जुड़ी व्याख्याओं को और महत्वपूर्ण बनाते हैं.

इसी समय, बोर्ड ने यह विचार किया कि किसी ऐसे फ़्रेमवर्क का निर्माण जो सिर्फ़ Meta के पॉलिसी विशेषज्ञों (“सिर्फ़ एस्केलेशन पर लागू” नियम) को उपलब्ध हो, न कि कंटेंट का सबसे शुरुआती रिव्यू करने वाले लोगों को, पर्याप्त समाधान नहीं होगा. सूडानकी रैपिड सपोर्ट फ़ोर्स का बंधक वाला वीडियो केस में, बोर्ड ने जाना कि Meta की ओर से शुरुआती मॉडरेशन करने वाले लोगों को “ऐसे कंटेंट को पहचानने के निर्देश या ताकत नहीं दी गई है जो कंपनी के सिर्फ़ एस्केलेशन के समय लागू होने वाले नियमों का उल्लंघन करता है.” इसी तरह इस केस में, Meta ने बोर्ड को बताया कि “सिर्फ़ एस्केलेशन के समय लागू होने वाले नियमों” को सिर्फ़ तभी एन्फ़ोर्स किया जा सकता है जब कंटेंट को Meta की एस्केलेशन के समय काम करने वाली टीमों की जानकारी में लाया जाए, उदाहरण के लिए भरोसेमंद पार्टनर या मीडिया में व्यापक कवरेज के द्वारा, या फिर जब चिंताजनक ट्रेंड के बारे में कंटेंट मॉडरेटर, क्षेत्र की विशेषज्ञ टीमों या आंतरिक विशेेषज्ञों की ओर से पूछताछ की जाए, जैसे कि Meta की मानवाधिकार टीम या नागरिक अधिकार कानून टीम द्वारा.

बोर्ड यह मानता है कि एस्केलेशन के समय लागू होने वाला यह फ़्रेमवर्क, किसी संघर्ष वाली स्थिति के अति महत्वपूर्ण विशेषज्ञ विश्लेषण की सुविधा देगा, यूज़र का इरादा समझने में मदद करेगा और यह बताएगा कि क्या सरकारी संस्थाओं से इसका कोई संबंध है, लेकिन बोर्ड यह मानता है कि इस तरीके से अधिकांश मामलों में यह पता नहीं चल पाएगा कि कंटेंट को परमिशन मिलनी चाहिए या नहीं, यह देखते हुए कि इसे बड़े पैमाने पर लागू नहीं किया जा सकेगा. इसी तरह, बोर्ड ने पाया कि Meta का एक अन्य विकल्प, जिसमें राष्ट्रीयता के आधार पर सभी आपराधिक तुलनाओं को परमिशन देने की बात कही गई थी, पर्याप्त रूप से विस्तृत तरीका नहीं है और उसके परिणामस्वरूप नुकसानदेह कंटेंट पर ज़रूरत से कम एन्फ़ोर्समेंट का जोखिम हो सकता है. संकट के समय में ऐसे कंटेंट में खास तौर पर बढ़ोतरी हो सकती है. बोर्ड इस विकल्प को ज़रूरत से ज़्यादा व्यापक मानता है क्योंकि यह देशों, उनके कामों या पॉलिसीज़ को टार्गेट करने वाले कंटेंट के बजाय, लोगों को टार्गेट करने वाले कंटेंट की सुरक्षा करता है.

II. एन्फ़ोर्समेंट एक्शन

Meta ने बोर्ड को पॉलिसी के उन कुछ ज़्यादा विस्तृत विकल्पों से जुड़े एन्फ़ोर्समेंट की संभावित चुनौतियों के बारे में बताया जो उसने बोर्ड को उपलब्ध कराए, जिनमें सीमित अपवाद एन्फ़ोर्स करने के लिए क्लासिफ़ायर की ट्रेनिंग की संभावित कठिनाइयाँ और शुरुआती मॉडरेशन करने वाले ह्यूमन रिव्यूअर्स के लिए जटिलता में बढ़ोतरी शामिल है. कंपनी ने नोट किया कि नफ़रत फैलाने वाली भाषा से जुड़ी मौजूदा पॉलिसी के तहत, सुरक्षित विशिष्टता वाले सभी समूहों से समान व्यवहार किया जाता है, जो ह्यूमन रिव्यूअर्स के लिए पॉलिसी को लागू करना आसान बनाता है और यह क्लासिफ़ायर की ट्रेनिंग को भी सुगम बनाता है.

महिलाओं पर हिंसा केस में, Meta ने बोर्ड को बताया कि “कंटेंट का शुरुआती रिव्यू करने वाले रिव्यूअर्स के लिए संदर्भ को सावधानीपूर्वक पढ़े बिना व्यवहार से जुड़े योग्य और अयोग्य कथनों के बीच अंतर कर पाना कठिन हो सकता है.” क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान केस में, Meta ने बोर्ड से कहा कि चूँकि बड़े पैमाने पर इरादे का पता लगाना कठिन होता है, इसलिए उसकी आंतरिक गाइडलाइन में रिव्यूअर्स से कहा गया है कि अगर यूज़र ने यह स्पष्ट नहीं किया हो कि उनका कथन योग्य है या अयोग्य, तो सुरक्षित विशिष्टताओं वाले ग्रुप के व्यवहार से जुड़े कथनों को सीधे हटा दिया जाए.

बोर्ड यह समझता है कि अगर पॉलिसी ज़्यादा विस्तृत है, तो उसके एन्फ़ोर्समेंट में चुनौतियाँ आती हैं, लेकिन उसने पाया कि Meta उन लोगों और अपराधों की लिस्ट बनाने पर विचार कर सकता है जिनके देश की पॉलिसी या लोगों से जुड़े होने की ज़्यादा संभावना है, न कि सामान्य लोगों से. उदाहरण के लिए, ऐसी लिस्ट में पुलिस, सेना, सैनिक, सरकार और अन्य सरकारी अधिकारी शामिल हो सकते हैं. फ़ोटो और वीडियो कंटेंट के संबंध में, Meta अपने ह्यूमन रिव्यूअर्स को कंटेंट में दिखाई देने वाले संकेतों पर विचार करने के लिए कह सकता है. उदाहरण के लिए, अगर कंटेंट में सेना की वर्दी पहने लोगों को दिखाते हुए अपराध के बारे में आम धारणाएँ व्यक्त की गई हैं, तो इससे यह पता चल सकता है कि यूज़र का इरादा देश की कार्रवाइयों या उससे जुड़े लोगों का संदर्भ देना है, न कि लोगों के आम धारणाएँ व्यक्त करना या अपराधियों से उनकी तुलना करना.

बोर्ड ने यह भी नोट किया कि कुछ अपराध आम तौर पर देशों की ओर से काम करने वाले लोगों और खतरनाक संगठनों द्वारा किए जाते हैं या वे उनसे जुड़े होते हैं और इसलिए उनसे यह सिग्नल मिल सकता है कि यूज़र का इरादा देश की ओर से काम करने वाले उन लोगों या खतरनाक संगठनों के कामों या पॉलिसीज़ की आलोचना करना है. बड़े पैमाने पर ऐसे कंटेंट पर एन्फ़ोर्समेंट करते समय, Meta, अत्याचार से जुड़े अपराधों या मानवाधिकार के गंभीर उल्लंघनों पर फ़ोकस कर सकता है, जैसे कि अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में बताए गए अपराध.

बड़े पैमाने पर फ़ाल्स पॉज़ीटिव और फ़ाल्स नेगेटिव को न्यूनतम करने से जुड़ी एन्फ़ोर्समेंट चुनौतियों को देखते हुए, बोर्ड ने यह सुझाव दिया कि Meta उन आंतरिक ऑडिट के परिणामों को सार्वजनिक रूप से शेयर करे जो उसने अपनी नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के एन्फ़ोर्समेंट में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम्स की परफ़ॉर्मेंस का आकलन करने के लिए करवाए हैं. कंपनी को परिणामों इस तरह उपलब्ध कराना चाहिए जो इन आकलनों को सभी भाषाओं और/या क्षेत्रों के अनुसार तुलना करने की सुविधा दे. यह सुझाव, ब्रेस्ट कैंसर के लक्षण और नग्नता फ़ैसले में बोर्ड के सुझाव सं. 5 और चिह्नित खतरनाक लोगों को “शहीद” कहना पॉलिसी एडवाइज़री टीम की राय के सुझाव सं. 6 के अनुसार है.

प्रस्तावित पॉलिसीज़ की जटिलताओं और बारीकियों पर विचार करते हुए, बोर्ड नीचे दिए गए सुझाव सं. 1 के अनुसार एन्फ़ोर्समेंट की एकरूपता सुनिश्चित करने के लिए ह्यूमन रिव्यूअर्स को पर्याप्त और विस्तृत मार्गदर्शन देने के महत्व को रेखांकित करता है.

5.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने पाया कि पहले केस में कंटेंट को हटाने का Meta का फ़ैसला, कंपनी की मानवाधिकारों से जुड़ी ज़िम्मेदारियों के अनुरूप नहीं था. बोर्ड के अधिकांश सदस्य मानते हैं कि दूसरे और तीसरे केस में कंटेंट को हटाना, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के अनुरूप था. कुछ सदस्य इससे असहमत हैं.

अभिव्यक्ति की आज़ादी (आर्टिकल 19 ICCPR)

ICCPR का अनुच्छेद 19, राजनैतिक, सार्वजनिक मामलों और मानवाधिकार की अभिव्यक्ति सहित अन्य अभिव्यक्तियों को व्यापक सुरक्षा देता है और इसमें सामाजिक या राजनैतिक चिंताओं से जुड़ी अभिव्यक्ति को ज़्यादा सुरक्षा मिलती है ( सामान्य कमेंट 34, पैरा. 11-12).

जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). इन आवश्यकताओं को अक्सर “तीन भागों वाला परीक्षण” कहा जाता है. बोर्ड इस फ़्रेमवर्क का उपयोग बिज़नेस और मानवाधिकारों से जुड़े संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांतों (UNGP) के अनुरूप Meta की मानवाधिकार ज़िम्मेदारियों को समझने के लिए करता है, जिसके लिए Meta ने खुद अपनी कॉर्पोरेट मानवाधिकार पॉलिसी में प्रतिबद्धता जताई है. बोर्ड ऐसा इसलिए करता है कि वह रिव्यू के लिए आए कंटेंट से जुड़े अलग-अलग फ़ैसले ले सके और यह समझ सके कि कंटेंट मॉडरेशन से जुड़ा Meta का व्यापक दृष्टिकोण क्या है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41).

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

वैधानिकता के सिद्धांत के लिए यह ज़रूरी है कि अभिव्यक्ति को सीमित करने वाले नियमों को एक्सेस किया जा सकता हो और वे स्पष्ट हों. उन्हें पर्याप्त सटीकता के साथ बनाया गया हो ताकि लोग अपने व्यवहार को उसके अनुसार बदल सकें (सामान्य कमेंट सं. 34, पैरा. 25). इसके अलावा, ये नियम “उन लोगों को अभिव्यक्ति की आज़ादी पर प्रतिबंध लगाने के निरंकुश अधिकार नहीं दे सकते, जिनके पास इन नियमों को लागू करने की ज़िम्मेदारी है” और नियमों में “उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना ज़रूरी है जिन पर इन्हें लागू करने की ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं,” (पूर्वोक्त). अभिव्यक्ति की आज़ादी पर संयुक्त राष्ट्र संघ के विशेष रैपर्टर ने कहा है कि ऑनलाइन अभिव्यक्ति की निगरानी करने के मामले में निजी संस्थानों पर लागू होने वाले नियम स्पष्ट और विशिष्ट होने चाहिए (A/HRC/38/35, पैरा. 46). Meta के प्लेटफ़ॉर्म का उपयोग करने वाले लोगों के पास इन नियमों की एक्सेस होनी चाहिए और उन्हें ये नियम समझ में आने चाहिए. साथ ही, उन नियमों के एन्फ़ोर्समेंट के बारे में कंटेंट रिव्यूअर्स को स्पष्ट मार्गदर्शन दिया जाना चाहिए.

बोर्ड ने पाया कि, जैसा कि इन तीनों केसों में लागू किया गया है, Meta की जो पॉलिसी “अपराधियों” से तुलना करके, उनसे जुड़ी आम धारणाएँ बताकर या उनके व्यवहार के बारे में अयोग्य कथन करके राष्ट्रीयता के आधार पर लोगों के लिए उपयोग की गई अमानवीय भाषा को प्रतिबंधित करती है, वह वैधानिकता के टेस्ट को पूरा करती है. तीनों पोस्ट में आपराधिक आरोपों के बारे में आम धारणाएँ व्यक्त की गई हैं, लेकिन बोर्ड मानता है कि पहले केस में इस बात का पर्याप्त संदर्भ मौजूद है कि यूज़र किसी देश की कार्रवाइयों या पॉलिसीज़ से जुड़ी आम धारणाओं की बात कर रहा था और इस कंटेंट को रीस्टोर किया जाना चाहिए. हालाँकि, दूसरे और तीसरे केस में कंटेंट, राष्ट्रीयता के आधार पर लोगों को टार्गेट करता है और इसलिए वह Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी का उल्लंघन करता है.

इसके अलावा, बोर्ट यह हाइलाइट करता है कि जब Meta, पॉलिसी में कोई बदलाव करता है, तो नए नियम स्पष्ट होने चाहिए और लोगों के लिए उपलब्ध होने चाहिए. इसलिए, बोर्ड ने Meta से कहा कि वह नफ़रत फैलाने वाली भाषा से जुड़ी अपनी पॉलिसी को अपडेट करके उन बदलावों को दर्शाए जो इस फ़ैसले के परिणामस्वरूप किए जाएँगे और जो पॉलिसी सुझावों को स्वीकार करने के परिणामस्वरूप होंगे.

महिलाओं पर हिंसा, क्निन कार्टून और क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान फ़ैसलों में बोर्ड ने पाया कि Meta की पॉलिसीज़ को सटीकता से लागू करने के लिए कंटेंट के रिव्यूअर्स के पास संदर्भ से जुड़े संकेतों पर विचार करने के पर्याप्त अवसर और रिसोर्स होने चाहिए. इसलिए, एक जैसा और प्रभावी एन्फ़ोर्समेंट सुनिश्चित करने के लिए, Meta को अपने ह्यूमन रिव्यूअर्स को नए नियमों के बारे में स्पष्ट मार्गदर्शन देना चाहिए, जो नीचे दिए गए सुझाव सं. 1 के अनुसार हो.

II. वैधानिक लक्ष्य

अभिव्यक्ति की आज़ादी पर किसी भी प्रतिबंध में ICCPR में सूचीबद्ध वैधानिक लक्ष्यों में से कम से कम किसी एक का अनुसरण भी किया जाना चाहिए, जिसमें "अन्य लोगों के अधिकार" की रक्षा शामिल है. “’अधिकार’ शब्द में मानवाधिकार भी शामिल हैं जैसा कि प्रतिज्ञापत्र और ज़्यादा सामान्य रूप से अंतरराष्ट्रीय मानवाधिकार कानून में बताया गया है,” ( सामान्य कमेंट सं. 34, पैरा. 28). अपने पुराने फ़ैसलों के क्रम में, बोर्ड ने पाया है कि Meta की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी, जिसका लक्ष्य समानता और खुद से भेदभाव न होने देने के लोगों के अधिकार की रक्षा करना है, का एक वैधानिक लक्ष्य है जिसे अंतरराष्ट्रीय मानवाधिकार कानून मानकों की मान्यता प्राप्त है (उदाहरण के लिए हमारा क्निन कार्टून फ़ैसला देखें).

III. आवश्यकता और आनुपातिकता

ICCPR के आर्टिकल 19(3) के तहत, आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की स्वतंत्रता पर लगाए जाने वाले प्रतिबंध “उनके सुरक्षात्मक कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों के साथ कम से कम हस्तक्षेप होना चाहिए, जिन अधिकारों से उन्हें सुरक्षात्मक कार्यों का लाभ मिल सकता है; उन हितों के अनुसार सही अनुपात में होने चाहिए, जिनकी सुरक्षा की जानी है” (सामान्य टिप्पणी सं. 34, पैरा. 34).

UNGP में बताया गया है कि बिज़नेस को अपनी गतिविधियों के प्रभावों का आकलन करने के लिए जारी मानवाधिकारों से जुड़े ज़रूरी कदम उठाने चाहिए (UNGP 17) और यह स्वीकार करना चाहिए कि विवाद से प्रभावित संदर्भों में मानवाधिकारों को होने वाले नुकसान का जोखिम बढ़ गया है (UNGP 7). मानवाधिकारों और पारदेशी निगमों और अन्य बिज़नेस एंटरप्राइज़ के मुद्दे पर काम करने वाले संयुक्त राष्ट्र के वर्क ग्रुप ने नोट किया कि बिज़नेस की तत्परता से जुड़ी ज़िम्मेदारियों में कुछ परिदृश्यों में ज़्यादा जटिलता और नुकसान का जोखिम दर्शाया जाना चाहिए ( A/75/212, पैरा. 41-49).

म्यांमार बॉट केस में, बोर्ड ने पाया कि “[Meta] की बढ़ी हुई ज़िम्मेदारियों के कारण कंटेंट को डिफ़ॉल्ट रूप से हटाया नहीं जाना चाहिए क्योंकि ऐसे नुकसानदेह कंटेंट को बने रहने देने और ऐसे कंटेंट को हटा देने जिससे नुकसान होने की थोड़ी संभावना है या बिल्कुल भी संभावना नहीं है, दोनों की स्थितियाँ खतरनाक हैं.” बोर्ड ने आगे नोट किया कि “म्यांमार में नफ़रत फैलाने वाली भाषा को लेकर Facebook की चिंता बिल्कुल सही थी, लेकिन उसे राजनीतिक आलोचना और अभिव्यक्ति को नहीं हटाने पर भी विशेष ध्यान देना चाहिए, जो उस केस में लोकतांत्रिक शासन का समर्थन करती है.”

खास तौर पर संकट और संघर्ष की स्थितियों में देशों की पॉलिसीज़, राजनीति और कार्रवाइयों की आलोचना का महत्व ज़्यादा है, लेकिन राष्ट्रीयता के आधार पर लोगों पर हमले इसी संदर्भ में खास तौर पर नुकसानदेह हो सकते हैं. राष्ट्रीयता के आधार पर लोगों पर आपराधिक आरोप लगाने से ऑफ़लाइन हिंसा हो सकती है जिसमें लोगों को निशाना बनाया जाता है और जिससे संघर्ष में शामिल देशों के बीच तनाव बढ़ सकता है. बोर्ड ने अधिकांश सदस्यों ने पाया कि पहले केस में कंटेंट को हटाने का Meta का फ़ैसला, आवश्यकता और आनुपातिकता के सिद्धांतों का अनुपालन नहीं करता, जबकि दूसरे और तीसरे केस में कंटेंट को हटाना आवश्यक और आनुपातिक था. बोर्ड के अधिकांश सदस्य मानते हैं कि दूसरे और तीसरे केस में इस बात के संदर्भात्मक संकेत मौजूद नहीं थे कि यूज़र का इरादा इज़राइल और भारत की सरकारों की आलोचना करना था, इसलिए दोनों केसों में कंटेंट को हटाना सही था. हालाँकि, अधिकांश सदस्य इस निष्कर्ष पर पहुँचे कि पहले केस में ऐसा संदर्भ मौजूद है, इसलिए उस केस में कंटेंट को हटाना न तो ज़रूरी था और न ही आनुपातिक और इसलिए पोस्ट को रीस्टोर करने की ज़रूरत है.

बोर्ड ने इस बात को दोहराया कि आवश्यकता और आनुपातिकता का आकलन करने में संदर्भ महत्वपूर्ण है (हमारा नवालनी के समर्थन में विरोध प्रदर्शन फ़ैसला देखें). बोर्ड, कंटेंट में संदर्भात्मक संकेतों को पहचानने, बाहरी संदर्भ पर विचार करने और पोस्ट किए गए कंटेंट के आसपास के “अभिव्यक्ति की आज़ादी के माहौल” के महत्व और चुनौतियों को समझता है, (हमारा क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान फ़ैसला भी देखें).

दूसरे केस के कंटेंट के संबंध में, बोर्ड के अधिकांश सदस्यों ने उन रिपोर्ट को नोट किया जिनमें संयुक्त राष्ट्र, सरकारी एजेंसियों और समर्थक समूहों द्वारा 7 अक्टूबर के बाद यहूदी विरोध और इस्लामोफ़ोबिया में बढ़ोतरी की चेतावनी दी गई है. उदाहरण के लिए, एंटी-डीफ़ेमेशन लीग ने रिपोर्ट किया कि अमेरिका में यहूदी विरोधी घटनाओं में 7 अक्टूबर के हमलों के बाद से 361% की बढ़ोतरी हुई है. पूरे यूरोप के देशों ने नफ़रत से जुड़े अपराधों, नफ़रत फैलाने वाली भाषा और नागरिक स्वतंत्रताओं को धमकियों में बढ़ोतरी के बारे में चेताया है जिनका निशाना यहूदी और मुस्लिम कम्युनिटी हैं. शुरुआत में Meta की पॉलिसी को एन्फ़ोर्स करने में आने वाली चुनौतियों का विश्लेषण करते समय, बोर्ड ने पहले इस बात पर ज़ोर दिया था कि अमानवीय बताने वाले ऐसे भाषण जिनमें स्पष्ट या अस्पष्ट रूप से भेदभावपूर्ण भाषा होती है, अत्याचारों में योगदान दे सकते हैं (क्निन कार्टून फ़ैसला देखें). नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड की व्याख्या करते हुए, बोर्ड ने यह भी नोट किया कि भले ही कंटेंट के कुछ खास भागों को अलग-अलग करके देखे जाने पर भी वे बढ़े हुए जातीय तनाव और हिंसा के समय में हिंसा या भेदभाव को सीधे भड़काने वाले नज़र न आएँ, लेकिन ऐसे कंटेंट की मात्रा भी स्थिति को बिगाड़ सकती है. कम से कम उन परिस्थितियों में Meta जैसी सोशल मीडिया कंपनी, यह सुनिश्चित करने के लिए कि उसके प्लेटफ़ॉर्म का उपयोग हिंसा भड़काने वाली नफ़रत फैलाने और उसे बढ़ावा देने में न किया जाए, ऐसे कदम उठाने की हकदार है जो सरकारों के पास उपलब्ध नहीं होते. किसी देश, उसकी किसी संस्था या पॉलिसी की आलोचना दर्शाने वाला असंदिग्ध संदर्भ मौजूद न होने के कारण बोर्ड यह मानता है कि दूसरे केस में राष्ट्रीयता के आधार पर इज़राइल के सभी लोगों के खिलाफ़ अमानवीय भाषा का उपयोग किया गया है. यहूदी विरोधी घटनाओं, जिनमें यहूदी और इज़राइली लोगों पर उनकी पहचान के आदार पर हमले शामिल हैं, में बढ़ोतरी की रिपोर्ट के संदर्भ में, ऐसे कंटेंट से तात्कालिक ऑफ़लाइन नुकसान होने की आशंका होती है.

इसी तरह से, बोर्ड के अधिकांश सदस्यों ने भारत और पाकिस्तान के बीच जारी तनाव और भारत में हिंदुओं और मुसलमानों के बीच सांप्रदायिक हिंसा की घटनाओं की रिपोर्ट को नोट किया (भारत के ओडिशा राज्य में सांप्रदायिक दंगे फ़ैसला देखें). इसलिए, बोर्ड के अधिकांश सदस्य यह मानते हैं कि तीसरे केस में कंटेंट को हटाना आवश्यक और आनुपातिक था क्योंकि उसमें भारत की सरकार की आलोचना के बजाय भारत के लोगों को टार्गेट किया गया था, जिससे दुश्मनी और हिंसा का माहौल बनता है.

बोर्ड के कुछ सदस्य दूसरी और तीसरी पोस्ट को हटाने से असहमत थे. अभिव्यक्ति की आज़ादी के वैश्विक सिद्धांतों (जो ICCPR के अनुच्छेद 19 में बताए गए हैं) के अनुसार यह ज़रूरी है कि नफ़रत फैलाने वाली भाषा पर प्रतिबंध सहित भाषा पर लागू की जाने वाली सीमाएँ आवश्यकता और आनुपातिकता के सिद्धांतों की पूर्ति करें, जो इस बात के आकलन की ज़रूरत पर ज़ोर देते हैं कि क्या पोस्ट से निकट समय में नुकसान होने की आशंका है और क्या ऐसा होने ही वाला है. ये कुछ सदस्य इस बात से सहमत नहीं हैं कि इन केसों में संभावित नुकसानों का समाधान करने के लिए कंटेंट को हटाना ही Meta के पास उपलब्ध सबसे कम रुकावट डालने वाला समाधान है क्योंकि ऐसे कई डिजिटल टूल उपलब्ध हैं जिन पर विचार किया जा सकता है (जैसे पोस्ट को शेयर किए जाने से रोकना, डिमोशन, लेबल, तय समय के लिए ब्लॉक करना आदि). दूसरे साधनों को अपनाने में Meta की विफलता, आवश्यकता और आनुपातिकता के सिद्धांत की पूर्ति नहीं करती. विशेष रैपर्टर में यह कहा गया है कि “जिस प्रकार अमेरिका को यह मू्ल्यांकन करना चाहिए कि क्या अभिव्यक्ति पर प्रतिबंध लगाना सबसे कम रुकावट वाला तरीका है, उसी तरह कंपनियों को भी इस तरह का मू्ल्यांकन करना चाहिए. और, यह मू्ल्यांकन करते समय, आवश्यकता और आनुपातिकता के सार्वजनिक प्रदर्शन का भार कंपनियों को वहन करना चाहिए,” ( A/74/486, पैरा. 51) [ज़ोर दिया गया]. कुछ सदस्यों के अनुसार, Meta सार्वजनिक रूप से यह दिखाने में विफल रहा कि कंटेंट को हटाना क्यों सबसे कम रुकावट डालने वाला उपाय है और बोर्ड के अधिकांश सदस्य इस बारे में कोई ठोस कारण नहीं बता पाए कि दूसरे और तीसरे केसों में आवश्यकता और आनुपातिकता के सिद्धांत की पूर्ति किस तरह हुई है.

बोर्ड के अधिकांश सदस्यों ने दूसरे और तीसरे केसों में उल्लंघन करने वाली दो पोस्ट को हटाने के फ़ैसले को कायम रखा है, लेकिन उन्होंने अभिव्यक्ति की आज़ादी को सीमित करते समय यूज़र को शिक्षित करने और यूज़र के सशक्तिकरण पर ज़ोर दिया. बोर्ड ने नवालनी के समर्थन में विरोध प्रदर्शन फ़ैसले में सुझाव सं. 6 को नोट किया जिसके जवाब में Meta ने ऐसे तरीके तलाशे थे जिनके द्वारा कंपनी की ओर से एन्फ़ोर्समेंट की कार्रवाई की जाने से पहले, कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों के मामले में यूज़र्स को सूचित किया जा सके. कंपनी ने बोर्ड को बताया कि जब कंपनी के ऑटोमेटेड सिस्टम ज़्यादा विश्वास के साथ ऐसे कंटेंट में संभावित उल्लंघन का पता लगाते हैं जिसे यूज़र पोस्ट करने वाला है, तो Meta की ओर से यूज़र को यह जानकारी दी जा सकती है कि उनकी पोस्ट से पॉलिसी का उल्लंघन हो सकता है, ताकि यूज़र, Meta की पॉलिसी को बेहतर तरीके से समझे और फिर तय करे कि क्या कंटेंट को डिलीट करके फिर से ऐसा कंटेंट पोस्ट किए जाए जिसमें उल्लंघन करने वाली भाषा न हो. Meta ने यह जोड़ा कि 10 जुलाई, 2023 से 1 अक्टूबर, 2023 के बीच की 12 सप्ताह की अवधि के दौरान, सभी तरह के नोटिफ़िकेशन के ज़रिए कंपनी ने 10 करोड़ से ज़्यादा कंटेंट के लिए यूज़र्स को सूचित किया जिनमें से 1.7 करोड़ से ज़्यादा नोटिफ़िकेशन धमकी और उत्पीड़न से जुड़े कम्युनिटी स्टैंडर्ड के एन्फ़ोर्समेंट से संबंधित थे. सभी नोटिफ़िकेशन के मामले में, यूज़र्स ने 20% से ज़्यादा स्थितियों में अपनी पोस्ट को डिलीट करना चुना. बोर्ड ने नोट किया कि सभी जानकारी को यूज़र की प्राइवेसी के लिए मिलाया जाता है और उसमें से यूज़र की पहचान हटा दी जाती है और यह कि सभी मीट्रिक अनुमानित हैं, जो किसी खास समय पर उपलब्ध सबसे अच्छी मौजूदा जानकारी पर आधारित हैं. बोर्ड ऐसे उपायों के क्रियान्वयन को यूज़र की शिक्षा और सशक्तिकरण की दिशा में एक महत्वपूर्ण कदम मानता है और इससे यूज़र्स को Meta के प्लेटफ़ॉर्म पर अपने अनुभवों पर अतिरिक्त कंट्रोल मिलता है.

6. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पहले केस में कंटेंट को हटाने के Meta के फ़ैसले को पलट दिया है और पोस्ट को रीस्टोर के निर्देश दिए हैं. वहीं दूसरे और तीसरे केस में बोर्ड ने कंटेंट को हटाने के Meta के फ़ैसलों को कायम रखा है.

7. सुझाव

कंटेंट पॉलिसी

1. Meta को नफ़रत फैलाने वाली भाषा से जुड़े अपने कम्युनिटी स्टैंडर्ड में बदलाव करके उसमें नीचे दिया गया सेक्शन जोड़कर उसे “नया” से चिह्नित करना चाहिए. नफ़रत फैलाने वाली भाषा से जुड़े संशोधित किए गए कम्युनिटी स्टैंडर्ड में तब नीचे दी गई या उस प्रभाव को व्यक्त करने वाली अन्य काफ़ी हद तक मिलती-जुलती भाषा होगी:

“यह पोस्ट न करें

टियर 1

लिखित या विज़ुअल तौर पर, उपरोक्त सुरक्षित विशिष्टताओं या इमिग्रेशन स्टेटस के आधार पर किसी व्यक्ति या लोगों के समूह को निशाना बनाने वाला कंटेंट (उन सभी समूहों को छोड़कर जिन्हें गैर-संरक्षित समूह माना जाता है और जिनका वर्णन हिंसक अपराध या यौन अपराध करने वाले या समूह के आधे से कम लोगों का प्रतिनिधित्व करने वाले समूहों के रूप में किया गया हो) जिसमें उनकी अपराधियों से तुलना या उनसे जुड़ी आम धारणा के रूप में अमानवीय भाषा हो:

• यौन शोषणकर्ता
• हिंसक अपराधी
• अन्य अपराधी

[नया] उन स्थितियों को छोड़कर जिनमें कार्यकर्ता (जैसे पुलिस, सेना, सैनिक, सरकार, सरकारी अधिकारी) और/या अपराध (जैसे अत्याचार से जुड़े अपराध या मानवाधिकार के गंभीर उल्लंघन, जैसे वे अपराध जिन्हें अंतरराष्ट्रीय अपराधी न्यायालय के रोम कानून में निर्दिष्ट किया गया है) ऐसा संदर्भ देता है कि उसका टार्गेट कोई देश है, न कि उन्होंने राष्ट्रीयता के आधार पर लोगों को टार्गेट किया है.”

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड की लोगों को दिखाई देने वाली भाषा को अपडेट करेगा और अपडेट किए गए खास मार्गदर्शन को अपने रिव्यूअर्स से शेयर करेगा.

एन्फ़ोर्समेंट

2. Meta के एन्फ़ोर्समेंट के संबंध में पारदर्शिता को बेहतर बनाने के लिए, Meta को लोगों के साथ उस आंतरिक ऑडिट के परिणाम शेयर करना चाहिए जो उसने अपनी नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी को एन्फ़ोर्स करने में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए किया है. कंपनी को परिणामों इस तरह उपलब्ध कराना चाहिए जो इन आकलनों को सभी भाषाओं और/या क्षेत्रों के अनुसार तुलना करने की सुविधा दे.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta अपने ट्रांसपेरेंसी सेंटर और कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में सुझाव में बताए गए सटीकता आकलन परिणाम शामिल करेगा.

*प्रक्रिया संबंधी नोट:

• ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले, सभी सदस्यों की राय दर्शाएँ.
• अपने चार्टर के तहत, ओवरसाइट बोर्ड उन यूज़र्स की अपील रिव्यू कर सकता है, जिनका कंटेंट Meta ने हटा दिया था और उन यूज़र्स की अपील जिन्होंने उस कंटेंट की रिपोर्ट की थी जिसे Meta ने बनाए रखा. साथ ही, बोर्ड Meta की ओर से रेफ़र किए गए फ़ैसलों का रिव्यू कर सकता है (चार्टर आर्टिकल 2, सेक्शन 1). बोर्ड के पास Meta के कंटेंट से जुड़े फ़ैसलों को कायम रखने या उन्हें बदलने का बाध्यकारी अधिकार है (चार्टर आर्टिकल 3, सेक्शन 5; चार्टर आर्टिकल 4). बोर्ड ऐसे गैर-बाध्यकारी सुझाव दे सकता है, जिनका जवाब देना Meta के लिए ज़रूरी है (चार्टर आर्टिकल 3, सेक्शन 4; आर्टिकल 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.
• इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड को Duco Advisers की सहायता मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा तथा टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी रिसर्च संबंधी सेवाएँ दीं, जो ऑनलाइन नुकसान को कम करने के लिए जोखिम परामर्श और खतरे की आशंका से जुड़ी सेवाएँ देने वाला एक डिजिटल इनवेस्टिगेशन ग्रुप है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 50 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें