वॉमपम बेल्ट

केस सारांश

नोट: 28 अक्टूबर 2021 को Facebook ने घोषणा की थी कि वह अपनी कंपनी का नाम बदलकर Meta कर रहा है. इस टेक्स्ट में, पूरी कंपनी को Meta कहा गया है और Facebook नाम का उपयोग अब भी Facebook ऐप से जुड़े प्रोडक्ट और पॉलिसी के लिए किया गया है.

ओवरसाइट बोर्ड ने उत्तर अमेरिका के एक मूल निवासी कलाकार की Facebook पोस्ट हटाने के Meta के मूल फ़ैसले को बदल दिया है, जिसे Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड के तहत हटाया गया था. बोर्ड ने पाया कि यह कंटेंट नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के अपवाद में आता है, क्योंकि इसका उद्देश्य उत्तर अमेरिका के मूल निवासियों के विरुद्ध हुए ऐतिहासिक अपराधों के बारे में जागरूकता बढ़ाना है.

केस की जानकारी

अगस्त 2021 में एक Facebook यूज़र ने एक वॉमपम बेल्ट की फ़ोटो पोस्ट की, साथ में अंग्रेज़ी में लिखे टेक्स्ट के ज़रिए उसका वर्णन भी किया. वॉमपम बेल्ट उत्तर अमेरिका के मूल निवासियों की कला का नमूना है, जिसमें सीपियों को जोड़कर चित्र बनाए जाते हैं, जिनसे कहानियाँ कही जाती हैं या समझौते आदि किए जाते हैं. इस बेल्ट पर कई तरह के चित्र हैं, जिनके बारे में यूज़र का कहना है कि वे “कैमलूप्स की कहानी” पर आधारित हैं, जो कनाडा के ब्रिटिश कोलंबिया में मूल निवासी बच्चों के पूर्व आवासीय स्कूल में मई 2021 में मिली बिना चिह्नों वाली कब्रों के बारे में बताती है.

टेक्स्ट में कलाकृति का टाइटल है, “Kill the Indian/ Save the Man,” (इंडियन को मारो/मनुष्य को बचाओ) और इसमें यूज़र ने अपने-आपको क्रिएटर बताया है. यूज़र ने बेल्ट पर दर्शाए गए कई चित्रों का वर्णन किया है: “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.” (मासूमियत छीनना, रक्षक के रूप में भक्षक, आवासीय स्कूल / प्रताड़ना कैंप, खोज की प्रतीक्षा में, हमारे बच्चों को घर लाएँ) उस पोस्ट में, यूज़र ने अपनी कलाकृति का मतलब समझाया, साथ ही वॉमपम बेल्ट का इतिहास और शिक्षा के माध्यम के रूप में उनका उद्दे्श्य भी बताया. यूज़र ने कहा कि इस बेल्ट को बनाना आसान नहीं था और कैमलूप्स में जो कुछ हुआ, उसकी कहानी बताना काफ़ी भावुक कर देने वाला था. उन्होंने कलाकृति की वजह से कैमलूप्स की यातना से गुज़रे लोगों को होने वाले दर्द के लिए माफ़ी माँगी और बताया कि उनका “एकमात्र उद्देश्य इस भयानक कहानी के बारे में जागरूकता बढ़ाना है.”

Meta के ऑटोमेटेड सिस्टम ने कंटेंट को पोस्ट किए जाने के एक दिन बाद उसे संभावित तौर पर Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला पाया. एक ह्यूमन रिव्यूअर ने इस कंटेंट को उल्लंघन करने वाला माना और उसी दिन इसे हटा दिया. यूज़र ने Meta के फ़ैसले के विरुद्ध अपील की, जिसके कारण एक और ह्यूमन रिव्यू करवाया गया तथा इसमें भी कंटेंट को उल्लंघन करने वाला माना गया. जब इस कंटेंट को हटाया जा रहा था, तब इसे 4,000 से ज़्यादा बार देखा जा चुका था और 50 से ज़्यादा बार शेयर किया जा चुका था. किसी भी यूज़र ने इस कंटेंट की रिपोर्ट नहीं की.

बोर्ड द्वारा इस केस को चुने जाने की वजह से Meta ने कंटेंट को हटाने के अपने फ़ैसले को “एन्फ़ोर्समेंट से जुड़ी गलती” माना और 27 अगस्त को कंटेंट रीस्टोर कर दिया. जब तक कि बोर्ड ने Meta से नहीं पूछा कि Meta ने यूज़र को क्या मैसेज भेजा था, उसके दो दिन बाद तक, मतलब 30 सितंबर तक Meta ने उस यूज़र को इस पोस्ट को रीस्टोर करने की सूचना नहीं दी. Meta ने बताया कि मैसेज भेजने में देरी मानवीय त्रुटि के कारण हुई थी.

मुख्य निष्कर्ष

Meta ने सहमति दी कि इस कंटेंट को हटाने का मूल फ़ैसला Facebook के कम्युनिटी स्टैंडर्ड के विरुद्ध था और यह "एन्फ़ोर्समेंट से जुड़ी गलती” थी. बोर्ड ने पाया कि यह कंटेंट साफ़ तौर पर ‘विरोध की भाषा’ है, जहाँ नफ़रत फैलाने वाली भाषा का उद्देश्य दवाब और भेदभाव का विरोध करना है.

Facebook की नफ़रत फैलाने वाली भाषा के परिचय में यह बताया गया है कि यूज़र का इरादा स्पष्ट होने पर विरोध की भाषा की परमिशन होती है. पोस्ट के कंटेंट से यह बात साफ़ है कि यह नफ़रत फैलाने वाली भाषा नहीं है. कलाकृति में कैमलूप्स में जो कुछ हुआ, उसकी कहानी बताई गई है और साथ में दिया गया वर्णन इसके महत्व के बारे में बताता है. हालाँकि ‘Kill the Indian’ (इंडियन को मारो) वाक्यांश अपने-आप में नफ़रत फैलाने वाली भाषा माना जा सकता है, लेकिन इस संदर्भ में यह वाक्यांश नफ़रत और भेदभाव के किन्हीं कृत्यों की ओर ध्यान आकर्षित करता है और उसकी निंदा करता है.

बोर्ड ने किसी नाज़ी अधिकारी के उद्धरण वाले अपने केस 2020-005-FB-UA के फ़ैसले का संदर्भ दिया. उस केस में भी कुछ इसी तरह के निष्कर्ष सामने आए थे कि किस तरह से संकेतों के ज़रिए इरादे का पता लगाया जा सकता है, जैस कि किसी उद्धरण का कंटेंट और मतलब, समय, जहाँ से पोस्ट की गई वह देश और पोस्ट को मिले रिएक्शन और कमेंट के मतलब.

इस केस में, बोर्ड ने पाया कि यहाँ यूज़र के लिए यह ज़रूरी नहीं था कि वह अपने इरादे के बारे में साफ़ तौर पर बताए कि उनकी पोस्ट को विरोध की भाषा वाली और जागरूकता बढ़ाने वाली पोस्ट माना जाए. बोर्ड ने मॉडरेटर के लिए आंतरिक “ज्ञात सवालों” पर ध्यान दिया कि इरादे के बारे में स्पष्ट तौर पर बताने से भी ऐसी पोस्ट का मतलब नहीं बदलता, जिसमें नफ़रत फैलाने वाली भाषा होती है. मॉडरेटर को इरादे का आकलन करने के लिए, कंटेंट का मतलब समझना चाहिए और केवल स्पष्ट कथनों पर ही निर्भर नहीं रहना चाहिए.

दो अलग-अलग मॉडरेटर ने यह निष्कर्ष निकाला कि पोस्ट में नफ़रत फैलाने वाली भाषा थी. Meta इस बात के पीछे का साफ़ कारण नहीं बता सका कि यह गलती दो बार क्यों हुई.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के Meta के मूल फ़ैसले को बदल दिया है.

पॉलिसी से जुड़े सुझाव देते हुए बोर्ड ने कहा कि Meta:

• यूज़र को, यूज़र जिस कंटेंट पर अपील कर रहा है, उस पर लिए जाने वाले कंपनी के किसी भी एक्शन का समय से और सही नोटिस दे. जहाँ भी लागू हो, इस तरह के एन्फ़ोर्समेंट की गलती वाले मामले में भी, यूज़र को दिए गए नोटिस में यह बताया जाना चाहिए कि वह एक्शन ओवरसाइट बोर्ड की रिव्यू प्रक्रिया के कारण लिया गया.
• स्टडी करें कि जब कंटेंट मॉडरेटर को यह जानकारी होती है कि वे उस कंटेंट का दूसरा रिव्यू कर रहे हैं और उन्हें पता हो कि शुरुआती फ़ैसला विवादित है, तब रिव्यूअर की सटीकता कितनी होती है.
• नफ़रत फैलाने वाली भाषा की पॉलिसी के अपवादों को ध्यान में रखकर रिव्यूअर की सटीकता का आकलन करे, जिनमें कलाकार की अभिव्यक्ति और मानवीय अधिकारों के उल्लंघन की अभिव्यक्ति शामिल हो (जैसे, निंदा, जागरूकता बढ़ाना, खुद के संदर्भ में उपयोग करना, सशक्तिकरण के लिए उपयोग). इस आकलन में ख़ासतौर पर यह जाँच होनी चाहिए कि रिव्यूअर की लोकेशन किस तरह से मॉडरेटर्स की, सटीकता के साथ, नफ़रत फैलाने वाली भाषा और उसी या किसी दूसरे क्षेत्र की विरोध प्रदर्शन वाली भाषा का आकलन करने की क्षमता को प्रभावित करती है. Meta को बोर्ड के साथ इस आकलन के परिणाम शेयर करना चाहिए, जिनके साथ यह भी बताया जाए एन्फ़ोर्समेंट ऑपरेशन के सुधार में और पॉलिसी के विकास में ये परिणाम किस तरह से उपयोगी होंगे और क्या Meta का नियमित रूप से इन अपवादों को लेकर रिव्यूअर की सटीकता का आकलन करने का कोई प्लान है. बोर्ड ने Meta को इस सुझाव का अनुपालन दर्शाने के लिए अपने तिमाही पारदर्शिता अपडेट में इन आकलनों के परिणामों के सारांश सार्वजनिक रूप से शेयर करने के लिए भी कहा.

*केस के सारांश से केस का ओवरव्यू पता चलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने उत्तर अमेरिका के एक मूल निवासी कलाकार की पोस्ट हटाने के Meta के मूल फ़ैसले को बदल दिया है, जिसमें उसके टाइटल के साथ किसी ऐतिहासिक घटना से जुड़ी नफ़रत फैलाने वाली भाषा के उद्धरण वाली उनकी कलाकृति की फ़ोटो थी. Meta ने सहमति दी कि पोस्ट Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड के अपवादों के अंतर्गत आती है और यह साफ़ तौर पर उत्तर अमेरिका के मूल निवासियों के प्रति ऐतिहासिक अपराधों के बारे में जागरूकता बढ़ाने के लिए है.

2. केस का विवरण

शुरुआती अगस्त 2021 में एक Facebook यूज़र ने एक वॉमपम बेल्ट की फ़ोटो पोस्ट की, साथ में अंग्रेज़ी में लिखे टेक्स्ट के ज़रिए उसका वर्णन भी किया. वॉमपम बेल्ट उत्तर अमेरिका के मूल निवासियों की कला का नमूना है, जिसमें सीपियों को जोड़कर चित्र बनाए जाते हैं, जिनसे कहानियाँ कही जाती हैं या समझौते आदि किए जाते हैं. इस बेल्ट पर कई तरह के चित्र हैं, जिनके बारे में यूज़र का कहना है कि वे “कैमलूप्स की कहानी” पर आधारित हैं, जो कनाडा के ब्रिटिश कोलंबिया में मूल निवासी बच्चों के पूर्व आवासीय स्कूल में मई 2021 में मिली बिना चिह्नों वाली कब्रों के बारे में बताती है.

टेक्स्ट में कलाकृति का टाइटल है, “Kill the Indian/ Save the Man,” (इंडियन को मारो/मनुष्य को बचाओ) और इसमें यूज़र ने अपने-आपको क्रिएटर बताया है. यूज़र ने फिर कुछ वाक्यांशों की लिस्ट भी दी जो बेल्ट में दर्शाए गए चित्रों से संबंधित थे: “Theft of the Innocent, Evil Posing as Saviours, Residential School / Concentration Camp, Waiting for Discovery, Bring Our Children Home.” (मासूमियत छीनना, रक्षक के रूप में भक्षक, आवासीय स्कूल / प्रताड़ना कैंप, खोज की प्रतीक्षा में, हमारे बच्चों को घर लाएँ) उस पोस्ट में, यूज़र ने अपनी कलाकृति का मतलब समझाया, साथ ही वॉमपम बेल्ट का इतिहास और शिक्षा के माध्यम के रूप में उनका उद्दे्श्य भी बताया. यूज़र ने कहा कि इस बेल्ट को बनाना आसान नहीं था और कैमलूप्स में जो कुछ हुआ, उसकी कहानी बताना भावुक कर देने वाला था. फिर उन्होंने कहा कि कहानी को लोगों के सामने लाने से फिर से नहीं रोका जा सकता और हमें उम्मीद है कि बेल्ट से ऐसा करने में मदद मिलेगी. यूज़र ने अपनी पोस्ट आवासीय स्कूल की त्रासदी से गुज़रे उन लोगों से माफ़ी माँगते हुए समाप्त की, जिन्हें कलाकृति की वजह से दर्द हुआ हो और कहा कि “उनका एकमात्र उद्देश्य इस भयानक कहानी के बारे में जागरूकता बढ़ाना है.”

Meta के ऑटोमेटेड सिस्टम ने इस कंटेंट को पोस्ट किए जाने के एक दिन बाद इसे संभावित तौर पर Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला पाया. एक ह्यूमन रिव्यूअर ने इस कंटेंट को उल्लंघन करने वाला माना और उसी दिन इसे हटा दिया. यूज़र ने Meta के फ़ैसले के विरुद्ध अपील की, जिसके कारण एक और ह्यूमन रिव्यू करवाया गया तथा इसमें भी कंटेंट को उल्लंघन करने वाला माना गया. जब इस कंटेंट को हटाया जा रहा था, तब इसे 4,000 से ज़्यादा बार देखा जा चुका था और 50 से ज़्यादा बार शेयर किया जा चुका था. किसी भी यूज़र ने इस कंटेंट की रिपोर्ट नहीं की. बोर्ड द्वारा इस केस को चुने जाने की वजह से Meta ने कंटेंट को हटाने के अपने फ़ैसले को “एन्फ़ोर्समेंट से जुड़ी गलती” माना और 27 अगस्त को कंटेंट रीस्टोर कर दिया. जब तक कि बोर्ड ने Meta से नहीं पूछा कि Meta ने यूज़र को क्या मैसेज भेजा था, उसके दो दिन बाद तक, मतलब 30 सितंबर तक Meta ने उस यूज़र को इस पोस्ट को रीस्टोर करने की सूचना नहीं दी. Meta ने बताया कि मैसेज भेजने में देरी मानवीय त्रुटि के कारण हुई थी. उसके मैसेज से यूज़र को यह भी पता नहीं चला कि उनका कंटेंट बोर्ड को की गई अपील और बोर्ड द्वारा इस केस को चुने जाने के कारण रीस्टोर किया गया.

असोसिएशन ऑन अमेरिकन इंडियन अफ़ेयर के एक पब्लिक कमेंट (पब्लिक कमेंट-10208) में उल्लेख है कि कलाकृति के टाइटल में उपयोग किया गया उद्धरण रिचर्ड हैरी प्रैट का है, जो कि संयुक्त राज्य अमेरिका के पहले फ़ेडरल इंडियन बोर्डिंग स्कूल को स्थापित करने वाले एक आर्मी अफ़सर थे. वाक्यांश में बोर्डिंग स्कूल बनाने के पीछे की पॉलिसी का सारांश है, जिसके द्वारा मूल निवासियों को ज़बरदस्ती ‘सभ्य’ बनाने और ‘इंडियन संस्कृति की सभी निशानियों को मिटाने’ की कोशिश की गई. कनाडा में भी ऐसी ही पॉलिसी अपनाई गई थीं और ट्रूथ एंड रीकंसिलिएशन कमिशन ऑफ़ कनाडा द्वारा पाया गया इनकी वजह से ही सांस्कृतिक नरसंहार हुआ.

“कैमलूप्स” में जो हुआ, उसके बारे में यूज़र का संदर्भ, कैमलूप्स इंडियन रेसिडेंशियल स्कूल के संदर्भ में है, जो कि कनाडा के ब्रिटिश कोलंबिया में फ़र्स्ट नेशन चिल्ड्रन के लिए एक बोर्डिंग स्कूल रहा है. मई 2021 में Tk’emlúps te Secwépemc First Nation के लीडरों ने कैमलूप्स में बिना चिह्नों वाली कब्रों की खोज की घोषणा की. अधिकारियों ने इस क्षेत्र में 200 संभावित कब्रगाह कंफ़र्म कीं.

कनाडा की सरकार का अनुमान है कि कम से कम 150,000 मूल निवासी बच्चे, 1997 में आखिरी स्कूल बंद होने के पहले रेसिडेंशियल स्कूल सिस्टम से गुज़रे. मूल निवासी बच्चों को अक्सर ही ज़बरदस्ती उनके परिवारों से अलग कर दिया जाता था और अपनी मूल संस्कृति के किसी भी पहलू को सामने लाने से प्रतिबंधित किया जाता था. स्कूलों में बहुत रूखा व्यवहार और दुर्व्यवहारपूर्ण शारीरिक दंड दिया जाता था और स्टाफ़ स्टूडेंट के प्रति यौन उत्पीड़न और गंभीर हिंसा में लिप्त था या इन गतिविधियों को रोकता नहीं था. स्टूडेंट में पोषण की कमी थी, स्कूलों को न तो ठीक से गर्म और न ही साफ़ रखा जाता था और कई बच्चे न के बराबर चिकित्सीय देखरेख मिलने के कारण तपेदिक और अन्य रोगों के चलते मर गए. दी ट्रूथ एंड रीकंसिलिएशन कमीशन ने निष्कर्ष निकाला कि कम से कम 4,100 स्टूडेंट स्कूल के दौरान मर गए, कई के साथ दुर्व्यवहार किया गया या उनकी उपेक्षा की गई और अन्य कई स्टूडेंट रोगों या दुर्घटनाओं के शिकार हो गए.

3. प्राधिकार और दायरा

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसका कंटेंट हटा दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 3, सेक्शन 1). बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है और उसके फ़ैसले कंपनी पर बाध्यकारी होते हैं (चार्टर अनुच्छेद 4; अनुच्छेद 3, सेक्शन 5). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाहों के साथ पॉलिसी से जुड़े सुझाव हो सकते हैं, जिन पर Meta को जवाब देना होता है (चार्टर अनुच्छेद 4 अनुच्छेद 3, सेक्शन 4).

जब बोर्ड इस तरह के केस चुनता है, जहाँ Meta बाद में मानता है कि उससे गलती हुई, तो बोर्ड मूल फ़ैसले का रिव्यू करता है ताकि यह समझा जा सके कि गलती क्यों हुई और चीज़ों को बारीकी से देखे या सुझाव दे सके जिससे कि गलती कम हों और प्रोसेस बेहतर बने. ब्रेस्ट कैंसर के लक्षण और नग्नता ( 2020-004-IG-UA, सेक्शन 3) में बोर्ड के फ़ैसले के बाद, बोर्ड ने एक प्रोसेस अपनाई, जिससे Meta केस को पैनल को असाइन किए जाने से पहले किसी भी एन्फ़ोर्समेंट की गलती का पता लगा सके (देखें: पारदर्शिता रिपोर्ट, पेज 30). इस तरह के केस में यह उपयोगी होता है कि Meta अपने संशोधित फ़ैसले के तर्कों पर ध्यान दें और बताए कि यूज़र के कंटेंट के साथ क्या होना चाहिए था , साथ ही बोर्ड को इसे कंपनी के “अंतिम” फ़ैसले के रूप में मानने के लिए आमंत्रित करे. इसके अलावा यह समझाए कि यूज़र ने जिस फ़ैसले के विरुद्ध अपील की थी, वह गलत क्यों था. बोर्ड Meta को सुझाव देता है कि वह गलती होने के कारण सहित यह बताए कि कंपनी की आंतरिक प्रक्रिया उसका पता क्यों नहीं लगा पाई या उसे सही क्यों नहीं कर पाई. बोर्ड अपना रिव्यू उस फ़ैसले पर आधारित रखेगा, जिसके विरुद्ध यूज़र ने अपील की होगी.

4. प्रासंगिक स्टैंडर्ड

ओवरसाइट बोर्ड ने इन स्टैंडर्ड पर विचार करते हुए अपना फ़ैसला दिया है:

I.Facebook कम्युनिटी स्टैंडर्ड:

Facebook के कम्युनिटी स्टैंडर्ड नफ़रत फैलाने वाली भाषा को “लोगों की सुरक्षित विशिष्टताओं – नस्ल, जाति, मूल राष्ट्रीयता, धार्मिक मान्यता, यौन रुचि, सामाजिक पहचान, लिंग या लैंगिक पहचान और गंभीर रोग या अक्षमता के आधार पर उन पर सीधे हमले” के रूप में परिभाषित करते हैं. “श्रेणी 1” के तहत, प्रतिबंधित कंटेंट में “लिखित या विजुअल रूप में हिंसात्मक भाषा या समर्थन” शामिल होता है. कम्युनिटी स्टैंडर्ड में गैर उल्लंघनकारी कंटेंट को अलग रखने के अपवाद शामिल हैं:

हमें पता है कि लोग कभी-कभी किसी अन्य व्यक्ति की नफ़रत फैलाने वाली भाषा की निंदा करने या उसके बारे में जागरूकता बढ़ाने के लिए ऐसा कंटेंट शेयर करते हैं, जिसमें वह भाषा शामिल होती है. अन्य मामलों में हमारे स्टैंडर्ड का उल्लंघन कर सकने वाली भाषा का उपयोग ख़ुद के रेफ़रेंस में या सशक्तिकरण के उद्देश्य से भी किया जा सकता है. हमारी पॉलिसी इस तरह की भाषा को परमिशन देने को ध्यान में रखते हुए ही तैयार की गई हैं, लेकिन यह ज़रूरी है कि लोग अपना उद्देश्य साफ़ तौर पर बताएँ. उद्देश्य स्पष्ट न होने पर हम ऐसा कंटेंट हटा भी सकते हैं.”

II. Meta के मूल्य:

Meta के मूल्य Facebook कम्युनिटी स्टैंडर्ड के परिचय में रेखांकित हैं. इनमें “अभिव्यक्ति” के महत्व को “सर्वोपरि” बताया गया है:

हमारे कम्युनिटी स्टैंडर्ड का लक्ष्य हमेशा एक ऐसा प्लेटफ़ॉर्म बनाना रहा है, जहाँ लोग अपनी बात रख सकें और अपनी भावनाओं को व्यक्त कर सकें. […] हम चाहते हैं कि लोग अपने लिए महत्व रखने वाले मुद्दों पर खुलकर बातें कर सकें, भले ही कुछ लोग उन बातों पर असहमति जताएँ या उन्हें वे बातें आपत्तिजनक लगें.

Facebook "अभिव्यक्ति” को चार मूल्यों के मामले में सीमित करता है, जिनमें से दो यहाँ प्रासंगिक हैं.

“सुरक्षा”: हम Facebook को एक सुरक्षित जगह बनाने के लिए प्रतिबद्ध हैं. धमकी भरी अभिव्यक्ति से लोगों में डर या अलगाव की भावना आ सकती है या दूसरों की अभिव्यक्ति कमज़ोर पड़ सकती है और Facebook पर इसकी परमिशन नहीं है.

“गरिमा”: हमारा मानना है कि सभी लोगों को एक जैसा सम्मान और एक जैसे अधिकार मिलने चाहिए. हम उम्मीद करते हैं कि लोग एक-दूसरे की गरिमा का ध्यान रखेंगे और दूसरों को परेशान नहीं करेंगे या नीचा नहीं दिखाएँगे.

III. मानवाधिकार के स्टैंडर्ड:

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत ( UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, वे प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढांचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उन्होंने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिज्ञा को दोहराया. इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन मानवाधिकार स्टैंडर्ड को ध्यान में रखते हुए किया.

• अभिव्यक्ति की स्वतंत्रता: अनुच्छेद 19, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR); सामान्य टिप्पणी सं. 34, मानवाधिकार समिति, 2011. अनुच्छेद 5, हर तरह के नस्लीय भेदभाव के उन्मूलन पर अंतरराष्ट्रीय सम्मेलन ( ICERD); नफ़रत फैलाने वाली भाषा पर बनी रिपोर्ट पर संयुक्त राष्ट्र का विशेष रैपर्टर, A/74/486, 2019; ऑनलाइन कंटेंट मॉडरेशन पर बनी रिपोर्ट पर संयुक्त राष्ट्र का विशेष रैपर्टर, A/HRC/38/35, 2018.
• समानता रखना और भेदभाव न करना: अनुच्छेद 2, पैरा. 1 और अनुच्छेद 26 (ICCPR); अनुच्छेद 2, ICERD; सामान्य अनुशंसा 35, नस्लीय भेदभाव के उन्मूलन की समिति, 2013.
• सांस्कृतिक अधिकार: अनुच्छेद 27, ICCPR; अनुच्छेद 15, आर्थिक, सामाजिक और सांस्कृतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICESCR); सांस्कृतिक अधिकारों के क्षेत्र में संयुक्त राष्ट्र का विशेष रैपर्टर, कलाकार की स्वतंत्रता और रचनात्मकता पर रिपोर्ट, A/HRC/23/34, 2013.
• मूल निवासियों के अधिकार: मूल निवासियों के अधिकारों पर संयुक्त राष्ट्र की घोषणा, अनुच्छेद 7, पैरा. 2; अनुच्छेद 8, पैरा. 1 और अनुच्छेद 19.

5. यूज़र का कथन

यूज़र ने अपनी अपील में कहा कि उनकी पोस्ट पारंपरिक कलाकृति का दस्तावेज़ के रूप में दिखाया गया इतिहास का एक नमूना है और उसका नफ़रत फैलाने वाली भाषा से कोई लेना देना नहीं है. यूज़र ने आगे यह भी कहा कि इतिहास के इस पन्ने के बारे में “जानना ज़रूरी है” और Meta द्वारा पोस्ट हटाने के संबंध में यह कहा कि यह “सेंसरशिप है.”

6. Meta के फ़ैसले का स्पष्टीकरण

Meta ने बोर्ड को बताया कि “इंडियन को मारो” वाक्यांश Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड के तहत श्रेणी 1 का हमला माना जाता है, जो कि सुरक्षित विशिष्टता के आधार पर लोगों को निशाना बनाने वाली “हिंसात्मक भाषा” को प्रतिबंधित करता है. हालाँकि, Meta यह बात मानती है कि कंटेंट को हटाने का फ़ैसला गलत था, क्योंकि इसकी पॉलिसी किसी और की नफ़रत फैलाने वाली भाषा की “निंदा करने या उसके बारे में जागरूकता बढ़ाने” की परमिशन देती है. Meta ने ध्यान दिया कि यूज़र ने पोस्ट में कहा है कि उनका उद्देश्य कैमलूप्स में जो हुआ उसकी भयानक कहानी के बारे में जागरूकता बढ़ाना है.

Meta ने ध्यान दिया कि “इंडियन को मारो/मनुष्य को बचाओ”, यह वाक्यांश मूल निवासी बच्चों के ज़बरदस्ती किए गए अनुकूलन के दौरान शुरू हुआ. कैमलूप्स की कहानी के बारे में जागरूकता बढ़ाने से, यूज़र आवासीय स्कूलों के ज़रिए ज़बरदस्ती कराए जा रहे मेलजोल के बारे में भी जागरूकता बढ़ा रहे थे. बोर्ड के सवाल के जवाब में, Meta ने स्पष्टीकरण दिया कि कंटेंट रिव्यूअर के लिए यह ज़रूरी नहीं था कि उसे इस इतिहास के बारे में पता ही हो और वह ठीक से पॉलिसी लागू कर सके. यूज़र की पोस्ट में कहा गया है कि वे उस भयानक कहानी के बारे में जागरूकता बढ़ा रहे थे और इसलिए रिव्यूअर आसानी से यह जान सकता था कि पोस्ट उद्धरण की नफ़रत फैलाने वाली भाषा के बारे में जागरूकता बढ़ा रही थी.

Meta ने बोर्ड को जानकारी दी कि इस केस में किसी यूज़र ने उस कंटेंट की रिपोर्ट नहीं की थी. Meta मशीन लर्निंग क्लासिफ़ायर चलाता है, जो Facebook कम्युनिटी स्टैंडर्ड के संभावित उल्लंघनों का अपने आप पता लगाने के लिए प्रशिक्षित होते हैं. इस केस में, दो क्लासिफ़ायर ने अपने आप पोस्ट को संभावित रूप से नफ़रत फैलाने वाली भाषा के तौर पर पहचाना था. पहला क्लासिफ़ायर, जिसके द्वारा कंटेंट का विश्लेषण किया गया, वह पूरी तरह आश्वस्त नहीं था कि पोस्ट से कम्युनिटी स्टैंडर्ड का उल्लंघन हुआ था. हालाँकि, दूसरे क्लासिफ़ायर ने कई संदर्भ आधारित संकेतों के आधार पर तय किया कि पोस्ट को काफ़ी शेयर किया जा सकता है और कई लोग इसे देख सकते हैं. नफ़रत फैलाने वाली भाषा के ज़्यादा फैलने के वजह से होने वाले संभावित नुकसान को देखते हुए, Meta के सिस्टम ने अपने आप उस पोस्ट को ह्यूमन रिव्यू के लिए भेज दिया.

Meta ने बोर्ड के सवाल के जवाब में स्पष्टीकरण दिया कि एशिया-प्रशांत क्षेत्र में मौजूद ह्यूमन रिव्यूअर ने तय किया कि पोस्ट में नफ़रत फैलाने वाली भाषा थी और उसे प्लेटफ़ॉर्म से हटा दिया. यूज़र ने इसके विरुद्ध अपील की और एशिया-प्रशांत क्षेत्र में मौजूद एक दूसरे ह्यूमन रिव्यूअर ने भी यही फ़ैसला लिया कि इसमें नफ़रत फैलाने वाली भाषा है. Meta ने बोर्ड को कंफ़र्म किया कि मॉडरेटर्स कंटेंट से जुड़े हर एक फ़ैसले का कारण रिकॉर्ड नहीं करते हैं.

7.थर्ड पार्टी सबमिशन

ओवरसाइट बोर्ड ने इस केस से जुड़े आठ पब्लिक कमेंट पर विचार किया: चार संयुक्त राज्य और कनाडा से, दो यूरोप से और एक उप-सहारा अफ़्रीका और एक एशिया-प्रशांत और ओशिनिया से आए थे. सबमिशन की थीम में उस उद्धरण का महत्व जिस पर यूज़र की कलाकृति का टाइटल आधारित था, उत्तर अमेरिका में आवासीय स्कूलों के उपयोग का संदर्भ और किस तरह से Meta के कंटेंट मॉडरेशन से कलाकार की स्वतंत्रता और मूल निवासियों या स्थानीय पहचान वाले लोगों की अभिव्यक्ति के अधिकार प्रभावित होते हैं, ये विषय शामिल थे.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

8.ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस सवाल पर ध्यान दिया कि इस कंटेंट को तीन दृष्टिकोण से रीस्टोर किया जाना चाहिए या नहीं: Facebook कम्युनिटी स्टैंडर्ड, Meta के मूल्य और इसकी मानवाधिकार से जुड़ी ज़िम्मेदारियाँ.

8.1 कम्युनिटी स्टैंडर्ड का अनुपालन

Meta ने सहमति दी कि इस कंटेंट को हटाने का मूल फ़ैसला Facebook के कम्युनिटी स्टैंडर्ड के विरुद्ध था और यह "एन्फ़ोर्समेंट की गलती” थी. बोर्ड ने पाया कि इस केस में कंटेंट साफ़ तौर पर नफ़रत फैलाने वाली भाषा नहीं है. यह कंटेंट साफ़ तौर पर ‘विरोध की भाषा’ है, जहाँ नफ़रत फैलाने वाली भाषा का उपयोग, दवाब और भेदभाव का विरोध करने के संदर्भ में है.

नफ़रत फैलाने वाली भाषा से जुड़ा कम्युनिटी स्टैंडर्ड, “ऐसे कंटेंट की परमिशन देता है, जिसमें किसी अन्य व्यक्ति की नफ़रत फैलाने वाली भाषा होती है, ताकि उसकी निंदा की जा सके या उसके बारे में जागरूकता बढ़ाई जा सके.” फिर भी दो अलग मॉडरेटर ने यह निष्कर्ष निकाला कि पोस्ट में नफ़रत फैलाने वाली भाषा थी. Meta इस बात के लिए कोई विशेष कारण नहीं दे सका कि यह गलती क्यों हुई.

नाज़ी उद्धरण वाले केस ( 2020-005-FB-UA), में बोर्ड ने ध्यान दिया कि जिस संदर्भ में उद्धरण का उपयोग किया जाता है, उसका उस संदर्भ में मतलब समझना बहुत ज़रूरी होता है. उस केस में, उद्धरण का कंटेंट और मतलब, पोस्ट का समय और जिस देश से इसे पोस्ट किया गया था, साथ ही पोस्ट को मिले रिएक्शन और कमेंट का सार, इन सबसे साफ़ पता चला कि यूज़र का नफ़रत फैलाने वाले किसी व्यक्ति की प्रशंसा करने का कोई इरादा नहीं था.

बोर्ड ने पाया कि यहाँ यूज़र के लिए यह ज़रूरी नहीं था कि वह अपने इरादे के बारे में साफ़ तौर पर बताए कि वह जागरूकता बढ़ा रहे थे ताकि उसका उद्देश्य और अर्थ स्पष्ट हो सके. चित्रित कलाकृति में कैमलूप्स में जो कुछ हुआ, उसकी कहानी बताई गई है और साथ में दिया गया वर्णन इसके महत्व के बारे में बताता है. जहाँ कि ‘इंडियन को मारो’ शब्द का अलग से अर्थ करने पर यह नफ़रत फैलाने वाली भाषा में आता है, लेकिन कंटेंट को पूरी तरह देखने पर यह साफ़ पता चलता है कि इसे जागरूकता बढ़ाने और नफ़रत की भावना की निंदा करने के लिए उपयोग किया गया है. कंटेंट में उद्धरण चिह्नों का उपयोग किया गया है ताकि इसके टाइटल के नफ़रत भरे वाक्यांश को अलग से पहचाना जा सके, जो कि पूरा कुछ इस तरह था: “इंडियन को मारो / मनुष्य को बचाओ.” इसे देखकर रिव्यूअर को रुककर और गहराई से सोचना चाहिए था. जिस तरह से यूज़र ने कैमलूप्स की कहानी बताई है और वॉमपम बेल्ट के सांस्कृतिक महत्व के बारे में बताया है, इससे साफ़ पता चलता है कि वे भेदभाव और हिंसा के पीड़ितों के साथ हैं न कि ऐसे व्यवहार को आगे बढ़ा रहे हैं. उनकी कहानी साफ़ तौर पर कैमलूप्स में उजागर हुई घटनाओं की निंदा करती है. पोस्ट को मिले कमेंट और रिएक्शन से यह स्पष्ट था कि यूज़र की ऑडियंस यह बात समझ रही थी कि पोस्ट का उद्देश्य निंदा करना और जागरूकता बढ़ाना है.

बोर्ड ने ध्यान दिया कि Facebook के आंतरिक “जाने माने सवाल,” जो मॉडरेटर को दिए जाने वाले गाइडेंस का हिस्सा हैं, वे मॉडरेटर को निर्देश देते हैं कि वे ऐसे कंटेंट को हटाने की गलती कर सकते हैं, जिनमें नफ़रत फैलाने वाली भाषा है और यूज़र का इरादा साफ़ नहीं है. जाने माने सवाल में यह भी कहा गया है कि इरादे के बारे में साफ़ तौर पर बताने वाला कथन हर मामले में ऐसी पोस्ट का मतलब बदलने के लिए काफ़ी नहीं होगा जिसमें कि नफ़रत फैलाने वाली भाषा है. यह आंतरिक गाइडेंस मॉडरेटर को नफ़रत फैलाने वाली भाषा और ऐसी विरोध करने वाली भाषा में सही तरह से अंतर के लिए बहुत सीमित निर्देश देता है जिसमें कि नफ़रत फैलाने वाली भाषा का उद्धरण निंदा करने या जागरूकता बढ़ाने के लिए उपयोग किया गया हो. बोर्ड को जहाँ तक मालूम है, नफ़रत फैलाने वाली भाषा का उद्धरण देने वाले या उपयोग करने वाले कलाकार के कंटेंट में या मानवाधिकार के उल्लंघनों के बारे में चर्चा करने वाले कंटेंट में कोई इरादा होने का आकलन के तरीके के बारे में कोई गाइडेंस नहीं है, जहाँ कि यह कंटेंट पॉलिसी के अपवादों में शामिल है.

8.2 Meta के मूल्यों का अनुपालन

बोर्ड ने पाया कि कंटेंट को हटाने का मूल फ़ैसला Meta के “अभिव्यक्ति” और “गरिमा” के मूल्यों से असंगत है और “सुरक्षा” के मूल्य में इसका कोई योगदान नहीं है. जहाँ कि यह Meta के नफ़रत फैलाने वाली भाषा को अपने प्लेटफ़ॉर्म पर सीमित करने के मूल्य से असंगत है, बोर्ड इस बात को लेकर चिंतित है कि Meta की मॉडरेशन प्रोसेस उपेक्षा या भेदभाव के शिकार लोगों की पहचान करने और विरोध करने वाली भाषा के ज़रिए खुद को अभिव्यक्त करने की उनकी क्षमता को सुरक्षित रखने में सक्षम नहीं है.

Meta ने विरोध करने वाली भाषा का समर्थन के लिए अपनी प्रतिबद्धता में कहा है, कि:

एक कम्युनिटी, सोशल प्लेटफ़ॉर्म और लोगोें के साझा अनुभव के रूप में, Facebook मज़बूत कंटेंट पॉलिसी लागू करके और लोकल कम्युनिटी, नीतिनिर्माता, विशेषज्ञों और बदलाव लाने वालों के साथ काम करते हुए आलोचनात्मक विरोध करने वाली भाषा की पहल का समर्थन करता है ताकि पूरी दुनिया में ये बातें सामने आ सकें.

Meta का दावा है कि “अभिव्यक्ति” कंपनी का सर्वोपरी मूल्य है. ऐसी कला जो पहले के अत्याचारों की भयावहता सामने लाना चाहती है और लोगों को ऐसी चीज़ों के दूरगामी परिणामों के बारे में बताना चाहती है, यह “अभिव्यक्ति” के मूल्य की सबसे अहम और सशक्त अभिव्यक्तियों में से एक है, ख़ासकर उपेक्षित लोगों के मामलें में, जो अपनी संस्कृति ज़ाहिर कर रहे हैं और कोशिश कर रहे हैं कि उनका इतिहास सामने आए. विरोध करने वाली भाषा केवल “अभिव्यक्ति” की बात नहीं है बल्कि नफ़रत फैलाने वाली भाषा के टार्गेट के लिए एक मुख्य टूल भी है ताकि वह अपनी गरिमा बनाए रख सके और दबाने, भेदभाव करने और दुर्व्यवहार करने के प्रति विरोध जता सके. Meta को यह सुनिश्चित करना चाहिए कि इसकी कंटेंट पॉलिसी और मॉडरेशन की प्रक्रियाएँ इस तरह की अभिव्यक्तियों का ध्यान रखे और उनकी सुरक्षा करे.

बड़े पैमाने पर किए गए अत्याचारों के बारे में जागरूकता बढ़ाने वाले यूज़र को अगर यह सूचना मिले कि उसकी बात को नफ़रत फैलाने वाली भाषा मानकर दबाया जा रहा है तो यह उनका अपमान है. इस आरोप से, ख़ासकर अपील किए जाने के बाद Meta द्वारा कंफ़र्म होने पर, सेल्फ़-सेंसरशिप या ऐसे लोगों में चुप रहने की भावना आ सकती है.

8.3 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने निष्कर्ष निकाला कि इस पोस्ट को हटाना Meta की मानवाधिकार ज़िम्मेदारियों के विरुद्ध है. Meta, बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र के मार्गदर्शक सिद्धांतों (UNGP) के तहत मानवाधिकारों का सम्मान करने के लिए प्रतिबद्ध है. इसकी कॉर्पोरेट मानवाधिकार पॉलिसी में बताया गया है कि इसमें नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) शामिल है.

कलाकार की अभिव्यक्ति के मामले में यह बोर्ड का पहला केस है, साथ ही ऐसी अभिव्यक्ति के मामले में भी पहला केस है जहाँ यूज़र खुद की पहचान मूल निवासी के रूप में बता रहा है. ये उन कई केस में से एक है जिन्हें बोर्ड ने चुना, जहाँ यूज़र गंभीर मानवाधिकार उल्लंघनों की ओर ध्यान आकर्षित करना चाहता है.

अभिव्यक्ति की स्वतंत्रता (अनुच्छेद 19 ICCPR)

अंतरराष्ट्रीय मानवाधिकार स्टैंडर्ड राजनीतिक अभिव्यक्ति के मूल्य पर ज़ोर देते हैं (मानवाधिकार समीति सामान्य टिप्पणी 34, पैरा. 38). इस अधिकार की सुरक्षा का दायरा ICCPR के अनुच्छेद 19, पैरा. 2 में दिया गया है, जो कि “कला के रूप में” अभिव्यक्ति को ख़ास तौर पर उल्लेखित करता है. दि इंटरनेशनल कन्वेंशन ऑन द इलिमिनेशन ऑफ़ ऑल फ़ॉर्म्स ऑफ़ रेसिअल डिस्क्रिमिनेशन (ICERD) ने भी अभिव्यक्ति की स्वतंत्रता के अधिकार को लागू किए जाने में भेदभाव से सुरक्षा प्रदान की है (अनुच्छेद 5) और राज्य इसका पालन कर रहे हैं या नहीं, इसका मूल्यांकन करने के लिए बनाई गई समिति ने "समाज के घटकों में शक्ति संतुलन को फिर से स्थापित करने में असुरक्षित समूहों" की सहायता करने के अधिकार और चर्चाओं में "वैकल्पिक विचार और जवाब" प्रदान करने के महत्व पर ज़ोर दिया है (CERD समिति, सामान्य सुझाव 35, पैरा 29).

कला में अक्सर राजनीतिक पहलू होता है और अंतरराष्ट्रीय स्टैंडर्ड यथा स्थिति को चुनौति देने में इस तरह कम्युनिकेशन की विशिष्टता और शक्तिशाली भूमिका को मानते हैं (सांस्कृतिक अधिकारों के क्षेत्र में UN विशेष रैपर्टर, A/HRC/23/34, पैरा 3 – 4). इंटरनेट और सोशल मीडिया प्लेटफ़ॉर्म जैसे कि ख़ासकर Facebook और Instagram, नई और व्यापक ऑडियंस तक पहुँचने में कलाकारों के लिए ख़ास महत्व रखते हैं. हो सकता है कि उनकी आजीविका इंटरनेट पर मौजूद कुछ प्रमुख सोशल मीडिया प्लेटफ़ॉर्म की एक्सेस पर निर्भर करती हो.

सभी लोगों को बिना भेदभाव के अभिव्यक्ति की स्वतंत्रता के अधिकार की गारंटी है (अनुच्छेद 19, पैरा. 2, ICCPR). बोर्ड को ऐसे सबमिशन मिले कि जहाँ राज्य, मूल निवासियों की कम्युनिटी को प्रभावित करने वाले वैधानिक या प्रशासनिक उपाय अपनाते हैं, वहाँ मूल निवासियों को मिले स्वतंत्र, पूर्व-सूचित और जानकारीपूर्ण सहमति के अधिकारों में यह निहित हो कि Meta अपनी कंटेंट पॉलिसी बनाते समय इन कम्युनिटी के साथ सलाह-मशविरा करे (पब्लिक कमेंट-10240, अल्पसंख्यक अधिकार समूह; संयुक्त राष्ट्र का मूल निवासियों के अधिकारों का घोषणा पत्र, अनुच्छेद 19). विचार और अभिव्यक्ति की स्वतंत्रता को लेकर UN के विशेष रैपर्टर में भी सोशल मीडिया की ज़िम्मेदारियों के संदर्भ में ऐसी ही चिंता ज़ाहिर की गई है ( A/HRC/38/35, पैरा. 54).

इस केस में कंटेंट कई अन्य अधिकारों से भी जुड़ा हुआ है, जिसमें लोगों के राष्ट्रीय, नस्लीय या भाषा आधारित अल्पसंख्यक लोगों के अधिकार, कम्युनिटी में उनके समूह के अन्य सदस्यों के साथ मनोरंजन करने, अपनी संस्कृति को आगे बढ़ाने, (अनुच्छेद 27, ICCPR) और सांस्कृतिक जीवन में भाग लेने तथा कला का आनंद लेने के अधिकार शामिल हैं (अनुच्छेद 15, ICESCR). वॉमपम बेल्ट बनाने की कला, जिसका उद्देश्य मानवाधिकार उल्लंघनों को रिकॉर्ड करना और उनके बारे में जागरूकता बढ़ाना और उनकी जारी विरासत को मानवाधिकार सुरक्षा पर UN की घोषणा, अनुच्छेद 6(c), साथ ही अत्याचार के बारे में सच का अधिकार ( UN के दंड मुक्ति के विरोध के सिद्धांतों का सेट), इनके तहत सुरक्षा प्राप्त है. मूल निवासियों के अधिकारों पर UN की घोषणा में साफ़ तौर पर बच्चों को ज़बरदस्ती अपने परिवार से अलग करने को हिंसा और जाति संहार का कृत्य माना गया है (अनुच्छेद 7, पैरा 2) और इमें ज़बरदस्ती अनुकूलित किए जाने और संस्कृति का विध्वंस करने के विरुद्ध विशेष सुरक्षा प्राप्त है (अनुच्छेद 8, पैरा 1).

ICCPR के अनुच्छेद 19 के तहत यह आवश्यक है कि जहाँ अभिव्यक्ति पर राज्य द्वारा प्रतिबंध लागू है, वहाँ उन्हें वैधानिकता, वैध लक्ष्य और आवश्यकता और अनुपातिकता की शर्तें पूरी करनी होंगी (अनुच्छेद 19, पैरा. 3, ICCPR). अभिव्यक्ति की स्वतंत्रता पर UN का विशेष रैपर्टर सोशल मीडिया कंपनियों को प्रोत्साहित करता है कि वे ऑनलाइन अभिव्यक्ति को मॉडरेट करते समय इन सिद्धांतों से मार्गदर्शन लें, इस बात का ध्यान रखें कि निजी कंपनियों द्वारा बड़े पैमाने पर अभिव्यक्ति के नियत्रंण से उस संदर्भ से जुड़ी चिंताएँ सामने आ सकती हैं (A/HRC/38/35, पैरा. 45 और 70). बोर्ड ने अपने अब तक के फ़ैसलों में ICCPR के अनुच्छेद 19 पर आधारित तीन हिस्सों वाला टेस्ट लागू किया है.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

नफ़रत फैलाने वाली भाषा से जुड़े कम्युनिटी स्टैंडर्ड स्पष्ट रूप से नफ़रत फैलाने वाली भाषा की निंदा करने वाले या जागरूकता बढ़ाने वाले कंटेंट की परमिशन देते हैं. इस पॉलिसी का यह हिस्सा नियमों को समझने और उनका पालन करने के लिए यूज़र हेतु बहुत स्पष्ट और सुलभ है ( सामान्य टिप्पणी 34, पैरा. 25). स्टैंडर्ड की वैधानिकता के लिए भी ज़रूरी है कि अभिव्यक्ति को प्रतिबंधित करने वाले नियमों में "उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना चाहिए जिन पर इन्हें लागू करने ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं" ( Ibid.) पॉलिसी के अपवादों को लागू करने का सही आकलन करने में दो मॉडरेटर की विफलता से यह संकेत मिलता है कि मॉडरेटर के लिए और आंतरिक मार्गदर्शन की आवश्यकता हो सकती है.

II. वैधानिक लक्ष्य

किसी भी देश के अभिव्यक्ति की स्वतंत्रता से संबंधित प्रतिबंध में ICCPR के अनुच्छेद 19, पैरा. 3 में सूचीबद्ध वैधानिक लक्ष्यों में से किसी एक का अनुसरण किया जाना चाहिए. Meta ने जब भी किसी तरह की भाषा को हटाने/दबाने का एक्शन लिया है तब बोर्ड को अपने सबमिशन में नियमित रूप से इस लिस्ट में दिए लक्ष्यों का संदर्भ दिया है. बोर्ड ने पहले Facebook के नफ़रत फैलाने वाली भाषा के कम्युनिटी स्टैंडर्ड को लेकर माना है कि यह दूसरों के अधिकारों की सुरक्षा करने के वैधानिक लक्ष्य को पूरा करता है. उन अधिकारों में समानता और गैर-भेदभाव, अभिव्यक्ति की स्वतंत्रता और शारीरिक सुरक्षा के अधिकार शामिल हैं.

III. आवश्यकता और आनुपातिकता

इस केस में स्पष्ट गलती का मतलब है कि कंटेंट हटाना बिल्कुल भी ज़रूरी नहीं था, जो कि Meta ने स्वीकार किया. बोर्ड इस बात को लेकर चिंतित है कि ऐसी स्पष्ट समझ में आनी वाली गलतियों से यह संकेत मिलता है कि Meta के ऑटोमेटेड और ह्यूमन रिव्यू के सिस्टम में अनुपातिकता की गहरी समस्याएँ हैं. अभिव्यक्ति की स्वतंत्रता पर लगाए जाने वाले सभी प्रतिबंध उनके सुरक्षात्मक कार्य को पूरा करने के लिए उपयुक्त होने चाहिए और वे अपने सुरक्षात्मक कार्य कर सकने वाले उपायों में से कम से कम हस्तक्षेप करने वाले उपाय होने चाहिए (सामान्य टिप्पणी 34, पैरा. 34). Meta का कंटेंट मॉडरेशन सिस्टम आवश्यकता और अनुपातिकता की शर्तों को पूरा करता है या नहीं, यह इस पर निर्भर करता है कि यह वास्तविक नफ़रत फैलाने वाली भाषा को हटाने के साथ ही कंटेंट की गलत पहचान करके हटाने के मामलों को कम से कम करने में कितना प्रभावी है.

ऐसी हर एक पोस्ट जिसे गलत तरीके से हटाया जाता है, उससे अभिव्यक्ति की स्वतंत्रता को ठेस पहुँचती है. बोर्ड यह समझता है कि गलतियाँ होना स्वभाविक है, मशीन और मनुष्य दोनों ही मामलों में. नफ़रत फैलाने वाली भाषा और इसकी प्रतिक्रियाएँ हमेशा ही संदर्भ आधारित होंगी और इसकी सीमाएँ कभी भी बहुत स्पष्ट नहीं होती हैं. हालाँकि, गलतियों के प्रकार और उनकी वजह से प्रभावित हुए लोग और कम्युनियटी से पता चलता है कि हमारे चयन करने के तरीकों का लगातार आकलन और जाँच होनी चाहिए. इसके लिए इस केस के हुई गलती के मूल कारणों की और जाँच, साथ ही विरोध करने वाली भाषा को कितने प्रभावी रूप से मॉडरेट किया जाता है इसका विस्तृत मूल्यांकन ज़रूरी है.

नफ़रत और दबाए जाने का विरोध करने में मददगार मूल निवासी कलाकारों की आलोचनात्मक कलाकृति के महत्व को देखते हुए, बोर्ड की Meta से अपेक्षा है कि वह Facebook और Instagram पर इस केस और ऐसे ही अन्य केस में गलत तरीके से हटाए जाने की संभावना को लेकर ख़ासकर संवेदनशील रहे. Meta द्वारा Facebook की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के एन्फ़ोर्समेंट के प्रदर्शन का संपूर्ण रूप से आकलन करना काफ़ी नहीं है. एक ऐसा सिस्टम जो औसत स्थिति में बढ़िया काम कर सकता है, वही कंटेंट की सब कैटेगरी के मामले में खराब प्रदर्शन कर सकता है, जहाँ कि गलत फ़ैसलों से ख़ासकर मानवाधिकार प्रभावित हुए हों. यह संभव है कि इस केस में जिस तरह की गलतियाँ हुई हैं, वह कम ही होती हों; बोर्ड ने हालाँकि ध्यान दिया कि उपेक्षित समूह के सदस्यों ने कई सालों से इन गलत फ़ैसलों की दर को लेकर चिंता ज़ाहिर की है. इस केस में गलतियाँ यह दिखाती हैं कि Meta के लिए यह आवश्यक है कि वह यह दर्शाए कि उसने मानवाधिकारों का ध्यान रखा है ताकि यह सुनिश्चित हो कि इसका सिस्टम उचित रूप से काम कर रहा है और ऐतिहासिक और जारी उत्पीड़न को बढ़ा नहीं रहा (UNGP, सिद्धांत 17).

Meta नफ़रत फैलाने वाली भाषा से निपटते समय नियमित रूप से अपने एन्फ़ोर्समेंट सिस्टम की सटीकता का आकलन करता है. यह आकलन, सटीकता की आकलनों पर आधारित नहीं है, जो ख़ासकर Meta की इस क्षमता का मूल्यांकन करता हो कि वह नफ़रत फैलाने वाली भाषा वाले ऐसे कंटेंट की पहचान कर पाता है या नहीं जिसमें भाषा निंदा की गई है या उसके बारे में जागरूकता बढ़ाई गई है.

Meta की मौजूदा प्रोसेस में अनौपचारिक प्रकियाएॅँ भी शामिल हैं जो गलतियों के ट्रेंड को पहचानती हैं और उनके मूल कारण का पता लगाती हैं, लेकिन इसके लिए बहुत बड़े सैंपल चाहिए जिनके आधार पर सिस्टम के प्रदर्शन का मूल्यांकन किया जा सके. बोर्ड ने पूछा कि क्या Meta ने ख़ासकर विरोध करने वाली भाषा का सटीकता से मूल्यांकन करने के मामले में अपने रिव्यू सिस्टम के प्रदर्शन का आकलन किया है, जिसमें कलात्मक अभिव्यक्ति और विरोध करने वाली भाषा होती है जो मानवाधिकार उल्लंघनों के प्रति जागरूकता बढ़ाती है. Meta ने बोर्ड को बताया कि कंपनी ने कलात्मक अभिव्यक्ति को हटाने या मूल निवासी पहचान वाले लोगों की अभिव्यक्ति से जुड़े गलत फ़ैसलों के बारे में ऐसा कोई विशेष रिसर्च नहीं किया है.

Meta ने बोर्ड को ऐसे आकलन शुरू करने में होने वाली रुकावटों के बारे में सूचित किया, जिसमें ऐसे कंटेंट के सैंपल के मिलान को ऑटोमेट करने में सिस्टम की कमी भी शामिल है, जो पॉलिसी के अपवादों के दायरे में आते हैं. ऐसा इसलिए क्योंकि रिव्यूअर किसी कंटेंट को उल्लंघन करने वाला या उल्लंघन नहीं करने वाला मार्क करते हैं और उनके लिए यह बताना ज़रूरी नहीं है कि उल्लंघन नहीं करने वाला कंटेंट किस तरह से पॉलिसी के दायरे में आता है. विरोध करने वाली भाषा का सैंपल, जो ऐसे अपवाद के दायरे में आता है, उन्हें मैन्युअल रूप से इकट्ठा करना होगा.

जहाँ कि बोर्ड द्वारा रिक्वेस्ट किए गए सवाल जवाब सेशन में Meta ने प्रदर्शन का मूल्यांन करने के तरीके के बारे में जो वर्णन दिया, उसके स्तर से बोर्ड उत्साहित हुआ, यह स्पष्ट था कि नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के अपवादों के एन्फ़ोर्समेंट की सटीकता का आकलन करने और गलतियों के ट्रेंड से सीखने को लेकर और ज़्यादा काम करने की ज़रूरत थी. Meta के डिज़ाइस संबंधी फ़ैसलों और इसके ह्यूमन रिव्यू और ऑटोमेटेड सिस्टम के बारे में अतिरिक्त जानकारी के बिना, बोर्ड या Meta के लिए नफ़रत फैलाने वाली भाषा को लेकर Meta के मौजूदा दृष्टिकोण की अनुपातिकता का आकलन करना मुश्किल है.

यह आकलन करते समय कि इस केस में नफ़रत फैलाने वाली भाषा की संभावना का अपने आप पता लगाने के लिए विशेष मशीन लर्निंग टूल का उपयोग करना आवश्यक और अनुपातिक है या नहीं, उन टूल की सटीकता को समझना बहुत ज़रूरी है. मशीन लर्निंग क्लासिफ़ायर में हमेशा गलत फ़ैसले हो जाने या गलती से कुछ छूट जाने जैसे कुछ समझौते करने पड़ते हैं. क्लासिफ़ायर जितना संवेदनशील होगा, वह उतने बेहतर तरह से नफ़रत फैलाने वाली भाषा का पता लगा पाएगा, लेकिन ऐसे मटेरियल को गलती से फ़्लैग करने की संभावना ज़्यादा है, जो नफ़रत फैलाने वाली भाषा नहीं है. अलग तरह से प्रशिक्षित क्लासिफ़ायर और भिन्न मॉडल की अलग-अलग टास्क में उपयोगिता और प्रभावशीलता अलग हो सकती है. किसी भी मॉडल में, अलग-अलग सीमाओं का उपयोग किया जा सकता है जिनसे कि विभिन्न प्रकार की गलतियों से बचने के महत्व के अनुसार निर्धारण हो सके. गलतियों की संभावना और गंभीरता को ध्यान रख किसी क्लासिफ़ायर को लागू करने के फ़ैसले लिए जाने चाहिए, जिसमें वह तुरंत एक्शन ले सकता है या उसे ह्यूमन अप्रूवल की ज़रूरत है और उसमें कौन-से सुरक्षा उपाय अपनाए गए हैं, ये शामिल है.

Meta ने बताया कि इस केस में विवादित पोस्ट को रिव्यूअर के पास ऑटोमेटेड सिस्टम से भेजा गया था क्योंकि इसकी ज़्यादा ऑडियंस होने की संभावना थी. यह तरीका नुकसानदायक मटेरियल को फैलने से रोकता है, लेकिन इससे नफ़रत का विरोध करने वाली सशक्त कलाकृति को गलती से हटाए जाने का जोखिम भी है. Meta ने बोर्ड को बताया कि वह नियमित रूप से गलत फ़ैसलों की दर का, एक्सपर्ट रिव्यूअर के फ़ैसलों की तुलना में मूल्यांकन करता है. Meta ने यह भी ध्यान दिया कि इस केस में प्रासंगिक विशेष मशीन लर्निंग मॉडल की सटीकता का आकलन करना संभव है और यह 90 दिनों तक क्लासिफ़ायर के पूर्वानुमानों की जानकारी रखती है. बोर्ड ने वह जानकारी माँगी जिससे कि क्लासिफ़ायर के प्रदर्शन और इस केस में Meta द्वारा उपयोग की गई सीमाओं की उपयुक्तता का मूल्यांकन किया जा सके. Meta ने बताया कि वह बोर्ड द्वारा माँगी गई जानकारी नहीं दे सकती क्योंकि उसके पास इसे तैयार करने का पर्याप्त समय नहीं था. हालाँकि, Meta ने बताया कि वह भविष्य में ऐसे केस में यह जानकारी देने की संभावना पर विचार कर रही है.

Meta के क्लासिफ़ायर के संचालन में ह्यूमन रिव्यू से दो तरह की सुरक्षा मिलती है: पहली पोस्ट हटाने के पहले और फिर अपील किए जाने पर. इस केस में गलती से यह संकेत मिलता है कि विरोध करने वाली भाषा का आकलन करने के लिए मॉडरेटर को दिया जाने वाला Meta का मार्गदर्शन पर्याप्त नहीं है. इस केस में ह्यूमन रिव्यूअर द्वारा दो बार गलत फ़ैसला लेने के पीछे कई कारण हो सकते हैं. बोर्ड को यह चिंता है कि शायद रिव्यूअर के पास समय या ट्रेनिंग के मामले में पर्याप्त रिसोर्स नहीं हैं ताकि वे इस केस में देखी गई गलती जैसी गलतियों को रोक सकें, ख़ासकर पॉलिसी के अपवादों के दायरे में आने वाले कंटेंट के संदर्भ में (जैसे, नफ़रत फैलाने वाली भाषा की “निंदा करना” और “जागरूकता बढ़ाना” शामिल).

इस केस में, दोनों रिव्यूअर एशिया-प्रशांत क्षेत्र के थे. Meta बोर्ड को यह नहीं बता सकी कि क्या संभावित रूप से नफ़रत फैलाने वाली भाषा का आकलन करने वाले रिव्यूअर की सटीकता की दर उन मॉडरेटर से अलग थी जो उसी क्षेत्र में नहीं रहते थे जहाँ कंटेंट बना था. बोर्ड ने नफ़रत फैलाने वाली भाषा का आकलन करने की जटिलता और स्थानीय संदर्भ और इतिहास समझने में कठिनाई पर भी ध्यान दिया, ख़ासकर मॉडरेटर द्वारा हर दिन रिव्यू किए जाने वाले कंटेंट की मात्रा को देखते हुए. यह माना जा सकता है कि जिन मॉडरेटर ने इस कंटेंट का आकलन किया, उन्हें उत्तर अमेरिका के मूल निवासी लोगों के उत्पीड़न के बारे में कम अनुभव था. मार्गदर्शन में कंटेंट को संपूर्ण रूप में देखकर मूल्यांकित करने के साफ़ निर्देश और कंटेंट के इरादे और उसके मतलब को निर्धारित करने के लिए संदर्भ का सटीकता से आकलन करने हेतु सहायता उपलब्ध होनी चाहिए.

बोर्ड ने अपने दो बटन वाले मीम के फ़ैसले ( 2021-005-FB-UA) में सुझाव दिया था कि Meta यूज़र को अपनी अपील में यह बताने दे कि उनका कंटेंट नफ़रत फैलाने वाली भाषा से जुड़े Facebook के कम्युनिटी स्टैंडर्ड के अपवादों में से एक में आता है. फ़िलहाल, जब यूज़र Meta के किसी फ़ैसले के विरुद्ध अपील करता है जिसका ह्यूमन रिव्यू किया गया हो, तो रिव्यूअर को नहीं बताया जाता कि यूज़र ने पहले के फ़ैसले पर विवाद किया है और उसे पहले वाले रिव्यू के परिणाम का पता नहीं चलता. वहीं Meta ने बोर्ड को बताया है कि उसका मानना है कि इससे रिव्यूअर पक्षपाती हो सकता है, लेकिन बोर्ड यह जानना चाहता है कि इस जानकारी से बेहतर फ़ैसले लिए जाने की संभावना बढ़ सकती है या नहीं. यह ऐसा सवाल है जिसे Meta अनुभव से टेस्ट कर सकती है; उन टेस्ट के रिज़ल्ट Meta द्वारा अपनाए गए विशेष उपायों की अनुपातिकता का मूल्यांकन करने में उपयोगी होंगे.

UNGP के तहत, यह Meta की ज़िम्मेदारी है कि वह मानवाधिकारों का सही तरह से सम्मान करे (सिद्धांत 17). इसमें कलात्मक अभिव्यक्ति और भेदभाव से लड़ रहे मूल निवासियों की राजनीतिक अभिव्यक्ति के कंटेंट मॉडरेशन के किसी भी विपरीत प्रभाव का पता लगाया जाना शामिल होना चाहिए. Meta को यह भी पता लगाना चाहिए कि इससे कंपनी के उन विपरीत प्रभावों को कम करने की कोशिशों में किस तरह रुकावट या कमी आएगी या उनका ध्यान कैसे रखा जा सकता है. बोर्ड Meta के प्रदर्शन की निगरानी करने के लिए प्रतिबद्ध है और अपेक्षा करता है कि कंपनी उपेक्षित समूहों को होने वाले जोखिम को प्राथमिकता देगी और लगातार सुधार के प्रमाण देगी.

9.ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के Meta के मूल फ़ैसले को बदल दिया है.

10. पॉलिसी से जुड़ी सलाह का कथन

एन्फ़ोर्समेंट

1. यूज़र को, यूज़र जिस कंटेंट पर अपील कर रहा है, उस पर लिए जाने वाले कंपनी के किसी भी एक्शन का समय से और सही नोटिस दे. जहाँ भी लागू हो, इस तरह के एन्फ़ोर्समेंट की गलती वाले मामले में भी, यूज़र को दिए गए नोटिस में यह बताया जाना चाहिए कि वह एक्शन ओवरसाइट बोर्ड की रिव्यू प्रक्रिया के कारण लिया गया. कंटेंट से जुड़े जिन फ़ैसलों के विरुद्ध यूज़र्स ने अपील की हो, बोर्ड के उन फ़ैसलों को प्रभावित करने वाले एक्शन के बारे में Meta को बोर्ड के साथ यूज़र्स को भेजे गए मैसेज शेयर करने चाहिए, ताकि दिखाया जा सके कि उसने इस सुझाव का पालन किया है. ये एक्शन उन सभी केस में लिए जाने चाहिए, जिन्हें बोर्ड की योग्यता वाली प्रोसेस के दौरान ठीक किया जाता है.

2. दूसरे रिव्यू के लिए संशोधित तरीकों के बारे में रिव्यूअर की सटीकता और क्षमता के प्रभाव को स्टडी करे. ख़ासकर, जब कंटेंट मॉडरेटर को यह जानकारी हो कि वे उस कंटेंट का दूसरा रिव्यू कर रहे हैं और उन्हें पता हो कि शुरुआती फ़ैसला विवादित है, तब बोर्ड सटीकता दर के आकलन का अनुरोध करता है. इस प्रयोग में यूज़र के लिए प्रासंगिक संदर्भ देने का अवसर होना चाहिए, जिससे रिव्यूअर को कंटेंट का मूल्यांकन करने में मदद मिले, जैसा कि बोर्ड के पहले सुझाव दिया था. Meta को ये सटीकता आकलन बोर्ड के साथ शेयर करने चाहिए और इस सुझाव का अनुपालन दर्शाने के लिए अपनी त्रैमासिक बोर्ड पारदर्शिता रिपोर्ट में परिणामों का सारांश देना चाहिए.

3. नफ़रत फैलाने वाली भाषा की पॉलिसी के अपवादों को ध्यान में रखकर सटीकता का आकलन करे, जिनमें कलाकार की अभिव्यक्ति और मानवीय अधिकारों के उल्लंघन की अभिव्यक्ति शामिल हो (जैसे, निंदा, जागरूकता बढ़ाना, खुद के संदर्भ में उपयोग करना, सशक्तिकरण के लिए उपयोग). इस आकलन में ख़ासतौर पर यह जाँच होनी चाहिए कि रिव्यूअर की लोकेशन किस तरह से मॉडरेटर्स की, सटीकता के साथ, नफ़रत फैलाने वाली भाषा और उसी या किसी दूसरे क्षेत्र की विरोध प्रदर्शन वाली भाषा का आकलन करने की क्षमता को प्रभावित करती है. बोर्ड यह समझता है कि इस विश्लेषण के लिए यह ज़रूरी है कि प्रासंगिक कंटेंट के सही से और सटीकता से लेबल किए गए सैंपल बनाए जाएँ. Meta को बोर्ड के साथ इस आकलन के परिणाम शेयर करना चाहिए, जिनके साथ यह भी बताया जाए एन्फ़ोर्समेंट ऑपरेशन के सुधार में और पॉलिसी के विकास में ये परिणाम किस तरह से उपयोगी होंगे और क्या Meta का नियमित रूप से इन अपवादों को लेकर रिव्यूअर की सटीकता का आकलन करने का कोई प्लान है और इस सुझाव का अनुपालन दर्शाने के लिए अपनी त्रैमासिक बोर्ड पारदर्शिता रिपोर्ट में परिणामों का सारांश देना चाहिए.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच सदस्यों के पैनल द्वारा लिए जाते हैं और बोर्ड के अधिकांश सदस्य इन पर सहमति देते हैं. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र शोध करवाया गया था. एक स्वतंत्र शोध संस्थान जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनिया भर के देशों के 3,200 से भी ज़्यादा विशेषज्ञों और Duco Advisers, जो कि जियोपॉलिटिक्स, विश्वास और सुरक्षा, और तकनीक के आपसी संबंधों पर केंद्रित एक सलाहकार फ़र्म है, ने सामाजिक-राजनैतिक और सांस्कृतिक संदर्भ में विशेषज्ञता मुहैया कराई है.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें