ईरानी महिला से सड़क पर हुज्जत

सारांश

ओवरसाइट बोर्ड ने एक ऐसे वीडियो को हटाने के Meta के मूल फ़ैसले को पलट दिया जिसमें एक पुरुष ईरान की सड़कों पर एक महिला का इसलिए विरोध कर रहा था क्योंकि उसने हिजाब नहीं पहना था. पोस्ट से हिंसा और उकसावे से जुड़े नियमों का उल्लंघन नहीं होता क्योंकि इसमें शाब्दिक कथन के बजाय अलंकारपूर्ण कथन है और वह हिंसा का प्रामाणिक खतरा नहीं है. अशांति, प्रदर्शन कर रहे लोगों के बढ़ते दमन और उन पर बढ़ती हिंसा के दौरान ईरान में सोशल मीडिया की एक्सेस महत्वपूर्ण है जहाँ महिलाओं के अधिकारों की लड़ाई में इंटरनेट, संघर्ष के नए माध्यम के रूप में उभरा है. Instagram उन चुनिंदा प्लेटफ़ॉर्म में से एक है जिसे देश में प्रतिबंधित नहीं किया गया है, इसलिए सरकार विरोधी “नारी, ज़िंदगी, आज़ादी” आंदोलन में इसकी भूमिका महत्वपूर्ण रही है, भले ही सरकार ने ऑनलाइन आने वाली महिलाओं को डराने और उन्हें चुप कराने की भरपूर कोशिशें की हों. बोर्ड इस निष्कर्ष पर पहुँचा कि सरकार द्वारा सुनियोजित दमन के संदर्भ में अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने में Meta की कोशिशें पर्याप्त नहीं रही हैं और बोर्ड ने कंपनी के संकट पॉलिसी प्रोटोकॉल में बदलाव के सुझाव दिए.

केस की जानकारी

जुलाई 2023 में, एक यूज़र ने Instagram पर एक वीडियो पोस्ट किया जिसमें एक पुरुष, हिजाब न पहनने के कारण एक महिला का सार्वजनिक रूप से विरोध कर रहा है. फ़ारसी भाषा और अंग्रेज़ी सबटाइटल वाले इस वीडियो में महिला यह कहते हुए जवाब देती है कि वह अपने अधिकारों के लिए लड़ रही है. साथ में दिए कैप्शन में उस महिला और सरकार का विरोध कर रही अन्य ईरानी महिलाओं का समर्थन किया गया है. कैप्शन के एक भाग में, जिसमें सरकार की आलोचना भी की गई है, एक वाक्यांश शामिल किया गया है जिसका Meta के अनुसार अनुवाद “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” है.

ईरान की अपराध संहिता में उन महिलाओं को जेेल, अर्थदंड या कोड़े मारने की सजा दी जाती है जो “ठीक से हिजाब” पहनकर सार्वजनिक जगहों पर नहीं जाती हैं. सितंबर 2023 में, ईरान की सरकार ने एक नया हिजाब और शुचिता विधेयक मंज़ूर किया जिसमें कहा गया है कि अगर कोई महिला हिजाब के अनिवार्य नियमों का लगातार उल्लंघन करती है, तो उसे 10 वर्ष तक के कारावास की सज़ा दी जा सकती है. इस पोस्ट के कैप्शन में यह स्पष्ट किया गया है कि वीडियो में दिखाई दे रही महिला को पहले ही गिरफ़्तार कर लिया गया है.

पोस्ट को सबसे पहले Meta के ऑटोमेटेड सिस्टम द्वारा Instagram की कम्युनिटी गाइडलाइन के संभावित उल्लंघन के लिए फ़्लैग किया गया था, जिसके बाद पोस्ट को ह्यूमन रिव्यू के लिए भेजा गया. यद्यपि कई रिव्यूअर्स ने कंटेंट का Meta की हिंसा और उकसावे से जुड़ी पॉलिसी के तहत आकलन किया, लेकिन उनका निष्कर्ष एक जैसा नहीं था. इसके और एक तकनीकी गलती के चलते पोस्ट, प्लेटफ़ॉर्म पर बनी रही. फिर एक यूज़र ने पोस्ट की रिपोर्ट की, जिसके कारण एक और रिव्यू किया गया. इस बार यह रिव्यू Meta की क्षेत्रीय टीम ने किया जिसके पास भाषा की विशेषज्ञता थी. इसमें यह पाया गया कि पोस्ट से हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन होता है और उसे Instagram से हटा दिया गया. कंटेंट को पोस्ट करने वाले यूज़र ने फिर बोर्ड को अपील की. Meta इस कंटेंट को हटाने के अपने फ़ैसले पर तब तक कायम रहा जब तक कि बोर्ड ने इस केस का चयन नहीं किया. बोर्ड द्वारा चयन किए जाने के बाद कंपनी ने अपने फ़ैसले को पलट दिया और पोस्ट को रीस्टोर कर दिया.

मुख्य निष्कर्ष

बोर्ड ने पाया कि पोस्ट ने हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं किया क्योंकि उसमें अलंकारिक भाषा है और उसका शाब्दिक अर्थ नहीं निकाला जा सकता. साथ ही यह हिंसा का ऐसा कोई प्रामाणिक खतरा नहीं है जिससे ऑफ़लाइन नुकसान हो सकता हो. Meta ने सबसे पहले पोस्ट को आंशिक रूप से हटा दिया था क्योंकि उसने वाक्यांश “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” को बहुत गंभीर हिंसा करने का इरादा माना, जिसका टार्गेट वीडियो में मौजूद पुरुष था, लेकिन इसका शाब्दिक अर्थ नहीं निकाला जाना चाहिए था. ईरान में व्यापक विरोध प्रदर्शनों के संदर्भ और कैप्शन और समग्र रूप से वीडियो को देखते हुए, यह भाषा अलंकारिक थी और उसमें सरकार के खिलाफ़ गुस्सा और हताशा दर्शाई गई थी. बोर्ड द्वारा परामर्श किए गए भाषाई विशेषज्ञों ने इसका कुछ अलग अनुवाद किया (“हम जल्दी ही तुम्हारे टुकड़े-टुकड़े कर देंगे”) और बताया कि यह सरकार से गुस्सा, असंतोष और नाराज़गी दर्शाता है. लोग, सरकार की तरफ़ कोई नुकसान शुरू करें, इससे ज़्यादा संभावित जोखिम इस पोस्ट से यह है कि सरकार उन लोगों पर ही बदले की हिंसा कर दे.

Meta का पॉलिसी बनाने का कारण कहता है कि “प्रामाणिक खतरे” का मूल्यांकन करते समय “भाषा” और “संदर्भ” पर विचार किया जा सकता है, लेकिन मॉडरेटर्स को दिए गए Meta के आंतरिक मार्गदर्शन में इस पर अमल करने के निर्देश नहीं दिए गए हैं. मॉडरेटर्स से कहा गया है कि वे खास शर्तों (खतरा और टार्गेट) की पहचान करे और अगर वे शर्तें पूरी होती हैं, तो कंटेंट को हटा दें. बोर्ड ने पहले ईरान में विरोध प्रदर्शन का स्लोगन केस में इस विसंगति पर चिंता जताई थी और यह सुझाव दिया था कि Meta इस बारे में विस्तार से मार्गदर्शन दे कि संदर्भ पर किस तरह विचार किया जाए और मॉडरेटर्स से कहे कि असंतोष व्यक्त करने वाली “अलंकारिक भाषा” को सीधे न हटाए. यह अभी भी चिंता का विषय बना हुआ है क्योंकि ईरान जैसे संदर्भों में अलंकारिक भाषा के मामले में एन्फ़ोर्समेंट समान रूप से नहीं किया जा रहा. इसके अलावा, ह्यूमन द्वारा दिए गए ट्रेनिंग डेटा की क्वालिटी से ऑटोमेशन की सटीकता पर असर पड़ता है, इसलिए इस बात की आशंका है कि अलंकारिक भाषा को हटाने की गलतियाँ बढ़ जाएँ.

इस पोस्ट पर नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड के तहत भी विचार किया गया क्योंकि इसके एक नियम के तहत “ऐसे कंटेंट की मनाही है जो बुर्के में रहने वाली महिलाओं की बुर्के के बिना फ़ोटो, उनकी इच्छा या परमिशन के बगैर पोस्ट करके उन्हें जोखिम में डालता है.” उसके बाद पॉलिसी लाइन को एडिट किया और वह अब इस तरह के कंटेंट को प्रतिबंधित करता है: “उजागर करना [बिना बुर्के वाली महिला]: किसी व्यक्ति की पहचान उजागर करना और उन्हें नुकसान के जोखिम में डालना.” इस बारे में बोर्ड, Meta से इस बात पर सहमत है कि कंटेंट से वीडियो में मौजूद महिला की पहचान “उजागर” नहीं होती और अब नुकसान का जोखिम मौजूद नहीं है क्योंकि उसकी पहचान पहले ही व्यापक रूप से जाहिर है और उसे पहले ही गिरफ़्तार किया जा चुका है. दरअसल, इस पोस्ट को उसकी गिरफ़्तारी पर लोगों का ध्यान आकर्षित करने के लिए ही पोस्ट किया गया था और उससे अधिकारियों पर महिला को छोड़ने के लिए दबाव पड़ सकता था.

संकट पॉलिसी प्रोटोकॉल सहित Meta की संकट पॉलिसी में ईरान को जोखिमग्रस्त देश माना गया है, इसलिए कंपनी इस खास स्थिति का समाधान करने के लिए पॉलिसी में अस्थाई बदलाव (“लीवर्स”) लागू कर सकती है. बोर्ड यह मानता है कि ईरान के मामले में Meta की कोशिशें अच्छी हैं, लेकिन ये कोशिशें, सुनियोजित दमन के माहौल में लोगों की अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने के लिए अपर्याप्त हैं.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पोस्ट को हटाने के Meta के मूल फ़ैसले को पलट दिया है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• यह स्पष्ट करने के लिए संकट पॉलिसी प्रोटोकॉल में एक लीवर जोड़े कि ऐसे अलंकारिक (अर्थात जो शाब्दिक नहीं है) कथन जिनका इरादा हिंसा भड़काना नहीं है और उनसे ऐसा होने की आशंका भी नहीं है, हिंसा और उकसावे से जुड़ी उस पॉलिसी लाइन का उल्लंघन नहीं करते जो प्रासंगिक संदर्भ में हिंसा की धमकी को प्रतिबंधित करती है. इसमें शुरुआती रिव्यू करने वाले मॉडरेटर्स के लिए उन शर्तों का निर्माण भी शामिल है जिनसे वे प्रासंगिक संदर्भ में ऐसे कथनों को पहचान पाएँ.

*केस के सारांश से केस का ओवरव्यू मिलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने एक ऐसे वीडियो को हटाने के Meta के मूल फ़ैसले को पलट दिया जिसमें एक पुरुष ईरान की सड़कों पर एक महिला का इसलिए विरोध कर रहा था क्योंकि उसने हिजाब नहीं पहना है. Meta ने कैप्शन की “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” लाइन के कारण पोस्ट को Instagram से हटा दिया क्योंकि कंपनी इसे उस पुरुष के लिए हिंसा की धमकी मानती है जो वीडियो में हिजाब न पहनी महिला के पास गया है. बोर्ड ने पाया कि पोस्ट से हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन नहीं होता क्योंकि प्रासंगिक कथन अलंकारिक है, उसका कोई शाब्दिक अर्थ नहीं है और संदर्भ को देखते हुए उससे हिंसा का प्रामाणिक खतरा उत्पन्न नहीं होता. बोर्ड द्वारा केस को चुने जाने के बाद, Meta ने पहले को पोस्ट को हटाने के फ़ैसले को कायम रखा, लेकिन बोर्ड को इसका कारण सबमिट करने से पहले, Meta ने पाया कि कंटेंट को हटाने का उसका मूल फ़ैसला गलत था और उसने पोस्ट को प्लेटफ़ॉर्म पर रीस्टोर कर दिया. बोर्ड इस निष्कर्ष पर पहुँचा कि सरकार द्वारा अभिव्यक्ति की आज़ादी के सुनियोजित दमन के संदर्भ में अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने में Meta की कोशिशें पर्याप्त नहीं रही हैं और बोर्ड ने कंपनी के संकट पॉलिसी प्रोटोकॉल में बदलाव के सुझाव दिए.

2. केस की जानकारी और बैकग्राउंड

जुलाई 2023 में, Instagram के एक यूज़र ने फ़ारसी भाषा में अंग्रेज़ी सबटाइटल के साथ एक वीडियो पोस्ट किया जिसमें एक पुरुष सार्वजनिक स्थान पर एक महिला का इसलिए विरोध कर रहा है क्योंकि उसने हिजाब नहीं पहना है. महिला जवाब दे रही है कि वह अपने अधिकारों की लड़ाई लड़ रही है. वीडियो में मौजूद पुरुष को पहचाना नहीं जा सकता, लेकिन महिला की पहचान पूरी तरह स्पष्ट है. ऐसा लगता है कि वीडियो को रीपोस्ट किया गया है और उसकी शुरुआती रिकॉर्डिंग ईरान की सरकार से संबंधित या उसका समर्थन करने वाले किसी व्यक्ति द्वारा की गई है. वीडियो में फ़ारसी भाषा में ही एक कैप्शन है जिसमें उस महिला और सरकार के खिलाफ़ खड़ी महिलाओं के लिए समर्थन दिखाया गया है और सरकार और उसके समर्थकों की आलोचना की गई है. कैप्शन में एक वाक्यांश है जिसका Meta के अनुसार अनुवाद “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” है और यह बताया गया है कि इस घटना के बाद महिला को गिरफ़्तार कर लिया गया था. पोस्ट को लगभग 47,000 बार देखा गया, उसे 2,000 लाइक, 100 कमेंट और 50 शेयर मिले.

इस कंटेंट को सबसे पहले एक ऑटोमेटेड क्लासिफ़ायर द्वारा Instagram कम्युनिटी गाइडलाइन के संभावित उल्लंघन के लिए फ़्लैग किया गया और ह्यूमन रिव्यू के लिए भेजा गया था. कई रिव्यूअर्स ने कंटेंट का आकलन किया, लेकिन तकनीकी गड़बड़ी और सभी रिव्यूअर्स के किसी एक निष्कर्ष पर न पहुँच पाने के कारण कि पोस्ट से हिंसा और उकसावे की पॉलिसी का उल्लंघन होता है या नहीं, कंटेंट को हटाया नहीं गया. यूज़र ने फिर कंटेंट की रिपोर्ट की, जिसके जवाब में ऑटोमेटेड क्लासिफ़ायर ने फिर से पाया कि कंटेंट से Meta की पॉलिसीज़ का संभावित उल्लंघन होता है और उसे अतिरिक्त रिव्यू के लिए भेज दिया गया. कंटेंट की रिपोर्ट एक यूज़र द्वारा की गई थी और उसकी एक ही बार रिपोर्ट हुई थी. क्षेत्रीय और भाषाई विशेषज्ञता वाली Meta की इस टीम द्वारा इस अतिरिक्त रिव्यू के बाद, Meta ने अपनी हिंसा और उकसावे से जुड़ी पॉलिसी के अंतर्गत Instagram से उस पोस्ट को हटा दिया. पोस्ट को हटाने का Meta का फ़ैसला कैप्शन में मौजूद इस लाइन पर आधारित था: “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे.” कंपनी ने इस लाइन को वीडियो में मौजूद उस पुरुष के लिए धमकी माना, जो हिजाब न पहनी महिला के पास गया था. पोस्ट करने वाले यूज़र ने पोस्ट को हटाने के खिलाफ़ Meta को अपील की. एक रिव्यूअर ने हटाने का फ़ैसला कायम रखा.

फिर कंटेंट पोस्ट करने वाले यूज़र ने उसे हटाने के खिलाफ़ बोर्ड को अपील की. जब बोर्ड ने कानूनी रिव्यू के लिए केस को चुना, तो Meta ने कंटेंट को हटाने का अपना फ़ैसला कायम रखा. इस रिव्यू के समय, Meta ने नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड के तहत भी विचार किया जिसके तहत बुर्का पहनने वाली महिलाओं को बुर्के के बिना “दिखाने” की मनाही है जब इससे उन महिलाओं को नुकसान का जोखिम हो. कंटेंट को पोस्ट करने के समय, उस महिला को पहले ही गिरफ़्तार किया जा चुका था. बोर्ड द्वारा केस का चयन किए जाने के बाद, कंपनी ने भी अपनी क्षेत्रीय टीम से मिले अतिरिक्त इनपुट और क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान केस में बोर्ड के फ़ैसले के आधार पर अपना फ़ैसला बदल दिया और कंटेंट को रीस्टोर कर दिया.

जैसा कि बोर्ड ने अपने ईरान में विरोध प्रदर्शन का स्लोगन फ़ैसले में नोट किया, ईरान में लोग सरकार के खिलाफ़ और नागरिक और राजनैतिक अधिकारों और लैंगिक समानता के लिए कम से कम 1979 की क्रांति के समय से विरोध प्रदर्शन कर रहे हैं. 2023 में, नर्गिस मोहम्मदी को नोबल पुरस्कार दिया गया था, जो जेल में बंद मानवाधिकार कार्यकर्ता हैं. “वे महिलाओं के अधिकारों के लिए 20 से ज़्यादा वर्षों से संघर्ष कर रही हैं और ईरान के धर्मतंत्र के खिलाफ़ संघर्ष में उन्हें आज़ादी के प्रतीक और मानकों के वाहक के रूप में देखा जाता है.” ईरान की अपराध संहिता में उन महिलाओं को जेेल, अर्थदंड या कोड़े मारने की सजा दी जाती है जो “ठीक से हिजाब” पहनकर सार्वजनिक जगहों पर नहीं जाती हैं. ईरान में महिलाओं पर कुछ ख़ास विषयों की पढ़ाई पर भी प्रतिबंध है और उन्हें कई सार्वजनिक जगहों पर भी जाने नहीं दिया जाता. अन्य कई प्रतिबंधों के अलावा लोगों पर यह भी प्रतिबंध है कि वे विपरीत लिंग के व्यक्ति के साथ नाच नहीं सकते. पुरुषों को घर का मुखिया माना जाता है और महिलाओं को काम करने, शादी करने या यात्रा करने के लिए अपने पिता या पति की परमिशन लेनी पड़ती है. अदालत में महिला की गवाही को, किसी पुरुष की गवाही से आधा वज़न दिया जाता है जिससे महिलाओं की न्याय तक पहुँच सीमित हो जाती है.

2022 में ईरान के अधिकारियों द्वारा हिजाब अनिवार्य करने की मुहिम को तेज़ करने और उसका विस्तार करने के बाद, महिलाओं पर ज़्यादा सख्ती की जाने लगी जिससे उनके मौखिक और शारीरिक उत्पीड़न और गिरफ़्तारी की घटनाएँ बढ़ीं. सितंबर 2022 में, एक 22 वर्षीय लड़की जिना म्हसा अमिनी की पुलिस द्वारा गिरफ़्तारी के तीन दिन बाद पुलिस कस्टडी में मौत हो गई. उसे कथित रूप से इसलिए गिरफ़्तार किया गया था क्योंकि उसने देश के “ठीक से हिजाब” पहनने के नियमों का पालन नहीं किया था. उसकी मौत से पूरे देश में नाराज़गी और विरोध प्रदर्शनों का सिलसिला शुरू हुआ और एक सरकार विरोधी आंदोलन की शुरुआत हुई जिसे इस रूप में जाना जाता है: “Zan, Zendegi, Azadi” (“नारी, ज़िंदगी, आज़ादी”). इस आंदोलन पर अधिकारियों ने हिंसक कार्रवाई की जिसमें 2022 के अंत तक 500 से ज़्यादा मौतों की पुष्टि की गई थी और लगभग 14,000 लोगों को गिरफ़्तार किया गया था. इन लोगों में प्रदर्शनकारियों के अलावा ऐसे पत्रकार, वकील, कार्यकर्ता, कलाकार और खिलाड़ी शामिल थे जिन्होंने आंदोलन का समर्थन किया था.

सितंबर 2023 में, ईरान की संसद ने एक नया “हिजाब और शुचिता” विधेयक मंज़ूर किया जिसमें कहा गया है कि अगर कोई महिला देश के हिजाब के अनिवार्य नियमों का लगातार उल्लंघन करती है, तो उसे 10 वर्ष तक के कारावास की सज़ा दी जा सकती है. अगर किसी बिज़नेस में ऐसी महिलाएँ काम करती हैं जो हिजाब नहीं पहनती हैं, तो उन पर भी सख्त प्रतिबंध लगाए जा सकते हैं और उन्हें बंद भी किया जा सकता है.

ईरान में सोशल मीडिया, महिलाओं के विरोध प्रदर्शन के आंदोलन में महत्वपूर्ण रहा है और उसने प्रदर्शनों के आयोजन और ज़रूरी जानकारी के प्रसार में उपयोगी भूमिका निभाई है (पब्लिक कमेंट PC 21007, PC-21011 देखें). साथ ही उससे दुर्व्यवहार और मानवाधिकारों के उल्लंघनों के सबूतों को डॉक्यूमेंट करने और सार्वजनिक रूप से उनकी रक्षा करने में भी मदद मिली है (PC-21008, अटैचमेंट).

हालाँकि, ऑनलाइन कैंपेन से महिलाओं पर सरकार के दमन का जोखिम भी बढ़ता है जिसमें धमकी, अपमान की घटनाएँ, गिरफ़्तारी और कैद शामिल हैं. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने इस्लामिक रिवॉल्यूशनरी गार्ड कॉर्प्स और ईरानी की सरकार से जुड़ी एंटिटी के व्यापक नेटवर्क को नोट किया जो Instagram और Telegram चलाते हैं. इसमें Telegram का उपयोग अक्सर प्रदर्शनकारियों और असंतुष्टों को सीधे टार्गेट करने और उन्हें दोषी ठहराने के लिए किया जा रहा है.

बोर्ड को सबमिट किए गए कई पब्लिक कमेंट में यह भी हाइलाइट किया गया कि “असंतोष से संबंधित कंटेंट को हटाने या उन्हें शेडो बैन करने के लिए सोशल मीडिया कंपनियों पर दबाव” डालने के लिए सरकार, Instagram पर यूज़र रिपोर्टिंग सिस्टम का उपयोग करके विरोध प्रदर्शन से जुड़े कंटेंट की मास रिपोर्टिंग के हथकंडे अपना रही है (देखें पब्लिक कमेंट PC-21011, PC-21009). इस तरह की रिपोर्ट्स भी मिली हैं कि ईरान के खुफ़िया अधिकारी, सरकार के आलोचकों द्वारा शेयर किए गए कंटेंट को हटाने के लिए मॉडरेटर्स को पैसों का लालच दे रहे हैं.

फ़रवरी 2023 में, ईरान पर संयुक्त राष्ट्र के विशेष रैपर्टर में वहाँ चल रहे दमन और नागरिक समाज कार्यकर्ताओं, मानवाधिकार रक्षकों, महिला अधिकार कार्यकर्ताओं, वकीलों और पत्रकारों को टार्गेट करने के बारे में चिंता जताई गई क्योंकि सरकारी अधिकारी असंतोष व्यक्त करने के साधनों पर शिकंजा कस रहे हैं, जिसमें इंटरनेट में रुकावट डालना और सोशल मीडिया प्लेटफ़ॉर्म की भारी सेंसरशिप शामिल है.

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड को उस व्यक्ति के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसका कंटेंट हटा दिया गया था (चार्टर आर्टिकल 2, सेक्शन 1; उपनियम आर्टिकल 3, सेक्शन 1).

बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाह शामिल हो सकती हैं, जिन पर Meta को जवाब देना ज़रूरी है (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.

जब बोर्ड इस केस जैसे केस चुनता है, जहाँ बाद में Meta यह मानता है कि उसने गलती की है, तो बोर्ड मूल फ़ैसले को रिव्यू करके उस कंटेंट मॉडरेशन प्रोसेस को बेहतर तरीके से समझता है और बोर्ड आगे गलतियों को कम करने और Facebook और Instagram का उपयोग करने वाले लोगों के साथ निष्पक्षता बढ़ाने के सुझाव देता है.

4. अथॉरिटी और मार्गदर्शन के सोर्स

इस केस में बोर्ड ने इन स्टैंडर्ड और पुराने फ़ैसलों को ध्यान में रखते हुए विश्लेषण किया:

I.

ओवरसाइट बोर्ड के कुछ सबसे प्रासंगिक पुराने फ़ैसलों में ये शामिल हैं:

• क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान
• पेरू के राष्ट्रपति के खिलाफ़ अलंकारपूर्ण कथन
• ईरान में विरोध प्रदर्शन का स्लोगन
• ओजलान का एकांतवास
• ब्रेस्ट कैंसर के लक्षण और नग्नता

II. Meta की कंटेंट पॉलिसीज़

बोर्ड का विश्लेषण, Meta की अभिव्यक्ति की प्रतिबद्धता, जिसे कंपनी “सर्वोपरि” बताती है, और सुरक्षा, प्राइवेसी और गरिमा की उसकी वैल्यू के आधार पर किया गया है.

Instagram कम्युनिटी गाइडलाइन

Instagram की कम्युनिटी गाइडलाइन में कहा गया है कि कंपनी “ऐसे कंटेंट को हटा देगी जिससे प्रामाणिक खतरा होता हो” और उसे हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड से लिंक किया गया है. कम्युनिटी गाइडलाइन, नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने के कम्युनिटी स्टैंडर्ड से सीधे लिंक नहीं है. Meta की Q1 2023 की कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट में कहा गया है कि “Facebook और Instagram, कंटेंट पॉलिसी शेयर करते हैं. इसका मतलब यह है कि अगर कंटेंट को Facebook पर उल्लंघन करने वाला माना जाता है, तो उसे Instagram पर भी उल्लंघन करने वाला माना जाएगा."

कंटेंट को हिंसा और उकसावे से जुड़ी पॉलिसी के तहत हटा दिया गया. बोर्ड द्वारा केस को चुने जाने के बाद, Meta ने कंटेंट का आकलन नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने की पॉलिसी के तहत भी किया.

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

पॉलिसी बनाने के कारण के अनुसार, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उद्देश्य “ऐसे संभावित ऑफ़लाइन नुकसान को रोकना है, जो Meta के प्लेटफ़ॉर्म पर मौजूद कंटेंट” से संबंधित हो सकता है. साथ ही, Meta यह समझता है कि “लोग सामान्य रूप से गैर-गंभीर और अनौपचारिक तरीकों से हिंसा की धमकी देकर या उसकी माँग करके तिरस्कार या असहमति व्यक्त करते हैं.” इसलिए Meta उस स्थिति में कंटेंट को हटा देता है जब कंपनी मानती है कि उसमें “ऐसी धमकियाँ हैं जिससे किसी व्यक्ति की मौत हो सकती है”. इसमें ऐसा कंटेंट शामिल है जो “बहुत गंभीर हिंसा” करने के “इरादे के कथनों” के साथ किसी व्यक्ति को टार्गेट करता है. यह कहता है कि यह तय करते समय वह कथन के संदर्भ पर विचार करता है कि कोई धमकी प्रामाणिक है या नहीं. यह संदर्भ, “व्यक्ति की सार्वजनिक दृश्यता और टार्गेट की कमज़ोरी” जैसी अतिरिक्त जानकारी हो सकती है.

पॉलिसी का “यह पोस्ट न करें” सेक्शन, खास तौर पर “हिंसा की ऐसी धमकियों को प्रतिबंधित करता है, जिनसे किसी की जान जा सकती है (और अन्य तरह की बहुत गंभीर हिंसा हो सकती है).” “धमकी” शब्द में “बहुत गंभीर हिंसा करने के इरादे के कथन” शामिल हैं.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

पॉलिसी बनाने के कारण के अनुसार, नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का लक्ष्य “लोगों, बिज़नेस, प्रॉपर्टी या जीव-जंतुओं को निशाना बनाने वाली कुछ तय आपराधिक या नुकसान पहुँचाने वाली एक्टिविटी को आसान बनाने, उन्हें आयोजित करने, उन्हें प्रमोट करने या उन्हें अमल में लाने” से लोगों को प्रतिबंधित करके “ऑफ़लाइन नुकसान और नकल करने वाले व्यवहार को रोकना है.” इसमें “पहचान जाहिर करना” भी शामिल है जिसे Meta ऐसे कंटेंट के रूप में परिभाषित करता है जो किसी ऐसे व्यक्ति की पहचान या लोकेशन जाहिर करता है जो कथित रूप से, अन्य बातों के अलावा, “किसी ऐसे ग्रुप का मेंबर है जिसे पहचान जाहिर होने से खतरा है”. पॉलिसी की इस लाइन को कुछ खास ग्रुप्स के संबंध में कंपनी के शुरुआती मॉडरेटर्स द्वारा एन्फ़ोर्स किया जाता है. एस्केलेट होने पर, अतिरिक्त संदर्भ के साथ, कंटेंट के पोस्ट होने के समय की Meta की पॉलिसी में कहा गया था कि कंपनी “ऐसे कंटेंट को भी हटा सकती है जो बुर्के में रहने वाली महिलाओं की बुर्के के बिना इमेज उनकी इच्छा या परमिशन के बगैर पोस्ट करके उन्हें जोखिम में डालता है.” इस भाषा को अब यह प्रतिबंधित करने के लिए एडिट कर दिया गया है: “उजागर करना [बिना बुर्के वाली महिला]: किसी व्यक्ति की पहचान उजागर करना और उन्हें नुकसान के जोखिम में डालना.”

III. Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 16 मार्च 2021 को घोषित Meta की कॉर्पोरेट मानवाधिकार पॉलिसी, UNGP में बताए गए अधिकारों का सम्मान करने की कंपनी की प्रतिबद्धता दोहराती है.

इस केस में Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों के बोर्ड द्वारा विश्लेषण में नीचे दिए गए अंतरराष्ट्रीय स्टैंडर्ड प्रासंगिक हो सकते हैं:

• अभिव्यक्ति की आज़ादी का अधिकार: आर्टिकल 19, नागरिक और राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य कमेंट नं. 34, मानवाधिकार समिति, 2011; विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का खास रैपर्टर, रिपोर्ट: A/HRC/38/35 (2018) और A/74/486 (2019); और रबात एक्शन प्लान, संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त की रिपोर्ट: A/HRC/22/17/Add.4 (2013).
• शांतिपूर्ण तरीके से इकट्ठा होने की आज़ादी का अधिकार: अनुच्छेद 21, ICCPR; सामान्य कमेंट सं. 37, मानवाधिकार समिति, 2020.
• जीवन का अधिकार: अनुच्छेद 6, ICCPR.
• व्यक्ति की आज़ादी और सुरक्षा का अधिकार: अनुच्छेद 9, ICCPR.
• भेदभाव न किए जाने का अधिकार: अनुच्छेद 2(1), 3 और 26, ICCPR; अनुच्छेद 1 और अनुच्छेद 7 (देश के राजनैतिक और सार्वजनिक जीवन में भागीदारी में भेदभाव न करना), महिलाओं के खिलाफ़ भेदभाव के सभी रूपों के उन्मूलन पर समझौता ( CEDAW). मानवाधिकार कार्यकर्ताओं के बारे में घोषणा, अनुच्छेद 8, सार्वजनिक मामलों के आचार में भागीदारी के लिए भेदभाव रहित आधार पर प्रभावी एक्सेस का अधिकार.
• प्राइवेसी का अधिकार: अनुच्छेद 17, ICCPR.

5. यूज़र सबमिशन

कंटेंट पोस्ट करने वाले यूज़र ने उसे हटाने के खिलाफ़ बोर्ड को अपील की. अपने कथन में, यूज़र ने बताया कि पोस्ट इस बात का प्रतिनिधित्व करती है कि हिजाब न पहनने पर ईरान की सरकार किस तरह का व्यवहार महिलाओं से करती है. यूज़र ने कहा कि वीडियो में ईरानी महिला का साहस दिखाया गया है कि वह किस तरह अपने अधिकारों के लिए लड़ रही है. यूज़र ने कहा कि सोशल मीडिया पर इसी तरह के वीडियो अन्य लोगों ने भी डाले हैं और यह कि कंटेंट नुकसानदेह या खतरनाक नहीं है और उससे Instagram की किसी पॉलिसी का उल्लंघन नहीं होता.

6. Meta के सबमिशन

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

Meta ने बोर्ड से कहा कि इस केस में कंटेंट को हटाने का उसका शुरुआती फ़ैसला हिंसा और उकसावे से जुड़ी पॉलिसी पर आधारित था. उसने बताया कि उसका फ़ैसला, पोस्ट के कैप्शन के एक भाग पर आधारित था जिसका अनुवाद कंपनी के अनुसार यह है: “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे.” कंपनी ने इस लाइन को वीडियो में मौजूद उस पुरुष के लिए टार्गेट माना, जो हिजाब न पहनी महिला के पास गया था. उसकी क्षेत्रीय टीम ने पाया कि वाक्यांश “तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” ईरान के संदर्भ में जान-माल के नुकसान की एक धमकी है. उस व्याख्या को देखते हुए, Meta ने अपनी हिंसा और उकसावे से जुड़ी पॉलिसी के तहत कंटेंट को हटाने का अपना फ़ैसला कायम रखा.

जब बोर्ड ने पहली बार केस की कानूनी रिव्यू के लिए पहचान की, तब Meta ने कंटेंट को हटाने का अपना फ़ैसला कायम रखा. लेकिन जब बोर्ड ने इस केस को रिव्यू के लिए चुना, तब कंपनी ने अपना फ़ैसला बदल दिया और क्षेत्रीय टीम से मिले इनपुट के आधार पर कंटेंट को रीस्टोर कर दिया. उस इनपुट के आधार पर, Meta इस नतीजे पर पहुँचा कि कैप्शन की भाषा का सबसे संभावित अर्थ ईरान की सरकार या उन लोगों को हटाने के संदर्भ में था जो हिजाब को ज़रूरी बनाने का समर्थन कर रहे हैं. वीडियो में दिखाई दे रहे पुरुष को निशाना बनाने की शाब्दिक धमकी से इसका कोई लेना-देना नहीं है.

इस अंतिम रिव्यू में, Meta इस निष्कर्ष पर पहुँचा कि उस कंटेंट का लक्ष्य महिलाओं के साथ हुए दुर्व्यवहारों के बारे में जागरूकता फैलाना और उनकी तरफ़ लोगों का ध्यान खींचना है, जैसा कि वीडियो में हिजाब न पहनी महिला से पुरुष के व्यवहार से दिखाई देता है. यूज़र ईरानी महिलाओं की ताकत की ओर ध्यान दिलाता है और वीडियो बना रहे व्यक्ति या समग्र रूप से सरकार के “कमीनेपन” की आलोचना करता है. साथ ही वह वीडियो में दिखाई दे रही महिला की गिरफ़्तारी के खिलाफ़ जागरूकता फैलाता है. Meta ने यह बताया कि संभावित रूप से धमकी भरी भाषा को इस पूरे संदर्भ में पढ़ा और समझा जाना चाहिए. इस तरह की जागरूकता फैलाना, जिसे Meta ने बोर्ड के ईरान में विरोध प्रदर्शन का स्लोगन केस के फ़ैसले का उल्लेख करते हुए नोट किया, ईरान में खास तौर पर ज़रूरी है जहाँ मुक्त अभिव्यक्ति के बहुत कम साधन उपलब्ध हैं.

Meta ने बोर्ड को यह भी बताया कि अतिरिक्त रिसर्च के बाद, क्षेत्रीय टीमों ने सुझाव दिया कि “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” भाषा का सबसे उचित अर्थ कोई वास्तविक धमकी नहीं है, बल्कि वह एक राजनैतिक आलोचना है जिसका लक्ष्य पूरी सरकार या सामान्य रूप से वे लोग हैं जो हिजाब को ज़रूरी बनाने का समर्थन करते हैं. सामान्य तौर पर “तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” का अर्थ किसी व्यक्ति के शरीर के टुकड़े-टुकड़े करके उसकी हत्या करना होता है, लेकिन यहाँ इसका मतलब सरकार को हटाना समझा जा सकता है (पेरू के राष्ट्रपति के खिलाफ़ अलंकारपूर्ण कथन संक्षिप्त फ़ैसले में उपयोग की गई अलंकारपूर्ण भाषा की तरह).

Meta ने बोर्ड से कहा कि कंटेंट को आखिरकार रीस्टोर करने का काम, क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान केस में बोर्ड के हाल ही के एक अन्य फ़ैसले को देखते हुए भी किया गया था, जिसमें बोर्ड ने ज़ोर दिया था कि पोस्ट को पढ़ते समय सरकार द्वारा दमन के दौर और ऐतिहासिक विरोध प्रदर्शनों, जो पोस्ट का विषय था, के संदर्भ को ध्यान में रखा जाना चाहिए. इसके अलावा, कंपनी ने ईरान में विरोध प्रदर्शन का स्लोगन केस पर भी विचार किया जिसमें बोर्ड ने ईरान में महिलाओं के अधिकारों से जुड़े राजनैतिक आंदोलन का विश्लेषण किया था. वहाँ, बोर्ड ने विरोध प्रदर्शन के संदर्भ में अभिव्यक्ति की रक्षा करने के महत्व पर ज़ोर दिया था, खास तौर पर ईरान की सरकार द्वारा मुक्त अभिव्यक्ति के सुनियोजित दमन और असंतोष व्यक्त करने के माध्यम के रूप में डिजिटल स्थानों के महत्व को देखते हुए. कंपनी ने यह भी नोट किया कि उसने पेरू के राष्ट्रपति के खिलाफ़ अलंकारपूर्ण कथन केस के हाल ही के संक्षिप्त फ़ैसले पर विचार किया, जिसमें “निंदा, व्यंग्य या अलंकारिक अभिव्यक्ति की सजगता वाले संदर्भ संवेदी मॉडरेशन सिस्टम के निर्माण के महत्व पर फिर से ज़ोर दिया गया है, खास तौर पर राजैनतिक अभिव्यक्ति की रक्षा के लिए.”

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

Meta ने बोर्ड से कहा कि उसने कंटेंट को नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड के तहत हटाने पर भी विचार किया, जिसमें कहा गया है कि बुर्का पहनने वाली महिलाओं की बिना बुर्के वाली फ़ोटो उनकी इच्छा के बिना दिखाकर उनकी पहचान जाहिर नहीं की जानी चाहिए. Meta इस पॉलिसी लाइन को सिर्फ़ एस्केलेशन के समय ही एन्फ़ोर्स करता है और तभी करता है जब अतिरिक्त संदर्भ उपलब्ध कराया जाए. एन्फ़ोर्समेंट के लिए प्रासंगिक स्टेकहोल्डर्स की राय की ज़रूरत होती है और वह यह तय करने पर फ़ोकस होता है कि क्या कंटेंट में बुर्के के बिना महिला को दिखाया गया है जिससे उसकी इच्छा के बिना उसकी पहचान जाहिर होती है और उससे उस महिला को खतरा होने की आशंका है. यह इस बात पर विचार नहीं करता कि क्या कंटेंट में कोई खास शब्द उपयोग किया गया है या कंटेंट या कैप्शन की टोन क्या है. Meta ने नोट किया कि कोई व्यक्ति खुद की “पहचान जाहिर” नहीं कर सकता – पॉलिसी का उल्लंघन करने के लिए पहचान जाहिर करने का यह काम अनैच्छिक होना चाहिए.

इस केस में, Meta ने पाया कि कंटेंट को पहचान को अनैच्छिक रूप से जाहिर करने के आधार पर नहीं हटाया जाना चाहिए क्योंकि इस केस के कंटेंट को पोस्ट करने के समय महिला की पहचान पहले ही जाहिर हो चुकी थी और उसे पहले ही गिरफ़्तार किया जा चुका था. इस संदर्भ से कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने से जुड़ा नुकसान का जोखिम बहुत कम हो गया था.

बोर्ड ने Meta से 11 लिखित सवाल और दो फ़ॉलो-अप सवाल पूछे. सवाल ईरान में एन्फ़ोर्समेंट की प्रक्रियाओं और रिसोर्स, ईरान में सामान्य तौर पर और खास तौर पर वीडियो में मौजूद महिला के लिए Meta द्वारा जोखिम के आकलन, शुरुआत में और एस्केलेशन होने पर ऑटोमेटेड और ह्यूमन रिव्यू प्रोसेस, बुर्के के बिना महिला को दिखाने वाले कंटेंट पर एन्फ़ोर्समेंट और जोखिम ग्रस्त ग्रुप की पहचान जाहिर करने से संबंधित थे. Meta ने सभी सवालों के जवाब दिए.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड को लोगों की ओर से इस केस के लिए प्रासंगिक 12 कमेंट मिले. सात कमेंट अमेरिका और कनाडा से, दो मध्य और दक्षिण एशिया से, दो यूरोप से और एक मध्य पूर्व और उत्तरी अफ़्रीका से थे.

सबमिशन में इन विषयों पर बात की गई थी: ईरान के विरोध प्रदर्शनों में सोशल मीडिया की भूमिका, “नारी, ज़िंदगी, आज़ादी” आंदोलन सहित, और डिजिटल कैंपेन में बिना बुर्के वाली महिलाओं द्वारा निभाई गई भूमिका; ईरान में सोशल मीडिया पर बिना बुर्के वाली महिलाओं की इमेज दिखाने से जुड़े जोखिम; ईरान के अधिकारियों द्वारा सोशल मीडिया का उपयोग; ईरान में राजनैतिक स्थिति के संबंध में फ़ारसी भाषा की अभिव्यक्ति के लिए Meta की कंटेंट मॉडरेशन पॉलिसीज़ का उसके द्वारा एन्फ़ोर्समेंट; अभिव्यक्ति की आज़ादी, मानवाधिकार, महिलाओं के अधिकार, सरकार द्वारा दमन और ईरान में सोशल मीडिया पर प्रतिबंध.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने Meta की कंटेंट पॉलिसी, मानवाधिकार से जुड़ी ज़िम्मेदारियों और वैल्यू के तहत कंपनी द्वारा कंटेंट को हटाने के मूल फ़ैसले का परीक्षण किया.

बोर्ड ने इस केस का चुनाव इसलिए किया क्योंकि इससे बोर्ड को Meta की हिंसा और उकसावे और नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसीज़ को विस्तार से समझने का अवसर मिला. साथ ही इससे ईरान में सितंबर 2022 से महिलाओं के अधिकारों और सार्वजनिक जीवन में महिलाओं की भागीदारी के लिए व्यापक विरोध प्रदर्शन के संदर्भ में संबंधित एन्फ़ोर्समेंट प्रोसेस को समझने का अवसर भी मिला. खास तौर पर, इसमें हिजाब को ज़रूरी बनाने के नियमों के खिलाफ़ विरोध प्रदर्शन कर रहे लोगों के लिए सोशल मीडिया प्लेटफ़ॉर्म के महत्व पर विचार किया गया.

इसके अलावा, इस केस से बोर्ड को यह तय करने के लिए Meta की उन आंतरिक प्रक्रियाओं की चर्चा करने का अवसर मिलता है कि कब और क्यों किसी अलंकारपूर्ण भाषा को उसके शाब्दिक अर्थों में तो एक धमकी माना जा सकता है, लेकिन उसी का संदर्भ देखे जाने पर वह प्रामाणिक खतरा नहीं दिखाई देती. यह केस मुख्य रूप से बोर्ड की चुनाव और नागरिक मंच से जुड़ी प्राथमिकताओं में आता है, लेकिन यह लिंग, Meta के प्लेटफ़ॉर्म्स का सरकार द्वारा उपयोग और संकट और संघर्ष की स्थितियों से जुड़ी प्राथमिकताओं से भी जुड़ा है.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि इस केस का कंटेंट, हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता क्योंकि इसमें सरकार द्वारा दमन पर गुस्सा जताने वाली अलंकारपूर्ण भाषा है और उसका कोई शाब्दिक अर्थ नहीं है, इसलिए उसे हिंसा की प्रामाणिक धमकी नहीं माना जा सकता.

Meta ने बताया कि उसने इस केस के कंटेंट को शुरुआत में इसलिए हटाया था क्योंकि उसमें “बहुत गंभीर हिंसा करने के इरादे का कथन था.” वह बहुत गंभीर हिंसा को ऐसे खतरे के रूप में परिभाषित करता है जिससे किसी व्यक्ति की मृत्यु हो सकती है या जो जानलेवा हो सकता है.

अपनी क्षेत्रीय टीम के आकलन के आधार पर, Meta ने पोस्ट के कैप्शन के वाक्यांश “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” को ईणान के संदर्भ में एक प्रामाणिक धमकी माना जो हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन करती है.

बोर्ड ने जिन भाषाई विशेषज्ञों से परामर्श किया, उन्होंने बताया कि कैप्शन के प्रासंगिक भाग का अनुवाद “हम जल्दी ही तुम्हारे टुकड़े कर डालेंगे!” या “वह दिन दूर नहीं जब हम तुम्हें चीर देंगे” के रूप में किया जा सकता है. विशेषज्ञों ने नोट किया कि ईरान के संदर्भ में यह वाक्यांश दमनकारियों के प्रति गुस्सा, असंतोष और नाराज़गी दिखाता है और यह आइडिया सुझाता है कि अंततः स्थिति बदलेगी क्योंकि सत्ता पर दमनकारियों की पकड़ हमेशा नहीं रहेगी. इस वाक्यांश को शाब्दिक रूप से जान-माल का नुकसान करने के इरादे के रूप में नहीं देखा जाना चाहिए; इसके बजाय, यह एक “अलंकारपूर्ण कथन” है जिसका उद्देश्य लोगों का ध्यान आकर्षित करना है जिसमें “टुकड़े” या “चीर देने” जैसी कठोर क्रियाओं का उपयोग करके उस पर ज़ोर दिया गया है. इन विशेषज्ञों ने हाइलाइट किया कि ऐसा अलंकारपूर्ण बयान दिखाता है कि कंटेंट को पोस्ट करने वाले यूज़र और उनकी ऑडियंस में कितना गहरा गुस्सा है. इसलिए, उससे शारीरिक हिंसा का कोई वास्तविक खतरा नहीं है.

यद्यपि Meta ने बोर्ड से कहा कि वह यह तय करते समय संदर्भ पर भी विचार करता है कि कोई खतरा प्रामाणिक है या नहीं, लेकिन मॉडरेटर्स को दिए जाने वाले मार्गदर्शन से ऐसा नहीं लगता कि वे इस बात का आकलन करते समय संदर्भ पर विचार कर सकते हैं कि क्या कोई “कथन बहुत गंभीर हिंसा करने का इरादा दिखाता है.” जब तक इस नियम की सभी शर्तें पूरी होती हैं, खास तौर पर जब कंटेंट में एक धमकी और एक टार्गेट मौजूद हो, तब तक पोस्ट को उल्लंघन करने वाला माना जाता है, जैसा कि इस केस में हुआ. इस केस में, Meta ने माना कि कथन में उस पुरुष को टार्गेट किया गया है जो महिला का पीछा कर रहा है. इस नियम में यह ज़रूरी नहीं है कि टार्गेट दिखाई दे रहा हो या उसे पहचाना जा सकता हो. नियमों में धमकी वाले कथन का सिर्फ़ एक उदाहरण दिया गया है जिसे छूट दी जाती है या जिसे प्रामाणिक खतरा नहीं माना जाता. यह उदाहरण है: “आतंकवादी समूहों जैसे कुछ खास हिंसक लोगों को दी गई धमकियाँ.”

यहाँ वाक्यांश “तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” से कोई प्रामाणिक खतरा दिखाई नहीं देता. ईरान में अशांति, सरकार के खिलाफ़ प्रदर्शन कर रहे लोगों के बढ़ते दमन और उन पर बढ़ती हिंसा, वीडियो के कैप्शन और पूरे वीडियो को देखते हुए, बोर्ड ने पाया कि वह वाक्यांश एक अलंकारपूर्ण कथन है और उसका शाब्दिक अर्थ नहीं निकाला जा सकता. वह कथन शासन के खिलाफ़ गुस्सा और असंतोष है और “उसे बहुत गंभीर हिंसा करने का इरादा” नहीं माना जा सकता.” यह व्याख्या, Meta की अभिव्यक्ति की प्रतिबद्धता और राजनीतिक असहमति की अभिव्यक्ति की रक्षा करने के महत्व के अनुरूप है.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

बोर्ड ने यह पाया कि इस केस से जुड़ा कंटेंट नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करता है.

Meta ने इस पोस्ट को उस नियम के तहत हटाने पर विचार किया जिसमें “ऐसे कंटेंट की मनाही है जो आम तौर पर बुर्का पहनने वाली महिलाओं की उनकी इच्छा या परमिशन के बगैर बुर्के के बिना इमेज पोस्ट करके उनकी पहचान उजागर करता है.” इस पॉलिसी लाइन को उसके बाद यह प्रतिबंधित करने के लिए एडिट कर दिया गया है: “उजागर करना [बिना बुर्के वाली महिला]: किसी व्यक्ति की पहचान उजागर करना और उन्हें नुकसान के जोखिम में डालना.” कंपनी के अनुसार “पहचान उजागर करने” में ऐसा कंटेंट शामिल है जिसमें किसी महिला की बिना बुर्के वाली इमेज शेयर की जाती है, जिससे उसकी परमिशन के बिना उसकी पहचान जाहिर होती है और उसे नुकसान का खतरा होता है. इस पॉलिसी लाइन को सिर्फ़ एस्केलेशन पर लागू किया जाता है और इसे एन्फ़ोर्स करने के लिए कई स्टेकहोल्डर्स की राय ली जाती है (ऊपर सेक्शन 4 देखें).

इस केस में बोर्ड, Meta से इस बात पर सहमत है कि कंटेंट से महिला की पहचान “उजागर” नहीं होती क्योंकि उसे पहले ही बहुत लोग जान चुके थे और नुकसान का जोखिम भी खत्म हो चुका था क्योंकि कंटेंट को पोस्ट किए जाते समय उसे गिरफ़्तार किया जा चुका है. इसलिए, वीडियो को प्लेटफ़ॉर्म पर बनाए रखने से महिला के लिए जोखिम के लेवल में कोई सार्थक वृद्धि नहीं होगी बल्कि उसके केस में उससे जागरूकता बढ़ेगी. यह तय करना कि किसी पोस्ट से किसी महिला की “पहचान उजागर” होती है और उसे खतरा होता है, खास तौर पर संदर्भ पर निर्भर करता है; सिर्फ़ एस्केलेशन होने पर पॉलिसी को एन्फ़ोर्स करना यह सुनिश्चित करता है कि इसे एन्फ़ोर्स करने वाली टीम के पास प्रासंगिक संदर्भ की प्रभावी रूप से पहचान करने और उस पर विचार करने के लिए पर्याप्त समय और रिसोर्स हैं.

8.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने पाया कि इस केस में कंटेंट को हटाना, Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों से अनुरूप नहीं है.

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR)

ICCPR का अनुच्छेद 19, अभिव्यक्ति के लिए व्यापक सुरक्षा देता है, जिसमें “सभी प्रकार की जानकारी और सुझाव लेने, प्राप्त करने और प्रदान करने की आज़ादी शामिल होगी, चाहे वह किसी भी तरह की हो, मौखिक, लिखित रूप में या प्रिंट में हो, कला के रूप में, या व्यक्ति की अपनी पसंद के किसी अन्य माध्यम से हो". जहाँ राज्य, अभिव्यक्ति पर प्रतिबंध लगाता है, वहाँ प्रतिबंधों को वैधानिकता, वैधानिक लक्ष्य और आवश्यकता तथा आनुपातिकता की शर्तों को पूरा करना चाहिए (अनुच्छेद 19, पैरा. 3, ICCPR). Meta की स्वैच्छिक मानवाधिकार प्रतिबद्धताओं को समझने के लिए बोर्ड इस फ़्रेमवर्क का उपयोग करता है - रिव्यू में मौजूद कंटेंट से जुड़े व्यक्तिगत फ़ैसले के लिए और यह जानने के लिए कि कंटेंट गवर्नेंस के प्रति Meta के व्यापक नज़रिए के बारे में यह क्या कहता है. जैसा कि अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र के खास रैपर्टर में कहा गया है कि भले ही “कंपनियों का सरकारों के प्रति दायित्व नहीं है, लेकिन उनका प्रभाव इस तरह का है जो उनके लिए अपने यूज़र की सुरक्षा के बारे में इस तरह के सवालों का मूल्यांकन करना ज़रूरी बनाता है” (A/74/486, पैरा. 41).

ईरान जैसे बंद समाज में सोशल मीडिया की एक्सेस महत्वपूर्ण है. “डिजिटल गेटकीपर्स” के रूप में, जानकारी की सार्वजनिक एक्सेस पर सोशल मीडिया प्लेटफ़ॉर्म्स का “गहरा प्रभाव” होता है ( A/HRC/50/29, पैरा. 90). इस केस में शामिल पोस्ट, एक व्यापक विरोध प्रदर्शन आंदोलन का एक भाग है, जो अपनी मौजूदगी के लिए डिजिटल नागरिक मंचों पर निर्भर है. महिलाओं को कैसे कपड़े पहनने चाहिए, यह कानून उनकी आज़ादी और गरिमा पर असर डालता है ( A/68/290, पैरा. 38), चाहे कानून में बुर्का पहनने पर प्रतिबंध लगाया गया हो या उसमें महिलाओं के लिए सार्वजनिक स्थानों पर बुर्के के बिना जाने की मनाही हो (देखें उदा., याकर बनाम फ़्रांस, CCPR/C/123/D/2747/2016). इस संबंध में, “महिलाओं के अधिकारों की लड़ाई में इंटरनेट एक नया मैदान बन गया है जो महिलाओं को अपनी भावनाएँ व्यक्त करने के ज़्यादा अवसर देता है” ( A/76/258, पैरा. 4). महिलाओं को अभिव्यक्ति की आज़ादी देना उन्हें राजनीति में भागीदारी करने और अपने मानवाधिकारों की अनुभूति करने में सक्षम बनाता है ( A/HRC/Res/23/2, पैरा. 1-2; A/76/258, पैरा. 5).

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

वैधानिकता के सिद्धांत के लिए यह ज़रूरी है कि अभिव्यक्ति की आज़ादी पर कोई भी प्रतिबंध, किसी ऐसे स्थापित नियम के अनुरूप होना चाहिए, जो यूज़र्स के लिए एक्सेस लायक और स्पष्ट हो. नियम को “इतनी सटीकता के साथ बनाया जाना चाहिए कि व्यक्ति उसके अनुसार अपने आचरण को विनियमित कर सके और उसे सार्वजनिक रूप से एक्सेस योग्य होना चाहिए,” ( सामान्य कमेंट सं. 34, पैरा 25 पर). इसके अलावा, अभिव्यक्ति को प्रतिबंधित करने वाले नियम “उन लोगों को अभिव्यक्ति की आज़ादी को प्रतिबंधित करने के निरंकुश अधिकार नहीं दे सकते जिन पर इन्हें लागू करने की ज़िम्मेदारी है” और नियमों में "उन लोगों के लिए पर्याप्त मार्गदर्शन भी होना चाहिए जिन पर इन्हें लागू करने ज़िम्मेदारी है ताकि वे यह पता लगा सकें कि किस तरह की अभिव्यक्ति को उचित रूप से प्रतिबंधित किया गया है और किसे नहीं" (सामान्य कमेंट सं. 34, पैरा 25 पर); A/HRC/38/35 (undocs.org), पैरा 46 पर). स्पष्टता या सटीकता में कमी के कारण नियमों का असमान और स्वैच्छिक एन्फ़ोर्समेंट हो सकता है. Meta पर यह बात लागू होती है कि उसके यूज़र्स को Facebook और Instagram पर कंटेंट पोस्ट करने के परिणाम पता होने चाहिए और कंटेंट रिव्यूअर्स के पास एन्फ़ोर्समेंट करने के बारे में स्पष्ट मार्गदर्शन होना चाहिए.

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का पॉलिसी बनाने का कारण – जो कम्युनिटी स्टैंडर्ड के लक्ष्य बताता है लेकिन वह खुद नियम का भाग नहीं है – कहता है कि “संदर्भ महत्वपूर्ण होता है” और किसी “प्रामाणिक धमकी” का मूल्यांकन करते समय उस पर विचार किया जा सकता है, लेकिन Meta के आंतरिक मार्गदर्शन और मॉडरेशन के तरीके इसे व्यवहार में नहीं लाते. जैसा कि बोर्ड ने “ईरान में विरोध प्रदर्शन का स्लोगन” केस में नोट किया कि कंटेंट के शुरुआती मॉडरेटर्स को कहा गया है कि वे पोस्ट में कोई खास शर्त या एलिमेंट देखे और अगर वे दिखाई दें, तो मॉडरेटर्स उस पोस्ट को हटा दें. दूसरे शब्दों में, अगर पोस्ट में कोई धमकी (जैसे कि “हत्या” या “मैं तेरे टुकड़े-टुकड़े कर दूँगा”) और एक टार्गेट है, तो उसे हटा दिया जाएगा. कंटेंट मॉडरेटर्स को यह अधिकार नहीं दिया गया है कि वे धमकी के प्रामाणिक होने का आकलन कर पाएँ. जैसा कि Meta ने भी उस केस में समझाया कि दोहराया जाने वाला या फ़ॉर्मूले पर आधारित तरीका इसलिए अपनाया गया क्योंकि “इस बात का आकलन करना कि कोई वाक्यांश अलंकारपूर्ण कथन है या प्रामाणिक धमकी, बहुत मुश्किल है, ख़ास तौर पर बड़े पैमाने पर.” धमकियों की प्रामाणिकता के बारे में विचार-विमर्श नियम बनाते समय किया जाता है, उसे एन्फ़ोर्स करते समय नहीं. जैसा कि बोर्ड ने “ईरान में विरोध प्रदर्शन का स्लोगन” केस में नोट किया कि भले ही “पॉलिसी बनाने के कारण में उस तरह की अलंकारिक भाषा को शामिल किया गया है जिसका उपयोग विरोध प्रदर्शनों के संदर्भ में किया जा सकता है, लेकिन लिखित नियमों और रिव्यूअर्स को इस संबंध में दिए जाने वाले मार्गदर्शन में यह मौजूद नहीं है. ख़ास तौर पर बड़े पैमाने पर एन्फ़ोर्समेंट का व्यावहारिक उपयोग, नियमों के बजाय फ़ॉर्मूले के आधार पर ज़्यादा होता है और इससे यूज़र्स के बीच यह गलत धारणा पनप सकती है कि नियमों को किस तरह एन्फ़ोर्स किया जाएगा. वर्तमान में रिव्यूअर्स को दिए जाने वाले मार्गदर्शन में संदर्भात्मक विश्लेषण की संभावना को शामिल नहीं किया गया है, भले ही कंटेंट में ही इस बात के स्पष्ट संकेत हों कि धमकी वाली भाषा अलंकारिक है.” कंपनी द्वारा बताए गए पॉलिसी बनाने के कारण और उसके वास्तविक एन्फ़ोर्समेंट व्यवहार में यह विसंगति जारी है और वह वैधानिकता के सिद्धांत को पर्याप्त रूप से पूरा नहीं करता.

बोर्ड ने “ईरान में विरोध प्रदर्शन का स्लोगन” केस के अपने इस निष्कर्ष को दोहराया कि Meta को इस बारे में विस्तृत मार्गदर्शन देना चाहिए कि संदर्भ पर किस प्रकार विचार किया जाना चाहिए और मॉडरेटर्स को किस तरह असंतोष जताने वाली “अलंकारपूर्ण” या ऐसी भाषा को हटाने से बचना चाहिए जिसका कोई शाब्दिक अर्थ नहीं है, खास तौर पर ईरान जैसे संवेदनशील राजनैतिक माहौल में.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि ऐसे कंटेंट पर Meta द्वारा प्रतिबंध “जो आम तौर पर बुर्का पहनने वाली महिलाओं की उनकी इच्छा या परमिशन के बगैर बुर्के के बिना इमेज पोस्ट करके उनकी पहचान उजागर करता है” पर्याप्त रूप से स्पष्ट नहीं है, जैसा कि इस केस में हुआ. यह स्पष्ट करता है कि जो कंटेंट बिना बुर्के वाली महिलाओं की “पहचान उजागर” करता है और जिससे नुकसान हो सकता है, उसकी Meta के प्लेटफ़ॉर्म पर मनाही है. हालाँकि बोर्ड ने यह चिंता नोट की कि Instagram की कम्युनिटी गाइडलाइन, नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने के कम्युनिटी स्टैंडर्ड से सीधे लिंक नहीं है. इससे Instagram के यूज़र्स के लिए नियमों को एक्सेस करने की क्षमता में कमी आती है. पुराने केसों ( ब्रेस्ट कैंसर के लक्षण और नग्नता, ओजलान का एकांतवास) में, बोर्ड ने यह सुझाव दिया है कि Meta, यूज़र्स को सार्वजनिक रूप से स्पष्ट करे कि किस तरह उसके Facebook कम्युनिटी स्टैंडर्ड, Instagram पर लागू होते हैं. जवाब में Meta ने कम्युनिटी स्टैंडर्ड को Instagram की कम्युनिटी गाइडलाइन के साथ मिलाने की प्रोसेस शुरू की और यह बताया कि दोनों प्लेटफ़ॉर्म की पॉलिसी में कहाँ मामूली अंतर है. तिमाही ट्रांसपेरेंसी रिपोर्ट्स बनाने के लिए, Meta ने बोर्ड को यह आश्वासन दिया है कि इन कोशिशों पर प्राथमिकता से काम किया जा रहा है और बताया कि कानूनी और विनियामक जटिलताओं के कारण उनकी समयसीमा प्रभावित हुई है. बोर्ड ने इस प्रोसेस को तेज़ी से पूरा करना और लागू नियमों की स्पष्टता सुनिश्चित करने का महत्व दोहराया.

II. वैधानिक लक्ष्य

ICCPR के अनुच्छेद 19, पैराग्राफ़ 3 के तहत अभिव्यक्ति को कारणों की एक परिभाषित और सीमित लिस्ट के लिए ही प्रतिबंधित किया जा सकता है, जिसमें दूसरे लोगों के अधिकारों की रक्षा करने का उद्देश्य शामिल है. इस केस में, बोर्ड ने पाया कि हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उद्देश्य ऐसे कंटेंट को हटाकर “ऑफ़लाइन नुकसान की संभावना को रोकना है” जिसमें “जान और माल के नुकसान का वास्तविक जोखिम या लोगों की सुरक्षा को सीधे खतरा” होता है. इसलिए यह पॉलिसी जीने के अधिकार (अनुच्छेद 6, ICCPR) और व्यक्ति की शारीरिक सुरक्षा के अधिकार (अनुच्छेद 9, ICCPR; सामान्य कमेंट संख्या 35, पैरा. 9) का वैधानिक लक्ष्य पूरा करती है.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ी पॉलिसी, ईरान में भेदभाव न होने देने के महिलाओं के अधिकारों की रक्षा करने का वैधानिक लक्ष्य पूरा करती है (अनुच्छेद 2, 3 और 26, ICCPR; अनुच्छेद 1 और 7, CEDAW), जिसमें अभिव्यक्ति और सभा करने की आज़ादी का अधिकार (अनुच्छेद 19 और 21, ICCPR), सार्वजनिक जीवन में भाग लेने का अधिकार (अनुच्छेद 1 और 7, CEDAW), प्राइवेसी का अधिकार (अनुच्छेद 17, ICCPR) और जीवन का अधिकार (अनुच्छेद 6, ICCPR ) और व्यक्ति की आज़ादी और सुरक्षा (अनुच्छेद 9 ICCPR) का अधिकार शामिल है.

III. आवश्यकता और आनुपातिकता

अभिव्यक्ति की आज़ादी पर लगाए जाने वाले सभी प्रतिबंध "उनके सुरक्षात्मक कार्य को पूरा करने के लिए उपयुक्त होने चाहिए; वे अपने सुरक्षात्मक कार्य कर सकने वाले उपायों में से कम से कम हस्तक्षेप करने वाले उपाय होने चाहिए; वे सुरक्षित रखे जाने वाले हित के अनुपात में होना चाहिए” (सामान्य कमेंट 34, पैरा. 34). सोशल मीडिया कंपनियों को समस्या वाले कंटेंट को हटाने के बजाय उस पर कई तरह की संभावित प्रतिक्रियाओं पर विचार करना चाहिए ताकि यह सुनिश्चित किया जा सके कि प्रतिबंध कम से कम हों ( A/74/486, पैरा. 51).

हिंसा और उकसावे संबंधी कम्युनिटी स्टैंडर्ड

बोर्ड ने पाया कि इस मामले में कंटेंट को हटाने का Meta का शुरुआती फ़ैसला ज़रूरी नहीं था. यह वीडियो बनाने वाले व्यक्ति या अन्य लोगों की सुरक्षा की रक्षा करने के लिए ज़रूरी नहीं था, क्योंकि पोस्ट के कैप्शन में दी गई धमकी का शाब्दिक अर्थ नहीं निकाला जा सकता. बोर्ड इस बात से चिंतित है कि “ईरान में विरोध प्रदर्शन का स्लोगन” केस में मार्गदर्शन देने के बावजूद, कंपनी के कम्युनिटी स्टैंडर्ड और मॉडरेटर्स को दिए जाने वाले मार्गदर्शन में ईरान की स्थिति के बावजूद, जहाँ एक वर्ष से ज़्यादा समय से विरोध प्रदर्शन चल रहे हैं, अलंकारपूर्ण (गैर-शाब्दिक) धमकियों पर अलग-अलग तरह से एन्फ़ोर्समेंट किए जाने की गुंजाइश है. इस केस की ही तरह उस केस में भी ऐसा वाक्यांश शामिल था जिसे धमकी का गैर-शाब्दिक कथन समझने में Meta विफल रहा था. पर्याप्त मार्गदर्शन की निरंतर कमी इस बात से भी हाइलाइट होती है कि इस केस के कंटेंट का रिव्यू कई शुरुआती मॉडरेटर्स और Meta की टीमों ने किया था, फिर भी बार-बार उसे उल्लंघन करने वाला ठहराया गया.

अपने विश्लेषण के हिस्से के रूप में, बोर्ड ने रबात एक्शन प्लान की छह बातों को ध्यान में रखते हुए इस केस के कंटेंट की क्षमता का आकलन किया कि किस तरह से वह भेदभाव, हिंसा, या अन्य तरह की अराजकता के कृत्यों का गंभीर जोखिम पैदा कर सकता है. बोर्ड ने नोट किया कि रबात एक्शन प्लान की बातों को राष्ट्रीय, जातीय या धार्मिक नफ़रत भड़काने को ध्यान में रखते हुए बनाया गया था और उसका उद्देश्य सामान्य उकसावा नहीं है, इसलिए छह कारकों वाला टेस्ट सामान्य अर्थों में उकसावे के आकलन के लिए उपयोगी है और बोर्ड ने पहले भी उसका उपयोग इस तरह से किया है (उदाहरण के लिए देखें, ईरान में विरोध प्रदर्शन का स्लोगन, क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान):

• संदर्भ: कंटेंट को जुलाई 2023 में अशांति और सरकार के खिलाफ़ प्रदर्शन कर रहे लोगों के दमन और उन पर हो रही हिंसा के समय में पोस्ट किया गया था. इंटरनेट पर भारी पाबंदी और Facebook, Telegram और X जैसे मुख्य सोशल मीडिया प्लेटफ़ॉर्म पर बैन को देखते हुए देश में विरोध प्रदर्शन के लिए बहुत कम मंच उपलब्ध हैं. जिन कुछ प्लेटफ़ॉर्म पर बैन नहीं लगाया गया है, उनमें Instagram एक है और इसलिए “नारी, ज़िंदगी, आज़ादी” आंदोलन में उसकी भूमिका महत्वपूर्ण है. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने नोट किया कि आंदोलन का लक्ष्य विरोध प्रदर्शन में लोगों को जोड़ना और महिलाओं के खिलाफ़ चार दशकों से चले आ रहे भेदभाव को चुनौती देना है. विशेषज्ञों ने नोट किया कि आंदोलन की शुरुआत के समय से ही, महिलाओं को डराना और उन्हें चुप कराना प्रमुख ट्रेंड रहा है ताकि वे खुद को ऑनलाइन रूप से अभिव्यक्त न कर सकें. नए कानूनों और प्रमुख लोगों की गिरफ़्तारी का लक्ष्य इन अभिव्यक्तियों को कुचलना और हिजाब से जुड़े कानूनों को चुनौती को एक आंदोलन न बनने देना है.
• स्पीकर की पहचान: Meta ने बोर्ड से कहा कि उसने कंटेंट को पोस्ट करने वाले यूज़र को सार्वजनिक हस्ती नहीं माना. वीडियो के कैप्शन के आधार पर, यूज़र “नारी, ज़िंदगी, आज़ादी” आंदोलन का एक समर्थक जान पड़ता है. इसलिए, यहाँ स्पीकर किसी प्रभावपूर्ण स्थिति में नहीं है और महिलाओं का समर्थन करके और इस कंटेंट को पोस्ट करके वह अपनी सुरक्षा को भी संभावित रूप से खतरे में डाल रहा है.
• इरादा: कंटेंट का शुरुआती मॉडरेशन करते समय इरादा जानना बेहद चुनौतीपूर्ण है, लेकिन पूरी पोस्ट को निष्पक्ष और साधारण रूप से पढ़ने से पता चलता है कि उसके द्वारा पोस्ट में दिखाई गई महिला के लिए समर्थन दिखाया गया है और वह उस महिला की गिरफ़्तारी के खिलाफ़ जागरूकता फैलाता है. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उनके अनुसार ईरान में किसी महिला की गिरफ़्तारी के बाद उसकी फ़ोटो और नाम अन्य लोगों तक पहुँचाना बहुत आम है ताकि अधिकारियों पर उस महिला को सुरक्षित रखे जाने के लिए दबाव पड़े. प्रदर्शनकारी यह जान गए हैं कि इन लोगों की पहचान सार्वजनिक करके, वे पीड़ितों का और उत्पीड़न रोक सकते हैं.
• कंटेंट और अभिव्यक्ति का प्रकार: बोर्ड ने जिन भाषाई विशेषज्ञों से परामर्श किया, उनके अनुसार इस संदर्भ में “तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” वाक्यांश को फ़ारसी बोलने वाले लोगों द्वारा गुस्से और नाराज़गी जैसी गहरी भावनाओं के संदर्भ में देखा जाएगा, न कि उसे हिंसा की शाब्दिक धमकी माना जाएगा. आंदोलन में सरकार के खिलाफ़ बोलने के लिए कठोर और स्पष्ट रूप से धमकी भरी भाषा का उपयोग नियमित रूप से किया जाता रहा है. ईरान में विरोध प्रदर्शन का स्लोगन केस में, बोर्ड ने पाया कि “खामेनेई को मौत दो” स्लोगन एक “अलंकारपूर्ण धमकी” थी और नोट किया कि Meta ने मिलते-जुलते कारणों से “मैं उन सभी लोगों को मार दूँगा/दूँगी जो मेरे भाई-बहनों को मारेगा” वाक्यांश को “पॉलिसी की भावना” से जुड़ी छूट दी थी. इस केस से जुड़ा वाक्यांश, उस महिला की प्रशंसा करने वाले कैप्शन के बीच में दिखाई देता है जो अपने अधिकारों के लिए लड़ रही है. पूरे कैप्शन पर विचार करने पर, यह दिखाई देता है कि कैप्शन में उस ईरानी महिला के लिए समर्थन दिखाया गया है जो सरकार के भेदभावपूर्ण कानूनों और दुर्व्यवहार का विरोध कर रही है.
• प्रसार और पहुँच: पोस्ट को लगभग 47,000 बार देखा गया, उसे 2,000 लाइक, 100 कमेंट और 50 शेयर मिले. यह देखते हुए कि रबात विश्लेषण की अन्य बातों पर विचार करने पर यह कथन लोगों को उकसाता नहीं है, कंटेंट की व्यापक पहुँच अपने आप में यह तय करने वाला कारण नज़र नहीं आता कि कंटेंट को हटाना ज़रूरी है.
• संभावना और निकटता: यह तथ्य इस बात का आकलन करता है कि क्या कथन से कथन के संभावित टार्गेट, जो इस केस में सरकार है, के खिलाफ़ तात्कालिक नुकसान हो सकता है और क्या उसे नुकसान होने की आशंका है. विरोधी आंदोलन और उसके समर्थक एक ऐसी सरकार के खिलाफ़ खड़े हैं जो प्रदर्शनकारियों के लिए लगातार हिंसक दमन और प्रतिशोध का उपयोग कर रही है. इस केस के कथन से जिस परिणाम की सबसे ज़्यादा आशंका है, वह पोस्ट करने वाले यूज़र या वीडियो में दिखाई दे रही महिला पर बदले की हिंसा करना है, न कि उससे सरकार या उसके समर्थकों पर कोई हिंसा होने की आशंका है. विशेषज्ञों ने इन विरोध प्रदर्शनों में भाग लेने वाले लोगों के सामने आ रहे खतरों पर ज़ोर दिया. साथ ही उन्होंने इस बात पर भी ज़ोर दिया कि हिंसा के खतरे के बावजूद किस तरह यह आंदोलन टिका हुआ है. उन्होंने यह भी बताया कि जिन महिलाओं को गिरफ़्तार किया गया है, उनकी बिना बुर्के वाली फ़ोटो को लोगों तक पहुँचाने का लक्ष्य उनकी गिरफ़्तारी की ओर लोगों का ध्यान आकर्षित करना और अधिकारियों पर उन्हें सुरक्षित रखने के लिए दबाव डालना है.

ऊपर बताई गई बातों के विश्लेषण के आधार पर, बोर्ड मानता है कि कंटेंट से कोई प्रामाणिक खतरा नहीं है और उससे ऑफ़लाइन नुकसान होने की आशंका नहीं है. अगर किसी व्यापक विरोध प्रदर्शन का हिंसक दमन किया जाता है और उसके संदर्भ में अलंकारपूर्ण भाषा का उपयोग किया जाता है, तो Meta को पॉलिसी बनाने के अपने कारण और रिव्यूअर्स को दिए जाने वाले मार्गदर्शन में समानता लाते हुए अपने रिव्यूअर्स को भाषा और स्थानीय संदर्भ का आकलन करने में सक्षम बनाना चाहिए. संकट की स्थितियों में मॉडरेशन को व्यापक रूप से बेहतर बनाने के लिए इस बात का सटीक आकलन करना महत्वपूर्ण है कि कोई पोस्ट “अलंकारपूर्ण भाषा” है या नहीं या उससे हिंसा भड़कने की आशंका है या नहीं. ह्यूमन मॉडरेटर्स द्वारा दिए जाने वाले ट्रेनिंग डेटा की क्वालिटी द्वारा ऑटोमेशन की सटीकता पर असर पड़ेगा. जहाँ किसी नियम के कठोर एन्फ़ोर्समेंट के कारण ह्यूमन मॉडरेटर्स “अलंकारपूर्ण” कथनों को हटा देते हैं, वहाँ ऐसी गलती के फिर से होने और ऑटोमेशन के ज़रिए ज़्यादा बड़ा रूप लेने की आशंका होती है.

बोर्ड ने नोट किया कि Meta के पास संकट की स्थितियों में अपनी पॉलिसीज़ औण उनके एन्फ़ोर्समेंट को एडजस्ट करने के कई तरीके उपलब्ध हैं, जिसमें “जोखिमग्रस्त” देशों को टियर करने का सिस्टम और उसका संकट पॉलिसी प्रोटोकॉल शामिल है. “जोखिमग्रस्त” देशों को टियर करने के सिस्टम का उपयोग उन देशों की पहचान करने के लिए किया जाता है जिन्हें “ऑफ़लाइन नुकसान और हिंसा” का जोखिम होता है ताकि कंपनी यह तय कर सके कि वह अपने प्रोडक्ट डेवलपमेंट में किन बातों को प्राथमिकता दे या अपने रिसोर्स का किस तरह उपयोग करे. इस आकलन का उपयोग अन्य प्रोसेस में भी किया जा सकता है (जैसे, क्या कोई खास ऑपरेशन टीम बनाई जाए या अपने संकट पॉलिसी प्रोटोकॉल को ट्रिगर करने के लिए). Meta ने बोर्ड को बताया कि 2023 के आखिरी छह महीनों में, ईरान को “जोखिमग्रस्त देशों” की लिस्ट में डाला गया था. ईरान को 21 सितंबर, 2022 से संकट पॉलिसी प्रोटोकॉल में भी डाला गया है और वह अभी भी इसके तहत चिह्नित है. संकट पॉलिसी प्रोटोकॉल, किसी खास स्थिति से निपटने के लिए Meta को कुछ अस्थाई पॉलिसी बदलाव करने की सुविधा देता है जिन्हें “पॉलिसी लीवर्स” कहा जाता है. Meta ने पहले ही ईरान में उपयोग किए जा चुके कुछ पॉलिसी लीवर्स के उदाहरण दिए, जिनमें “किसी ऐसे कंटेंट को परमिशन देना शामिल है जिसमें ‘मैं उन सभी लोगों को मार दूँगा/दूँगी जो मेरे भाई-बहनों को मारेगा’ स्लोगन या उससे मिलते-जुलते कथन शामिल हों लेकिन हमारी पॉलिसीज़ के अन्य उल्लंघन शामिल न हों.” (पॉलिसी लीवर्स के अन्य उदाहरणों के लिए, पॉलिसी फ़ोरम की मीटिंग से जुड़ी मुख्य बातें, 25 जनवरी, 2022, संकट पॉलिसी प्रोटोकॉल देखें.)

हालाँकि बोर्ड, सुरक्षा के लिए कंपनी की प्रतिबद्धता और ईरान में संकट पॉलिसी प्रोटोकॉल को एक्टिवेट करके कंटेंट मॉडरेशन के संभावित जोखिमों को कम करने की उसकी कोशिशों की सराहना करता है, लेकिन असंतोष और सामाजिक तनावों के सुनियोजित दमन के माहौल में अभिव्यक्ति और सभा की आज़ादी के लोगों के अधिकार का सम्मान सुनिश्चित करने के लिए पर्याप्त नहीं रहे हैं. बोर्ड द्वारा करवाई गई रिसर्च से पता चलता है कि ईरान में हिजाब पहनने से जुड़ी चर्चा के संदर्भ में बिना बुर्के वाली महिलाओं को दिखाने वाला कंटेंट, बड़ी मात्रा में विरोधी आंदोलन करने वाले लोगों या उनके समर्थकों द्वारा शेयर किया गया है. यहाँ, Meta की एन्फ़ोर्समेंट प्रोसेस प्रासंगिक संदर्भ में अलंकारपूर्ण (या शाब्दिक नहीं) कथनों को वास्तविक धमकियों और हिंसा के उकसावे, जिनसे ऑफ़लाइन नुकसान भड़कने की आशंका होती है, से अलग करने में बार-बार विफल रही.

बोर्ड ने सुझाव दिया कि Meta अपनी संकट पॉलिसी प्रोटोकॉल में एक पॉलिसी लीवर जोड़े और उसके अनुसार शुरुआती मॉडरेटर्स को यह आंतरिक मार्गदर्शन दे कि वे किस तरह यह पहचाने कि प्रासंगिक संदर्भ में धमकी वाला कौन-सा कथन अलंकारपूर्ण है या उसका कोई शाब्दिक अर्थ नहीं है और उसे हिंसा की धमकियों को प्रतिबंधित करने वाली हिंसा और उकसावे से जुड़ी पॉलिसी लाइन का उल्लंघन नहीं करने वाला माना जा सकता है. यह तय करने वाली संकट विशिष्ट शर्त बनाते समय कि कोई धमकी अलंकारपूर्ण है और शाब्दिक नहीं है, Meta रबात एक्शन प्लान में कही गई बातों की मदद ले सकता है (जैसे, सरकार के दमन के खिलाफ़ व्यापक विरोध प्रदर्शन का संदर्भ, क्या स्पीकर में ऐसी योग्यता है कि वह लोगों को नुकसान में शामिल होने के लिए उकसा सके या ऐसा करने का जोखिम उत्पन्न कर सके, प्रासंगिक भाषाई और सामाजिक संदर्भ जो बताते हों कि अलंकारिक बातें कहने के लिए कठोर/भावनात्मक भाषा का उपयोग किया जाता है, स्थानीय जानकारी को देखते हुए नुकसान की आशंका आदि). मॉडरेशन की शर्त बनाने या उसका आकलन करने के लिए कंपनी अपने भरोसेमंद पार्टनर्स की भी मदद ले सकती है. कंटेंट के मॉडरेशन के लिए Meta ने खुद भी रबात एक्शन प्लान के व्यवहारिक महत्व पर ज़ोर दिया है और एक्शन प्लान का 32 भाषाओं में अनुवाद करने में संयुक्त राष्ट्र की सहायता की है. इस पॉलिसी लीवर को सरकार के खिलाफ़ विरोध प्रदर्शनों के संदर्भ में “अलंकारपूर्ण भाषा” की परमिशन देनी चाहिए, बशर्ते उसका इरादा हिंसा भड़काना न हो और उससे ऐसा होने की आशंका भी न हो.

नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़ा कम्युनिटी स्टैंडर्ड

इस केस में, बोर्ड ने पाया कि नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड के तहत पोस्ट को हटाना ज़रूरी नहीं था, क्योंकि उसमें दिखाई गई महिला की पहचान पहले ही व्यापक रूप से जाहिर थी और कंटेंट को पोस्ट करने का उद्देश्य उस महिला की गिरफ़्तारी की ओर ध्यान आकर्षित करना था, इस आशा में कि अगर लोग बड़ी संख्या में इसे देखेंगे, तो उस महिला को छोड़ दिया जाएगा. इसके अलावा, कई पब्लिक कमेंटेटर्स ने यह हाइलाइट किया कि जो महिलाएँ सार्वजनिक रूप से हिजाब हटाती हैं, वे विरोध दर्शाने के लिए जान-बूझकर ऐसा करती हैं, उन्हें इसके परिणामों की जानकारी होती है और वे “अधिकारियों के कूटनीतिक विरोध के रूप में चुनौती” को चुनती हैं, (देखें पब्लिक कमेंट Tech Global Institute, PC-21009). वीडियो में दिखाई गई महिला को पहले ही पहचाना जा चुका था और उसे सरकार द्वारा गिरफ़्तार किया जा चुका था. पोस्ट को उस गिरफ़्तारी की ओर लोगों का ध्यान खींचने के लिए शेयर किया गया था. सरकार द्वारा पकड़े गए प्रदर्शनकारियों और असंतुष्टों को प्रताड़ना दी गई है, उन पर लिंग आधारित हिंसा की गई है या उन्हें गायब कर दिया गया है. बोर्ड ने जिन विशेषज्ञों से परामर्श किया, उन्होंने और कई पब्लिक कमेंटेटर्स ने खास तौर पर नोट किया कि गिरफ़्तारी पर लोगों का ध्यान आकर्षित करना और गिरफ़्तार व्यक्ति की रिहाई का आह्वान करने का यह तरीका आंदोलनकारियों और ईरान के मानवाधिकार कार्यकर्ताओं द्वारा नियमित रूप से उपयोग किया जाता है और उससे सरकार द्वारा पकड़े गए लोगों की रक्षा में मदद मिल सकती है.

कमज़ोर यूज़र्स की पहचान की रक्षा करने की ज़रूरत और एक्सपोज़र चाहने वाले यूज़र्स को सेंसर न करने के बीच संतुलन रखना एक कठिन काम है और उसके लिए संदर्भ से जुड़ा विश्लेषण, समय से रिव्यू और तुरंत कार्रवाई की ज़रूरत होती है.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के Meta के मूल फ़ैसले को बदल दिया है.

10. सुझाव

1. एन्फ़ोर्समेंट

सरकार द्वारा सुनियोजित दमन के माहौल में यूज़र्स की अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने के लिए, Meta को संकट पॉलिसी प्रोटोकॉल में एक पॉलिसी लीवर जोड़ना चाहिए कि ऐसे अलंकारपूर्ण (या शाब्दिक नहीं) कथन, प्रासंगिक संदर्भों में हिंसा की धमकियों को रोकने वाली हिंसा और उकसावे से जुड़ी पॉलिसी की लाइन का उल्लंघन नहीं करते जिनका इरादा हिंसा भड़काना नहीं है या जिनसे हिंसा भड़कने की आशंका नहीं है. इसमें शुरुआती रिव्यू करने वाले मॉडरेटर्स के लिए उन शर्तों का निर्माण भी शामिल है जिनसे वे प्रासंगिक संदर्भ में ऐसे कथनों को पहचान पाएँ.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta, बोर्ड के साथ पॉलिसी लीवर को लागू करने के तरीके और ईरान में मॉडरेशन के लिए परिणामी शर्त शेयर करेगा.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच मेंबर्स के पैनल द्वारा लिए जाते हैं और उन पर बोर्ड के अधिकांश मेंबर्स की सहमति होती है. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें