ओवरसाइट बोर्ड ने ईरानी महिला का सड़क पर विरोध किए जाने के केस में Meta के फ़ैसले को पलट दिया
7 मार्च 2024
ओवरसाइट बोर्ड ने एक ऐसे वीडियो को हटाने के Meta के मूल फ़ैसले को पलट दिया, जिसमें एक पुरुष ईरान की सड़कों पर एक महिला का इसलिए विरोध कर रहा था क्योंकि उसने हिजाब नहीं पहना था. पोस्ट से हिंसा और उकसावे से जुड़े नियमों का उल्लंघन नहीं होता क्योंकि इसमें शाब्दिक कथन के बजाय अलंकारपूर्ण कथन है और वह हिंसा का प्रामाणिक खतरा नहीं है. अशांति, प्रदर्शन कर रहे लोगों के बढ़ते दमन और उन पर बढ़ती हिंसा के दौरान ईरान में सोशल मीडिया की एक्सेस महत्वपूर्ण है, जहाँ महिलाओं के अधिकारों की लड़ाई में इंटरनेट, संघर्ष के नए माध्यम के रूप में उभरा है. Instagram उन चुनिंदा प्लेटफ़ॉर्म में से एक है जिसे देश में प्रतिबंधित नहीं किया गया है, इसलिए सरकार विरोधी “नारी, ज़िंदगी, आज़ादी” आंदोलन में इसकी भूमिका महत्वपूर्ण रही है, भले ही सरकार ने ऑनलाइन आने वाली महिलाओं को डराने और उन्हें चुप कराने की भरपूर कोशिशें की हों. बोर्ड इस निष्कर्ष पर पहुँचा कि सरकार द्वारा सुनियोजित दमन के संदर्भ में अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने में Meta की कोशिशें पर्याप्त नहीं रही हैं और बोर्ड ने कंपनी के संकट पॉलिसी प्रोटोकॉल में बदलाव के सुझाव दिए.
केस की जानकारी
जुलाई 2023 में, एक यूज़र ने Instagram पर एक वीडियो पोस्ट किया जिसमें एक पुरुष, हिजाब न पहनने के कारण एक महिला का सार्वजनिक रूप से विरोध कर रहा है. फ़ारसी भाषा और अंग्रेज़ी सबटाइटल वाले इस वीडियो में महिला यह कहते हुए जवाब देती है कि वह अपने अधिकारों के लिए लड़ रही है. साथ में दिए कैप्शन में उस महिला और सरकार का विरोध कर रही अन्य ईरानी महिलाओं का समर्थन किया गया है. कैप्शन के एक भाग में, जिसमें सरकार की आलोचना भी की गई है, एक वाक्यांश शामिल किया गया है जिसका Meta के अनुसार अनुवाद “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” है.
ईरान की अपराध संहिता में उन महिलाओं को जेेल, अर्थदंड या कोड़े मारने की सजा दी जाती है जो “ठीक से हिजाब” पहनकर सार्वजनिक जगहों पर नहीं जाती हैं. सितंबर 2023 में, ईरान की सरकार ने एक नया हिजाब और शुचिता विधेयक मंज़ूर किया जिसमें कहा गया है कि अगर कोई महिला हिजाब के अनिवार्य नियमों का लगातार उल्लंघन करती है, तो उसे 10 वर्ष तक के कारावास की सज़ा दी जा सकती है. इस पोस्ट के कैप्शन में यह स्पष्ट किया गया है कि वीडियो में दिखाई दे रही महिला को पहले ही गिरफ़्तार कर लिया गया है.
पोस्ट को सबसे पहले Meta के ऑटोमेटेड सिस्टम द्वारा Instagram की कम्युनिटी गाइडलाइन के संभावित उल्लंघन के लिए फ़्लैग किया गया था, जिसके बाद पोस्ट को ह्यूमन रिव्यू के लिए भेजा गया. भले कई रिव्यूअर्स ने कंटेंट का Meta की हिंसा और उकसावे से जुड़ी पॉलिसी के तहत आकलन किया, लेकिन उनका निष्कर्ष एक जैसा नहीं था. इसके और एक तकनीकी गलती के चलते पोस्ट, प्लेटफ़ॉर्म पर बनी रही. फिर एक यूज़र ने पोस्ट की रिपोर्ट की, जिसके कारण एक और रिव्यू किया गया. इस बार यह रिव्यू Meta की क्षेत्रीय टीम ने किया जिसके पास भाषा की विशेषज्ञता थी. इसमें यह पाया गया कि पोस्ट से हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन होता है और उसे Instagram से हटा दिया गया. कंटेंट को पोस्ट करने वाले यूज़र ने फिर बोर्ड को अपील की. Meta इस कंटेंट को हटाने के अपने फ़ैसले पर तब तक कायम रहा जब तक कि बोर्ड ने इस केस का चयन नहीं किया. बोर्ड द्वारा चयन किए जाने के बाद कंपनी ने अपने फ़ैसले को पलट दिया और पोस्ट को रीस्टोर कर दिया.
मुख्य निष्कर्ष
बोर्ड ने पाया कि पोस्ट ने हिंसा और उकसावे के कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं किया क्योंकि उसमें अलंकारिक भाषा है और उसका शाब्दिक अर्थ नहीं निकाला जा सकता. साथ ही, यह हिंसा का ऐसा कोई प्रामाणिक खतरा नहीं है जिससे ऑफ़लाइन नुकसान हो सकता हो. Meta ने सबसे पहले पोस्ट को आंशिक रूप से हटा दिया था क्योंकि उसने वाक्यांश “वह दिन दूर नहीं जब तुम्हारे टुकड़े-टुकड़े कर दिए जाएँगे” को बहुत गंभीर हिंसा करने का इरादा माना, जिसका टार्गेट वीडियो में मौजूद पुरुष था, लेकिन इसका शाब्दिक अर्थ नहीं निकाला जाना चाहिए था. ईरान में व्यापक विरोध प्रदर्शनों के संदर्भ के साथ-साथ कैप्शन तथा वीडियो को समग्र रूप से देखते हुए, यह भाषा अलंकारिक थी और उसमें सरकार के खिलाफ़ गुस्सा और हताशा दर्शाई गई थी. बोर्ड द्वारा परामर्श किए गए भाषाई विशेषज्ञों ने इसका कुछ अलग अनुवाद किया (“हम जल्दी ही तुम्हारे टुकड़े-टुकड़े कर देंगे”) और बताया कि यह सरकार से गुस्सा, असंतोष और नाराज़गी दर्शाता है. लोग, सरकार की तरफ़ कोई नुकसान शुरू करें, इससे ज़्यादा संभावित जोखिम इस पोस्ट से यह है कि सरकार उन लोगों पर ही बदले की हिंसा कर दे.
Meta का पॉलिसी बनाने का कारण कहता है कि “प्रामाणिक खतरे” का मूल्यांकन करते समय “भाषा” और “संदर्भ” पर विचार किया जा सकता है, लेकिन मॉडरेटर्स को दिए गए Meta के आंतरिक मार्गदर्शन में इस पर अमल करने के निर्देश नहीं दिए गए हैं. मॉडरेटर्स से कहा गया है कि वे खास शर्तों (खतरा और टार्गेट) की पहचान करें और अगर वे शर्तें पूरी होती हैं, तो कंटेंट को हटा दें. बोर्ड ने पहले ईरान में विरोध प्रदर्शन का स्लोगन केस में इस विसंगति पर चिंता जताई थी और यह सुझाव दिया था कि Meta इस बारे में विस्तार से मार्गदर्शन दे कि संदर्भ पर किस तरह विचार किया जाए और मॉडरेटर्स से कहे कि असंतोष व्यक्त करने वाली “अलंकारिक भाषा” को सीधे न हटाएँ. यह अभी भी चिंता का विषय बना हुआ है क्योंकि ईरान जैसे संदर्भों में अलंकारिक भाषा के मामले में एन्फ़ोर्समेंट समान रूप से नहीं किया जा रहा. इसके अलावा, ह्यूमन द्वारा दिए गए ट्रेनिंग डेटा की क्वालिटी से ऑटोमेशन की सटीकता पर असर पड़ता है, इसलिए इस बात की आशंका है कि अलंकारिक भाषा को हटाने की गलतियाँ बढ़ जाएँ.
इस पोस्ट पर नुकसान पहुँचाने में मदद करने और अपराध को बढ़ावा देने से जुड़े कम्युनिटी स्टैंडर्ड के तहत भी विचार किया गया क्योंकि इसके एक नियम के तहत “ऐसे कंटेंट की मनाही है जो बुर्के में रहने वाली महिलाओं की बुर्के के बिना फ़ोटो, उनकी इच्छा या परमिशन के बगैर पोस्ट करके उन्हें जोखिम में डालता है.” उसके बाद पॉलिसी लाइन को एडिट किया गया और वह अब इस तरह के कंटेंट को प्रतिबंधित करती है: “उजागर करना [बिना बुर्के वाली महिला]: किसी व्यक्ति की पहचान उजागर करना और उन्हें नुकसान के जोखिम में डालना.” इस बारे में बोर्ड, Meta से इस बात पर सहमत है कि कंटेंट से वीडियो में मौजूद महिला की पहचान “उजागर” नहीं होती और अब नुकसान का जोखिम मौजूद नहीं है क्योंकि उसकी पहचान पहले ही व्यापक रूप से जाहिर है और उसे पहले ही गिरफ़्तार किया जा चुका है. दरअसल, इस पोस्ट को उसकी गिरफ़्तारी पर लोगों का ध्यान आकर्षित करने के लिए ही शेयर किया गया था और उससे अधिकारियों पर महिला को छोड़ने के लिए दबाव पड़ सकता था.
संकट पॉलिसी प्रोटोकॉल सहित Meta की संकट पॉलिसी में ईरान को जोखिमग्रस्त देश माना गया है, इसलिए कंपनी इस खास स्थिति का समाधान करने के लिए पॉलिसी में अस्थाई बदलाव (“लीवर्स”) लागू कर सकती है. बोर्ड यह मानता है कि ईरान के मामले में Meta की कोशिशें अच्छी हैं, लेकिन ये कोशिशें, सुनियोजित दमन के माहौल में लोगों की अभिव्यक्ति और सभा की आज़ादी का सम्मान सुनिश्चित करने के लिए अपर्याप्त हैं.
ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने पोस्ट को हटाने के Meta के मूल फ़ैसले को पलट दिया है.
बोर्ड ने सुझाव दिया है कि Meta:
- यह स्पष्ट करने के लिए संकट पॉलिसी प्रोटोकॉल में एक लीवर जोड़े कि ऐसे अलंकारिक (यानी जो शाब्दिक नहीं है) कथन जिनका इरादा हिंसा भड़काना नहीं है और उनसे ऐसा होने की आशंका भी नहीं है, हिंसा और उकसावे से जुड़ी उस पॉलिसी लाइन का उल्लंघन नहीं करते जो प्रासंगिक संदर्भों में हिंसा की धमकी को प्रतिबंधित करती है. इसमें शुरुआती रिव्यू करने वाले मॉडरेटर्स के लिए उन शर्तों का निर्माण भी शामिल है जिनसे वे प्रासंगिक संदर्भ में ऐसे कथनों को पहचान पाएँ.
ज़्यादा जानकारी के लिए
इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.
इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया यहाँ क्लिक करें.
