ओवरसाइट बोर्ड ने महिलाओं के खिलाफ़ हिंसा वाले केस में Meta के फ़ैसलों को पलट दिया है

12 जुलाई 2023

ओवरसाइट बोर्ड ने Meta के ऐसी दो Instagram पोस्ट हटाने के फ़ैसलों को पलट दिया जिनमें लिंग आधारित हिंसा की निंदा की गई थी. बोर्ड ने सुझाव दिया कि Meta, नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी की सामान्य भाषा में ऐसे कंटेंट को परमिशन देने वाला अपवाद शामिल करे जिसमें लिंग आधारित हिंसा की निंदा की गई हो या उसके बारे में जागरूकता फैलाई गई हो. साथ ही, रिव्यूअर्स को दिए जाने वाले अपने आंतरिक मार्गदर्शन को अपडेट करके यह सुनिश्चित करे कि ऐसी पोस्ट को गलती से हटाया न जाए.

केस की जानकारी

इस फ़ैसले में, बोर्ड ने स्वीडन के एक Instagram यूज़र की दो पोस्ट पर एक साथ विचार किया है. Meta ने दोनों पोस्ट को नफ़रत फैलाने वाली भाषा से जुड़े अपने कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण हटा दिया था. बोर्ड द्वारा इन केस की पहचान किए जाने के बाद, Meta ने तय किया कि पहली पोस्ट को गलती से हटाया गया था लेकिन उसने दूसरी पोस्ट के बारे में अपना फ़ैसला कायम रखा.

पहली पोस्ट में ऑडियो रिकॉर्डिंग और उसके ट्रांस्क्रिप्शन वाला एक वीडियो है, दोनों स्वीडिश भाषा में हैं और इसमें एक महिला अपने हिंसक अंतरंग संबंध के अनुभव के बारे में बताती है. वह अपनी इस स्थिति की चर्चा परिवार के लोगों के साथ न कर पाने की अपनी मजबूरी भी बताती है. कैप्शन में बताया गया है कि ऑडियो रिकॉर्डिंग में शामिल महिला ने इसे प्रकाशित करने की सहमति दी है और आवाज़ को बदल दिया गया है. इसमें कहा गया है कि लिंग आधारित हिंसा के पीड़ितों को दोष देने की एक संस्कृति है और महिलाओं के लिए एक हिंसक साथी से छुटकारा पाना कितना कठिन है, इस बारे में लोगों की समझ बहुत कम है. कैप्शन में कहा गया है कि “men murder, rape and abuse women mentally and physically - all the time, every day” (पुरुष हर समय, हर दिन महिलाओं की हत्या करते हैं, उनसे बलात्कार करते हैं और उन्हें मानसिक और शारीरिक रूप से प्रताड़ित करते हैं). इसमें अंतरंग साथी की हिंसा के पीड़ितों के लिए बने सहायता संगठनों की जानकारी भी शेयर की गई है, महिलाओं के खिलाफ़ हिंसा के उन्मूलन के अंतरराष्ट्रीय दिवस का उल्लेख किया गया है और कहा गया है कि उम्मीद है कि पोस्ट को पढ़ने वाली महिलाएँ यह समझेंगी कि वे अकेली नहीं हैं.

जब Meta के एक क्लासिफ़ायर ने इस कंटेंट को नफ़रत फैलाने वाली भाषा से जुड़े Meta के नियमों का संभावित तौर पर उल्लंघन करने वाला पाया, तो दो रिव्यूअर्स ने पोस्ट की जाँच की और उसे हटा दिया. उन्हीं दो रिव्यूअर्स द्वारा रिव्यू के अलग-अलग लेवल पर इस फ़ैसले को कायम रखा गया. बोर्ड द्वारा इस केस को चुने जाने के बाद, Meta ने पाया कि उसने गलती से कंटेंट को हटा दिया था और पोस्ट को रीस्टोर कर दिया.

बोर्ड द्वारा पहली पोस्ट का आकलन शुरू करते समय, उसी यूज़र से बोर्ड को एक और अपील मिली. दूसरी पोस्ट भी Instagram पर शेयर की गई थी और उसमें स्वीडिश भाषा में बोल रही एक महिला का वीडियो था और वह एक नोटपैड पर स्वीडिश भाषा में लिखे शब्दों की ओर इशारा कर रही थी. वीडियो में, महिला कहती है कि वह पुरुषों से नफ़रत ज़रूर करती है लेकिन सभी पुरुषों से नहीं. उसने यह भी कहा कि उसे स्त्री जाति से द्वेष रखने के कारण पुरुषों से नफ़रत है और इसका कारण हिंसा के डर से जुड़ा है. Meta ने नफ़रत फैलाने वाली भाषा से जुड़े अपने नियमों का उल्लंघन करने के कारण कंटेंट को हटा दिया. यूज़र ने Meta द्वारा कंटेंट हटाए जाने के खिलाफ़ अपील की, लेकिन कंपनी ने ह्यूमन रिव्यू के बाद अपना मूल फ़ैसला कायम रखा. बोर्ड द्वारा इस केस को चुने जाने की सूचना के बाद भी Meta ने अपना विचार नहीं बदला.

कम से कम 2017 से, डिजिटल कैंपेन के ज़रिए यह हाइलाइट हुआ है कि Facebook की नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी के तहत ऐसे वाक्यांशों वाले कंटेंट को हटा दिया जाता है जिसमें लिंग आधारित हिंसा और उत्पीड़न की ओर लोगों का ध्यान आकर्षित किया जाता है. जैसे कि महिलाओं और कार्यकर्ताओं ने “men are trash” (पुरुष कूड़ा-कचरा हैं) और “ men are scum” (पुरुष घटिया हैं) जैसे वाक्यांशों को पोस्ट किया है और बाद में पुरुषों के खिलाफ़ नफ़रत फैलाने वाली भाषा के आधार पर उस कंटेंट को हटाए जाने का विरोध किया है.

मुख्य निष्कर्ष

बोर्ड ने पाया कि दोनों में से किसी भी पोस्ट से नफ़रत फैलाने वाली भाषा से जुड़े Meta के नियमों का उल्लंघन नहीं होता.

पहली पोस्ट को लेकर, बोर्ड ने पाया कि “Men murder, rape and abuse women mentally and physically – all the time, every day” (पुरुष हर समय, हर दिन महिलाओं की हत्या करते हैं, उनसे बलात्कार करते हैं और उन्हें मानसिक और शारीरिक रूप से प्रताड़ित करते हैं) एक उचित कथन है और उससे Meta की नफ़रत फैलाने वाली भाषा की पॉलिसी का उल्लंघन नहीं होता. यह देखते हुए कि पोस्ट में महिलाओं के खिलाफ़ हिंसा को लेकर अंतरराष्ट्रीय कैंपेन का संदर्भ दिया गया है और उसमें ऐसे संगठनों के लिए लोकल रिसोर्स दिए गए हैं जो महिला पीड़ितों की मदद के लिए काम करते हैं, यह स्पष्ट है कि भाषा में उन पुरुषों की बात की गई है जो महिलाओं के साथ हिंसा करते हैं.

इसके अलावा, बोर्ड ने पाया कि दूसरी पोस्ट में पुरुषों के अपमान की अभिव्यक्ति नहीं है बल्कि उसमें महिलाओं के खिलाफ़ हिंसा की निंदा की गई है और लिंग आधारित नफ़रत के बुनियादी कारणों की चर्चा की गई है. Meta ने यह तर्क दिया कि यूज़र का यह कथन कि वह सभी पुरुषों से नफ़रत नहीं करती, पोस्ट के अन्य हिस्सों के आकलन पर असर नहीं डालता, लेकिन बोर्ड इससे असहमत है और पोस्ट पर समग्र रूप से विचार करता है. बोर्ड ने पाया कि पोस्ट के ऐसे अन्य भाग जिन्हें Meta ने संभावित रूप से उल्लंघन करने वाला बताया, वास्तव में पोस्ट के संदर्भ में पढ़े जाने पर उल्लंघन नहीं करते. बोर्ड के कुछ मेंबर इस बात से असहमत थे कि विचाराधीन पोस्ट से नफ़रत फैलाने वाली भाषा से जुड़े Meta के नियमों का उल्लंघन नहीं होता है.

बोर्ड इस बात से चिंतित है कि लिंग आधारित नफ़रत फैलाने वाली भाषा पर नियम लागू करने के Meta के तरीके के परिणामस्वरूप ऐसे कंटेंट को अनुपातहीन रूप से हटाया जा सकता है जो लिंग आधारित हिंसा के बारे में जागरूकता फैलाता है और उसकी निंदा करता है. उदाहरण के लिए Meta ने कहा कि पहली पोस्ट को उसके प्लेटफ़ॉर्म पर परमिशन दी जानी चाहिए और यह कि नफ़रत फैलाने वाली भाषा की पॉलिसी को “इस तरह बनाया गया है कि उसमें लिंग आधारित हिंसा के प्रति जागरूकता फैलाने वाले कंटेंट को परमिशन दी जा सके.” हालाँकि, न तो लोगों के लिए उपलब्ध पॉलिसी में और न ही मॉडरेटर्स के लिए बनाए गए उसके आंतरिक मार्गदर्शन के डॉक्यूमेंट में यह सुनिश्चित करने का तरीका स्पष्ट रूप से बताया गया है कि इस तरह की पोस्ट को गलती से हटाया नहीं जाएगा. कंपनी के भ्रमित करने वाले मार्गदर्शन के कारण मॉडरेटर्स के लिए सही निष्कर्ष तक पहुँचना वास्तव में असंभव हो जाता है. भले ही पहली पोस्ट के मामले में बोर्ड द्वारा पहचान किए जाने के बाद Meta ने संदर्भात्मक संकेतों की मदद से यह तय किया कि वह उल्लंघन नहीं करती, लेकिन मॉडरेटर्स के लिए कंपनी के मार्गदर्शन में संदर्भ के आधार पर विश्लेषण की संभावना बहुत कम है.

बोर्ड ने पाया कि इस संदर्भ में, यह महत्वपूर्ण है कि लिंग आधारित हिंसा की निंदा करने वाले और उसके प्रति जागरूकता फैलाने वाले कथनों को गलती से हटाया न जाए. बोर्ड की यह चिंता कि ऐसा हो रहा होगा, यह देखते हुए ख़ास तौर पर स्पष्ट है कि इस तरह के कंटेंट को परमिशन देने की जानकारी Meta द्वारा हाइलाइट ज़रूर की गई है लेकिन लोगों को इसके बारे में स्पष्ट रूप से बताया नहीं गया है और मॉडरेटर्स को दिया गया मार्गदर्शन भ्रमित करने वाला है. इसका समाधान करने के लिए Meta को अपने सार्वजनिक नियमों को स्पष्ट बनाना चाहिए और मॉडरेटर्स को ऐसा उचित मार्गदर्शन देना चाहिए जिसमें इस परमिशन की जानकारी हो.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने दोनों पोस्ट को हटाने के Meta के फ़ैसलों को पलट दिया. बोर्ड ने Meta को सुझाव दिया है कि वह:

• नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी की सामान्य भाषा में यह अपवाद शामिल करे कि वह ऐसे कंटेंट को परमिशन देता है जो लिंग आधारित हिंसा की निंदा करता है और उसके प्रति जागरूकता फैलाता है.
• बड़े पैमाने पर काम कर रहे अपने मॉडरेटर्स को दिए जाने वाले मार्गदर्शन को अपडेट करे, जिसमें कथनों की योग्यता के नियमों पर ख़ास ध्यान दिया गया हो ताकि यह सुनिश्चित हो कि लिंग आधारित हिंसा की निंदा करने और उसके बारे में जागरुकता फैलाने वाले कंटेंट को गलती से हटाया न जाए.
• अपने ट्रांसपेरेंसी सेंटर में यह जानकारी जोड़कर उसे अपडेट करे कि Instagram पर स्ट्राइक इकट्ठी हो जाने पर क्या पेनल्टी लगेगी. बोर्ड इस बात की सराहना करता है कि Meta ने बोर्ड के सुझावों पर काम करते हुए Facebook यूज़र्स को स्ट्राइक के बारे में अतिरिक्त जानकारी दी है. वह मानता है कि ऐसा Instagram के यूज़र्स के लिए भी किया जाना चाहिए.
• इस बात का आकलन करे कि उसका मौजूदा रिव्यू राउटिंग प्रोटोकॉल, सटीकता को किस तरह प्रभावित करता है. बोर्ड यह मानता है कि Meta, इस प्रोटोकॉल को एडजस्ट करके सेकेंडरी रिव्यू जॉब को प्राथमिकता के साथ ऐसे अन्य रिव्यूअर्स को भेजे, जिन्होंने पहले कंटेंट का आकलन नहीं किया है. इससे कंटेंट मॉडरेशन की सटीकता में सुधार होगा.

और जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया नीचे अटैचमेंट पर क्लिक करें.

समाचार पर लौटें