ओवरसाइट बोर्ड ने "लैंगिक पहचान और नग्नता" से संबंधित दोनों केस में Meta के मूल फ़ैसलों को बदल दिया
17 जनवरी 2023
ओवरसाइट बोर्ड ने ट्रांसजेंडर और नॉन-बाइनरी लोगों को खुले सीने के साथ दिखाने वाली दो Instagram पोस्ट को हटाने के Meta के मूल फ़ैसलों को बदल दिया है. बोर्ड ने यह सुझाव भी दिया है कि Meta को अपने वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड को बदलना चाहिए, ताकि वे अंतरराष्ट्रीय मानवाधिकार मानकों का सम्मान करने वाले स्पष्ट मापदंडों के अनुरूप बन सकें.
केस की जानकारी
इस फ़ैसले में, ओवरसाइट बोर्ड ने पहली बार दो केस पर एक साथ विचार किया. एक ही Instagram अकाउंट से 2021 और 2022 में दो अलग-अलग कंटेंट पोस्ट किए गए थे. यह अकाउंट अमेरिका में रहने वाले एक कपल का है, जो खुद को ट्रांसजेंडर और नॉन-बाइनरी मानते हैं.
दोनों ही पोस्ट में इस कपल की फ़ोटो हैं, जिनमें उनके सीने खुले हुए हैं और निप्पल ढँके हुए हैं. फ़ोटो के कैप्शन में ट्रांसजेंडर के स्वास्थ्य पर चर्चा की गई है और बताया गया है कि जल्द ही इस कपल में से एक व्यक्ति की सीने की सर्जरी होने वाली है (लैंगिक पहचान निर्धारित करने वाली सर्जरी, जिसमें सीने को और सपाट किया जाता है), जिसके पेमेंट के लिए कपल पैसे जुटा रहा है.
Meta के ऑटोमेटेड सिस्टम से कई अलर्ट मिलने और यूज़र्स की ओर से कई रिपोर्ट मिलने के बाद, यह जानने के लिए इन पोस्ट का कई बार रिव्यू किया गया कि क्या इनमें किन्हीं कम्युनिटी स्टैंडर्ड का उल्लंघन किया गया है. Meta ने आखिर में दोनों ही पोस्ट को यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण हटा दिया, शायद इसलिए क्योंकि उनमें स्तन दिखाए गए थे और फ़ंडरेज़िंग पेज का लिंक दिया गया था.
यूज़र्स ने पहले Meta से और फिर बोर्ड से इस फ़ैसले के विरुद्ध अपील की. जब बोर्ड ने इन केस को स्वीकार कर लिया, तब Meta ने पाया कि उसने इन पोस्ट को गलती से हटा दिया था और उन्हें रीस्टोर कर दिया.
मुख्य निष्कर्ष
ओवरसाइट बोर्ड ने पाया कि इन पोस्ट को हटाना Meta के कम्युनिटी स्टैंडर्ड, मूल्यों या मानवाधिकारों से जुड़ी ज़िम्मेदारियों के अनुरूप नहीं है. ये केस Meta की पॉलिसी की मूलभूत समस्याओं को भी दिखाते हैं.
यौन आग्रह से जुड़ी पॉलिसी के तहत किसी कंटेंट को कब हटाया जाना चाहिए, इस विषय पर मॉडरेटर्स के लिए Meta का आंतरिक मार्गदर्शन, पॉलिसी में बताए गए कारणों या सार्वजनिक तौर पर उपलब्ध मार्गदर्शन से कहीं ज़्यादा विस्तृत है. इससे यूज़र्स और मॉडरेटर्स को भ्रम हो जाता है और जैसा कि Meta ने भी माना कि इस कारण से कंटेंट को गलत तरीके से हटा दिया जाता है.
इनमें से कम से कम एक केस में, वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड को लागू करने के लिए बनाए गए ऑटोमेटेड सिस्टम ने संबंधित पोस्ट को ह्यूमन रिव्यू के लिए भेज दिया था. यह स्टैंडर्ड ऐसी फ़ोटो पर प्रतिबंध लगाता है, जिनमें स्तनपान और लैंगिक पहचान निर्धारित करने वाली सर्जरी जैसी पहले से तय परिस्थितियों के अलावा अन्य परिस्थितियों में महिलाओं के निप्पल दिखाए जाते हैं.
यह पॉलिसी लैंगिक पहचान की बाइनरी विचारधारा और स्त्री-पुरुष के शारीरिक अंतर पर आधारित है. ऐसी विचारधारा से यह स्पष्ट नहीं होता कि इंटरसेक्स, नॉन-बाइनरी और ट्रांसजेंडर लोगों पर इन नियमों को कैसे लागू किया जाए और ऐसे में रिव्यूअर्स को यौन रुचि और लैंगिक पहचान का आकलन जल्दी में और व्यक्तिगत सोच के आधार पर करना होता है, जो कंटेंट को बड़े पैमाने पर मॉडरेट करते समय व्यावहारिक नहीं होता है.
महिलाओं के निप्पल को दिखाने पर लगे प्रतिबंध और अपवाद बहुत व्यापक और भ्रामक हैं, ख़ास तौर पर तब जब वे ट्रांसजेंडर और नॉन-बाइनरी लोगों पर लागू होते हैं. पॉलिसी के अपवाद, विरोध प्रदर्शनों से लेकर, प्रसव के समय की फ़ोटो और चिकित्सा व स्वास्थ्य के संदर्भों तक लागू होते हैं, जिसमें सीने की सर्जरी और स्तन कैंसर के बारे में जागरूकता जैसे विषय भी शामिल होते हैं. ये अपवाद अक्सर जटिल और अस्पष्ट रूप से परिभाषित होते हैं. कुछ संदर्भों में, मॉडरेटर्स को दिख रहे निशानों की सीमा और प्रकार का आकलन करके तय करना चाहिए कि वहाँ अपवाद लागू हो रहे हैं या नहीं. इस पॉलिसी में निहित स्पष्टता की कमी से यूज़र्स और रिव्यूअर्स के लिए अनिश्चितता की स्थिति पैदा होती है और इसे व्यावहारिक रूप से लागू करना संभव नहीं हो पाता है.
बोर्ड हमेशा से यह कहता आया है कि Meta को इस बारे में संवेदनशील रहना चाहिए कि उसकी पॉलिसी भेदभाव से पीड़ित लोगों पर कैसा प्रभाव डालती हैं (उदाहरण के लिए, “ वैमपम बेल्ट” और “ अरबी शब्दों को स्वीकार्य उपयोग में लाने” के फ़ैसले देखें). यहाँ, बोर्ड ने पाया कि वयस्क नग्नता को लेकर Meta की पॉलिसी से महिलाओं, ट्रांस और नॉन-बाइनरी लैंगिक पहचान वाले लोगों के लिए इस प्लेटफ़ॉर्म पर अपनी बात कहने में रुकावट पैदा होती है. जैसे, उन संदर्भों में इसका बहुत गलत प्रभाव पड़ता है, जहाँ महिलाएँ पारंपरिक रूप से शरीर का ऊपरी हिस्सा खुला रखती हैं और जो लोग अपनी पहचान LGBTQI+ बताते हैं, उन पर भी इसका गलत प्रभाव पड़ता है, जैसा कि हमें इन केस से पता चला है. Meta के ऑटोमेटेड सिस्टम ने कई बार इस कंटेंट को पकड़ा, जबकि इससे Meta की पॉलिसी का उल्लंघन नहीं हो रहा था.
Meta को ऐसी पॉलिसी बनाने और लागू करने की कोशिश करनी चाहिए, जिनसे इन सभी समस्याओं का समाधान हो सके. उसे वयस्क नग्नता और यौन गतिविधि से जुड़ी पॉलिसी बनाने के स्पष्ट मापदंड तय करके अपने प्लेटफ़ॉर्म पर नग्नता को मैनेज करने का अपना तरीका बदलना चाहिए, जिससे सभी यूज़र्स के साथ मानवाधिकार मानकों के अनुरूप व्यवहार सुनिश्चित हो सके. उसे यह भी देखना चाहिए कि वयस्क नग्नता और यौन गतिविधि से जुड़ी पॉलिसी, फ़ोटो या वीडियो को सहमति के बिना शेयर करने से सुरक्षा देती है या नहीं और क्या अन्य पॉलिसी को भी इस मामले में और बेहतर बनाने की ज़रूरत है.
ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने इन पोस्ट को हटाने के Meta के मूल फ़ैसले को बदल दिया.
बोर्ड ने Meta को ये सुझाव भी दिए कि वह:
- वयस्क नग्नता और यौन गतिविधि से जुड़े कम्युनिटी स्टैंडर्ड बनाने के लिए स्पष्ट, निष्पक्ष और अधिकारों का सम्मान करने वाले मापदंड तय करे, ताकि सभी लोगों के साथ अंतरराष्ट्रीय मानवाधिकार मानकों के अनुरूप व्यवहार हो और उनके साथ यौन रुचि या लैंगिक पहचान के आधार पर कोई भेदभाव न हो. Meta को सबसे पहले मानवाधिकारों पर ऐसे बदलाव के प्रभाव का व्यापक मूल्यांकन करना चाहिए और सभी तरह के स्टेकहोल्डर्स से बातचीत करनी चाहिए तथा किसी भी नुकसान का पता चलने पर उसका समाधान करने का प्लान बनाना चाहिए.
- सार्वजनिक तौर पर बताए गए, यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड में इसकी और जानकारी दे कि कंटेंट को किस मापदंड के तहत हटाया जा सकता है.
- यौन आग्रह से जुड़े कम्युनिटी स्टैंडर्ड के बारे में मॉडरेटर्स को दिए जाने वाले मार्गदर्शन को संशोधित करे, ताकि उसमें लोगों को बताए गए नियम सटीक तौर पर बताए जाएँ. इससे Meta की ओर से होने वाली एन्फ़ोर्समेंट की गलतियाँ कम होंगी.
अधिक जानकारी के लिए
पूरा फ़ैसला पढ़ने के लिए, कृपया नीचे दिए गए अटैचमेंट पर क्लिक करें.
इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया नीचे अटैचमेंट पर क्लिक करें.
