लिंग-आधारित हिंसा की फ़ोटो

इस फ़ैसले को सोरानी कुर्दिश भाषा में पढ़ने के लिए यहाँ क्लिक करें.

بۆ خوێندنەوەی ئەم بڕیارە بە زمانی کوردیی سۆرانی، کرتە لێرە بکە.

केस का सारांश

ओवरसाइट बोर्ड ने एक ऐसी Facebook पोस्ट को नहीं हटाने के Meta के शुरुआती फ़ैसले को पलट दिया है, जिसमें लिंग-आधारित हिंसा से पीड़ित व्यक्ति का मज़ाक उड़ाया गया है. जहाँ एक तरफ़ Meta यह मानता है कि इस पोस्ट से उसके धमकी और उत्पीड़न से जुड़े नियमों का उल्लंघन हुआ है, वहीं बोर्ड ने यह जाना कि Meta के मौजूदा नियमों में कमी है, जो लिंग-आधारित हिंसा की प्रशंसा करने, उसका स्पष्टीकरण देने, उसकी खुशियाँ मनाने या उसका मज़ाक उड़ाने को सामान्य व्यवहार मानने वाले कंटेंट की परमिशन देते लगते हैं (जैसे, ऐसे केस में जहाँ पीड़ित व्यक्ति की पहचान नहीं हो सकती या जहाँ काल्पनिक चरित्र की फ़ोटो है). बोर्ड ने सुझाव दिया कि Meta इस कमी का समाधान करने के लिए एक पॉलिसी डेवलपमेंट प्रोसेस शुरू करे.

केस की जानकारी

मई 2021 में इराक के एक Facebook यूज़र ने अरबी भाषा में लिखे कैप्शन के साथ एक फ़ोटो पोस्ट की थी. इस फ़ोटो में एक महिला पर किए गए शारीरिक हमले के निशान दिखाई दे रहे हैं, जिसमें उसके चेहरे और शरीर पर लगी चोटें भी दिख रही हैं. कैप्शन की शुरुआत में महिलाओं को यह चेतावनी दी गई है कि वे अपने पतियों को कुछ लिखते समय कोई गलती न करें. कैप्शन में आगे कहा गया है कि फ़ोटो में दिख रही महिला ने अपने पति को एक पत्र लिखा था, जिसके शब्दों का उसके पति ने कुछ और मतलब समझा और कैप्शन के अनुसार, ऐसा महिला की टाइपिंग की गलती के कारण हुआ. पोस्ट के अनुसार, पति को लगा कि महिला ने उसे एक “गधा” लाने के लिए कहा जबकि वास्तव में वह “बुर्का” मँगवा रही थी. अरबी में “गधे” और “बुर्के” के लिए उपयोग किए जाने वाले शब्द समान दिखाई देते हैं (“حمار" और “خمار"). पोस्ट के कहने का यह मतलब है कि महिला के पत्र में टाइपिंग की गलती से हुई गलतफ़हमी की वजह से, उसके पति ने उसके साथ मार-पीट की. कैप्शन में फिर कहा गया है कि महिला को अपनी गलती की यही सजा मिलनी थी. पूरी पोस्ट में हँसने और मुस्कुराने वाले कई इमोजी हैं.

फ़ोटो में दिख रही महिला सीरिया की एक सामाजिक कार्यकर्ता है, जिसकी फ़ोटो पहले भी सोशल मीडिया पर शेयर की जा चुकी है. कैप्शन में उस महिला का नाम नहीं बताया गया है, लेकिन उसका चेहरा स्पष्ट दिख रहा है. पोस्ट में सीरिया में महिलाओं का समर्थन करने वाली चर्चाओं में उपयोग किया जाने वाला हैशटैग भी शामिल है.

फ़रवरी 2023 में, एक Facebook यूज़र ने यह कहते हुए इस कंटेंट की तीन बार रिपोर्ट की कि इसमें Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन किया गया है. अगर कंटेंट का 48 घंटे में रिव्यू नहीं किया जाता है, तो रिपोर्ट अपने आप बंद हो जाती है और ऐसा ही इस केस में भी हुआ. यह कंटेंट लगभग दो साल तक प्लेटफ़ॉर्म पर बना रहा और किसी ह्यूमन मॉडरेटर ने इसका रिव्यू नहीं किया.

उस कंटेंट की रिपोर्ट करने वाले यूज़र ने Meta के फ़ैसले के खिलाफ़ ओवरसाइट बोर्ड में अपील की. जब बोर्ड ने इस केस को चुना, तो Meta ने पाया कि कंटेंट से धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है और पोस्ट को हटा दिया.

मुख्य निष्कर्ष

बोर्ड ने पाया कि पोस्ट से Meta की धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है क्योंकि इसमें दिखाई गई महिला की गंभीर शारीरिक चोट का मज़ाक उड़ाया गया है. इसी वजह से इसे हटा देना चाहिए.

हालाँकि, इस पोस्ट से Meta के धमकी और उत्पीड़न से जुड़े नियमों का उल्लंघन तब नहीं होता, जब दिखाई गई महिला की पहचान नहीं हो पाती या इसी कैप्शन के साथ किसी काल्पनिक चरित्र की फ़ोटो होती. इससे बोर्ड को यह पता चलता है कि मौजूदा पॉलिसी में कमी है, जिसके तहत ऐसा लगता है कि लिंग-आधारित हिंसा को सामान्य व्यवहार मानने वाले कंटेंट को परमिशन मिल जाती है. Meta के अनुसार, हिंसक गतिविधियों की प्रशंसा से संबंधित हालिया पॉलिसी डेवलपमेंट प्रोसेस बहुत हद तक विभिन्न पॉलिसी में लिंग-आधारित हिंसा की प्रशंसा का समाधान करने में होने वाली एन्फ़ोर्समेंट की मौजूदा कमियों का पता लगाने पर केंद्रित है. उस प्रोसेस के तहत Meta ने लिंग-आधारित हिंसा को लेकर मज़ाक या हँसी उड़ाने की समस्या के संबंध में पॉलिसी पर विचार किया. Meta ने बोर्ड को बताया कि कंपनी के अनुसार धमकी और उत्पीड़न से जुड़ी पॉलिसी सामान्य रूप से ऐसे कंटेंट की पहचान कर लेती है. हालाँकि, जैसा कि ऊपर बताए गए उदाहरणों में देखा गया, बोर्ड ने पाया कि मौजूदा पॉलिसी और उनके एन्फ़ोर्समेंट से सभी प्रासंगिक कंटेंट की पहचान नहीं हो पाती है. इस केस से यह भी सवाल उठता है कि Meta धमकी और उत्पीड़न के नियमों को किस तरह से लागू कर रहा है. इस केस का कंटेंट, जिसमें सीरियाई कार्यकर्ता की फ़ोटो शामिल है, जिस पर शारीरिक हमला किया गया था और जिसकी एक Facebook यूज़र ने कई बार रिपोर्ट भी की थी, उसका किसी ह्यूमन मॉडरेटर ने रिव्यू नहीं किया. इससे ऐसा लगता है कि Meta इस तरह के उल्लंघनों का प्राथमिकता के साथ रिव्यू नहीं करता है.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• एक ऐसी पॉलिसी बनाने के लिए पॉलिसी डेवलपमेंट प्रोसेस शुरू करे, जो लिंग-आधारित हिंसा की प्रशंसा करके, स्पष्टीकरण देकर, खुशी मनाकर या मज़ाक उड़ाकर, उसे सामान्य व्यवहार मानने वाले कंटेंट का समाधान करने पर केंद्रित हो.
• धमकी और उत्पीड़न से जुड़े कम्युनिटी स्टैंडर्ड में यह स्पष्टीकरण दे कि “चिकित्सीय स्थिति” में “गंभीर शारीरिक चोट” भी शामिल है.

* केस के सारांश से केस का ओवरव्यू मिलता है और आगे के किसी फ़ैसले के लिए इसको आधार नहीं बनाया जा सकता है.

केस का पूरा फ़ैसला

1. फ़ैसले का सारांश

ओवरसाइट बोर्ड ने एक ऐसी Facebook पोस्ट को नहीं हटाने के Meta के शुरुआती फ़ैसले को पलट दिया, जिसमें लिंग-आधारित हिंसा से पीड़ित व्यक्ति का मज़ाक उड़ाया गया है. Meta ने माना है कि उसका शुरुआती फ़ैसला गलत था और यह कि कंटेंट, धमकी और उत्पीड़न पर उसकी पॉलिसी का उल्लंघन करता है. बोर्ड ने सुझाव दिया कि Meta एक ऐसी पॉलिसी बनाने के लिए पॉलिसी डेवलपमेंट प्रोसेस शुरू करे, जो लिंग-आधारित हिंसा की प्रशंसा करके, स्पष्टीकरण देकर, खुशी मनाकर या मज़ाक उड़ाकर, उसे सामान्य व्यवहार मानने वाले कंटेंट का समाधान करने पर केंद्रित हो. बोर्ड यह समझता है कि Meta एक पॉलिसी डेवलपमेंट प्रोसेस कर रहा है जिसमें अन्य मुद्दों के अलावा इस बात पर भी विचार किया जा रहा है कि लिंग-आधारित हिंसा की प्रशंसा का समाधान कैसे किया जाए. यह सुझाव, उस ज़्यादा व्यापक नज़रिए का समर्थन करती है जिसमें लिंग-आधारित हिंसा के सामान्यीकरण से होने वाले नुकसानों को सीमित किया जाता है.

2. केस की जानकारी और बैकग्राउंड

मई 2021 में इराक के एक Facebook यूज़र ने अरबी भाषा में लिखे कैप्शन के साथ एक फ़ोटो पोस्ट की थी. इस फ़ोटो में एक महिला पर किए गए शारीरिक हमले के निशान दिखाई दे रहे हैं, जिसमें उसके चेहरे और शरीर पर लगी चोटें भी दिख रही हैं. कैप्शन की शुरुआत में महिलाओं को यह चेतावनी दी गई है कि वे अपने पतियों को कुछ लिखते समय कोई गलती न करें. कैप्शन में आगे कहा गया है कि फ़ोटो में दिख रही महिला ने अपने पति को एक पत्र लिखा था, जिसके शब्दों का उसके पति ने कुछ और मतलब समझा और कैप्शन के अनुसार, ऐसा पत्र में महिला की टाइपिंग की गलती के कारण हुआ. पोस्ट के अनुसार, पति को लगा कि महिला ने उसे एक “गधा” लाने के लिए कहा जबकि वास्तव में वह “बुर्का” मँगवा रही थी. अरबी में “गधे” और “बुर्के” के लिए उपयोग किए जाने वाले शब्द समान दिखाई देते हैं (“حمار" और “خمار"). कैप्शन में फिर इस स्थिति का मज़ाक उड़ाया गया है और यह निष्कर्ष निकाला गया है कि महिला को अपनी गलती की यही सजा मिलनी थी. पूरी पोस्ट में हँसने और मुस्कुराने वाले कई इमोजी हैं.

कई सोर्स के अनुसार, फ़ोटो में दिखाई गई महिला, सीरिया की एक कार्यकर्ता है जो बशर अल-असद के शासन में कैद में रह चुकी है और बाद में उसके साथ कुछ लोगों ने मार-पीट की थी और ऐसा माना जाता है कि वे शासन के ही लोग थे. उसकी फ़ोटो पहले सोशल मीडिया पर शेयर की जा चुकी है. कैप्शन में उस महिला का नाम नहीं बताया गया है, लेकिन उसका चेहरा स्पष्ट दिख रहा है. पोस्ट में एक हैशटैग भी शामिल है और बोर्ड द्वारा परामर्श किए गए विशेषज्ञों के अनुसार, उस हैशटैग का उपयोग सीरिया में महिलाओं का समर्थन करने वाली बातचीत के पेजों और ग्रुप द्वारा मुख्य रूप से किया जाता है. इस पोस्ट को 20,000 लोगों ने देखा और इसे 1,000 से कम रिएक्शन मिले.

फ़रवरी 2023 में, एक Facebook यूज़र ने यह कहते हुए इस कंटेंट की तीन बार रिपोर्ट की कि इसमें हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन किया गया है. रिपोर्ट को ह्यूमन रिव्यू किए बिना बंद कर दिया गया और कंटेंट प्लेटफ़ॉर्म पर बना रहा. Meta ने बोर्ड से कहा कि वह यह तय करने के लिए कई सिग्नल पर विचार करता है कि किस कंटेंट को ह्यूमन रिव्यू में प्राथमिकता दी जाए. इन सिग्नलों में यह शामिल है कि कंटेंट कितना वायरल है और कंपनी उल्लंघन को कितना गंभीर समझती है. अगर कंटेंट का 48 घंटे में रिव्यू नहीं किया जाता है, तो रिपोर्ट अपने आप बंद हो जाती है. इस केस में, पहली बार रिपोर्ट किए जाने से पहले कंटेंट लगभग दो वर्ष तक प्लेटफ़ॉर्म पर बना रहा. रिपोर्ट किए जाने के बाद, 48 घंटों के भीतर इसका ह्यूमन रिव्यू नहीं हुआ और इसलिए रिपोर्ट अपने आप बंद हो गई.

उस कंटेंट की रिपोर्ट करने वाले यूज़र ने Meta के फ़ैसले के खिलाफ़ ओवरसाइट बोर्ड में अपील की. जब बोर्ड ने इस केस को चुना, तो Meta ने पाया कि कंटेंट से धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है और पोस्ट को हटा दिया.

बोर्ड ने इस केस में अपना फ़ैसला करते समय नीचे दिए संदर्भ पर ध्यान दिया. इस कंटेंट को इराक के एक यूज़र द्वारा पोस्ट किया गया था. विश्व स्वास्थ्य संगठन के अनुसार, इराक में लगभग 13 लाख 20 हज़ार लोगों पर अलग-अलग तरह की लिंग-आधारित हिंसा के जोखिम का अनुमान है. इसमें ज़्यादातर महिलाएँ और किशोरियाँ हैं. इराक में महिला संगठनों ने घरेलू हिंसा के खिलाफ़ विधेयक पारित करने की बार-बार माँग की है, लेकिन ड्राफ़्ट कानून अभी भी अटका हुआ है. मौजदा दंड संहिता में पतियों को यह कानूनी अधिकार है कि वे अपनी पत्नियों को दंड दे सकते हैं और ‘ऑनर किलिंग’ के संबंध में हुई हत्या में उन्हें कमतर सज़ा दी जाती है.

फ़ोटो में दिखाई गई महिला, सीरिया की एक कार्यकर्ता है. संयुक्त राष्ट्र के अनुसार, “सीरिया में एक दशक से ज़्यादा के संघर्ष का महिलाओं और लड़कियों पर गंभीर लैंगिक असर पड़ा है.” सीरिया के लगभग 73 लाख लोगों को लिंग-आधारित हिंसा से संबंधित सेवाएँ चाहिए, जिनमें से अधिकांश महिलाएँ और लड़कियाँ हैं. देश का अपर्याप्त कानूनी ढाँचा और भेदभावपूर्ण व्यवहार, महिलाओं की सुरक्षा में आने वाली बाधाएँ हैं और इनके कारण उन पर होने वाली हिंसा की प्रभावी ज़िम्मेदारी तय नहीं हो पाती. ( संयुक्त राष्ट्र सीरिया रिपोर्ट, पेज 5-9) संयुक्त राष्ट्र की रिपोर्ट में कहा गया है कि लिंग-आधारित हिंसा के अधिकांश मामलों में सज़ा न मिलने या लिंग-आधारित हिंसा के शिकार या उससे बचे लोगों की बदनामी के चलते महिलाएँ बहिष्कृत हो रही हैं और सार्वजनिक जीवन में भाग नहीं ले पा रही हैं. शासन ने उन महिलाओं को टार्गेट किया जो उनका विरोध करती हैं और उनका उत्पीड़न और यौन शोषण किया.

संयुक्त राष्ट्र महिला द्वारा की गई एक स्टडी के अनुसार, अरब देशों की लीग के आठ देशों की लगभग आधी (49 प्रतिशत) इंटरनेट यूज़र महिलाएँ महसूस करती हैं कि वे ऑनलाइन उत्पीड़न के प्रति असुरक्षित हैं. इसी स्टडी में “ऑनलाइन हिंसा झेल चुकी 33 प्रतिशत महिलाओं ने बताया कि उनके ऑनलाइन अनुभवों का कुछ या पूरा भाग, ऑफ़लाइन हिंसा में भी बदला.” ऑनलाइन हिंसा की परिभाषा के अनुसार ऐसी हिंसा तब होती है जब कोई व्यक्ति आपको अश्लील कंटेंट वाली फ़ोटो या प्रतीक भेजे, परेशान करने वाले कॉल करे, अनुपयुक्त या अनचाहे कम्युनिकेशन भेजे और अपमानजनक और/या नफ़रत से भरे मैसेज भेजे. संयुक्त राष्ट्र के महासचिव की रिपोर्ट के अनुसार, ऑनलाइन हिंसा के कारण मिलने वाले “अपमान, शर्मिंदगीँ डर और चुप्पी के कारण महिलाएँ सार्वजनिक जीवन में बराबरी और सार्थक रूप से भाग नहीं ले पातीं. यह एक ‘दुष्प्रभाव’ है जिसमें महिलाओं को सार्वजनिक जीवन में सक्रिय रूप से भाग लेने से हतोत्साहित किया जाता है.” ( A/77/302, पैरा. 22)

3. ओवरसाइट बोर्ड की अथॉरिटी और स्कोप

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसने पहले ऐसे कंटेंट की रिपोर्ट की थी जिसे छोड़ दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 3, सेक्शन 1).

बोर्ड Meta के फ़ैसले को कायम रख सकता है या उसे बदल सकता है (चार्टर अनुच्छेद 3, सेक्शन 5) और उसका फ़ैसला कंपनी पर बाध्यकारी होता है (चार्टर अनुच्छेद 4). Meta को मिलते-जुलते संदर्भ वाले समान कंटेंट पर अपने फ़ैसले को लागू करने की संभावना का भी आकलन करना चाहिए (चार्टर अनुच्छेद 4). बोर्ड के फ़ैसलों में गैर-बाध्यकारी सलाह शामिल हो सकती हैं, जिन पर Meta को जवाब देना ज़रूरी है (चार्टर अनुच्छेद 3, सेक्शन 4; अनुच्छेद 4). जहाँ Meta, सुझावों पर एक्शन लेने की प्रतिबद्धता व्यक्त करता है, वहाँ बोर्ड उनके क्रियान्वयन की निगरानी करता है.

जब बोर्ड इस केस जैसे केस चुनता है, जहाँ बाद में Meta यह मानता है कि उसने गलती की है, तो बोर्ड मूल फ़ैसले को रिव्यू करके उस कंटेंट मॉडरेशन प्रोसेस को बेहतर तरीके से समझता है और बोर्ड आगे गलतियों को कम करने और Facebook और Instagram का उपयोग करने वाले लोगों के साथ निष्पक्षता बढ़ाने के सुझाव देता है.

4. अथॉरिटी और मार्गदर्शन के सोर्स

इस केस में बोर्ड ने इन स्टैंडर्ड और पुराने फ़ैसलों को ध्यान में रखते हुए विश्लेषण किया:

I. ओवरसाइट बोर्ड के फ़ैसले:

ओवरसाइट बोर्ड के कुछ सबसे प्रासंगिक पुराने फ़ैसलों में ये शामिल हैं:

• क्निन कार्टून, 2022-001-FB-UA.
• दक्षिण अफ़्रीका का गालियाँ, 2021-011-FB-UA.
• नवालनी के समर्थन में विरोध प्रदर्शन, 2021-004-FB-UA.
• ज़्वार्टे पिएट का चित्रण, 2021-002-FB-UA.
• अज़रबैजान में आर्मेनियाई, 2020-003-FB-UA.

II. Meta की कंटेंट पॉलिसी:

धमकी और उत्पीड़न के कम्युनिटी स्टैंडर्ड के अनुसार Meta के प्लेटफ़ॉर्म पर लोगों को धमकी और अलग-अलग तरह के बुरे संपर्क द्वारा टार्गेट नहीं किया जा सकता. Meta के पॉलिसी बनाने के कारण के अनुसार, ऐसे व्यवहार के कारण “लोग Facebook पर खुद को सुरक्षित और सम्मानित नहीं महसूस करते.” कम्युनिटी स्टैंडर्ड को अलग-अलग टियर में बाँटा गया है, जिसमें निजी व्यक्तियों और सीमित दायरे वाली सार्वजनिक हस्तियों को अन्य सार्वजनिक हस्तियों से ज़्यादा सुरक्षा दी गई है.

जब कंटेंट का रिव्यू Meta द्वारा किया गया और बोर्ड ने अपना रिव्यू शुरू किया, तब धमकी और उत्पीड़न के कम्युनिटी स्टैंडर्ड के टियर 4 के तहत निजी व्यक्तियों या सीमित दायरे वाली सार्वजनिक हस्तियों को टार्गेट करना प्रतिबंधित था. इस टियर के अनुसार ऐसा पोस्ट नहीं किया जा सकता “जो किसी व्यक्ति की मृत्यु या गंभीर शारीरिक चोट का उत्सव मनाता है या उसका मज़ाक उड़ाता है.” कम्युनिटी स्टैंडर्ड में सीमित दायरे वाली सार्वजनिक हस्तियों को ऐसे व्यक्तियों के रूप में परिभाषित किया गया है “जिनकी प्रसिद्धि मुख्य रूप से उनकी सक्रियता या पत्रकारिता तक सीमित है या जो बिना कुछ किए ही प्रसिद्ध हो गए हैं.” Meta ने रूस में नवालनी के समर्थन में विरोध प्रदर्शन, 2021-004-FB-UA, केस में बोर्ड के सुझाव के जवाब में यह परिभाषा सार्वजनिक की थी. कंटेंट मॉडरेटर्स के लिए Meta के आंतरिक मार्गदर्शन के अनुसार “मज़ाक” तब होता है जब “किसी व्यक्ति या किसी वस्तु का मज़ाक बनाया जाता है, उसकी हँसी उड़ाई जाती है या उसे नीचा दिखाने वाली कोई बात कही जाती है.”

29 जून को, Meta ने अपने कम्युनिटी स्टैंडर्ड को अपडेट किया. मौजूदा पॉलिसी के टियर 1 के तहत, सभी लोगों को यह सुरक्षा प्राप्त है कि “कोई भी उनकी मृत्यु या चिकित्सीय स्थिति का आनंद न ले या उसका मज़ाक न उड़ाए.”

बोर्ड का विश्लेषण, Meta की “अभिव्यक्ति” की प्रतिबद्धता, जिसे कंपनी “सर्वोपरि” बताती है, और “सुरक्षा,” “गरिमा” की उसकी वैल्यू के आधार पर किया गया था.

III. Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियाँ

बिज़नेस और मानवाधिकारों के बारे में संयुक्त राष्ट्र संघ के मार्गदर्शक सिद्धांत (UNGP), जिन्हें 2011 में संयुक्त राष्ट्र संघ की मानवाधिकार समिति ने स्वीकृति दी है, प्राइवेट बिज़नेस की मानवाधिकार से जुड़ी ज़िम्मेदारियों का स्वैच्छिक ढाँचा तैयार करते हैं. 2021 में Meta ने मानवाधिकारों से जुड़ी अपनी कॉर्पोरेट पॉलिसी की घोषणा की, जिसमें उसने UNGP के अनुसार मानवाधिकारों का ध्यान रखने की अपनी प्रतिज्ञा को दोहराया.

इस केस में बोर्ड ने Meta की मानवाधिकार से जुड़ी ज़िम्मेदारियों का विश्लेषण इन अंतरराष्ट्रीय स्टैंडर्ड को ध्यान में रखते हुए किया:

• विचार और अभिव्यक्ति की आज़ादी का अधिकार: अनुच्छेद 19, नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र ( ICCPR), सामान्य टिप्पणी सं. 34, मानव अधिकार समिति, 2011 विचार और अभिव्यक्ति की आज़ादी के बारे में संयुक्त राष्ट्र संघ का ख़ास रैपर्टर, रिपोर्ट: A/HRC/38/35 (2018) और A/74/486 (2019); और अभिव्यक्ति की आज़ादी और लिंग न्याय पर संयुक्त घोषणा, संयुक्त राष्ट्र (UN), ऑर्गेनाइज़ेशन फ़ॉर सिक्योरिटी एंड को-ऑपरेशन इन यूरोप (OSCE), ऑर्गेनाइज़ेशन ऑफ़ अमेरिकन स्टेट्स (OAS), अफ़्रीकन कमीशन ऑन ह्यूमन एंड पीपल्स राइट्स (ACHPR) (2022) के विचारों और अभिव्यक्ति की आज़ादी पर विशेष रैपर्टर.
• भेदभाव न किए जाने का अधिकार: अनुच्छेद 2, पैरा. 1, ICCPR; अनुच्छेद 1 और अनुच्छेद 7 (देश की राजनीति और सार्वजनिक जीवन में भाग लेने में भेदभाव न किया जाना), अनुच्छेद 4(1) और अनुच्छेद 5(a), महिलाओं के विरुद्ध सभी तरह के भेदभाव के उन्मूलन पर सम्मेलन (CEDAW) और अनुच्छेद 8, मानवाधिकार रक्षकों पर घोषणा, सार्वजनिक मामलों के आचरण में बिना किसी भेदभाव की भागीदारी के लिए प्रभावी एक्सेस का अधिकार.; रिज़ॉल्यूशन 35/18, मानवधिकार काउंसिल, 2017; मानवाधिकार रक्षकों की स्थिति पर विशेष रैपर्टर. रिपोर्ट: A/HRC/40/60 (2019); महिलाओं के विरुद्ध हिंसा, उसके कारण और परिणामों पर विशेष रैपर्टर, रिपोर्ट: A/HRC/38/47 (2018).

5. यूज़र सबमिशन

Facebook यूज़र द्वारा कंटेंट की रिपोर्ट और ओवरसाइट बोर्ड को अपील के बाद, कंटेंट बनाने वाले यूज़र और उसकी रिपोर्ट करने वाले यूज़र, दोनों को यह सूचित करने वाला मैसेज भेजा गया कि बोर्ड ने केस को रिव्यू के लिए चुना है और उन्हें बोर्ड के समक्ष अपना बयान सबमिट करने का अवसर दिया गया. किसी भी यूज़र ने अपना बयान सबमिट नहीं किया.

6. Meta के सबमिशन

अपने फ़ैसले के कारण में, Meta ने बताया कि कंटेंट को धमकी और उत्पीड़न की पॉलिसी का उल्लंघन करने के कारण Facebook से हटा दिया जाना चाहिए था.

Meta की मूल टीम ने कंटेंट में दिखाई गई महिला को सीरिया की कार्यकर्ता के रूप में पहचाना जिसे अपने सामाजिक काम के कारण पहले जेल हो चुकी है. Meta के अनुसार, पोस्ट में इस कार्यकर्ता की फ़ोटो तब की है जब उसे बशर अल-असद के शासन के लोगों द्वारा पीटा गया था.

उस समय मौजूद पॉलिसी के आधार पर, Meta ने कहा कि वह मानता है कि कंटेंट में दिखाई गई महिला की गंभीर शारीरिक चोट का मज़ाक उड़ाया गया है, इसलिए वह पॉलिसी का उल्लंघन करता है. Meta, फ़ोटो में दिखाई गई महिला को सीमित दायरे वाली सार्वजनिक हस्ती मानता है क्योंकि उसकी मुख्य प्रसिद्धि उसके सामाजिक काम के कारण है. Meta समझता है कि कंटेंट में उसकी चोट का उपहास किया गया है और यह इशारा किया गया है कि “अपने ‘कर्म’ के कारण उसे यह चोट मिली.” Meta के अनुसार, कंटेंट में एक कहानी भी “गढ़ी” गई है कि उसने पत्र लिखने में गलती की, जिसका इशारा यह था कि उसमें बुद्धि की कमी है, जबकि वास्तविकता यह है कि उसे ये चोटें एक हिंसक हमले में लगी थीं.

पॉलिसी में अपडेट के बाद, Meta ने बोर्ड से कहा कि कंटेंट अभी भी उल्लंघन करता है और अपडेट उस मूलभूत सुरक्षा पर असर नहीं डालता जो पॉलिसी के अनुसार दिखाई गई महिला को प्राप्त है. Meta के अनुसार, “धमकी और उत्पीड़न से जुड़ी पॉलिसी का अपडेट, पॉलिसी को व्यवस्थित करने के लिए किया गया था. अपडेट के कारण सीमित दायरे वाली सार्वजनिक हस्तियों को प्राप्त सुरक्षा में कोई बदलाव नहीं हुआ, जैसे कि इस केस के कंटेंट में शामिल महिला को प्राप्त है. वह प्रासंगिक लाइन जिसके तहत [Meta] ने इस कंटेंट को हटाया, शुरुआत में पॉलिसी के टियर 4 में मौजूद थी, लेकिन अपडेट के परिणामस्वरूप वह अब टियर 1 में आ गई है.”

बोर्ड ने Meta से 11 लिखित सवाल पूछे. सवाल Meta की पॉलिसी द्वारा लिंग-आधारित हिंसा दिखाने वाले कंटेंट का समाधान करने, Meta द्वारा धमकी और उत्पीड़न की पॉलिसी को लागू करने के तरीके और सोशल मीडिया लिंग-आधारित हिंसा दिखाने और ऑफ़लाइन नुकसान पर हुई रिसर्च से संबंधित थे. दस सवालों के जवाब दिए गए और एक सवाल, जिसमें धमकी और उत्पीड़न की पॉलिसी का क्षेत्रीय एन्फ़ोर्समेंट डेटा माँगा गया था, का जवाब नहीं दिया गया.

7. पब्लिक कमेंट

ओवरसाइट बोर्ड को इस केस के संबंध में 19 पब्लिक कमेंट मिले. तीन कमेंट मध्य पूर्व और उत्तरी अफ़्रीका से सबमिट किए गए थे, दो कमेंट मध्य और दक्षिण एशिया से सबमिट किए गए थे, दो कमेंट एशिया पैसिफ़िक और ओशेनिया से सबमिट किए गए थे, तीन कमेंट यूरोप से सबमिट किए गए थे, आठ कमेंट यूनाइटेड स्टेट्स और कनाडा से सबमिट किए गए थे और एक कमेंट लैटिन अमेरिका और कैरेबियन से सबमिट किया गया था.

सबमिशन में इन विषयों पर बात की गई थी: साइबर उत्पीड़न और महिला कार्यकर्ताओं और सार्वजनिक हस्तियों को टार्गेट करना, लिंग-आधारित हिंसा के डिजिटल डायमेंशन के सुरक्षा पर पड़ने वाले गंभीर प्रभाव, महिलाओं का शारीरिक और मनोवैज्ञानिक स्वास्थ्य और गरिमा और महिलाओं के विरुद्ध ऑनलाइन हिंसा के मामलों को उन कंटेंट मॉडरेटर्स के ध्यान में लाने में आने वाली कठिनाई जिन्हें शायद प्रासंगिक क्षेत्रीय भाषा की समझ न हो.

इस केस को लेकर लोगों की ओर से सबमिट किए गए कमेंट देखने के लिए कृपया यहाँ क्लिक करें.

8. ओवरसाइट बोर्ड का विश्लेषण

बोर्ड ने इस बात का परीक्षण किया कि क्या Meta की कंटेंट पॉलिसी, मानवाधिकार ज़िम्मेदारियों और वैल्यू का विश्लेषण करके इस कंटेंट को हटा दिया जाना चाहिए. बोर्ड ने कंटेंट गवर्नेंस को लेकर Meta के व्यापक दृष्टिकोण पर इस केस के असर का आकलन भी किया और यह सुझाव दिए कि किस तरह Meta की पॉलिसी और एन्फ़ोर्समेंट प्रोसेस में Meta की मानवाधिकार ज़िम्मेदारियों का बेहतर सम्मान किया जा सकता है.

बोर्ड ने इस अपील को इसलिए चुना क्योंकि इससे बोर्ड को यह जानने का अवसर मिलता है कि Meta की पॉलिसी और एन्फ़ोर्समेंट किस तरह उस कंटेंट का समाधान करते हैं जो महिला मानवाधिकार रक्षकों को टार्गेट करता है और जो कंटेंट लिंग-आधारित हिंसा का मज़ाक उड़ाता है. ये ऐसी समस्याएँ हैं जिन पर बोर्ड, लिंग को लेकर अपनी स्ट्रेटेजिक प्राथमिकता के ज़रिए फ़ोकस कर रहा है.

8.1 Meta की कंटेंट पॉलिसी का अनुपालन

I. कंटेंट नियम

बोर्ड ने पाया कि पोस्ट, उस समय और अपडेट की गई पॉलिसी के तहत धमकी और उत्पीड़न के बारे में Meta की पॉलिसी का उल्लंघन करती है और हटाई जानी चाहिए थी. फ़ोटो के संबंध में पढ़े जाने पर पोस्ट का कैप्शन, Meta की पॉलिसी का उल्लंघन करता है क्योंकि वह दिखाई गई महिला की गंभीर शारीरिक चोट या चिकित्सीय स्थिति का मज़ाक उड़ाता है.

कंटेंट मॉडरेटर्स के लिए Meta के आंतरिक मार्गदर्शन के अनुसार “मज़ाक” तब होता है जब “किसी व्यक्ति या किसी वस्तु का मज़ाक बनाया जाता है, उसकी हँसी उड़ाई जाती है या उसे नीचा दिखाने वाली कोई बात कही जाती है.” उपहास के रूप में, कंटेंट में यह इशारा किया गया है कि अपने पति को लिखे गए पत्र में टाइपिंग की गलती करने के कारण दिखाई गई महिला को शारीरिक हिंसा की सज़ा मिलनी ही चाहिए थी.

Meta के अनुसार, कंटेंट मॉडरेटर्स को दिए गए आंतरिक मार्गदर्शन में “चिकित्सीय स्थिति” में “गंभीर चोट” को शामिल किया गया है. 29 जून को हुए अपडेट से पहले, लोगों को दिखाई देने वाली पॉलिसी में किसी निजी व्यक्ति या सीमित दायरे वाली सार्वजनिक हस्ती की “गंभीर शारीरिक चोट” का मज़ाक उड़ाना प्रतिबंधित था, जबकि मॉडरेटर्स को दिए गए आंतरिक मार्गदर्शन में उनकी “चिकित्सीय स्थिति” का मज़ाक उड़ाने की मनाही थी. बोर्ड ने Meta से लोगों को दिखाई देने वाली पॉलिसी और आंतरिक मार्गदर्शन में उपयोग हुए अलग-अलग शब्दों के बारे में पूछा. Meta ने इस विसंगति को माना और लोगों को दिखाई देने वाली अपनी पॉलिसी को अपडेट करके वही शब्द उपयोग किया जो आंतरिक मार्गदर्शन में शामिल था.

बोर्ड ने पाया कि पोस्ट को कई संभावित तरीकों से समझा जा सकता है. महिला को एक मानवाधिकार रक्षक के रूप में टार्गेट किया जा सकता है या उसे दुर्व्यवहार के टार्गेट के रूप में उपयोग किया जा सकता है या दोनों ही बातें हो सकती हैं. इन अलग-अलग व्याख्याओं का विश्लेषण नीचे विस्तार से किया गया है. व्याख्या, दिखाए गए व्यक्ति का लिंग और मज़ाक की लिंग से जुड़ी प्रकृति पर ध्यान दिए बगैर, अगर दिखाए गए व्यक्ति को पहचाना जा सकता है, तो इस केस में पॉलिसी का उल्लंघन होता है.

II. एन्फ़ोर्समेंट एक्शन

बोर्ड इस कम्युनिटी स्टैंडर्ड के एन्फ़ोर्समेंट के संभावित चैलेंज को लेकर चिंतित है. पहला, इस केस का कंटेंट, जिसमें सीरियाई कार्यकर्ता की फ़ोटो शामिल है, जिस पर शारीरिक हमला किया गया था और जिसकी एक Facebook यूज़र ने कई बार रिपोर्ट भी की थी, उसका किसी ह्यूमन मॉडरेटर ने रिव्यू नहीं किया. इससे ऐसा लगता है कि शायद इस तरह के उल्लंघनों को रिव्यू में प्राथमिकता नहीं दी जाती. दूसरा, बोर्ड इस बात से चिंतित है कि पॉलिसी का एन्फ़ोर्समेंट, ख़ास तौर पर जब इसमें फ़ोटो और कैप्शन के साथ में विश्लेषण की ज़रूरत होती है, अरबी भाषा के कंटेंट के लिए चुनौतीपूर्ण है. जैसा कि बोर्ड ने पहले बताया है, Meta अपने कम्युनिटी स्टैंडर्ड को एन्फ़ोर्स करने के लिए अपने ह्यूमन मॉडरेटर्स और मशीन लर्निंग टूल्स के मिले-जुले रूप पर निर्भर है जिसे क्लासिफ़ायर कहा जाता है. (वामपम बेल्ट, 2021-012-FB-UA देखें). इस केस में, Meta ने बोर्ड को बताया कि कंपनी के पास ‘सामान्य भाषा अरबी’ के लिए धमकी और उत्पीड़न को टार्गेट करने वाला एक क्लासिफ़ायर है.

बोर्ड ने नोट किया कि BSR द्वारा प्रकाशित की गई स्वतंत्र मानवाधिकार सम्यक तत्परता रिपोर्ट, जिसे Meta ने एक पुराने केस में बोर्ड के सुझाव के जवाब में कमीशन किया, में अरबी भाषा में Meta के एन्फ़ोर्समेंट में समस्याएँ बताई गई हैं. इसमें पाया गया है कि एन्फ़ोर्समेंट में कंपनी की समस्याएँ, अरबी की अलग-अलग बोलियों को लेकर अपर्याप्त संवेदनशीलता के कारण हो सकती है. स्वतंत्र मानवाधिकार सम्यक तत्परता रिपोर्ट के निष्कर्षों और इस केस में एन्फ़ोर्समेंट की कमी के आधार पर, बोर्ड इस बात से चिंतित है कि क्षेत्र में इस पॉलिसी को प्रभावी रूप से एन्फ़ोर्स करने के आगे रहकर और प्रतिक्रियास्वरूप उपयोग किए जाने वाले, दोनों, तरीकों में चैलेंज हो सकते हैं. इस पॉलिसी को एन्फ़ोर्स करने वाले क्लासिफ़ायर को ऑडिट करने में पारदर्शिता की कमी से भी बोर्ड चिंतित है.

8.2 Meta की मानवाधिकारों से जुड़ी ज़िम्मेदारियों का अनुपालन

बोर्ड ने पाया कि पोस्ट को बनाए रखने का Meta का शुरुआती फ़ैसला, एक बिज़नेस के रूप में उसकी मानवाधिकार की ज़िम्मेदारियों के अनुसार नहीं था.

अभिव्यक्ति की आज़ादी (अनुच्छेद 19 ICCPR)

नागरिक और राजनैतिक अधिकारों पर अंतरराष्ट्रीय प्रतिज्ञापत्र (ICCPR) का अनुच्छेद 19, पैरा. 2 कहता है कि "सभी को अभिव्यक्ति की आज़ादी का अधिकार होगा; इस अधिकार में सभी प्रकार की जानकारी और सुझाव लेने, प्राप्त करने और प्रदान करने की आज़ादी शामिल होगी, चाहे वह किसी भी तरह की हो, मौखिक, लिखित रूप में या प्रिंट में हो, कला के रूप में, या व्यक्ति की अपनी पसंद के किसी अन्य माध्यम से हो". अनुच्छेद 19, अभिव्यक्ति को व्यापक सुरक्षा प्रदान करता है, जिसमें वह अभिव्यक्ति भी शामिल है जिसे लोग आपत्तिजनक (सामान्य कमेंट 34, पैरा. 11) मान सकते हैं.

अभिव्यक्ति की आज़ादी का अधिकार बुनियादी है, लेकिन यह निरंकुश नहीं है. इसे प्रतिबंधित किया जा सकता है, लेकिन प्रतिबंधों के लिए वैधानिकता, वैधानिक लक्ष्य, आवश्यकता और आनुपातिकता की शर्तों को पूरा करना ज़रूरी है (अनुच्छेद 19, पैरा. 3, ICCPR). बोर्ड ने माना कि भले ही ICCPR, Meta को राज्यों की तरह जवाबदेह नहीं बनाता, फिर भी Meta, UNGP में निर्धारित मानवाधिकारों का सम्मान करने के लिए प्रतिबद्ध है. ( A/74/486, पैरा. 47-48). Meta की पॉलिसी के अनुसार भेदभावपूर्ण और नफ़रत फैलाने वाली भाषा के कुछ ख़ास रूप प्रतिबंधित हैं और उसमें यह देखने की ज़रूरत नहीं है कि कंटेंट का हर एक हिस्सा प्रत्यक्ष और तात्कालिक हिंसा या भेदभाव भड़काता है या नहीं. मुक्त अभिव्यक्ति पर विशेष रैपर्टर में नोट किया गया है कि सोशल मीडिया पर “नफ़रत फैलाने वाली अभिव्यक्ति का समाधान करने का पैमाना और जटिलता, लंबे समय के चैलेंज प्रस्तुत करती है.” ( A/HRC/38/35, पैरा. 28) विशेष रैपर्टर के मार्गदर्शन को ध्यान में रखते हुए, बोर्ड ने पहले यह समझाया है कि अगर किसी सरकार द्वारा लागू किया जाता है, विशेष रूप से अगर आपराधिक या दीवानी प्रतिबंधों के ज़रिए एन्फ़ोर्स किया जाता है, तो ऐसे निषेध चिंताएँ उत्पन्न करेंगे. जैसा कि बोर्ड ने क्निन कार्टून, ज़्वार्टे पिएट का चित्रण और दक्षिण अफ़्रीका की गालियाँ फ़ैसलों में नोट किया, कंटेंट के इकट्ठे होने के परिणामस्वरूप होने वाले नुकसान के कारण अपने एक्शन की आवश्यकता और आनुपातिकता दर्शाते हुए Meta ऐसी अभिव्यक्ति को रेग्युलेट कर सकता है.

I. वैधानिकता (नियमों की स्पष्टता और सुलभता)

अभिव्यक्ति की आज़ादी का कोई भी प्रतिबंध एक्सेस योग्य होना चाहिए और दायरे, अर्थ और प्रभाव के संबंध में उसे यूज़र्स और कंटेंट रिव्यूअर्स को यह स्पष्ट मार्गदर्शन देना चाहिए कि प्लेटफ़ॉर्म पर किस कंटेंट की परमिशन है और किसकी नहीं. स्पष्टता या सटीकता में कमी के कारण नियमों का असमान और स्वैच्छिक एन्फ़ोर्समेंट हो सकता है ( सामान्य कमेंट सं. 34, पैरा 25; A/HRC/38/35, पैरा. 46).

बोर्ड ने नोट किया कि Meta ने 29 जून को कम्युनिटी स्टैंडर्ड में बदलाव किए और धमकी और उत्पीड़न कम्युनिटी स्टैंडर्ड के लोगों को दिखाई देने वाले भाग और कंटेंट मॉडरेटर्स को दिए गए आंतरिक मार्गदर्शन में शब्दों का उपयोग एक जैसा बनाया. इस बदलाव के पहले, कम्युनिटी स्टैंडर्ड में “गंभीर शारीरिक चोट” का मज़ाक उड़ाने वाले कंटेंट को प्रतिबंधित किया गया था जबकि आंतरिक मार्गदर्शन में “चिकित्सीय स्थिति” का मज़ाक उड़ाने वाले कंटेंट को प्रतिबंधित किया गया था. Meta के अनुसार, “चिकित्सीय स्थिति” एक व्यापक शब्द है. बोर्ड ने इस बदलाव का स्वागत किया क्योंकि अलग-अलग शब्दों के उपयोग से लोग भ्रमित हो सकते हैं और एन्फ़ोर्समेंट में विसंगति आ सकती है. हालाँकि, बोर्ड इस बात से चिंतित है कि शायद यूज़र्स को यह स्पष्ट नहीं हो पाएगा कि “चिकित्सीय स्थिति” में “गंभीर शारीरिक चोट” भी शामिल है और वह सुझाव देता है कि Meta इसे अपने यूज़र्स के लिए स्पष्ट करे.

II. वैधानिक लक्ष्य

देशों द्वारा अभिव्यक्ति की आज़ादी पर लगाए जाने वाले प्रतिबंधों का एक वैधानिक लक्ष्य होना चाहिए, जिसमें दूसरों के अधिकारों की सुरक्षा करना शामिल है. मानवाधिकार समिति ने ICCPR और सामान्य रूप से अंतरराष्ट्रीय मानवाधिकार कानून में मानवाधिकारों को मान्य रूप में शामिल करने के लिए “अधिकार” शब्द की व्याख्या की है (सामान्य कमेंट 34, पैरा. 28).

बोर्ड ने पाया कि Meta की धमकी और उत्पीड़न की पॉलिसी, दूसरे लोगों के अधिकारों के वैधानिक लक्ष्य के लिए बनाई गई है, जिसमें समानता, भेदभाव न होने देने और अभिव्यक्ति की आज़ादी का अधिकार शामिल है. अन्य लक्ष्यों के अलावा, ये पॉलिसी धमकी और उत्पीड़न, सैक्स या लिंग के आधार पर भेदभाव को रोकने और अभिव्यक्ति की आज़ादी का सम्मान करने और इस अभिव्यक्ति द्वारा टार्गेट किए गए लोगों के लिए Meta के प्लेटफ़ॉर्म की एक्सेस का वैधानिक लक्ष्य पूरा करती हैं. ये लक्ष्य आपस में जुड़े हुए हैं, जैसा कि अभिव्यक्ति की आज़ादी और लिंग न्याय पर संयुक्त घोषणा के अनुसार, “अभिव्यक्ति की आज़ादी के लिए महिलाओं के खिलाफ़ हिंसा का ख़ास महत्व है” और “यह सुनिश्चित करना सोशल मीडिया प्लेटफ़ॉर्म का दायित्व है कि ऑनलाइन स्पेस सभी महिलाओं के लिए सुरक्षित और भेदभाव, हिंसा, नफ़रत और गलत जानकारी से मुक्त हों.”

III. आवश्यकता और आनुपातिकता

आवश्यकता और आनुपातिकता के सिद्धांत के अनुसार यह ज़रूरी है कि अभिव्यक्ति की आज़ादी से संबंधित प्रतिबंध "रक्षा करने के उनके कार्य को सही तरीके से पूरा करने वाले होने चाहिए; उनसे उन लोगों के अधिकारों में कम से कम हस्तक्षेप होना चाहिए, जिन्हें उन प्रतिबंधों से होने वाले रक्षात्मक कार्यों का लाभ मिल सकता है; जिन हितों की सुरक्षा की जानी है, उसके अनुसार ही सही अनुपात में प्रतिबंध लगाए जाने चाहिए" (सामान्य कमेंट 34, पैरा. 34).

कंपनी पर लागू किए जाने पर, बोर्ड ने पाया कि Meta की पॉलिसी, जिसके तहत कंटेंट को हटा दिया जाना चाहिए था, यूज़र्स की टार्गेट की गई ऑनलाइन धमकी और उत्पीड़न से रक्षा करने के लिए आवश्यक और आनुपातिक प्रतिक्रिया देती है. पॉलिसी, महिला मानवाधिकार रक्षकों की अभिव्यक्ति की आज़ादी के समान अधिकार का सम्मान करती है जिन्हें अक्सर ऐसे उत्पीड़न के ज़रिए प्लेटफ़ॉर्म से बलपूर्वक बाहर कर दिया जाता है. महिलाओं के खिलाफ़ हिंसा पर संयुक्त राष्ट्र के विशेष रैपर्टर में रिपोर्ट किया गया है कि “महिला मानवाधिकार रक्षकों, पत्रकारों और राजनेताओं को उनके काम के कारण सीधे टार्गेट किया जाता है, धमकी दी जाती है, उनका उत्पीड़न किया जाता है या उन्हें मार भी दिया जाता है. उन्हें ऑनलाइन धमकियाँ मिलती हैं, जो सामान्य तौर पर महिलाओं के प्रति नफ़रत वाली होती हैं और अक्सर कामुक और विशेष रूप से लिंग संबंधी होती हैं. इन धमकियों की हिंसक प्रकृति के कारण महिलाएँ अक्सर अपने ऑनलाइन अकाउंड सस्पेंड कर देती हैं, बंद कर देती हैं या हमेशा के लिए डिलीट कर देती हैं या पूरी तरह अपना पेशा ही छोड़ देती हैं” ( A/HRC/38/47 पैरा. 29).

मानवाधिकार रक्षकों की स्थिति पर विशेष रैपर्टर में विशेष रूप से महिलाओं केलिए इसी तरह के व्यवहारों और नुकसानों की बात की गई है: “महिला मानवाधिकार रक्षकों को अक्सर ऑनलाइन उत्पीड़न, हिंसा और हमलों का निशाना बनाया जाता है जिसमें यौन हिंसा, मौखिक दुर्व्यवहार, यौन रूप से सताना, डॉक्सिंग...और सार्वजनिक शर्मिंदगी शामिल है. ऐसे दुर्व्यवहार समाचार, ब्लॉग, वेबसाइट और सोशल मीडिया पर कमेंट के ज़रिए होते हैं. जिस ऑनलाइन आतंक और बदनामी का शिकार महिलाएँ होती हैं, उनका परिणाम शारीरिक हमला भी हो सकता है” ( A/HRC/40/60 (2019) पैरा 45). संयुक्त राष्ट्र महिला द्वारा की गई एक स्टडी के अनुसार, अरब देशों की 70% महिला कार्यकर्ता और मानवाधिकार रक्षकों ने कहा कि वे ऑनलाइन उत्पीड़न के प्रति असुरक्षित महसूस करती हैं. इस तरह से, जो महिलाएँ सामाजिक कार्यकर्ता के रूप में सार्वजनिक जीवन में भाग लेती हैं या जो चुनाव लड़ती हैं, उन्हें अनुपातहीन रूप से ऑनलाइन टार्गेट किया जाता है. इसके कारण वे महिलाएँ खुद को बहिष्कृत कर लेती हैं या सार्वजनिक जीवन से बाहर भी हो जाती हैं.

बोर्ड ने पाया कि इस पोस्ट में दिखाई गई महिला को अपमानित करने के लिए लिंग-आधारित उपहास का उपयोग किया गया, यह कहते हुए कि वह शारीरिक हमले के ही लायक थी. ऐसा ऑनलाइन उत्पीड़न व्यापक है और इसके कारण महिलाएँ चुप हो जाती हैं और सार्वजनिक जीवन से दूर हो जाती हैं. इसके साथ शारीरिक हमले भी हो सकते हैं. इसलिए इस कंटेंट को हटाया जाना ज़रूरी है, क्योंकि इससे कम कठोर उपाय महिला की फ़ोटो और उसे अपमानित करने के लिए उपयोग किए गए कंटेंट को फैलने से नहीं रोक पाएगा.

बोर्ड ने यह भी पाया कि यह पोस्ट मोटे तौर पर महिलाओं और लड़कियों के लिए लक्षित थी. इसमें महिलाओं पर शारीरिक हमले को मज़ेदार बताकर और यह कहकर कि पुरुष हिंसा का उपयोग करने के हकदार हैं, लिंग-आधारित हिंसा को सामान्य बात बताई गई है. हैशटैग का उपयोग भी यह बताता है कि यूज़र, पोस्ट में दिखाई गई महिला के बजाय महिलाओं के बड़े ग्रुप तक पहुँचना चाहता है. महिलाओं के खिलाफ़ हिंसा पर विशेष रैपर्टर, सार्वजनिक जीवन में महिलाओं को टार्गेट करने और महिलाओं पर लक्षित ज़्यादा व्यापक धमकी के बीच संबंध बताता है: “लोगों पर असर के अलावा, ऑनलाइन और ICT [सूचना और कम्युनिकेशन टेक्नोलॉजी] द्वारा आसान बनाई गई लिंग-आधारित हिंसा का एक बड़ा परिणाम एक ऐसा समाज है जहाँ महिलाएँ ऑनलाइन या ऑफ़लाइन कहीं भी सुरक्षित महसूस नहीं करतीं, क्योंकि लिंग-आधारित हिंसा के अधिकांश अपराधियों को कोई सज़ा ही नहीं मिलती” ( A/HRC/38/47, पैरा 29; A/HRC/RES/35/18, पैरा. 4, इसमें देशों से लिंग-आधारित रूढ़ियों को दूर करने के लिए कहा गया है जो महिलाओं के विरुद्ध हिंसा और भेदभाव का मूल कारण है).

बोर्ड इस बात से चिंतित है कि Meta की मौजूदा पॉलिसी, ऐसे कंटेंट का पर्याप्त रूप से समाधान नहीं करतीं जो लिंग-आधारित हिंसा की प्रशंसा करके या यह कहकर उसे सामान्य बात बताता है कि महिलाएँ इसी के लायक हैं. इस केस में कंटेंट का विश्लेषण, धमकी और उत्पीड़न की पॉलिसी के तहत किया गया, लेकिन यह पॉलिसी हमेशा ऐसी सामग्री से होने वाले नुकसान को सीमित करने के लिए पर्याप्त नहीं है जो, लिंग-आधारित हिंसा के ज़्यादा सामान्य संदर्भ में, ऑनलाइन या ऑफ़लाइन सार्वजनिक मंचों पर महिलाओं के साथ भेदभाव और उनके बहिष्कार को बढ़ावा देती है. यह पोस्ट धमकी और उत्पीड़न की पॉलिसी का उल्लंघन तब नहीं करेगी जब दिखाई गई महिला की पहचान नहीं हो या इसी कैप्शन के साथ किसी काल्पनिक चरित्र की फ़ोटो हो. Meta के अनुसार, यह कंटेंट नफ़रत फैलाने वाली भाषा से जुड़ी पॉलिसी का उल्लंघन नहीं करता, क्योंकि “यह किसी व्यक्ति या लोगों की सुरक्षित विशिष्टताओं के आधार पर उन्हें टार्गेट नहीं करता.” इससे बोर्ड को यह पता चलता है कि मौजूदा पॉलिसी में कमी है, जिसके तहत ऐसा लगता है कि भेदभाव करने वाले कंटेंट को प्लेटफ़ॉर्म पर बने रहने और शेयर किए जाने परमिशन मिल जाती है जिसमें लिंग-आधारित हिंसा को सामान्य बताने वाला कंटेंट शामिल है.

Meta के अनुसार, हिंसक गतिविधियों की प्रशंसा से संबंधित हालिया पॉलिसी डेवलपमेंट प्रोसेस बहुत हद तक विभिन्न पॉलिसी में लिंग-आधारित हिंसा की प्रशंसा का समाधान करने में होने वाली एन्फ़ोर्समेंट की मौजूदा कमियों का पता लगाने पर केंद्रित है. उस प्रोसेस के तहत Meta ने लिंग-आधारित हिंसा को लेकर मज़ाक या हँसी उड़ाने की समस्या के संबंध में पॉलिसी पर विचार किया. Meta ने बोर्ड को बताया कि कंपनी के अनुसार धमकी और उत्पीड़न से जुड़ी पॉलिसी सामान्य रूप से ऐसे कंटेंट की पहचान कर लेती है. हालाँकि, जैसा कि ऊपर बताए गए उदाहरणों में देखा गया, बोर्ड ने पाया कि मौजूदा पॉलिसी और उनके एन्फ़ोर्समेंट से सभी प्रासंगिक कंटेंट की पहचान नहीं हो पाती है.

महिलाओं के खिलाफ़ हिंसा पर संयुक्त राष्ट्र के विशेष रैपर्टर के अनुसार, “महिलाओं के खिलाफ़ हिंसा, महिलाओं से भेदभाव का एक रूप है और यह CEDAW के तहत मानवाधिकार का उल्लंघन है” ( A/HRC/38/47, पैरा. 22). महिलाओं के खिलाफ़ ऑनलाइन हिंसा में “महिलाओं के खिलाफ़ हुए लिंग-आधारित हिंसा के ऐसे सभी कृत्य शामिल हैं जो आंशिक रूप से या पूरी तरह ICT का उपयोग करके किए गए हैं, ICT से उनमें सहायता की गई है या ICT से उनका विस्तार किया गया है…किसी महिला के खिलाफ़ क्योंकि वह एक महिला है या जो महिला को अनुपातहीन रूप से प्रभावित करते हैं” ( A/HRC/38/47, पैरा. 23). महिलाओं के खिलाफ़ भेदभाव के उन्मूलन की कमिटी (समझौते के क्रियान्वयन की निगरानी के लिए स्वतंत्र विशेषज्ञों की संयुक्त राष्ट्र की बॉडी) ने सामान्य कमेंट 35 में देशों से रोकथाम के उपाय लागू करने का आह्वान किया जिसमें सोशल मीडिया कंपनियों को ऐसे सेल्फ़-रेग्युलेटेरी मैकेनिज़्म को मज़बूती देना शामिल है जो “उनकी सेवाओं और प्लेटफ़ॉर्म के ज़रिए होने वाली महिलाओं के खिलाफ़ लिंग-आधारित हिंसा का समाधान करे” ( CEDAW/C/GC/35, पैरा 30(d)).

लिंग-आधारित हिंसा की प्रशंसा करके या उसे तार्किक या महिलाओं को उसके लायक बताकर उसे सामान्य बात बताने वाला कंटेंट, हिंसा की पुष्टि करता है और महिलाओं को डराना चाहता है, जिसमें वे महिलाएँ भी शामिल हैं जो सार्वजनिक जीवन में भाग लेना चाहती हैं (डिजिटल राइट्स फ़ाउंडेशन का सार्वजनिक कमेंट देखें, PC-11226). ऐसा कंटेंट इकट्ठा होकर यह मैसेज देता है कि हिंसा स्वीकार्य है और उसका उपयोग लिंग संबंधी नियमों का उल्लंघन करते हुए दंड देने के लिए किया जा सकता है. हालाँकि इसके कारण संबंधी अकादमिक स्टडी कम हैं, कईस्टडी से लिंग-आधारित हिंसा के सामान्यीकरण और ऐसी हिंसा की घटनाओं में वृद्धि के बीच संबंध पता चला है.

पिछले कई केसों में, बोर्ड ने यह देखा है कि किस तरह भेदभावपूर्ण ( ज़्वार्टे पिएट का चित्रण, 2021-002-FB-UA) या नफ़रत फैलाने वाला ( क्निन कार्टून, 2022-001-FB-UA, दक्षिण अफ़्रीका की गालियाँ, 2021-011-FB-UA) हो सकने वाले कुछ कंटेंट को उसके सामूहिक असर के कारण हटाया जा सकता है और उसमें यह देखने की ज़रूरत नहीं है कि क्या कंटेंट का हर हिस्सा जान-माल का सीधा और तात्कालिक नुकसान कर सकता है. बोर्ट ने यह भी नोट किया कि अगर नुकसानदेह कंटेंट इकट्ठा हो जाता है, तो उससे ऐसा माहौल बन जाता है जिसमें भेदभाव और हिंसा की ज़्यादा आशंका होती है ( ज़्वार्टे पिएट का चित्रण, 2021-002-FB-UA).

महिलाओं के खिलाफ़ हिंसा पर संयुक्त राष्ट्र के विशेष रैपर्टर में उस महत्वपूर्ण भूमिका की ओर ध्यान आकर्षित किया गया जो सोशल मीडिया, लिंग-आधारित हिंसा के समाधान में निभाता है. साथ ही उसमें “उन ICT पॉलिसी और व्यवहारों की संरचना में मौजूद, विस्तृत और सर्वांगी भेदभाव के व्यापक माहौल और महिलाओं और लड़कियों के खिलाफ़ लिंग-आधारित हिंसा को ध्यान में रखते हुए बदलाव की ज़रूरत बताई, जो इंटरनेट और अन्य ICT की एक्सेस और उपयोग तय करते हैं” (A/HRC/38/47, पैरा 14). लिंग-आधारित रूढ़िवाद से हिंसा और अपर्याप्त प्रतिक्रिया को बढ़ावा मिलता है, जिससे आगे चलकर इस तरह का भेदभाव होता है. कई केसों में, महिलाओं के खिलाफ़ भेदभाव के उन्मूलन की कमिटी ने पाया है कि जब देश के अधिकारी अपने फ़ैसले लेते समय लिंग-आधारित रूढ़िवाद के अनुसार काम करते हैं, तो देश लिंग-आधारित हिंसा को रोकने या उसका समाधान करने में विफल हो जाते हैं (बेलुसोवा बनाम कज़ाखस्तान, R.P.B. बनाम फ़िलीपींस; जैलो बनाम बुल्गारिया (पैरा 8.6); और L.R. बनाम मॉल्दोवा गणराज्य देखें.).

लिंग-आधारित भेदभाव और हिंसा का विस्तृत माहौल के संदर्भ में, Meta की यह ज़िम्मेदारी है कि वह जान-माल के नुकसान की धमकियों और महिलाओं की अभिव्यक्ति और समाज में भागीदारी को रोकने की कोशिशों को सफल न होने दे. इस केस की पोस्ट में मौजूद कंटेंट जैसा कंटेंट, महिलाओं की निंदा करके और लिंग-आधारित हिंसा को महत्वहीन बताकर, उस पर ध्यान न देकर या लोगों के आक्रोश और घरेलू दुर्व्यवहार को बढ़ावा देकर ऐसी हिंसा को सामान्य बात बताता है. हिंसा के उपयोग को बढ़ावा देने या उसका समर्थन करने के लिए लिंग-आधारित हिंसा को सामान्य बात बताने वाले कंटेंट और महिलाओं के अधिकारों को नुकसान और दोषियों को कभी सज़ा न मिलने के माहौल का सामूहिक असर ऑफ़लाइन हिंसा के ज़्यादा जोखिम, सेल्फ़-सेंसरशिप और सार्वजनिक जीवन में महिलाओं की भागीदारी में कमी के रूप में देखने को मिलता है. इसलिए, बोर्ड ने सुझाव दिया कि Meta एक ऐसी पॉलिसी बनाने के लिए पॉलिसी डेवलपमेंट प्रोसेस शुरू करे, जो लिंग-आधारित हिंसा की प्रशंसा करके, स्पष्टीकरण देकर, खुशी मनाकर या मज़ाक उड़ाकर, उसे सामान्य व्यवहार मानने वाले कंटेंट का समाधान करने पर केंद्रित हो.

9. ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है.

10. सुझाव

A. कंटेंट पॉलिसी

1. यूज़र्स के लिए स्पष्टता सुनिश्चित करने के लिए, Meta को यह समझाना चाहिए कि धमकी और उत्पीड़न कम्युनिटी स्टैंडर्ड में उपयोग किए गए शब्द “चिकित्सीय स्थिति” में “गंभीर शारीरिक चोट” भी शामिल है. भले ही कंटेंट मॉडरेटर्स को दिए गए आंतरिक मार्गदर्शन में यह कहा गया है कि “चिकित्सीय स्थिति” में “गंभीर शारीरिक चोट” शामिल है, लेकिन यह स्पष्टीकरण Meta के यूज़र्स को नहीं दिया गया है.

बोर्ड इस सुझाव को तब लागू मानेगा जब कम्युनिटी स्टैंडर्ड के लोगों को दिखाई देने वाले भाग में बदलाव करके यह स्पष्टीकरण शामिल किया जाएगा.

2. बोर्ड ने सुझाव दिया कि Meta एक ऐसी पॉलिसी बनाने के लिए पॉलिसी डेवलपमेंट प्रोसेस शुरू करे, जो लिंग-आधारित हिंसा की प्रशंसा करके, स्पष्टीकरण देकर, खुशी मनाकर या मज़ाक उड़ाकर, उसे सामान्य व्यवहार मानने वाले कंटेंट का समाधान करने पर केंद्रित हो. बोर्ड यह समझता है कि Meta एक पॉलिसी डेवलपमेंट प्रोसेस कर रहा है जिसमें अन्य मुद्दों के अलावा इस बात पर भी विचार किया जा रहा है कि लिंग-आधारित हिंसा की प्रशंसा का समाधान कैसे किया जाए. यह सुझाव, उस ज़्यादा व्यापक नज़रिए का समर्थन करती है जिसमें लिंग-आधारित हिंसा के सामान्यीकरण से होने वाले नुकसानों को सीमित किया जाता है.

बोर्ड इस सुझाव को तब लागू मानेगा जब Meta इस पॉलिसी डेवलपमेंट प्रोसेस के नतीजे प्रकाशित करेगा और अपने कम्युनिटी स्टैंडर्ड को अपडेट करेगा.

*प्रक्रिया संबंधी नोट:

ओवरसाइट बोर्ड के फ़ैसले पाँच सदस्यों के पैनल द्वारा लिए जाते हैं और बोर्ड के अधिकांश सदस्य इन पर सहमति देते हैं. ज़रूरी नहीं है कि बोर्ड के फ़ैसले उसके हर एक मेंबर की निजी राय को दर्शाएँ.

इस केस के फ़ैसले के लिए, बोर्ड की ओर से स्वतंत्र रिसर्च करवाई गई थी. बोर्ड की सहायता एक स्वतंत्र शोध संस्थान ने की जिसका मुख्यालय गोथेनबर्ग यूनिवर्सिटी में है और जिसके पास छह महाद्वीपों के 50 से भी ज़्यादा समाजशास्त्रियों की टीम के साथ ही दुनियाभर के देशों के 3,200 से भी ज़्यादा विशेषज्ञ हैं. बोर्ड को Duco Advisers की सहायता भी मिली, जो भौगोलिक-राजनैतिक, विश्वास और सुरक्षा और टेक्नोलॉजी के आपसी संबंध पर काम करने वाली एक एडवाइज़री फ़र्म है. Memetica ने भी विश्लेषण उपलब्ध कराया जो सोशल मीडिया ट्रेंड पर ओपन-सोर्स रिसर्च में एंगेज होने वाला संगठन है. Lionbridge Technologies, LLC कंपनी ने भाषा संबंधी विशेषज्ञता की सेवा दी, जिसके विशेषज्ञ 350 से भी ज़्यादा भाषाओं में कुशल हैं और वे दुनियाभर के 5,000 शहरों से काम करते हैं.