लिंग-आधारित हिंसा की फ़ोटो से जुड़े केस में ओवरसाइट बोर्ड ने Meta के शुरुआती फ़ैसले को बदल दिया

1 अगस्त 2023

ओवरसाइट बोर्ड ने Meta के एक Facebook पोस्ट को नहीं हटाने के शुरुआती फ़ैसले को बदल दिया है, जिसमें लिंग-आधारित हिंसा से पीड़ित व्यक्ति का मज़ाक उड़ाया गया है. जहाँ एक तरफ़ Meta यह मानता है कि इस पोस्ट से उसके धमकी और उत्पीड़न से जुड़े नियमों का उल्लंघन हुआ है, वहीं बोर्ड ने यह जाना कि Meta के मौजूदा नियमों में कमी है, जो लिंग-आधारित हिंसा की प्रशंसा करने, उसका स्पष्टीकरण देने, उसकी खुशियाँ मनाने या उसका मज़ाक उड़ाने को सामान्य व्यवहार मानने वाले कंटेंट की परमिशन देते लगते हैं (जैसे, ऐसे केस में जहाँ पीड़ित व्यक्ति की पहचान नहीं हो सकती या जहाँ काल्पनिक चरित्र की फ़ोटो है). बोर्ड ने सुझाव दिया कि Meta इस कमी का समाधान करने के लिए एक पॉलिसी डेवलपमेंट प्रोसेस शुरू करे.

केस की जानकारी

मई 2021 में इराक के एक Facebook यूज़र ने अरबी भाषा में लिखे कैप्शन के साथ एक फ़ोटो पोस्ट की थी. इस फ़ोटो में एक महिला पर किए गए शारीरिक हमले के निशान दिखाई दे रहे हैं, जिसमें उसके चेहरे और शरीर पर लगी चोटें भी दिख रही हैं. कैप्शन की शुरुआत में महिलाओं को अपने पतियों के लिए कुछ लिखते समय गलती करने के बारे में चेतावनी दी गई है. कैप्शन में आगे कहा गया है कि फ़ोटो में दिख रही महिला ने अपने पति को एक पत्र लिखा था, जिसके शब्दों का उसके पति ने कुछ और मतलब समझा और कैप्शन के अनुसार, ऐसा महिला की टाइपिंग की गलती के कारण हुआ. पोस्ट के अनुसार, पति को लगा कि महिला ने उसे एक “donkey” (गधा) लाने के लिए कहा जबकि वास्तव में वह “veil” (बुरका) मँगवा रही थी. अरबी भाषा में, “donkey” (गधा) और “veil” (बुरका), दोनों शब्द एक जैसे दिखते हैं (“حمار" and “خمار"). पोस्ट के कहने का यह मतलब है कि महिला के पत्र में टाइपिंग की गलती से हुई गलतफ़हमी की वजह से, उसके पति ने उसके साथ मार-पीट की. कैप्शन में फिर कहा गया है कि वह महिला इसी लायक थी. पूरी पोस्ट में हँसने और मुस्कुराने वाले कई इमोजी हैं.

फ़ोटो में दिख रही महिला सीरिया की एक सामाजिक कार्यकर्ता है, जिसकी फ़ोटो पहले भी सोशल मीडिया पर शेयर की जा चुकी है. कैप्शन में उस महिला का नाम नहीं बताया गया है, लेकिन उसका चेहरा स्पष्ट दिख रहा है. पोस्ट में सीरिया में महिलाओं का समर्थन करने वाली चर्चाओं में उपयोग किया जाने वाला हैशटैग भी शामिल है.

फ़रवरी 2023 में, एक Facebook यूज़र ने यह कहते हुए इस कंटेंट की तीन बार रिपोर्ट की कि इसमें Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन किया गया है. अगर कंटेंट का 48 घंटे में रिव्यू नहीं किया जाता है, तो रिपोर्ट अपने आप बंद हो जाती है और ऐसा ही इस केस में भी हुआ. यह कंटेंट लगभग दो साल तक प्लेटफ़ॉर्म पर बना रहा और किसी ह्यूमन मॉडरेटर ने इसका रिव्यू नहीं किया.

उस कंटेंट की रिपोर्ट करने वाले यूज़र ने Meta के फ़ैसले के खिलाफ़ ओवरसाइट बोर्ड में अपील की. जब बोर्ड ने इस केस को चुना, तो Meta ने पाया कि कंटेंट से धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है और पोस्ट को हटा दिया.

मुख्य निष्कर्ष

बोर्ड ने पाया कि पोस्ट से Meta की धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है क्योंकि इसमें दिखाई गई महिला की गंभीर शारीरिक चोट का मज़ाक उड़ाया गया है. इसी वजह से इसे हटा देना चाहिए.

हालाँकि, इस पोस्ट से Meta के धमकी और उत्पीड़न से जुड़े नियमों का उल्लंघन नहीं होता, अगर दिखाई गई महिला की पहचान नहीं हो पाती या इसी कैप्शन के साथ कोई काल्पनिक चरित्र की फ़ोटो होती. इससे बोर्ड को यह पता चलता है कि मौजूदा पॉलिसी में कमी है, जिसके तहत ऐसा लगता है कि लिंग-आधारित हिंसा को सामान्य व्यवहार मानने वाले कंटेंट को परमिशन मिल जाती है. Meta के अनुसार, हिंसक गतिविधियों की प्रशंसा से संबंधित हालिया पॉलिसी डेवलपमेंट प्रोसेस बहुत हद तक विभिन्न पॉलिसी में लिंग-आधारित हिंसा की प्रशंसा का समाधान करने में होने वाली एन्फ़ोर्समेंट की मौजूदा कमियों का पता लगाने पर केंद्रित है. उस प्रोसेस के तहत Meta ने लिंग-आधारित हिंसा को लेकर मज़ाक या हँसी उड़ाने की समस्या के संबंध में पॉलिसी पर विचार किया. Meta ने बोर्ड को बताया कि कंपनी के अनुसार धमकी और उत्पीड़न से जुड़ी पॉलिसी सामान्य रूप से ऐसे कंटेंट की पहचान कर लेती है. हालाँकि, जैसा कि ऊपर बताए गए उदाहरणों में देखा गया, बोर्ड ने पाया कि मौजूदा पॉलिसी और उनके एन्फ़ोर्समेंट से सभी प्रासंगिक कंटेंट की पहचान नहीं हो पाती है. इस केस से यह भी सवाल उठता है कि Meta धमकी और उत्पीड़न के नियमों को किस तरह से लागू कर रहा है. इस केस का कंटेंट, जिसमें सीरियाई कार्यकर्ता की फ़ोटो शामिल है, जिस पर शारीरिक हमला किया गया था और जिसकी एक Facebook यूज़र ने कई बार रिपोर्ट भी की थी, उसका किसी ह्यूमन मॉडरेटर ने रिव्यू नहीं किया. इससे ऐसा लगता है कि Meta इस तरह के उल्लंघनों का प्राथमिकता के साथ रिव्यू नहीं करता है.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के शुरुआती फ़ैसले को बदल दिया है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• एक ऐसी पॉलिसी बनाने के लिए पॉलिसी डेवलपमेंट प्रोसेस शुरू करे, जो लिंग-आधारित हिंसा की प्रशंसा करके, स्पष्टीकरण देकर, खुशी मनाकर या मज़ाक उड़ाकर, उसे सामान्य व्यवहार मानने वाले कंटेंट का समाधान करने पर केंद्रित हो.
• धमकी और उत्पीड़न से जुड़े कम्युनिटी स्टैंडर्ड में यह स्पष्टीकरण दे कि “मेडिकल स्थिति” में “गंभीर शारीरिक चोट” भी शामिल है.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया नीचे अटैचमेंट पर क्लिक करें.

समाचार पर लौटें