ओवरसाइट बोर्ड ने अमेरिका में गर्भपात की चर्चा करने वाली पोस्ट को हटाने के Meta के मूल फ़ैसलों को पलट दिया

6 सितम्बर 2023

ओवरसाइट बोर्ड ने तीन ऐसी पोस्ट को हटाने के Meta के मूल फ़ैसले को पलट दिया जिनमें गर्भपात की चर्चा की गई थी और अलंकारपूर्ण हिंसक भाषा का उपयोग किया गया था. Meta ने माना कि उसके मूल फ़ैसले गलत थे और उनमें से कोई भी पोस्ट उसकी हिंसा और उकसावे की पॉलिसी का उल्लंघन नहीं करती है, इसलिए ये केस इस बारे में चिंताएँ उत्पन्न करते हैं कि क्या हिंसक अलंकारिक भाषा के आकलन के Meta के तरीके से गर्भपात से जुड़ी चर्चाओं और राजनीतिक अभिव्यक्ति पर बुरा असर पड़ रहा है. Meta को नियमित रूप से बोर्ड को वह डेटा उपलब्ध कराना चाहिए जिसका उपयोग वह हिंसा और उकसावे से जुड़ी पॉलिसी के एन्फ़ोर्समेंट की सटीकता के मूल्यांकन के लिए करता है, ताकि बोर्ड अपनी ओर से भी उसका विश्लेषण कर सके.

केस की जानकारी

गर्भपात से जुड़े इस फ़ैसले में शामिल तीन कंटेंट को मार्च 2023 में अमेरिका के यूज़र्स द्वारा पोस्ट किया गया था.

पहले केस में, एक यूज़र ने एक पब्लिक Facebook ग्रुप में फैले हुए हाथों वाली एक फ़ोटो पोस्ट की जिसके टेक्स्ट ओवरले में “Pro-Abortion Logic” (गर्भपात के समर्थन में तथ्य) लिखा है. पोस्ट में आगे लिखा है कि "We don’t want you to be poor, starved or unwanted. So we’ll just kill you instead.” (हम नहीं चाहते कि तुम गरीब, भूखी या अनचाही संतान बनो. इससे अच्छा है कि हम तुम्हें मार दें.) ग्रुप खुद को “मानव जीवन की शुचिता” का समर्थक बताता है.

दो अन्य केसों में, दोनों यूज़र्स ने साउथ कैरोलिना में प्रस्तावित विधेयक से जुड़े समाचार पोस्ट किए थे. इस विधेयक के अनुसार गर्भपात पर देश के मानववध कानून लागू होंगे, अर्थात गर्भपात करवाने वाले लोगों को मृत्युदंड देने की परमिशन होगी. Instagram पर इनमें से एक पोस्ट में समाचार की हेडलाइन की फ़ोटो के साथ एक कैप्शन दिया गया था जिसमें साउथ कैरोलिना के कानून निर्माताओं की ओर इशारा करते हुए कहा गया था कि “so pro-life we’ll kill you dead if you get an abortion” (अगर आप गर्भपात करवाते हो, तो एक जीवन बचाने के लिए हम आपको मार देंगे). Facebook पर की गई दूसरी पोस्ट के कैप्शन में स्पष्टीकरण माँगा गया है कि क्या कानून निर्माता यह कहना चाहते हैं कि “it’s wrong to kill so we are going to kill you” (हत्या करना गुनाह है, इसलिए हम तुम्हें मार देंगे).

Meta के ऑटोमेटेड सिस्टम्स, ख़ास तौर पर शत्रुतापूर्ण भाषा वाले क्लासिफ़ायर, द्वारा कंटेंट को संभावित रूप से नुकसानदेह पाए जाने के बाद, तीनों पोस्ट को ह्यूमन रिव्यू के लिए भेज दिया गया. तीन केसों में सात में से छह ह्यूमन रिव्यूअर्स ने पाया कि पोस्ट से Meta के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन होता है क्योंकि उनमें हत्या की धमकियाँ हैं. तीनों यूज़र्स ने अपने कंटेंट को हटाए जाने के खिलाफ़ अपील की. बोर्ड द्वारा इन केसों को चुने जाने के बाद, Meta ने पाया कि उसके मूल फ़ैसले गलत थे और उसने पोस्ट को रीस्टोर कर दिया.

मुख्य निष्कर्ष

बोर्ड इस नतीजे पर पहुँचा कि तीनों में से किसी भी पोस्ट को धमकाने या हिंसा को उकसाने वाली समझने का कोई उचित कारण नहीं है. भले ही सभी में “हम तुम्हें मार देंगे” का अलग-अलग तरह से उपयोग किया गया है, लेकिन इसका उपयोग व्यंगात्मक रूप से विरोधी दृष्टिकोण जाहिर करने के लिए किया गया है और इनमें से कोई भी पोस्ट धमकी या हिंसा करने का इरादा व्यक्त नहीं करती. इन तीन केसों में, सात में से छह ह्यूमन मॉडरेटर्स ने Meta की पॉलिसी लागू करने में गलती की. बोर्ड ने इन केसों में गलतियों के अलग-अलग स्पष्टीकरणों पर विचार किया, जिससे, Meta के जवाबों के अनुसार, इन पोस्ट पर गलत फ़ैसलों के छोटे और संभावित रूप से अपरिहार्य सबसेट का पता चल सकता है. यह भी संभव है कि रिव्यूअर्स, जो उस क्षेत्र के नहीं थे जहाँ कंटेंट पोस्ट किया गया था, भाषाई या राजनैतिक संदर्भ को नहीं समझ पाए और हिंसक शब्दों का उपयोग करके लिखे गए अहिंसक कंटेंट को पहचान नहीं पाए. Meta के मार्गदर्शन में भी कमी हो सकती है क्योंकि कंपनी ने बोर्ड से कहा कि वह अपने मॉडरेटर्स को इस बारे में कोई विशेष मार्गदर्शन नहीं देता कि उसकी हिंसा और उकसावे से जुड़ी पॉलिसी के भाग के रूप में गर्भपात से संबंधित कंटेंट को किस तरह हैंडल किया जाए.

गर्भपात से जुड़ी पॉलिसी की चर्चा से अक्सर कठोरता से निपटा जाता है और उसमें ऐसी धमकियाँ शामिल हो सकती हैं जो Meta द्वारा प्रतिबंधित हैं. इसलिए, Meta के लिए यह सुनिश्चित करना ज़रूरी है कि उसके सिस्टम भरोसेमंद रूप से धमकियों और हिंसक भाषा के अहिंसक और अलंकारिक उपयोगों के बीच अंतर कर पाएँ.

चूँकि इनमें से कोई भी केस अस्पष्ट नहीं है, इसलिए ये गलतियाँ बताती हैं कि Meta की एन्फ़ोर्समेंट प्रोसेस में सुधार की गुंजाइश है. ऐसी गलतियों से न सिर्फ़ अलग-अलग केसों में अभिव्यक्ति सीमित हो सकती है, बल्कि वर्तमान समय के अभद्र कंटेंट के अनुसार ट्रेन किए गए मशीन लर्निंग मॉडलों से बार-बार होने वाली गलतियों और पक्षपात के ज़रिए सेंसरशिप का चक्रीय पैटर्न भी बनाती हैं. इसके अलावा, ये केस बताते हैं कि Meta के नियमों का उल्लंघन नहीं करने वाले कंटेंट को गलती से हटाने से किसी देश के सबसे ज़्यादा विभाजनात्मक मुद्दों पर राजनैतिक चर्चाओं में रुकावट आ सकती है और ऐसा विभाजन खत्म करने का रास्ता कठिन हो सकता है.

Meta ने बोर्ड को इस बात का पर्याप्त आश्वासन नहीं दिया कि इन केसों में हुई गलतियाँ अपने किस्म की एकमात्र थीं और वे व्यवस्थात्मक कमियों के पैटर्न का प्रतिनिधित्व नहीं करतीं.

बोर्ड मानता है कि इन केसों में हुई गलतियों जैसी अपेक्षाकृत आसान गलतियाँ, ऐसे संभावित क्षेत्र हैं जिनमें उभरती हुई मशीन लर्निंग तकनीकों से स्पष्ट सुधार लाया जा सकता है. वह Meta द्वारा हाल ही में अपने हिंसा फैलाने वाली भाषा के एन्फ़ोर्समेंट के वर्कफ़्लो की संवेदनशीलता में किए गए सुधारों का भी समर्थन करता है. हालाँकि, इस क्षेत्र में समय के साथ Meta के परफ़ॉर्मेंस का आकलन करने के लिए बोर्ड को ज़्यादा डेटा की अपेक्षा है.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने गर्भपात की चर्चा करने वाली तीन पोस्ट को हटाने के Meta के मूल फ़ैसलों को पलट दिया.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• बोर्ड को वह डेटा उपलब्ध कराए जिसका उपयोग वह अपनी हिंसा और उकसावे की पॉलिसी के एन्फ़ोर्समेंट की सटीकता का मूल्यांकन करने के लिए करता है. यह जानकारी पर्याप्त रूप से व्यापक होनी चाहिए ताकि बोर्ड, Meta के इन तर्कों का सत्यापन कर पाए कि इन केसों में हुई गलतियाँ Meta की एन्फ़ोर्समेंट प्रोसेस की व्यवस्थात्मक समस्याओं का परिणाम नहीं हैं.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया नीचे अटैचमेंट पर क्लिक करें.

समाचार पर लौटें