डाउन सिंड्रोम से पीड़ित लोगों को टार्गेट करने वाला कमेंट

संक्षिप्त फ़ैसलों में उन केसों का परीक्षण किया जाता है जिनमें बोर्ड द्वारा कंटेंट पर Meta का ध्यान आकर्षित के बाद कंपनी ने कंटेंट के बारे में अपने मूल फ़ैसले को पलटा है और इसमें Meta द्वारा मानी गई गलतियों की जानकारी होती है. उन्हें पूरे बोर्ड के बजाय, बोर्ड के किसी सदस्य द्वारा स्वीकृत किया जाता है, उनमें पब्लिक कमेंट शामिल नहीं होते और उन्हें बोर्ड द्वारा आगे के फ़ैसलों के लिए आधार नहीं बनाया जा सकता. संक्षिप्त फ़ैसले, Meta के फ़ैसलों में सीधे बदलाव लाते हैं, इन सुधारों के बारे में पारदर्शिता देते हैं और साथ ही यह बताते हैं कि Meta अपने एन्फ़ोर्समेंट में कहाँ सुधार कर सकता है.

सारांश

एक यूज़र ने Facebook पर एक ऐसे कमेंट को बनाए रखने के Meta के फ़ैसले के खिलाफ़ अपील की जिसमें डाउन सिंड्रोम और अन्य अक्षमताओं वाले लोगों को टार्गेट किया गया था. जब बोर्ड ने Meta का ध्यान अपील पर आकर्षित किया, तो कंपनी ने अपना मूल फ़ैसला पलट दिया और कमेंट को हटा दिया.

केस की जानकारी

फ़रवरी में, Facebook के एक यूज़र ने “लव ऑन द स्पेक्ट्रम” शो के बारे में Netflix के एक विज्ञापन वाली पोस्ट पर कमेंट किया. कमेंट में कुछ कथन थे जिनमें यूज़र ने कहा कि वे ऑटिज़्म से पीड़ित लोगों को “मनुष्यों की एक अलग प्रजाति” मानते हैं. उसी कमेंट में, यूज़र ने नाम सहित एक ऐसे व्यक्ति का भी जिक्र किया जिन्हें वे जानते हैं और कहा कि “यह लड़की … कक्षा की अकेली मोटी लड़की भी थी.” यूज़र ने आगे कहा कि इस व्यक्ति जैसे लोगों से “बातचीत करना मुश्किल है ... वे अलग तरह के होते हैं. वे अलग तरह के इंसान होते हैं.”

इस कमेंट को बनाए रखने के Meta के मूल फ़ैसले के खिलाफ़ जिस यूज़र ने बोर्ड के सामने अपील की, उसने इसे “डाउन सिंड्रोम से ग्रस्त लोगों के खिलाफ़ शाब्दिक हमला” कहा. अपील करने वाले यूज़र ने नोट किया कि “यह बताने के लिए पूरी कहानी लिखने की ज़रूरत नहीं होनी चाहिए कि इस कमेंट को Facebook के सिस्टम द्वारा क्यों फ़्लैग किया जाना चाहिए था” और उसने Meta से अनुरोध किया कि वह इस मामले में “बेहतर काम करे.”

Meta की नफ़रत फैलाने वाले आचरण से जुड़ी पॉलिसी के अनुसार, कंपनी, मनुष्यों को नीचा दिखाने वाली ऐसी भाषा को हटा देती है जिसमें अक्षमता जैसी सुरक्षित विशिष्टताओं के आधार पर लोगों को टार्गेट किया जाता है. इसमें इस बारे में इनसे तुलनाएँ या सामान्यीकरण शामिल हैं: “अमानवीयता (इनके सहित लेकिन इन तक सीमित नहीं: असभ्य, शैतान, राक्षस).” कमेंट में यूज़र, डाउन सिंड्रोम से ग्रस्त लोगों पर “अलग तरह के इंसान” का लेबल लगाकर इसे सामान्य बात बताता है.

इसके अलावा, Meta की धमकी और उत्पीड़न से जुड़ी पॉलिसी ऐसे कंटेंट को प्रतिबंधित करती है जिसमें किसी खास व्यक्ति को “उसकी शारीरिक बनावट को हीन बताते हुए” निशाना बनाया जाता है. किसी खास व्यक्ति के बारे में यूज़र का यह वर्णन कि “वह अकेली मोटी लड़की थी,” शारीरिक बनावट के बारे में किसी को हीन बताने वाला कथन माना जाएगा. यह पॉलिसी के टियर 1 के तहत एक उल्लंघन है, जो “सभी लोगों को सार्वभौमिक सुरक्षा” प्रदान करता है. इस कंटेंट को उल्लंघन करने वाला माना जाने और हटाए जाने के लिए, निशाना बनाए गए व्यक्ति को खुद ऐसे कंटेंट की रिपोर्ट करने की ज़रूरत नहीं है.

जब बोर्ड ने Meta का ध्यान इस केस की ओर आकर्षित किया, तो कंपनी ने पाया कि पोस्ट से नफ़रत फैलाने वाले व्यवहार और धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन होता है और यह कि कमेंट को बनाए रखने का उसका शुरुआती फ़ैसला गलत था. Meta ने माना कि यूज़र ने नफ़रत फैलाने वाले व्यवहार से जुड़ी पॉलिसी का उल्लंघन किया क्योंकि उसने डाउन सिंड्रोम से ग्रस्त लोगों को “इंसानों की एक अलग प्रजाति” के रूप में लेबल किया. साथ ही उसने धमकी और उत्पीड़न से जुड़ी पॉलिसी का उल्लंघन भी किया क्योंकि यूज़र ने एक खास व्यक्ति का वर्णन “अकेले मोटे बच्चे” के रूप में किया. कंपनी ने फिर Facebook से कंटेंट को हटा दिया.

बोर्ड का प्राधिकार और दायरा

बोर्ड को उस यूज़र के अपील करने के बाद Meta के फ़ैसले का रिव्यू करने का अधिकार है, जिसका कंटेंट हटा दिया गया था (चार्टर अनुच्छेद 2, सेक्शन 1; उपनियम अनुच्छेद 3, सेक्शन 1).

जहाँ बोर्ड द्वारा रिव्यू किए जा रहे केस में Meta यह स्वीकार करता है कि उससे गलती हुई है और वह अपना फ़ैसला पलट देता है, वहाँ बोर्ड उस केस का चुनाव संक्षिप्त फ़ैसले के लिए कर सकता है (उपनियम अनुच्छेद 2, सेक्शन 2.1.3). बोर्ड, कंटेंट मॉडरेशन प्रोसेस के बारे में ज़्यादा जानकारी पाने, गलतियों में कमी लाने और Facebook, Instagram और Threads के यूज़र्स के लिए निष्पक्षता बढ़ाने के लिए मूल फ़ैसले का रिव्यू करता है.

केस की सार्थकता

यह केस दिव्यांग लोगों के लिए अमानवीय भाषा का उपयोग करने का खास तौर पर एक मज़बूत उदाहरण है. डाउन सिंड्रोम किसी व्यक्ति को “इंसानों की एक अलग प्रजाति” में बदल देता है, यह कहना गूढ़ या सांकेतिक कथन नहीं है. इसीलिए इसे हटाया न जाना, Meta के एन्फ़ोर्समेंट सिस्टम की गंभीर समस्या की ओर इशारा करता है.

इसलिए यह केस, नफ़रत फैलाने वाले आचरण के खिलाफ़ Meta की पॉलिसीज़ को प्रभावी रूप से लागू कर पाने में Meta की विफलता दिखाता है. हालिया रिपोर्ट्स बताती हैं कि डाउन सिंड्रोम से पीड़ित लोगों जैसे अक्षम लोगों के ऑनलाइन उत्पीड़न में भारी बढ़ोतरी हो रही है. संयुक्त राष्ट्र मानवाधिकार उच्चायुक्त के कार्यालय (OHCHR) की दिव्यांग लोगों के खिलाफ़ साइबर धमकियों से निपटना रिपोर्ट के अनुसार, इस बात की आशंका ज़्यादा होती है कि “दिव्यांग लोग साइबर धमकियों का सामना ज़्यादा करें” और “यह भी संभव है कि ऑनलाइन दुर्व्यवहार के कारण वे डिजिटल साधनों से पूरी तरह दूर ही हो जाएँ.” वर्ल्ड डाउन सिंड्रोम डे 2024 कैंपेन की थीम थी “रूढ़िवाद खत्म करने के लिए दुनियाभर के लोगों का आह्वान. #EndTheStereotypes.” कैंपेन में इस बात पर ज़ोर दिया गया कि रूढ़िवाद के कारण डाउन सिंड्रोम और बौद्धिक अक्षमताओं वाले लोगों को सम्मान नहीं मिलेगा.

गलतियों में कमी लाने के लिए, बोर्ड ने Meta के पॉलिसी एन्फ़ोर्समेंट को बेहतर बनाने के लिए सुझाव दिए. बोर्ड ने कंपनी से कहा कि वह ऐसे कंटेंट का पता लगाने की अपनी क्षमता को लगातार बेहतर बनाए जो उसके नफ़रत फैलाने वाली भाषा (नफ़रत फैलाने वाला आचरण) से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करता है.

उदाहरण के लिए, बोर्ड ने यह सुझाव दिया कि Meta को “[लोगों के साथ] उस आंतरिक ऑडिट के परिणाम शेयर करना चाहिए जो उसने अपनी नफ़रत फैलाने वाली भाषा [अब नफ़रत फैलाने वाला आचरण] से जुड़ी पॉलिसी को एन्फ़ोर्स करने में ह्यूमन रिव्यू की सटीकता और ऑटोमेटेड सिस्टम की परफ़ॉर्मेंस का आकलन करने के लिए किया है,” ( राष्ट्रीयता के आधार पर आपराधिक आरोप, सुझाव सं. 2). बोर्ड को दिए अपने शुरुआती जवाब में, Meta ने रिपोर्ट किया कि कंपनी इस सुझाव को छोटे-छोटे हिस्सों में लागू करेगी. Meta ने कहा कि कंपनी “कम्युनिटी स्टैंडर्ड एन्फ़ोर्समेंट रिपोर्ट (CSER)” में अपने पहचान और एन्फ़ोर्समेंट मैकेनिज़्म द्वारा निपटाए गए नफ़रत फैलाने वाली भाषा के कंटेंट की मात्रा के बारे में डेटा शेयर करना जारी रखेगी,” लेकिन वैश्विक स्तर पर उसके एन्फ़ोर्समेंट की सटीकता का डेटा, बोर्ड के साथ गोपनीय रूप से शेयर किया जाएगा. यह सुझाव सितंबर 2024 में जारी किया गया था. इसका क्रियान्वयन अभी जारी है और बोर्ड के साथ डेटा शेयर किया जाना शेष है.

बोर्ड इस बात से चिंतित है कि Meta ने इस बारे में सार्वजनिक रूप से कोई जानकारी शेयर नहीं की है कि 7 जनवरी, 2025 को अनाउंस किए गए पॉलिसी और एन्फ़ोर्समेंट संबंधी बदलाव करने से पहले, उसने मानवाधिकारों के संबंध में अगर कोई यथोचित काम किए हैं, तो वे कौन-से हैं, जैसा कि बोर्ड ने यूरोपियन यूनियन माइग्रेशन पॉलिसी और माइग्रेंट, दक्षिण अफ़्रीका के रंगभेद के युग का झंडा दिखाने वाली पोस्ट, यूके के दंगों का समर्थन करने वाले लैंगिक पहचान विवाद वीडियो और पोस्ट फ़ैसलों में हाइलाइट किया है. एन्फ़ोर्समेंट के प्रति कम सुरक्षात्मक नज़रिए से कमज़ोर समूहों के सदस्यों को निशाना बनाने वाले कंटेंट के व्यापक होनी की ज़्यादा संभावना होगी, जैसा कि इस फ़ैसले में रिव्यू की जा रही पोस्ट के साथ हुआ. उन फ़ैसलों में, बोर्ड ने इस बात पर ज़ोर दिया कि “एन्फ़ोर्समेंट से जुड़े बदलावों के संबंध में, यथोचित कामों में ज़रूरत से ज़्यादा एन्फ़ोर्समेंट ( क्यूबा में महिलाओं से विरोध प्रदर्शन का आह्वान, अरबी शब्दों को स्वीकार्य उपयोग में लाना) के साथ-साथ ज़रूरत से कम एन्फ़ोर्समेंट ( यहूदी नरसंहार को नकारना (होलोकॉस्ट डिनायल), पश्चिम अफ़्रीका में होमोफ़ोबिक हिंसा, ट्रांसजेंडर लोगों को टार्गेट करने के लिए पोलिश भाषा में की गई पोस्ट)” को ध्यान में रखा जाना चाहिए. इसके अलावा, दोनों फ़ैसलों में, बोर्ड ने Meta द्वारा यह सुनिश्चित किए जाने की ज़रूरत पर ज़ोर दिया कि “मानवाधिकारों पर इन बदलावों के प्रतिकूल प्रभावों की पहचान की जाए, उन्हें दूर किया जाए और रोका जाए और उन्हें सार्वजनिक रूप से रिपोर्ट किया जाए.”

फ़ैसला

बोर्ड ने संबंधित कंटेंट को प्लेटफ़ॉर्म पर बनाए रखने के Meta के मूल फ़ैसले को पलट दिया है. बोर्ड द्वारा केस को Meta के ध्यान में लाए जाने के बाद, Meta द्वारा मूल फ़ैसले की गलती में किए गए सुधार को बोर्ड ने स्वीकार किया.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें