“यूके ड्रिल म्यूज़िक” वाले केस में ओवरसाइट बोर्ड ने Meta का फ़ैसला पलटा

22 नवंबर 2022

ओवरसाइट बोर्ड ने Instagram से यूके ड्रिल म्यूज़िक वीडियो क्लिप को हटाने के Meta के फ़ैसले को पलट दिया. Meta ने मेट्रोपोलिटन पुलिस से रिक्वेस्ट मिलने पर कंटेंट को हटाया था. इस केस से कानून प्रवर्तन से Meta के रिलेशनशिप के बारे में चिंताएँ उत्पन्न होती हैं, जिससे पक्षपात को बढ़ावा मिल सकता है. बोर्ड ने इन रिलेशनशिप में तय प्रोसेस और पारदर्शिता के बेहतर सम्मान के लिए सुझाव दिए.

जनवरी 2023 का अपडेट:

इस केस में, ओवरसाइट बोर्ड ने मेट्रोपोलिटन पुलिस सर्विस (MPS) को एक सूचना की आज़ादी रिक्वेस्ट सबमिट करके पूछा कि एक वर्ष की अवधि में ड्रिल म्यूज़िक कंटेंट का रिव्यू करने या हटाने के लिए Meta सहित सोशल मीडिया कंपनियों को MPS की ओर से भेजी गई रिक्वेस्ट की प्रकृति और मात्रा क्या थी. MPS ने 7 अक्टूबर 2022 को भेजी गई रिक्वेस्ट की मात्रा के आँकड़े भेजे और बताया कि उनमें से कितने कंटेंट को हटाया गया. MPS के पूरे जवाब को फ़ैसले के साथ प्रकाशित किया गया और उसमें शामिल आँकड़ों को बोर्ड के फ़ैसले में शामिल किया गया जिसे 22 नवंबर 2022 को प्रकाशित किया गया था. 4 जनवरी 2023 को MPS ने बोर्ड से संपर्क करके कहा कि उसे अपने जवाब में कुछ गलतियाँ मिली हैं और उसने उन्हें ठीक किया. ध्यान देने वाली बात यह है कि उसने अपने आँकड़े भी ठीक किए: मेट्रोपोलिटन पुलिस द्वारा सोशल मीडिया कंपनियों और स्ट्रीमिंग सर्विस को जून 2021 से मई 2022 के बीच ड्रिल म्यूज़िक वाले कंटेंट को रिव्यू करने या हटाने के लिए की गई कुल 992 रिक्वेस्ट [सुधार से पहले यह संख्या 286 थी] में से 879 मामलों [सुधार से पहले यह संख्या 255 थी] में कंटेंट हटा दिया गया; इनमें से 28 रिक्वेस्ट Meta के प्लेटफ़ॉर्म से संबंधित थीं [सुधार से पहले यह संख्या 21 थी] और उनमें से 24 मामलों [सुधार से पहले यह संख्या 14 थी] में कंटेंट हटा दिया गया. फ़ैसले में MPS द्वारा सुधार किए जाने से पहले के मूल आँकड़े हैं. यह अपडेट इस केस में ओवरसाइट बोर्ड के विश्लेषण या फ़ैसले में कोई बदलाव नहीं करता. सूचना की आज़ादी के जवाब का अपडेट यहाँ देखा जा सकता है.

केस की जानकारी

जनवरी 2022 में, ख़ुद को ब्रिटिश म्यूज़िक को बढ़ावा देने वाला अकाउंट बताने वाले एक Instagram अकाउंट ने चिंक्स (ओएस) के यूके ड्रिल म्यूज़िक ट्रैक "सीक्रेट्स नॉट सेफ़" की रिलीज़ को हाइलाइट करने वाला कंटेंट पोस्ट किया जिसमें ट्रैक के म्यूज़िक वीडियो की एक क्लिप शामिल थी.

कुछ ही समय बाद, मेट्रोपोलिटन पुलिस, जो ग्रेटर लंदन में कानून प्रवर्तन के लिए ज़िम्मेदार है, ने Meta को ईमेल से रिक्वेस्ट भेजकर कहा कि कंपनी "सीक्रेट्स नॉट सेफ़” को शामिल करने वाले सभी कंटेंट का रिव्यू करे. Meta को मेट्रोपोलिटन पुलिस से अतिरिक्त संदर्भ भी मिला. Meta के अनुसार, इसमें लंदन में हत्याओं सहित गिरोह हिंसा की जानकारी शामिल थी और पुलिस को यह चिंता थी कि ट्रैक से बदले की हिंसा को बढ़ावा मिल सकता है.

Meta की विशेषज्ञ टीमों ने कंटेंट का रिव्यू किया. मेट्रोपोलिटन पुलिस द्वारा दिए गए संदर्भों पर भरोसा करते हुए, उन्होंने यह पाया कि उसमें 2017 की गोलीबारी का रेफ़रेंस देकर “अप्रत्यक्ष धमकी” दी गई है, जिससे आगे भी हिंसा भड़क सकती है. कंपनी ने हिंसा और उकसावे की पॉलिसी का उल्लंघन करने के कारण, रिव्यू किए जा रहे अकाउंट से कंटेंट हटा दिया. उसने अन्य अकाउंट से भी कंटेंट के ऐसा 52 भाग हटा दिए जिनमें चिंक्स (ओएस) का ट्रैक “सीक्रेट्स नॉट सेफ़” शामिल था. Meta के ऑटोमेटेड सिस्टम ने बाद में अन्य 112 मामलों में भी कंटेंट हटा दिया.

Meta ने इस केस को बोर्ड को रेफ़र किया. बोर्ड ने Meta से रिक्वेस्ट करके कहा कि वह कंटेंट की चिंक्स (ओएस) की पोस्ट को भी रेफ़र करे. हालाँकि, Meta ने कहा कि ऐसा करना असंभव है कि क्योंकि चिंक्स (ओएस) के अकाउंट से “सीक्रेट्स नॉट सेफ़” वीडियो को हटाने से अंततः अकाउंट ही डिलीट हो जाएगा और उसका कंटेंट सुरक्षित नहीं किया गया है.

मुख्य निष्कर्ष

बोर्ड ने पाया कि इस कंटेंट को हटाना, Meta के कम्युनिटी स्टैंडर्ड, उसकी वैल्यू या उसकी मानवाधिकार ज़िम्मेदारियों के अनुसार नहीं था.

Meta के पास इस निष्कर्ष पर पहुँचने के पर्याप्त प्रमाण नहीं थे कि कंटेंट में भरोसा करने लायक धमकी थी और बोर्ड के अपने रिव्यू में ऐसे नतीजे का समर्थन करने वाले प्रमाण सामने नहीं आए. ऐसे प्रमाण के नहीं होने पर, Meta को कंटेंट की कलात्मक प्रकृति को ज़्यादा महत्व देना चाहिए था.

इस केस से सरकारों के साथ Meta के रिलेशनशिप के बारे में चिंताएँ उत्पन्न होती हैं, ख़ास तौर पर जब कानून प्रवर्तन की रिक्वेस्ट के कारण कानूनी कंटेंट का रिव्यू, कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए किया जाए और उसे हटा दिया जाए. भले ही कानून प्रवर्तन कभी-कभी संदर्भ और विशेषज्ञता देता है, लेकिन ऐसे हर कंटेंट को हटा नहीं दिया जाना चाहिए जिसे कानून प्रवर्तन हटवाना पसंद करता है. इसलिए यह महत्वपूर्ण है कि Meta इन रिक्वेस्ट का स्वतंत्र मूल्यांकन करे, ख़ास तौर पर जब वे अल्पसंख्यक या उपेक्षित ग्रुप के व्यक्तियों की कलात्मक अभिव्यक्ति से संबंधित हो, जिनके लिए उनके कंटेंट के लिए सांस्कृति पक्षपात का जोखिम बहुत ज़्यादा होता है.

कानून प्रवर्तन जिन चैनलों के ज़रिए Meta से रिक्वेस्ट करते हैं, वे अव्यवस्थित और अस्पष्ट हैं. कानून प्रवर्तन एजेंसियों से यह नहीं कहा जाता कि वे अपनी रिक्वेस्ट का औचित्य बताने के लिए न्यूनतम शर्तें पूरी करें और इसलिए इंटरैक्शन में एकरूपता नहीं होती. Meta द्वारा सरकारी रिक्वेस्ट पर प्रकाशित किया जाने वाला डेटा भी अधूरा है.

कानून प्रवर्तन के साथ Meta के रिलेशनशिप के संबंध में पारदर्शिता की कमी से कंपनी की ओर से पक्षपात बढ़ने की संभावना पैदा होती है. बोर्ड द्वारा की गई जानकारी की आज़ादी रिक्वेस्ट से पता चला कि मेट्रोपोलिटन पुलिस की ओर से सोशल मीडिया कंपनियों और स्ट्रीमिंग सर्विस को जून 2021 से लेकर मई 2022 के बीच म्यूज़िकल कंटेंट को रिव्यू करने या हटाने के लिए की गई सभी 286 रिक्वेस्ट में ड्रिल म्यूज़िक की बात की गई थी जो ख़ास तौर पर युवा ब्लैक ब्रिटिश लोगों के बीच लोकप्रिय है. इन रिक्वेस्ट में से 255 मामलों में प्लेटफ़ॉर्म से कंटेंट हटा दिया गया. Meta प्लेटफ़ॉर्म से जुड़ी 21 रिक्वेस्ट में से 14 में कंटेंट हटाया गया. बोर्ड ने पाया कि अपनी वैल्यू और मानवाधिकार से जुड़ी ज़िम्मेदारियों का सम्मान करने के लिए, कानून प्रवर्तन की रिक्वेस्ट पर Meta की प्रतिक्रिया में उचित प्रोसेस का पालन किया जाना चाहिए और उसे ज़्यादा पारदर्शी बनना चाहिए.

इस केस से निदान की एक्सेस से जुड़ी चिंताएँ भी उत्पन्न होती हैं. इस केस के भाग के रूप में, Meta ने बोर्ड को कहा कि जब कंपनी “एस्केलेट होने पर” कंटेंट से जुड़े फ़ैसले लेती है, तो यूज़र्स उसकी अपील बोर्ड को नहीं कर सकते. “एस्केलेट होने पर” लिया गया फ़ैसला, Meta की आंतरिक विशेषज्ञ टीमों द्वारा किया जाता है. Meta के अनुसार, कानून प्रवर्तन की रिक्वेस्ट पर किए गए सभी फ़ैसले “एस्केलेट होने पर” लिए जाते हैं (बशर्ते रिक्वेस्ट सार्वजनिक रूप से उपलब्‍ध “प्रोडक्ट में मौजूद रिपोर्टिंग टूल” से न की गई हो), क्योंकि वे ऐसे फ़ैसले होते हैं जो किसी ख़ास पॉलिसी पर आधारित होते हैं और सिर्फ़ Meta की आंतरिक टीमों द्वारा ही लागू किए जा सकते हैं. इस स्थिति ने क्रॉस-चेक पर बोर्ड की पॉलिसी परामर्शी राय की तैयारी में चिंताएँ बढ़ा दीं क्योंकि Meta ने यह बताया कि मई और जून 2022 के बीच, क्रॉस-चेक सिस्टम में लगभग एक तिहाई कंटेंट बोर्ड को एस्केलेट नहीं किया जा सका.

Meta ने एस्केलेट किए गए कंटेंट को बोर्ड को कई बार एस्केलेट किया, जिसमें यह शामिल है. हालाँकि, बोर्ड इस बात से चिंतित है कि यूज़र्स को उस समय निदान की एक्सेस देने से मना कर दिया गया जब Meta कंटेंट से जुड़े अपने सबसे अहम फ़ैसले करता है. कंपनी को इस समस्या का तुरंत समाधान करना चाहिए.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने कंटेंट को हटाने के Meta के फ़ैसले को पलट दिया.

बोर्ड ने Meta को सुझाव दिया कि वह:

• सरकार की ओर से काम करने वाले लोगों की ओर से मिलने वाली कंटेंट को हटाने की रिक्वेस्ट के लिए एक स्टैंडर्ड सिस्टम बनाए. इसमें ऐसी बातें पूछने की शर्त शामिल होनी चाहिए कि पॉलिसी का उल्लंघन किस तरह हुआ है और उसका क्या प्रमाण है.
• सरकार की ओर से काम करने वाले लोगों से कम्युनिटी स्टैंडर्ड के उल्लंघन के लिए प्राप्त कंटेंट को रिव्यू करने और हटाने की रिक्वेस्ट का डेटा प्रकाशित करे.
• सरकार की ओर से काम करने वाले लोगों की रिक्वेस्ट के कारण कंटेंट मॉडरेशन पर लिए गए फ़ैसलों के डेटा का नियमित रिव्यू करके यह आकलन करे कि उसमें कोई व्यवस्थात्मक पक्षपात तो नहीं हुआ है और अगर ऐसा कोई पक्षपात मिलता है, तो उसे ठीक करने की व्यवस्था करे.
• यूज़र्स को “एस्केलेट होने पर” लिए गए कंटेंट से जुड़े फ़ैसलों की ओवरसाइट बोर्ड से अपील करने का अवसर दे.
• ऐसे अकाउंट और कंटेंट को संरक्षित करे जिन्हें ऐसा कंटेंट पोस्ट करने के कारण दंड दिया गया हो या बंद कर दिया गया हो जो बोर्ड द्वारा जारी जाँच के अधीन हो.
• कलात्मक अभिव्यक्ति की महत्ता दिखाने के लिए अपनी “वॉइस” की वैल्यू को अपडेट करे.
• कम्युनिटी स्टैंडर्ड में यह स्पष्ट करे कि “अस्पष्ट धमकी” के कारण कंटेंट को हटाए जाने के लिए, एक मुख्य और एक द्वितीयक संकेत ज़रूरी होता है और यह स्पष्ट करे कि कौन सा संकेत इनमें से कौन सा है.

अधिक जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस से जुड़े पब्लिक कमेंट का सारांश या सूचना के अधिकार के तहत बोर्ड द्वारा किए गए अनुरोध पर मेट्रोपोलिटन पुलिस की ओर से आया जवाब पढ़ने के लिए, कृपया नीचे दिए गए अटैचमेंट पर क्लिक करें.

समाचार पर लौटें