ओवरसाइट बोर्ड ने हैती के पुलिस स्टेशन के वीडियो संबंधी केस में Meta के फ़ैसले को बदल दिया

5 दिसम्बर 2023

ओवरसाइट बोर्ड ने Facebook से उस वीडियो को हटाने के Meta के फ़ैसले को बदल दिया जिसमें लोगों को हैती के पुलिस स्टेशन में घुसकर, एक सेल को तोड़ने की कोशिश करते हुए और उसमें बंद एक कथित गैंग मेंबर के साथ हिंसा करके उसे डराते-धमकाते हुए दिखाया गया है. बोर्ड ने पाया कि इस वीडियो ने कंपनी की हिंसा और उकसावे से जुड़ी पॉलिसी का उल्लंघन किया था. फिर भी, बोर्ड के ज़्यादातर मेंबर इस केस में न्यूज़वर्थिनेस अलाउंस लागू किए जाने पर Meta के मूल्यांकन से असहमत है. ज़्यादातर, कंटेंट को हटाने में Meta को लगभग तीन सप्ताह की देरी होने से ऑफ़लाइन नुकसान का जोखिम इतना कम हो गया कि न्यूज़वर्थिनेस अलाउंस लागू किया जा सका. इसके अलावा, बोर्ड ने सुझाव दिया कि Meta भरोसेमंद पार्टनर प्रोग्राम के ज़रिए एस्केलेट किए गए कंटेंट पर अपने जवाब की प्रभावकारिता और सामयिकता का मूल्यांकन करे.

केस की जानकारी

मई 2023 में, एक Facebook यूज़र ने एक वीडियो पोस्ट किया, जिसमें आम नागरिकों को पुलिस स्टेशन में घुसकर एक सेल को तोड़ने की कोशिश करते हुए और उसमें बंद एक आदमी - जो Meta के अनुसार एक संदिग्ध गैंग मेंबर है - को यह कहकर धमकाते हुए दिखाया गया है कि “हम ताला तोड़ रहे हैं” और “उसका मरना तय है”. वीडियो के आखिर में, कोई व्यक्ति चिल्लाकर “bwa kale na boudaw” बोल रहा है, जो Meta के अनुसार ग्रुप के लिए एक आह्वान है कि “उस व्यक्ति के खिलाफ़ ‘bwa kale तरीके’ से एक्शन लिया जाए – दूसरे शब्दों में उसे मार दिया जाए.” Meta के अनुसार “bwa kale”, हैती की नागरिक मूवमेंट भी है, जिसमें लोग कानून अपने हाथ में ले लेते हैं. वीडियो में हैती क्रियोल में एक कैप्शन है, जिसमें यह कथन है कि “पुलिस कुछ नहीं कर सकती”. पोस्ट को 500,000 से ज़्यादा बार देखा गया और वीडियो को लगभग 200,000 बार चलाया गया.

हैती अभूतपूर्व असुरक्षा का सामना कर रहा है. गैंग्स सभी क्षेत्रों पर कब्ज़ा कर रही हैं और लोगों को आतंकित कर रही हैं. पुलिस हिंसा पर काबू नहीं पा सकी और मानवाधिकारों के लिए संयुक्त राष्ट्र के उच्चायुक्त के अनुसार इस साल चार महीने की अवधि में, कुछ मामलों में, मिलीभगत होने के चलते, एक मूवमेंट में स्थानीय पुलिस और सजग ग्रुप के द्वारा 350 से ज़्यादा लोगों को मारते [मारे जाते] हुए देखा गया. गैंग ने उन लोगों से इसका बदला लिया जो इस मूवमेंट में शामिल थे या जिन्हें इस मूवमेंट से हमदर्दी थी.

एक भरोसेमंद पार्टनर ने Meta को एक वीडियो पोस्ट किए जाने के 11 दिनों बाद उसे संभावित रूप से उल्लंघन करने वाले वीडियो के रूप में फ़्लैग किया और चेतावनी दी कि उस कंटेंट से हिंसा और भड़क सकती है. Meta का भरोसेमंद पार्टनर प्रोग्राम एक ऐसा नेटवर्क है जिसमें 113 से ज़्यादा देशों के गैर-सरकारी संगठन, मानव जाति के कल्याण के लिए काम करने वाली एजेंसियाँ और मानवाधिकारों के रिसर्चर शामिल हैं. Meta ने बोर्ड को बताया कि "[किसी देश में हिंसा का] जोखिम का स्तर जितना ज़्यादा होगा, भरोसेमंद पार्टनर के साथ संबंध विकसित करने की प्राथमिकता उतनी ही ज़्यादा होगी", जो कंपनी को ऐसे कंटेंट की रिपोर्ट कर सकते हैं. इस केस में भरोसेमंद पार्टनर की रिपोर्ट के लगभग आठ दिन बाद, Meta ने तय किया कि वीडियो में हिंसा करने के इरादे का बयान और अत्यधिक हिंसा का आह्वान, दोनों शामिल थे और इस कंटेंट को Facebook से हटा दिया गया. Meta ने हैती में "Bwa Kale" मूवमेंट से जुड़े कंटेंट द्वारा उठाए गए मॉडरेशन संबंधी मुश्किल सवालों का जवाब देने के लिए इस मामले को बोर्ड को भेजा. Meta ने न्यूज़वर्थिनेस अलाउंस इसलिए लागू नहीं किया क्योंकि कंपनी ने पाया कि नुकसान का जोखिम ज़्यादा था और हैती में हिंसक प्रतिशोध और हत्याओं के जारी पैटर्न को ध्यान में रखते हुए पोस्ट के सार्वजनिक हित मूल्य से ज़्यादा था.

मुख्य निष्कर्ष

बोर्ड ने पाया कि कंटेंट ने Facebook के हिंसा और उकसावे से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन किया है क्योंकि सेल में मौजूद व्यक्ति के साथ-साथ दूसरे लोगों को ऑफ़लाइन नुकसान पहुँचाने का एक प्रामाणिक खतरा था. हालाँकि, बोर्ड के ज़्यादातर मेंबर इस केस में न्यूज़वर्थिनेस अलाउंस को लागू करने पर Meta से असहमत हैं. पोस्ट करने और एन्फ़ोर्समेंट के बीच लगभग तीन सप्ताह की देरी को देखते हुए, Meta को कंटेंट को बनाए रखने के लिए न्यूज़वर्थिनेस अलाउंस लागू करना चाहिए था. बोर्ड ने निष्कर्ष निकाला कि किसी भी न्यूज़वर्थिनेस विश्लेषण में शामिल नुकसान और सार्वजनिक हित के जोखिम का मूल्यांकन उस समय किया जाना चाहिए जब Meta कोई भी अलाउंस जारी करने पर विचार कर रहा हो, न कि तब जब कंटेंट को पोस्ट किया गया हो. बोर्ड का मानना है कि Meta को यूज़र को यह स्पष्ट करने के लिए न्यूज़वर्थिनेस अलाउंस पर अपनी भाषा को अपडेट करना चाहिए.

बोर्ड के ज़्यादातर मेंबर के अनुसार, कंटेंट को हटाने में Meta को लगभग तीन सप्ताह की देरी होने से ऑफ़लाइन नुकसान का जोखिम इतना कम हो गया कि न्यूज़वर्थिनेस अलाउंस लागू किया जा सका. इस ग्रुप ने हैती में प्रसंग, पोस्ट की सीमा और पहुँच और एन्फ़ोर्समेंट में देरी की वजह से नुकसान की संभावना पर विचार किया. तब तक, वीडियो को 200,000 बार देखा जा चुका था. उस कंटेंट से पैदा होना वाला जोखिम संभावित रूप से पहले ही मैटेरियलाइज़ हो चुका था. इसके अलावा, चूँकि वीडियो हैती और विदेश, दोनों में लोगों को देश की वास्तविकताओं के बारे में सूचित कर सकता है, इसलिए व्यापक हिंसा और सार्वजनिक व्यवस्था में व्यवधान की परिस्थिति में, जानकारी शेयर करना और भी ज़्यादा महत्वपूर्ण हो जाता है, ताकि कम्युनिटी ईवेंट पर रिएक्शन दे सकें.

हालाँकि, बोर्ड के कुछेक मेंबर ने पाया कि Meta का अलाउंस लागू करने का फ़ैसला सही नहीं था. चूंँकि कंटेंट को अत्यधिक जोखिम के दौरान पोस्ट किया गया था, इसलिए जब Meta ने कंटेंट को रिव्यू किया, तो वीडियो की वजह से अतिरिक्त और प्रतिशोधात्मक हिंसा होने का खतरा टला नहीं था. इन बोर्ड मेंबर का मानना है कि इन जोखिमों से निपटने के लिए कंटेंट को हटाना ज़रूरी है.

बोर्ड, अत्यधिक जोखिम की इस अवधि के दौरान हैती में कंटेंट को समय पर कंट्रोल करने की Meta की क्षमता को लेकर चिंतित है. ऐसा लगता है कि इस केस में देरी होना, हैती में कंटेंट को कंट्रोल करने के लिए पर्याप्त रिसोर्स में निवेश करने में कंपनी की विफलता का नतीजा है. Meta, अपने भरोसेमंद पार्टनर की रिपोर्ट का सही समय पर मूल्यांकन करने में नाकाम रहा. भरोसेमंद पार्टनर की रिपोर्ट, Meta के उन मुख्य टूल में से एक है, जिन पर वह हैती में संभावित रूप से उल्लंघन करने वाले कंटेंट की पहचान करने के लिए निर्भर है. एक भरोसेमंद पार्टनर की हालिया रिपोर्ट में पाया गया कि Meta भरोसेमंद पार्टनर द्वारा पहचाने गए कंटेंट को रिव्यू करने के लिए अपनी टीमों को पर्याप्त रिसोर्स नहीं देता है और रिस्पॉन्स के समय में बहुत ज़्यादा अनियमितता है.

आखिर में, बोर्ड ने नोट किया कि Meta हैती में अपनी क्राइसिस पॉलिसी को एक्टिवेट करने में नाकाम रहा. जबकि Meta ने बोर्ड को बताया कि उसके पास पहले से ही जोखिम कम करने के साधन मौजूद हैं. बोर्ड चिंतित है कि इस केस में लंबी देरी से पता चलता है कि मौजूदा साधन अपर्याप्त हैं. अगर कंपनी ऐसी परिस्थितियों में इस प्रोटोकॉल का उपयोग करने में विफल रहती है, तो यह समय पर या सैद्धांतिक मॉडरेशन डिलीवर नहीं करेगी, जिससे कंपनी और लोगों की अपने लक्ष्यों को पूरा करने में प्रोटोकॉल की प्रभावकारिता का मूल्यांकन करने की योग्यता कम हो जाएगी.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने इस कंटेंट हटाने के Meta के फ़ैसले को बदल दिया है और पोस्ट को रीस्टोर करने के लिए कहा है.

बोर्ड ने Meta को सुझाव दिया है कि वह:

• नुकसान के जोखिम से निपटने के लिए, खास तौर पर, जहाँ Meta के पास कंटेंट की पहचान और मूल्यांकन करने के लिए प्रोएक्टिव मॉडरेशन टूल, प्रोसेस या साधन नहीं हैं या सीमित हैं, भरोसेमंद पार्टनर के ज़रिए आगे एस्केलेट किए गए कंटेंट के प्रति अपने रिस्पॉन्स की समयबद्धता और प्रभावकारिता का मूल्यांकन करे.
• बोर्ड ने इस मौके पर Meta को रूसी कविता केस के पिछले सुझाव की याद भी दिलाई, जिसमें कंपनी से अपनी हिंसा और उकसावे की पॉलिसी के अपवाद को सार्वजनिक करने का आह्वान किया गया है. यह अपवाद उस कंटेंट की परमिशन देता है जो "हिंसा की निंदा करती है या उसके बारे में जागरूकता बढ़ाती है", लेकिन Meta को यूज़र को यह स्पष्ट करना होगा कि वे इन दो कारणों में से किसी एक की वजह से कंटेंट पोस्ट कर रहे हैं.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया यहाँ क्लिक करें.

समाचार पर लौटें