Meta का क्रॉस-चेक प्रोग्राम

अक्टूबर 2021 में, Wall Street Journal में Meta के क्रॉस-चेक प्रोग्राम के बारे में खुलासे होने के बाद, ओवरसाइट बोर्ड ने क्रॉस-चेक रिव्यू करने और इसे बेहतर बनाने के तरीकों के बारे में सुझाव देने की कंपनी की रिक्वेस्ट स्वीकार कर ली. पॉलिसी से जुड़ी यह सलाह, इसी रिक्वेस्ट को लेकर हमारा जवाब है. Meta अपने सबसे प्रभावशाली यूज़र्स से जिस तरह का व्यवहार करता है, उसके बारे में ज़रूरी सवाल उठाते हुए इसमें मानवाधिकारों और बताई गई मान्यताओं को लेकर Meta की प्रतिबद्धता के मद्देनज़र क्रॉस-चेक का विश्लेषण किया गया है.

Meta के क्रॉस-चेक प्रोग्राम के बारे में पॉलिसी से जुड़ी हमारी सलाह का पूरा वर्जन पढ़ने के लिए यहाँ क्लिक करें.

कृपया ध्यान दें: हमारी पॉलिसी से जुड़ी सलाह के सारांश का अनुवाद पहले से ही उपलब्ध है, लेकिन पूरी सलाह फ़िलहाल सिर्फ़ अंग्रेज़ी में ही उपलब्ध है. अन्य भाषाओं में अनुवाद की प्रोसेस जारी है और उन्हें 2023 में हमारी वेबसाइट पर जल्द से जल्द अपलोड किया जाएगा.

जब बोर्ड ने इस पॉलिसी से जुड़ी सलाह का अध्ययन करना शुरू किया, तो Meta ने बताया कि उस पर उस समय हर दिन कंटेंट से जुड़े एन्फ़ोर्समेंट की लगभग 10 करोड़ कोशिशें की जा रही थीं. अगर Meta इतने वॉल्यूम में कंटेंट से जुड़े फ़ैसले 99% सटीकता के साथ कर पाता, तो भी यह हर दिन दस लाख गलतियाँ करेगा. इस संबंध में, जहाँ कंटेंट रिव्यू सिस्टम में सभी यूज़र्स से निष्पक्ष तरीके से व्यवहार किया जाना चाहिए, वहीं क्रॉस-चेक प्रोग्राम, कंटेंट की बहुत बड़ी मात्रा को मॉडरेट करने में आने वाली बड़ी चुनौतियों का सामना करता है.

Meta के मुताबिक, कंटेंट के बारे में इतने बड़े पैमाने पर फ़ैसले करने का मतलब यह है कि इसमें कभी-कभी गलती से ऐसे कंटेंट को भी हटा दिया जाएगा, जो इसकी पॉलिसी का उल्लंघन नहीं करता है. जिन पोस्ट की पहचान, शुरुआती तौर पर उसके नियमों का उल्लंघन करने वाली पोस्ट के तौर पर की गई है, उनके लिए क्रॉस-चेक प्रोग्राम का लक्ष्य, अतिरिक्त तौर पर ह्यूमन रिव्यू करके इसे हल करने का है. जब Meta की क्रॉस-चेक लिस्ट में मौजूद यूज़र्स ऐसा कंटेंट पोस्ट करते हैं, तो उसे तुरंत नहीं निकाला जाता है, क्योंकि वह अधिकांश लोगों के लिए होगा, लेकिन उसे और ह्यूमन रिव्यू होने तक पेंडिंग छोड़ दिया जाता है. Meta, इस प्रकार के क्रॉस-चेक को “शुरुआती जवाब का सेकंडरी रिव्यू” (ERSR) के तौर पर रेफ़र करता है. 2021 के आखिर में, Meta ने क्रॉस-चेक का दायरा बढ़ा कर इसमें पोस्ट करने वाले व्यक्ति की पहचान के बजाय कंटेंट के आधार पर ही ऐसी पोस्ट भी शामिल कीं, जिन्हें आगे और रिव्यू के लिए फ़्लैग किया गया था. Meta, इस प्रकार के क्रॉस-चेक को “सामान्य सेकंडरी रिव्यू” (GSR) के तौर पर रेफ़र करता है.

अपने रिव्यू में, हमें Meta के क्रॉस-चेक प्रोग्राम में कई कमियाँ मिलीं. जबकि Meta ने बोर्ड को बताया कि क्रॉस-चेक का लक्ष्य, Meta की मानवाधिकारों की प्रतिबद्धताओं को आगे बढ़ाने का है, वहीं हमने देखा कि प्रोग्राम की रूपरेखा सीधे तौर पर इस तरह से तैयार की गई लगती है कि इससे बिज़नेस से जुड़ी चिंताएँ हल हो सकें. बोर्ड इस बात को समझता है कि Meta एक बिज़नेस है, लेकिन आम तौर पर बिज़नेस से जुड़े हितों के मुताबिक ख़ास यूज़र्स को अतिरिक्त सुरक्षा देकर, क्रॉस-चेक ऐसे कंटेंट को ज़्यादा समय तक बने रहने देता है, जिसे इसके बजाय तुरंत निकाल दिया जाता. इस वजह से शायद नुकसान हो रहा है. हमें यह भी पता चला कि Meta इस बारे में डेटा ट्रैक नहीं कर सका है कि क्रॉस-चेक की वजह से ज़्यादा सटीक फ़ैसले होते हैं या नहीं और हमने प्रोग्राम में ट्रांसपेरेंसी की कमी के बारे में भी चिंता जताई.

इसके जवाब में, बोर्ड ने Meta को कई सुझाव दिए. गलती को रोकने वाले किसी भी सिस्टम में ऐसी अभिव्यक्ति को प्राथमिकता दी जानी चाहिए, जो मानवाधिकारों के लिए ज़रूरी हो, इनमें सार्वजनिक महत्व की अभिव्यक्ति शामिल है. जैसे-जैसे Meta सभी यूज़र्स के लिए अपनी प्रोसेस को बेहतर बनाने की दिशा में बढ़ रहा है, कंपनी को अतिरिक्त रिव्यू के दौरान छोड़ दिए गए कंटेंट की वजह से होने वाले नुकसान को कम करने के लिए कदम उठाने चाहिए और उसे अपने सिस्टम में ट्रांसपेरेंसी को तेज़ी से बढ़ाना चाहिए.

मुख्य निष्कर्ष

बोर्ड यह मानता है कि Facebook और Instagram पर पोस्ट किए गए कंटेंट के बहुत ज़्यादा वॉल्यूम और जटिलता की वजह से ऐसे सिस्टम बनाने के रास्ते में कई चुनौतियाँ हैं, जिनमें Meta की मानवाधिकारों की प्रतिबद्धताओं को कायम रखा जा सके. फिर भी, अपने मौजूदा रूप में क्रॉस-चेक के मुख्य तौर-तरीकों में नीचे दी गई गलतियाँ हैं, जिनका हल करना कंपनी के लिए ज़रूरी है:

अलग-अलग यूज़र्स के लिए अलग-अलग तरह का व्यवहार करना. क्रॉस-चेक, कुछ ख़ास यूज़र्स को दूसरे यूज़र्स से ज़्यादा सुरक्षा देता है. अगर Meta की क्रॉस-चेक लिस्ट में शामिल किसी यूज़र की पोस्ट की पहचान कंपनी के नियमों का उल्लंघन करने वाली पोस्ट के तौर पर हुई है, तो वह प्लेटफ़ॉर्म पर और रिव्यू के लिए पेंडिंग के तौर पर बनी रहती है. इसके बाद Meta, अपवादों और ख़ास संदर्भ के लिए बनाए गए नियमों सहित अपनी सभी पॉलिसी पोस्ट पर लागू करता है, इस वजह से इसके प्लेटफ़ॉर्म पर बने रहने की संभावनाएँ बढ़ सकती हैं. इसके विपरीत आम यूज़र्स का कंटेंट ऐसे रिव्यूअर्स तक पहुँचने की संभावना काफ़ी कम होती है, जो Meta के सभी नियम लागू कर सकते हैं. Meta की क्रॉस-चेक लिस्ट में स्पष्ट शर्तों की इस कमी के मद्देनज़र, अलग-अलग यूज़र्स के लिए अलग-अलग तरह का यह व्यवहार ख़ास तौर से चिंता का कारण है. जबकि बिज़नेस पार्टनर्स और सरकारी लीडर्स को शामिल करने के लिए स्पष्ट शर्तें मौजूद हैं, पत्रकारों और नागरिक समाज संगठनों जैसे यूज़र्स के लिए प्रोग्राम को एक्सेस करने के तरीके कम स्पष्ट हैं, जिनका कंटेंट, मानवाधिकारों के दृष्टिकोण से महत्वपूर्ण हो सकता है.

उल्लंघन करने वाले कंटेंट को देरी से निकाला जाना. Meta की क्रॉस-चेक लिस्ट में शामिल यूज़र्स के कंटेंट की पहचान, Meta के नियम तोड़ने वाले कंटेंट के रूप में होने पर और उसके अतिरिक्त रिव्यू के दौरान वह प्लेटफ़ॉर्म पर पूरी तरह से एक्सेस करने योग्य बना रहता है. Meta ने बोर्ड को बताया कि उसकी क्रॉस-चेक लिस्ट में शामिल यूज़र्स के कंटेंट के बारे में कोई फ़ैसला लेने में औसतन पाँच से ज़्यादा दिन लग सकते हैं. इसका मतलब यह है कि जिस कंटेंट की पहचान Meta के नियमों को तोड़ने वाले कंटेंट के तौर पर होती है, वह क्रॉस-चेक की वजह से Facebook और Instagram पर उस समय भी बना रहता है, जब वह सबसे ज़्यादा वायरल हो रहा होता है और इससे नुकसान पहुँच सकता है. चूँकि क्रॉस-चेक के लिए चुने गए कंटेंट का वॉल्यूम, Meta की रिव्यू करने की क्षमता से ज़्यादा हो सकता है, इसलिए प्रोग्राम का संचालन बैकलॉग के साथ किया गया है, इसकी वजह से फ़ैसले लेने में देरी होती है.

मूल मीट्रिक को ट्रैक नहीं कर पाना. Meta, क्रॉस-चेक के प्रभाव का मूल्यांकन करने के लिए फ़िलहाल जिन मीट्रिक का उपयोग कर रहा है, वे सभी मुख्य चिंताओं को कैप्चर नहीं करते हैं. जैसे कि Meta ने बोर्ड को यह दिखाने वाली जानकारी नहीं दी कि वह यह ट्रैक करता है कि क्या क्रॉस-चेक के ज़रिए लिए गए इसके फ़ैसलों की सटीकता, क्वालिटी कंट्रोल की इसकी सामान्य प्रक्रियाओं के ज़रिए लिए जाने वाले फ़ैसलों से ज़्यादा है या कम है. इसके बिना, यह पता लगाना मुश्किल है कि क्या प्रोग्राम, कंटेंट मॉडरेशन से जुड़े सही फ़ैसले लेने के अपने मूल उद्देश्य पूरे कर रहा है या नहीं या यह मूल्यांकन करना भी मुश्किल है कि क्या क्रॉस-चेक से Meta को अपनी पॉलिसी से अलग हटने का तरीका मिलता है या नहीं.

क्रॉस-चेक के काम करने के तरीके में ट्रांसपेरेंसी की कमी. बोर्ड की चिंता, Meta की ओर से लोगों को और इसके यूज़र्स को क्रॉस-चेक के बारे में सीमित जानकारी देने को लेकर भी है. फ़िलहाल, Meta यूज़र्स को इस बारे में सूचना नहीं देता है कि उनका नाम क्रॉस-चेक लिस्ट में है और वह इन लिस्ट को बनाने और इनका ऑडिट करने के तरीकों के बारे में अपनी प्रक्रियाओं की जानकारी लोगों के साथ शेयर नहीं करता है. जैसे कि यह साफ़ नहीं है कि जो संगठन लगातार उल्लंघन करने वाला कंटेंट पोस्ट करते हैं, क्या उन्हें अपनी प्रोफ़ाइल के आधार पर क्रॉस-चेक लिस्ट में रखा जाता है. ट्रांंसपेरेंसी की इसी कमी की वजह से बोर्ड को और लोगों को प्रोग्राम के नतीजे पूरी तरह समझने में अड़चन पैदा होती है.

ओवरसाइट बोर्ड के सुझाव

मानवाधिकारों से जुड़ी Meta की प्रतिबद्धताएँ पूरी करने और इन समस्याओं को हल करने के लिए किसी ऐसे प्रोग्राम की रूपरेखा काफ़ी अलग तरह से बनाई जानी चाहिए, जिससे Facebook और Instagram पर ज़्यादा प्रभाव डालने वाली ज़्यादातर गलतियों को सुधारा जा सके. बोर्ड ने इस बारे में 32 सुझाव दिए हैं, जिनमें से कुछ का सारांश नीचे दिया गया है.

चूँकि Meta अपने कंटेंट मॉडरेशन को सभी यूज़र्स के लिए बेहतर बनाना चाहता है, इसलिए उसे ऐसी अभिव्यक्ति को प्राथमिकता देनी चाहिए जो मानवाधिकारों के लिए ज़रूरी है, इसमें ऐसी अभिव्यक्ति शामिल है, जिसका विशेष सार्वजनिक महत्व है. जिन यूज़र्स की ओर से इस तरह की अभिव्यक्ति किए जाने की संभावना है, उन्हें Meta के बिज़नेस पार्टनर्स के मुकाबले, अतिरिक्त रिव्यू पाने वाले संगठनों की लिस्ट में प्राथमिक तौर पर शामिल किया जाना चाहिए. इन यूज़र्स की पोस्ट को अलग वर्कफ़्लो में रिव्यू किया जाना चाहिए, ताकि Meta के बिज़नेस पार्टनर्स के साथ सीमित रिसोर्स के लिए उनकी प्रतिस्पर्धा न हो. जबकि किसी यूज़र की अभिव्यक्ति में बहुत से फ़ॉलोअर्स सार्वजनिक तौर पर रुचि दिखा सकते हैं, इसलिए किसी यूज़र का सेलिब्रिटी होना या फ़ॉलोअर की संख्या ही अतिरिक्त सुरक्षा पाने की एकमात्र शर्त नहीं होनी चाहिए. अगर कमर्शियल महत्व की वजह से शामिल किए गए यूज़र्स बार-बार उल्लंघन करने वाला कंटेंट पोस्ट करते हैं, तो उन्हें इसके बाद विशेष सुरक्षा का लाभ नहीं मिलना चाहिए.

क्रॉस-चेक और उसके काम करने के तरीके में ट्रांसपेरेंसी को तेज़ी से बढ़ाना. Meta को अपने क्रॉस-चेक प्रोग्राम से जुड़े मुख्य मीट्रिक का मूल्यांकन और ऑडिट करना चाहिए, साथ ही उन्हें प्रकाशित करना चाहिए ताकि यह पता चल सके कि प्रोग्राम प्रभावी तरीके से काम कर रहा है या नहीं. कंपनी को अपनी क्रॉस-चेक लिस्ट में शामिल करने के लिए स्पष्ट सार्वजनिक शर्तें तय करनी चाहिए और जो यूज़र्स इन शर्तों को पूरा करते हैं, उन्हें इनमें जुड़ने के लिए अप्लाई करने की योग्यता दी जानी चाहिए. सरकार का प्रतिनिधित्व करने वाला लोगों, राजनैतिक उम्मीदवारों और बिज़नेस पार्टनर्स सहित क्रॉस-चेक के ज़रिए सुरक्षित संगठनों की कुछ कैटेगरी में उनके अकाउंट को सावर्जनिक तौर पर चिह्नित भी किया जाना चाहिए. इससे लोग, विशेषाधिकार वाले यूज़र्स की ज़िम्मेदारी तय कर सकेंगे कि क्या सुरक्षित किए गए संगठन नियमों के पालन की अपनी प्रतिबद्धता को पूरा कर रहें या नहीं. इसके अलावा, चूँकि मई से जून 2022 तक Meta के क्रॉस-चेक सिस्टम में मौजूद कंटेंट का लगभग एक-तिहाई हिस्सा बोर्ड के पास एस्केलेट नहीं किया जा सका है, इसलिए Meta को यह पक्का करना चाहिए कि क्रॉस-चेक किए गए कंटेंट और हमारे नियंत्रक दस्तावेज़ों द्वारा कवर होने वाले दूसरे सभी कंटेंट के विरुद्ध बोर्ड में अपील की जा सके.

अतिरिक्त रिव्यू के दौरान छोड़ दिए गए कंटेंट की वजह से होने वाले नुकसान को कम करना. Meta के पहले मूल्यांकन के दौरान जिस कंटेंट की पहचान, उल्लंघन करने वाले ऐसे कंटेंट के तौर पर की गई है, जो ज़्यादा गंभीरता वाला है, उसे आगे और रिव्यू किए जाने के दौरान निकाल दिया जाना या छिपा दिया जाना चाहिए. ऐसे कंटेंट को देखे जाने के लिए प्लेटफ़ॉर्म पर बने रहने की परमिशन महज़ इसलिए नहीं दी जानी चाहिए कि उसे पोस्ट करने वाला व्यक्ति बिज़नेस पार्टनर या सेलिब्रिटी है. यह पक्का करने के लिए कि फ़ैसले जल्द से जल्द किए जाएँ, Meta ने जिस कंटेंट की पहचान ऐसे कंटेंट के तौर पर की है, जिसके लिए अतिरिक्त रिव्यू ज़रूरी है, उसके लिए उसे रिव्यू करने की अपनी क्षमता के मुताबिक ज़रूरी रिसोर्स लगाने चाहिए.

मामले के निर्णयों और नीति सलाहकार राय पर लौटें