ओवरसाइट बोर्ड ने राष्ट्रपति जो बाइडन के वीडियो के साथ छेड़छाड़ किए जाने से जुड़े केस में Meta का फ़ैसला कायम रखा है

5 फ़रवरी 2024

ओवरसाइट बोर्ड ने उस वीडियो को बनाए रखने का Meta का फ़ैसला कायम रखा है, जिसे इस तरह एडिट किया गया था, ताकि ऐसा लगे कि अमेरिकी राष्ट्रपति जो बाइडन अपनी वयस्क पोती की छाती को अनुचित ढंग से टच कर रहे हैं और उस वीडियो की कैप्शन में उन्हें “पीडोफ़ाइल” कहा गया था. यह Facebook पोस्ट, मीडिया से छेड़छाड़ किए जाने से जुड़ी Meta की पॉलिसी का उल्लंघन नहीं करती है. यह पॉलिसी सिर्फ़ आर्टिफ़िशियल इंटेलिजेंस (AI) के ज़रिए बनाए गए वीडियो और ऐसे कंटेंट पर लागू होती है, जिनमें लोगों को ऐसी चीज़ें बोलते हुए दिखाया गया होता है, जो उन्होंने नहीं बोली होती. चूँकि इस पोस्ट में दिए गए वीडियो के साथ AI का उपयोग करके छेड़छाड़ नहीं की गई थी और इसमें राष्ट्रपति बाइडन को कुछ ऐसा करते हुए दिखाया गया है, जो उन्होंने नहीं किया (न कि कुछ ऐसा बोलते हुए, जो उन्होंने नहीं बोला), इसलिए यह मौजूदा पॉलिसी का उल्लंघन नहीं करता है. इसके अतिरिक्त, इस वीडियो क्लिप से स्पष्ट रूप से छेड़छाड़ की गई है और इसलिए इस बात की बहुत कम संभावना है कि कोई “औसत यूज़र” इसकी प्रामाणिकता को लेकर गुमराह होगा, जो कि Meta के अनुसार, छेड़छाड़ किए गए मीडिया का मुख्य लक्षण होता है. फिर भी, मीडिया से छेड़छाड़ किए जाने से जुड़ी इस पॉलिसी के मौजूदा रूप को लेकर बोर्ड चिंतित है. बोर्ड के अनुसार यह बेजोड़ है, इसमें प्रेरित करने वाले औचित्य की कमी है और अनुचित ढंग से इस बात पर फ़ोकस करती है कि कंटेंट को कैसे बनाया गया है, न कि इस बात पर कि इसका लक्ष्य किस तरह के नुकसान (उदाहरण के लिए, चुनावी प्रक्रियाओं को होने वाला नुकसान) को रोकना है. 2024 में होने वाले चुनावों का ध्यान रखते हुए, Meta को तुरंत इस पॉलिसी पर फिर से विचार करना चाहिए.

केस की जानकारी

मई 2023 में, किसी Facebook यूज़र ने सात-सेकंड का वीडियो क्लिप पोस्ट किया, जिसमें राष्ट्रपति बाइडन की उस असली फ़ुटेज का उपयोग किया गया था, जिसे अक्टूबर 2022 में तब रिकॉर्ड किया गया था, जब वे अमेरिकी मध्यावधि चुनाव के दौरान खुद वोट डालने गए थे. असली फ़ुटेज में, उन्होंने पहली बार वोट डालने आई अपनी वयस्क पोती के साथ “मैंने वोट डाला है” स्टिकर एक्सचेंज किए. उन्होंने अपनी पोती के कहे अनुसार उनकी छाती पर स्टिकर लगाया और फिर उन्हें गाल पर किस किया. छह महीने बाद पोस्ट किए गए एक वीडियो क्लिप में इस असली फ़ुटेज के साथ इस तरह छेड़छाड़ की गई कि वह लूप होकर उस पल को दोहराए, जब राष्ट्रपति का हाथ उनकी पोती की छाती पर था, और ऐसा लगे जैसे वे अपनी पोती को अनुचित ढंग से टच कर रहे हैं. इस छेड़छाड़ किए गए वीडियो के साउंडट्रैक में Pharoahe Monch के “Simon Says” गाने के बोल “Girls rub on your titties” शामिल थे, जबकि पोस्ट की कैप्शन में कहा गया था कि राष्ट्रपति बाइडन एक “बीमार पीडोफ़ाइल” हैं और उन्हें वोट डालने वाले लोगों को “मानसिक रूप से बीमार” बताया गया. ऐसी दूसरी पोस्ट जनवरी 2023 में वायरल हुईं, जिनमें छेड़छाड़ किया गया यही वीडियो क्लिप शामिल था, लेकिन उनमें यही साउंडट्रैक या कैप्शन नहीं था.

एक दूसरे यूज़र ने Meta को इस पोस्ट की नफ़रत फैलाने वाली भाषा के रूप में रिपोर्ट की, लेकिन कंपनी ने इस रिपोर्ट को बिना किसी रिव्यू के अपने आप बंद कर दिया था. फिर उन्होंने Meta को इस फ़ैसले के खिलाफ़ अपील की, जिसके परिणामस्वरूप एक ह्यूमन रिव्यूअर ने इसे रिव्यू करके फ़ैसला दिया कि यह कंटेंट कोई उल्लंघन नहीं करता है और इस पोस्ट को बनाए रखा. आखिरकार, उन्होंने बोर्ड को इस फ़ैसले के खिलाफ़ अपील की.

मुख्य निष्कर्ष

बोर्ड, Meta से सहमत है कि यह कंटेंट कंपनी की मीडिया से छेड़छाड़ किए जाने से जुड़ी पॉलिसी का उल्लंघन नहीं करता है क्योंकि क्लिप में राष्ट्रपति बाइडन को ऐसे शब्द बोलते हुए नहीं दिखाया गया है, जो उन्होंने नहीं बोले थे और इस क्लिप के साथ AI के ज़रिए छेड़छाड़ नहीं की गई थी. मौजूदा पॉलिसी सिर्फ़ ऐसे एडिट किए गए वीडियो को निषिद्ध करती है, जिनमें लोगों ऐसे शब्द बोलते हुए दिखाया गया होता है, जो उन्होंने नहीं बोले होते (लोगों को कुछ ऐसा करते हुए दिखाने वाले वीडियो पर कोई प्रतिबंध नहीं है, जो उन्होंने नहीं किया होता) और यह केवल AI के ज़रिए बनाए गए वीडियो पर लागू होती है. Meta के अनुसार, “मीडिया के साथ छेड़छाड़ किए जाने” का मुख्य लक्षण यह है कि वह “औसत” यूज़र को गुमराह कर सकता है कि वह मीडिया प्रामाणिक है और उसके साथ किसी तरह की छेड़छाड़ नहीं की गई है. इस केस में, वीडियो में एक सीन की लूपिंग एक स्पष्ट छेड़छाड़ है.

फिर भी, बोर्ड को लगता है कि मीडिया से छेड़छाड़ किए जाने से जुड़ी Meta की इस पॉलिसी में प्रेरित करने वाले औचित्य की कमी है, यह बेतुकी है और यूज़र्स के लिए पेचीदा है. इसमें स्पष्ट रूप से नहीं बताया गया है कि यह किस तरह के नुकसान को रोकने के लिए है. कम शब्दों में, इस पॉलिसी पर फिर से विचार किया जाना चाहिए.

इस पॉलिसी का दायरा बहुत ही सीमित है, क्योंकि यह सिर्फ़ वीडियो के कंटेंट, AI के ज़रिए छेड़छाड़ किए गए या बनाए गए कंटेंट और ऐसे कंटेंट पर लागू होती है, जिसमें लोगों को ऐसे शब्द बोलते हुए दिखाया जाता है, जो उन्होंने नहीं बोले होते. Meta को इस पॉलिसी का दायरा बढ़ाना चाहिए, ताकि इसमें ऑडियो के साथ-साथ ऐसा कंटेंट भी शामिल हो, जिसमें लोगों को कुछ ऐसा करते हुए दिखाया जा रहा हो, जो उन्होंने न किया हो. बोर्ड, कंटेंट बनाने के लिए उपयोग किए जाने वाले तकनीकी साधनों के आधार पर ये नियम बनाने के लॉजिक से भी रज़ामंद नहीं है. बोर्ड ने जिन विशेषज्ञों से सलाह की, वे और पब्लिक कमेंट इस तथ्य से पूरी तरह से सहमत हैं कि जिस कंटेंट के साथ AI के ज़रिए छेड़छाड़ नहीं की गई होती, वह भी काफी ज़्यादा ट्रेंड में है और वह भी लोगों को उतना ही गुमराह कर सकता है; उदाहरण के लिए, ज़्यादातर मोबाइल फ़ोन में कंटेंट को एडिट करने का फ़ीचर होता है. इसलिए, यह पॉलिसी दूसरे तरीकों (उदाहरण के लिए, “चीप फ़ेक”) से छेड़छाड़ किए गए कंटेंट पर भी उसी तरह से लागू होना चाहिए, जैसे यह “डीप फ़ेक” कंटेंट पर लागू होती है.

बोर्ड इस बात को मानता है कि Meta ऐसे छेड़छाड़ किए गए मीडिया की वजह से होने वाले ऑफ़लाइन नुकसान को रोकने के लिए ज़रूरी और संतुलित साधन अपना सकता है, जिनमें वोट डालने और सार्वजनिक मामलों के संचालन में शामिल होने के अधिकार की सुरक्षा करना शामिल है. हालाँकि, मौजूदा पॉलिसी में यह स्पष्ट रूप से नहीं बताया गया है कि यह किस तरह के नुकसान को रोकने के लिए है. Meta को अच्छी तरह से स्पष्ट करना होगा कि वे नुकसान कौन-से हैं और 2024 में होने वाले चुनावों की संख्या को देखते हुए, इस पॉलिसी में तुरंत बदलाव करने होंगे.

फिलहाल, यह पॉलिसी कानूनी चिंताएँ भी उजागर करती है. फिलहाल, Meta इस पॉलिसी को दो जगहों में प्रकाशित करता है: एक स्टैंडअलोन पॉलिसी के रूप में और गलत जानकारी से जुड़े कम्युनिटी स्टैंडर्ड के हिस्से के रूप में. इन दोनों के मूल आधार और परिचालन से संबंधित सटीक शब्दावली में अंतर हैं. इसे स्पष्ट करना और किसी भी गलती को सुधारना ज़रूरी है.

साथ ही साथ, बोर्ड का मानना है कि ज़्यादातर मामलों में Meta कंटेंट को हटाने के बजाय कम प्रतिबंधी साधनों के ज़रिए ही यूज़र्स को होने वाले ऐसे नुकसान रोक सकता था, जो ऑडियो या ऑडियो-विजुअल कंटेंट की प्रामाणिकता को लेकर गुमराह होने की वजह से हुए थे. उदाहरण के लिए, कंपनी गुमराह करने वाला कंटेंट पर लेबल अटैच करके यूज़र्स को सूचित कर सकती थी कि इसके साथ बहुत ज़्यादा छेड़छाड़ की गई है. असली कंटेंट की प्रामाणिकता से जुड़ी जानकारी देकर ऐसा आसानी से किया जा सकता था. Meta पहले से ही अपने थर्ड पार्टी फ़ैक्ट चेकिंग प्रोग्राम के हिस्से के रूप में लेबल का उपयोग कर रहा है, लेकिन अगर इस पॉलिसी को लागू करने के लिए ऐसे किसी तरीके का उपयोग किया गया होता, तो यह पॉलिसी, थर्ड-पार्टी फ़ैक्ट-चेकर पर बिना किसी निर्भरता के और पूरे प्लेटफ़ॉर्म पर अच्छी तरह से लागू हो जाती.

ओवरसाइट बोर्ड का फ़ैसला

ओवरसाइट बोर्ड ने पोस्ट को बनाए रखने के Meta के फ़ैसले को कायम रखा है.

बोर्ड ने Meta को सुझाव दिया है कि Meta:

• मीडिया से छेड़छाड़ किए जाने से जुड़ी अपनी पॉलिसी के दायरे पर फिर से विचार करे, ताकि वह ऑडियो और ऑडियो-विजुअल, दोनों तरह के कंटेंट, ऐसे कंटेंट, जिसमें लोगों को कुछ ऐसा करते हुए दिखाया गया हो, जो उन्होंने न किया हो (और साथ ही ऐसे कंटेंट, जिसमें लोगों को ऐसी चीज़ें बोलते हुए दिखाया गया हो, जो उन्होंने न बोली हों) और हर तरह के कंटेंट पर लागू हो, फिर चाहे उस कंटेंट को बनाने या उसमें छेड़छाड़ किए जाने का तरीका कुछ भी रहा हो.
• मीडिया से छेड़छाड़ किए जाने से जुड़ी एक संयुक्त पॉलिसी में –यूज़र्स के गुमराह होने के अलावा – स्पष्ट रूप से उन नुकसानों के बारे में भी बताए, जिन्हें रोकना इसका लक्ष्य है, जैसे कि वोट डालने और सार्वजनिक मामलों के संचालन में शामिल होने के अधिकार के साथ किसी भी तरह के हस्तक्षेप को रोकना.
• किसी भी अन्य पॉलिसी का उल्लंघन न पाए जाने पर छेड़छाड़ किए गए मीडिया को हटाना बंद कर दे. इसके बजाय, ऐसे कंटेंट पर एक लेबल अटैच किया जाना चाहिए कि इस कंटेंट के साथ बहुत ज़्यादा छेड़छाड़ की गई है और यह गुमराह कर सकता है. ऐसा लेबल पूरी पोस्ट के बजाय सिर्फ़ मीडिया (उदाहरण के लिए, वीडियो के नीचे) अटैच किया जाना चाहिए और यह Meta के प्लेटफ़ॉर्म पर उस मीडिया से पूरी तरह से मेल खाने वाले सभी इंस्टेंस पर भी लागू होती होना चाहिए.

ज़्यादा जानकारी के लिए

इस केस का पूरा फ़ैसला पढ़ने के लिए यहाँ क्लिक करें.

इस केस में लोगों की ओर से आए कमेंट का सारांश पढ़ने के लिए, कृपया यहाँ क्लिक करें.

समाचार पर लौटें