धोखाधड़ी का नया केस, जिसमें ब्राज़ीलियाई फ़ुटबॉल के दिग्गज रोनाल्डो, एक AI वीडियो में एक ऑनलाइन गेम का समर्थन करते हुए प्रतीत होते हैं।
6 फ़रवरी 2025
आज, बोर्ड विचार करने के लिए एक नए केस की घोषणा कर रहा है। इसके तहत हम लोगों और संगठनों को, नीचे दिए गए बटन का उपयोग करके पब्लिक कमेंट सबमिट करने के लिए आमंत्रित करते हैं।
केस चयन
चूँकि हम हर अपील की सुनवाई नहीं कर सकते हैं, इसलिए बोर्ड उन केसेज़ को प्राथमिकता देता है जो दुनिया भर के बहुत से यूज़र को प्रभावित करने की संभावना रखते हैं, जो सार्वजनिक चर्चा के लिए विशिष्ट महत्व रखता है या जो Meta की नीतियों के बारे में महत्वपूर्ण प्रश्न उठाते हैं।
आज हम जिस केस की घोषणा कर रहे हैं, वह है:
AI की मदद से बनाया गया, जुए को बढ़ावा देने वाला वीडियो
2025-018-FB-UA
कंटेंट हटाने के लिए यूज़र की अपील
नीचे दिए गए बटन का उपयोग करके पब्लिक कमेंट सबमिट करें
सितंबर 2024 में, एक यूज़र ने AI की मदद से बनाया गया वीडियो पोस्ट किया, जिसमें एक व्यक्ति ब्राज़ीलियाई फ़ुटबॉल खिलाड़ी रोनाल्डो नाज़ारियो जैसा दिखता है, जो दूसरों को Plinco ऐप डाउनलोड करने के लिए प्रोत्साहित कर रहा है। Plinco एक लोकप्रिय ऑनलाइन गेम है, जिसमें कीलों से भरे एक बोर्ड पर एक गेंद को नीचे गिराना होता है, गेंद कहाँ गिरती है, इसके आधार पर खिलाड़ियों को अलग-अलग इनाम मिलते हैं। कैमरे की तरफ देखते हुए रोनाल्डो के बोलने से वीडियो की शुरू होता है। हालाँकि पहली बार में यह वास्तविक लगता है, लेकिन फ़ुटबॉल स्टार की नकल करने वाली आवाज़ और उनके होंठों के चलने में तालमेल नहीं है। इसके बाद, वीडियो में एक स्कूली शिक्षक, एक बस ड्राइवर और किराना दुकान के एक कर्मचारी की AI से बनाई गई इमेजेस दिखती हैं, साथ ही ब्राज़ील में इन नौकरियों का औसत वेतन भी दिखाया जाता है। रोनाल्डो की आवाज़ की नकल करने वाला ऑडियो दावा करता है कि Plinco खेलना सरल है, और औसत खिलाड़ी इस गेम से, इन नौकरियों की तुलना में कहीं अधिक पैसा कमा सकते हैं। अंततः, यह वीडियो, यूज़र्स को Plinco डाउनलोड करने के लिए एक लिंक पर क्लिक करने के लिए प्रोत्साहित करता है, हालांकि यह एक अलग गेम पर ले जाता है, जिसे कि Bubble Shooter कहा जाता है। इस पोस्ट को करीब 6,00,000 बार देखा गया था।
एक यूज़र ने इस कंटेंट को धोखाधड़ी या हेराफेरी बताते हुए, इसकी शिकायत Meta से की, लेकिन कंपनी ने कंटेंट को नहीं हटाया। इसके बाद, यूज़र ने यह कहते हुए बोर्ड से अपील की कि Meta, इस पोस्ट की झूठी जानकारी और इसमें सार्वजनिक हस्ती के एक हेराफेरी में उपयोग के बारे में लोगों को सचेत करने में विफल रही है।
बोर्ड द्वारा इस केस को चुनने के परिणामस्वरूप, Meta ने पाया कि सामग्री को बनाए रखने का फ़ैसला त्रुटिवश हुआ और उस पोस्ट को इसकी धोखाधड़ी, हेराफेरी और कपटपूर्ण तरीकों संबंधी कम्युनिटी स्टैंडर्ड का उल्लंघन करने की वजह से हटा दिया गया. Meta के अनुसार, यह कंटेंट, ऐसे कंटेंट के निषेध का उल्लंघन करता है, जो “हेराफेरी या ठगने की कोशिश में, नकली व्यक्तित्व स्थापित करने या प्रसिद्ध व्यक्ति होने का दिखावा करने का प्रयास करता है।" Meta ने स्पष्ट किया कि AI के ज़रिए ऐसा प्रतीत कराकर, जैसे कि रोनाल्डो एक ऑनलाइन गेम को बढ़ावा दे रहे हैं, यह वीडियो लोगों को ऐसे प्रोडक्ट का उपयोग करने के लिए हेराफेरी करने का प्रयास करता है, जिसे वे रोनाल्डो के समर्थन के बिना अन्यथा डाउनलोड नहीं करते। इस नियम का उल्लंघन करने वाले कंटेंट को केवल Meta की विशेष "एस्केलेशन" टीमों द्वारा ही हटाया जा सकता है, न कि बड़े पैमाने पर समीक्षकों द्वारा, क्योंकि इस तरह के कंटेंट को हटाने के लिए अतिरिक्त संदर्भ की आवश्यकता होती है। Meta ने यह भी पाया कि यह कंटेंट उसके स्पैम संबंधी कम्युनिटी स्टैंडर्ड का उल्लंघन करता है, क्योंकि इस पोस्ट में एक लिंक है, जो कथित तौर पर Plinco डाउनलोड करने के लिए ले जाता है, लेकिन इसके बजाय किसी अन्य गेम पर ले जाता है।
बोर्ड द्वारा इस केस का चयन, उसे पहली बार Meta की धोखाधड़ी, हेराफेरी और कपटपूर्ण तरीकों और स्पैम संबंधी पॉलिसीज़ को लागू करने में आने वाली चुनौतियों का परीक्ष्रण करने की अनुमति देगा, विशेषकर ऑनलाइन जुए के संदर्भ में। बोर्ड का लक्ष्य, व्यापक जनता और चित्रित किए गए लोगों पर डीपफ़ेक समर्थन के प्रभावों का आकलन करना भी है। यह केस, बोर्ड की पॉलिसीज़ का स्वतः एन्फ़ोर्समेंट और कंटेंट क्यूरेशन की कार्यनीतिक प्राथमिकताएँ के तहत आता है।
बोर्ड उन पब्लिक कमेंट की सराहना करेगा, जो इनको संबोधित करते हैं:
- सार्वजनिक हस्तियों की नकल करने वाले डीपफ़ेक द्वारा किए गए समर्थन का जनता पर तथा नकल की जा रही हस्ती पर सामाजिक-आर्थिक प्रभाव, विशेष रूप से ब्राज़ील में।
- ब्राज़ील और अन्य क्षेत्रों में, हेराफेरियों के विरुद्ध अपनी नीतियों के लिए, Meta के एन्फ़ोर्समेंट के तरीकों की प्रभावशीलता, विशेष रूप से ऐसे कंटेंट के लिए, जिसमें नकली व्यक्तित्व और सार्वजनिक हस्तियों का प्रतिरूपण शामिल है।
- 7 जनवरी, 2025 को, Meta द्वारा कुछ पॉलिसीज़ के सक्रिय एन्फ़ोर्समेंट को समाप्त करने की घोषणा, Meta के प्लेटफ़ॉर्म्स पर डीपफ़ेक समर्थन की मात्रा को कैसे प्रभावित कर सकती है, विशेष रूप से उन क्षेत्रों में, जहां यूज़र्स की ओर से कम बार शिकायतें आती हैं।
अपने फैसले के हिस्से के रूप में, बोर्ड Meta को नीतिगत सुझाव जारी कर सकता है। हालाँकि ये सुझाव गैर-बाध्यकारी हैं, Meta को 60 दिनों के भीतर उन पर प्रतिक्रिया देनी चाहिए. इस प्रकार, बोर्ड इस केस के लिए प्रासंगिक सुझावों का प्रस्ताव करने वाले पब्लिक कमेंट का स्वागत करता है।
पब्लिक कमेंट
अगर आपको या आपके संगठन को लगता है कि आप अहम दृष्टिकोण में अपना योगदान दे सकते हैं, जो हमारी आज घोषित केस पर फ़ैसले तक पहुंचने में मदद कर सकता है, तो आप नीचे के बटन का उपयोग करके, अपना योगदान सबमिट कर सकते/सकती हैं। कृपया ध्यान दें कि पब्लिक कमेंट बिना किसी नाम के सबमिट की जा सकती हैं। पब्लिक कमेंट विंडो 14 दिनों के लिए खुली है, जो गुरुवार 20 फरवरी को 23:59 प्रशांत मानक समय (PST) पर बंद होगी।
आगे क्या होगा
अगले कुछ हफ़्तों में, बोर्ड मेंबर इस केस पर विचार-विमर्श करेंगे। जब वे अपने निर्णय पर पहुंच जाएंगे, तो हम इसे निर्णय पेज पर पोस्ट करेंगे।
