ओवरसाइट बोर्ड ने मशहूर महिलाओं की AI से बनाई गई अश्लील फ़ोटो से जुड़े दो नए केस की घोषणा की

16 अप्रैल 2024

आज बोर्ड दो नए केस की सुनवाई करने की घोषणा करने जा रहा है. इसके तहत हम लोगों और संगठनों को पब्लिक कमेंट सबमिट करने के लिए आमंत्रित कर रहे हैं.

केस का चयन

चूँकि हम सभी अपीलों पर सुनवाई नहीं कर सकते, इसलिए बोर्ड उन केस को प्राथमिकता देता है, जिनका असर दुनिया भर के यूज़र्स पर पड़ सकता है और जो सार्वजनिक विचार-विमर्श के लिए बेहद ज़रूरी होते हैं या जो Meta की पॉलिसी पर बड़े सवाल खड़े करते हैं.

आज हम इन केस की सुनवाई करने की घोषणा करने जा रहे हैं:

मशहूर महिलाओं की AI से बनीं अश्लील फ़ोटो

2024-007-IG-UA, 2024-008-FB-UA

Instagram से कंटेंट को हटाने की यूज़र अपील और Facebook पर कंटेंट को रीस्टोर करने की यूज़र अपील

पब्लिक कमेंट यहाँ से सबमिट करें, जिन्हें अनाम रूप से भी दर्ज करवाया जा सकता है.

ये केस Meta की ओर से लिए गए कंटेंट से जुड़े दो फ़ैसलों से संबंधित हैं, जिनमें एक कंटेंट Instagram और एक कंटेंट Facebook का है और ओवरसाइट बोर्ड इनके बारे में एक साथ फ़ैसला लेना चाहता है. दोनों ही केस में बोर्ड यह तय करेगा कि कंटेंट को Instagram या Facebook पर दिखाया जाना चाहिए या नहीं.

पहला केस Instagram पर पोस्ट की गई किसी महिला की AI से बनी नग्न फ़ोटो से जुड़ा है. इस फ़ोटो को आर्टिफ़िशियल इंटेलिजेंस (AI) का उपयोग करके बनाया गया था और यह महिला भारत की एक सार्वजनिक हस्ती की तरह दिखाई दे रही है. यह पोस्ट जिस अकाउंट से जारी की गई, वह सिर्फ़ भारतीय महिलाओं की AI-जेनरेटेड फ़ोटो ही शेयर करता है. इस पोस्ट पर रिएक्शन देने वाले ज़्यादातर यूज़र के अकाउंट भारत में हैं, जहाँ डीपफ़ेक की समस्या बढ़ती जा रही है.

इस केस में यूज़र ने पोर्नोग्राफ़ी के लिए Meta को कंटेंट की रिपोर्ट की. यह रिपोर्ट अपने आप बंद हो गई थी, क्योंकि 48 घंटे के भीतर इसका रिव्यू नहीं हुआ था. फिर उसी यूज़र ने कंटेंट को बनाए रखने के Meta के फ़ैसले के खिलाफ अपील की, लेकिन यह अपील भी अपने आप बंद हो गई और इसलिए वह कंटेंट प्लेटफ़ॉर्म से नहीं हटाया गया. इसके बाद उस यूज़र ने बोर्ड से अपील की. बोर्ड ने जब इस केस को चुना, तब Meta को लगा कि इस कंटेंट को नहीं हटाने का उसका फ़ैसला गलत था और उसने इस पोस्ट को धमकाने और उत्पीड़न करने से जुड़े कम्युनिटी स्टैंडर्ड का उल्लंघन करने के लिए हटा दिया.

दूसरा केस AI क्रिएशन के लिए बने Facebook ग्रुप पर पोस्ट की गई एक फ़ोटो से जुड़ा है. AI से जेनरेट की गई इस फ़ोटो में एक आदमी को एक नग्न महिला के स्तन पकड़े हुए दिखाया गया है. इस फ़ोटो को AI से बनाया गया है और यह महिला एक अमेरिकी सार्वजनिक हस्ती की तरह दिखाई दे रही है, जिसका नाम भी कैप्शन में दिया गया है. इस फ़ोटो पर रिएक्शन देने वाले ज़्यादातर यूज़र के अकाउंट अमेरिका में हैं.

इस केस में, किसी दूसरे यूज़र ने पहले भी ऐसी ही फ़ोटो पोस्ट की थी, जिसके बाद यह केस Meta के पॉलिसी और इस विषय से जुड़े विशेषज्ञों को भेजा गया था, जिन्होंने धमकाने और उत्पीड़न करने से जुड़ी पॉलिसी (खास तौर से “अपमानजनक कामुक फ़ोटोशॉप या ड्रॉइंग” के मामले में) का उल्लंघन करने के लिए उस कंटेंट को हटाने का फ़ैसला लिया था. इस फ़ोटो को मीडिया मैचिंग सर्विस बैंक में शामिल किया गया – जो Meta के ऑटोमेटेड एन्फ़ोर्समेंट सिस्टम से जुड़ा होता है, जो अपने आप ऐसी फ़ोटो को ढूँढता और हटाता है, जिन्हें पहले कभी ह्यूमन रिव्यूर Meta के नियमों को तोड़ने वाला कंटेंट मान चुके हैं. इसलिए, इस केस में इस फ़ोटो को Facebook कम्युनिटी स्टैंडर्ड का उल्लंघन करने वाला मानते हुए पहले ही हटा दिया गया था. कंटेंट को पोस्ट करने वाले यूज़र ने अपील की, लेकिन वह रिपोर्ट अपने आप बंद हो गई. इसके बाद उस यूज़र ने बोर्ड से अपील की.

बोर्ड ने इन केस को यह पता लगाने के लिए चुना कि Meta की पॉलिसी और इसके एन्फ़ोर्समेंट के तौर-तरीके AI-जेनरेटेड अश्लील इमेजरी के मामलों से निपटने में कारगर है या नहीं. यह केस बोर्ड की लिंग से जुड़ी स्ट्रेटेजिक प्राथमिकता से भी जुड़ा हुआ है.

बोर्ड ऐसे पब्लिक कमेंट चाहता है, जिनसे इन चीज़ों के बारे में जानकारी मिले:

• डीपफ़ेक पोर्नोग्राफ़ी से होने वाले नुकसान की प्रकृति और गंभीरता, जिसमें यह शामिल है कि इससे महिलाओं पर क्या असर पड़ता है, खास तौर से मशहूर महिलाओं पर.
• अमेरिका और भारत सहित पूरी दुनिया में डीपफ़ेक पोर्नोग्राफ़ी के उपयोग और व्यापकता के बारे में प्रासंगिक जानकारी.
• ऐसी स्ट्रेटेजी, जिनकी मदद से Meta अपने प्लेटफ़ॉर्म पर डीपफ़ेक पोर्नोग्राफ़ी से निपट सकता है, जिनमें ऐसी पॉलिसी और एन्फ़ोर्समेंट के तरीके बताए गए हों, जो ज़्यादा असरदार हो सकते हैं.
• Meta की धमकाने और उत्पीड़न से जुड़ी पॉलिसी में मौजूद “अपमानजनक कामुक फ़ोटोशॉप या ड्रॉइंग” से जुड़े नियम का एन्फ़ोर्समेंट, जिसमें मीडिया मैचिंग सर्विस बैंक का उपयोग शामिल है.
• 48 घंटे के भीतर रिव्यू नहीं होने पर अपील को अपने आप बंद कर देने वाले सिस्टम पर निर्भरता से जुड़ी चुनौतियाँ.

बोर्ड अपने फ़ैसले सुनाते समय Meta को पॉलिसी से जुड़े सुझाव दे सकता है. ये सुझाव बाध्यकारी नहीं होते हैं, लेकिन Meta को 60 दिनों के अंदर इन सुझावों पर अपनी राय रखनी होती है. वैसे, बोर्ड इन केस के लिए प्रासंगिक सुझाव देने वाले पब्लिक कमेंट का स्वागत करता है.

पब्लिक कमेंट

अगर आपको या आपके संगठन को लगता है कि आप हमें ऐसी कोई महत्वपूर्ण जानकारी दे सकते हैं, जिससे हमें आज अनाउंस किए गए इन केस को लेकर सही फ़ैसला लेने में मदद मिलेगी, तो आप ऊपर दिए गए लिंक के ज़रिए अपनी बात हम तक पहुँचा सकते हैं. कृपया ध्यान रखें कि पब्लिक कमेंट अनाम रूप से भी दर्ज करवाए जा सकते हैं. पब्लिक कमेंट की विंडो 14 दिनों तक खुली रहेगी, जो मंगलवार, 30 अप्रैल को आपके स्थानीय समयानुसार रात 11:59 बजे बंद हो जाएगी.

इन पोस्ट में दिखाई गई महिलाओं के अधिकारों की रक्षा करने तथा उनका और उत्पीड़न होने के आशंका को कम करने के लिए, बोर्ड का अनुरोध है कि पब्लिक कमेंट में थर्ड पार्टी का नाम बताने या अन्यथा उनकी निजी जानकारी शेयर करने से बचें या इन केस के कंटेंट में दिखाए गए लोगों की पहचान के बारे में अंदाज़ा न लगाएँ.

इसके बाद क्या होगा

अगले कुछ हफ़्तों में बोर्ड के मेंबर इन केस पर विचार-विमर्श करेंगे. जब वे अपने फ़ैसले ले लेंगे, तब हम उन फ़ैसलों को ओवरसाइट बोर्ड की वेबसाइट पर पोस्ट कर देंगे.

यहाँ साइन अप करें, ताकि जब बोर्ड नए केस की सुनवाई की घोषणा करे या अपने फ़ैसले प्रकाशित करे, तो उनके अपडेट आपको मिल जाएँ.

समाचार पर लौटें