ओवरसाइट बोर्ड ने Facebook के शुरुआती फ़ैसले को बदला: केस 2020-004-IG-UA
28 जनवरी 2021
ओवरसाइट बोर्ड ने Facebook का Instagram पर मौजूद किसी पोस्ट को हटाने का फ़ैसला बदल दिया है. बोर्ड द्वारा इस केस को चुनने के बाद, Facebook ने कंटेंट रीस्टोर कर दिया. Facebook के ऑटोमेटेड सिस्टम ने वयस्क नग्नता और यौन गतिविधि से संबंधित कंपनी के कम्युनिटी स्टैंडर्ड का उल्लंघन करने के कारण शुरुआत में पोस्ट को हटा दिया था. बोर्ड ने पाया कि "स्तन कैंसर जागरूकता" के लिए पॉलिसी के अपवाद के अंतर्गत पोस्ट की अनुमति थी और इस केस में Facebook के ऑटोमेटेड मॉडरेशन से मानवाधिकारों से जुड़ी अहम चिंताएँ सामने आती हैं.
केस की जानकारी
अक्टूबर 2020 में, ब्राज़ील में एक यूज़र ने Instagram पर एक फ़ोटो पोस्ट की, जिसके पुर्तगाली भाषा में लिखे टाइटल से पता चलता है कि इसका उद्देश्य स्तन कैंसर के लक्षणों के बारे में जागरूकता फैलाना था. इस बीमारी के बारे में जागरूकता फैलाने के एक अंतर्राष्ट्रीय कैंपेन "पिंक अक्टूबर" के अनुकूल इस फ़ोटो में गुलाबी रंग था. तस्वीर में मौजूद आठ फ़ोटो में ब्रेस्ट कैंसर के लक्षण दिखाए गए थे और उनकी विस्तृत जानकारी दी गई थी. इनमें से पाँच फ़ोटो में महिला के निप्पल बिना ढके साफ़ दिखाई दे रहे थे, जबकि बाकी तीन फ़ोटो में महिला के स्तन दिख रहे थे, जिसमें निप्पल या तो शॉट में नहीं थे या फिर हाथ से ढके हुए थे. ऑटोमेटेड सिस्टम ने Facebook का वयस्क नग्नता और यौन गतिविधि से जुड़ा कम्युनिटी स्टैंडर्ड लागू करके पोस्ट हटा दी थी. बोर्ड द्वारा इस केस को चुनने के बाद, Facebook ने इसे गलती मानकर पोस्ट को रीस्टोर कर दिया.
मुख्य निष्कर्ष
अपने जवाब में Facebook ने दावा किया कि बोर्ड को इस केस की सुनवाई अस्वीकार कर देनी चाहिए. कंपनी ने तर्क दिया कि इस पोस्ट को रीस्टोर करने के बाद, यूज़र और Facebook के बीच कोई असहमति नहीं थी कि कंटेंट बना रहना चाहिए, जिससे यह केस विवादास्पद हो जाता.
बोर्ड ने Facebook के तर्क को ख़ारिज कर दिया. असहमति की ज़रूरत उस समय ही होती है जब यूज़र Facebook की आंतरिक अपील प्रक्रिया का उपयोग कर चुका होता है. चूँकि उस समय यूज़र और Facebook असहमत थे, इसलिए बोर्ड केस की सुनवाई कर सकता है.
Facebook का कंटेंट रीस्टोर करने का फ़ैसला भी इस केस को विवादास्पद नहीं बनाता, जैसा कि कंपनी का दावा है. कंटेंट के हिस्सों को रीस्टोर करने के लिए बाध्यकारी निर्णय लेने के साथ, बोर्ड यूज़र को इस बात की पूरी जानकारी भी देगा कि उनकी पोस्ट क्यों हटाई गई.
इस पोस्ट का गलत ढंग से हटाया जाना उचित मानव निगरानी की कमी को दर्शाता है जो मानवाधिकारों की चिंताओं को बढ़ाता है. इस पोस्ट का पता लगाने और हटाने का काम पूरी तरह ऑटोमेटेड था. Facebook के ऑटोमेटेड सिस्टम "स्तन कैंसर" शब्दों को पहचानने में विफल रहे, जो फ़ोटो में पुर्तगाली भाषा में दिखाई दिए थे और पोस्ट को गलती से हटा दिया गया था. चूँकि Facebook के नियमों में पुरुष और महिला के निप्पल अलग-अलग तरीके से पेश किए गए हैं, इसलिए इन नियमों को लागू करने के लिए गलत ऑटोमेशन का उपयोग करना महिलाओं की अभिव्यक्ति की स्वतंत्रता को असंगति से प्रभावित करता है. लोगों द्वारा पर्याप्त निगरानी के बिना सिर्फ़ ऑटोमेशन पर निर्भर रहने वाले प्रवर्तन से अभिव्यक्ति की स्वतंत्रता में भी हस्तक्षेप होता है.
इस केस में, यूज़र को बताया गया कि पोस्ट में Instagram की कम्युनिटी गाइडलाइन का उल्लंघन हुआ था, जिसका अर्थ है कि स्तन कैंसर को लेकर जागरूकता फैलाने के लिए महिला के बिना ढके निप्पल की फ़ोटो शेयर करने की अनुमति नहीं है. हालाँकि, Facebook का वयस्क नग्नता और यौन गतिविधि से जुड़ा कम्युनिटी स्टैंडर्ड उस समय स्पष्ट रूप से नग्नता की अनुमति देता है, जब यूज़र "किसी मुद्दे या शैक्षणिक अथवा चिकित्सा कारणों के बारे में जागरूकता फैलाता" है और खास तौर पर "स्तन कैंसर जागरूकता" बढ़ाने के लिए महिला के बिना ढके निप्पल की अनुमति देता है. चूँकि Facebook के कम्युनिटी स्टैंडर्ड Instagram पर लागू होते हैं, इसलिए यूज़र की पोस्ट ऊपर बताए गए अपवाद में आती है. इसलिए, Facebook द्वारा कंटेंट हटाया जाना उसके कम्युनिटी स्टैंडर्ड के साथ असंगत था.
ओवरसाइट बोर्ड का फ़ैसला
ओवरसाइट बोर्ड ने Facebook के कंटेंट हटाने के शुरुआती फ़ैसले को बदल दिया और पोस्ट को रीस्टोर करने के लिए कहा गया. बोर्ड ने ध्यान दिया कि Facebook ने इस परिणाम के लिए पहले ही एक्शन ले लिया है.
बोर्ड ने Facebook को कहा कि वह:
- यूज़र को उस समय सूचित करे जब उनका कंटेंट मॉडरेट करने के लिए ऑटोमेटेड एन्फ़ोर्समेंट का उपयोग किया जाता है, यह सुनिश्चित करे कि यूज़र कुछ मामलों में किसी व्यक्ति से ऑटोमेटेड निर्णय की अपील कर सकें और टेक्स्ट-ओवरले वाली फ़ोटो का पता लगाने के ऑटोमेटेड सिस्टम में सुधार करे ताकि स्तन कैंसर के लक्षणों के बारे में जागरूकता बढ़ाने वाली पोस्ट को रिव्यू के लिए गलत ढंग से फ़्लैग न किया जाए. Facebook को ऑटोमेटेड एन्फ़ोर्समेंट के उसके उपयोग से जुड़ी अपनी पारदर्शिता रिपोर्टिंग में भी सुधार करना चाहिए.
- यह बताने के लिए Instagram की कम्युनिटी गाइडलाइन को संशोधित करे कि स्तन कैंसर के बारे में जागरूकता फैलाने के लिए महिला के निप्पल दिखाए जा सकते हैं और यह स्पष्ट करे कि जब कभी Instagram की कम्युनिटी गाइडलाइन और Facebook के कम्युनिटी स्टैंडर्ड के बीच असंगतताएँ हों तो बाद वाले को वरीयता दी जाएगी.
अधिक जानकारी के लिए:
केस से जुड़ा पूरा फ़ैसला पढ़ने के लिए यहाँक्लिक करें.
इस केस की सार्वजनिक टिप्पणियों का सारांश पढ़ने के लिए, यहाँक्लिक करें.
