يعلن مجلس الإشراف عن حالتين جديدتين بشأن صور الذكاء الاصطناعي الصريحة لشخصيات نسائية عام
تم النشر بتاريخ 16 نَيْسان 2024
يعلن مجلس الإشراف، اليوم، عن حالتين جديدتين للنظر فيهما. وفي إطار ذلك، ندعو الأشخاص والمؤسسات لتقديم تعليقات عامة.
اختيار الحالات
نظرًا لأننا لا نستطيع النظر في كل الطعون المقدمة، يعطي المجلس الأولوية للحالات التي من المرجَّح أن تؤثر في الكثير من المستخدمين في مختلف أنحاء العالم، والتي تشكل أهمية بالغة للخطاب العام، أو تثير تساؤلات مهمة حول سياسات Meta.
الحالتان اللتان نعلن عنهما اليوم هما:
صور الذكاء الاصطناعي الصريحة لشخصيات نسائية عامة
2024-007-IG-UA ،2024-008-FB-UA
طعن المستخدم لإزالة محتوى من Instagram وطعن المستخدم لاستعادة محتوى إلى فيسبوك
بادر بإرسال تعليقات العامة، التي يمكن تقديمها بشكل مجهول الهوية، هنا
تتعلق هاتان الحالتان بقرارين اتخذتها Meta بشأن المحتوى؛ أحدهما على Instagram والآخر على فيسبوك، وينوي مجلس الإشراف التعامل معهما معًا. وفي كل حالة، سيقرر المجلس ما إذا كان يجب السماح بالمحتوى على Instagram أو فيسبوك.
تتضمن الحالة الأولى صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لسيدة عارية وتم نشرها على Instagram. تم إنشاء الصورة باستخدام الذكاء الاصطناعي (AI) لتشبه شخصية عامة من الهند. يشارك الحساب الذي نشر هذا المحتوى صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي للهنديات فقط. ويمتلك أغلبية المستخدمين الذين تفاعلوا مع الصورة حسابات في الهند حيث تمثل عمليات التزييف العميق مشكلة متزايدة.
في هذه الحالة، قدم أحد المستخدمين بلاغًا إلى Meta لاحتواء المنشور على صور إباحية. وقد تم إغلاق هذا البلاغ تلقائيًا نظرًا لعدم مراجعته خلال 48 ساعة. بعدها، قدم المستخدم نفسه طعنًا على قرار Meta بترك المحتوى؛ لكن هذا الطعن تم إغلاقه تلقائيًا أيضًا؛ ومن ثمَّ، ظل المحتوى موجودًا. وعندها، تقدم المستخدم بطعن إلى المجلس. ونتيجة لاختيار المجلس لهذه الحالة، قررت Meta أن قرارها بترك المحتوى كان خاطئًا؛ ومن ثمَّ، أزالت المنشور لانتهاكه معيار المجتمع الخاصة بالمضايقة والإساءة.
تخص الحالة الثانية صورة نُشرت على إحدى مجموعات فيسبوك لابتكارات الذكاء الاصطناعي. يحتوي المنشور على صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لسيدة عارية ورجل يتحسس ثديها. وقد تم إنشاء هذه الصورة باستخدام الذكاء الاصطناعي لتشبه شخصية عامة أمريكية تم ذكر اسمها في الشرح التوضيحي أيضًا. ويمتلك أغلبية المستخدمين الذين تفاعلوا مع الصورة حسابات في الولايات المتحدة.
في هذه الحالة، كان مستخدم مختلف قد نشر هذه الصورة بالفعل، وقد أدى ذلك إلى تصعيد المنشور إلى خبراء سياسة Meta أو خبراء الموضوع الذين قرروا إزالة المحتوى لانتهاكه لسياسة المضايقة والإساءة، لا سيما وأنه يحتوي على "صور أو رسومات جنسية مهينة تم إعدادها باستخدام برامج تعديل الصور". تمت إضافة الصورة إلى أحد بنوك خدمات مطابقة الوسائط - وهو جزء من نظام الإنفاذ التلقائي لدى Meta الذي يعثر على الصور التي حددها المراجعون البشريون بأنها تخالف قواعد Meta ويزيلها تلقائيًا. ومن ثمَّ، في هذه الحالة، اعتُبرت الصورة مخالِفةً لمعايير مجتمع فيسبوك وتمت إزالتها. وقدم المستخدم الذي نشر المحتوى طعنًا؛ لكن البلاغ تم إغلاقه تلقائيًا. وعندها، تقدم المستخدم بطعن إلى المجلس.
واختار المجلس هاتين الحالتين لتقييم فعالية سياسات Meta وممارسات الإنفاذ التي تنتهجها في التعامل مع الصور الصريحة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. وتتماشى هذه الحالة مع الأولوية الاستراتيجية للجنس لدى المجلس.
يرحب مجلس الإشراف بالتعليقات المقدمة من العامة والتي تتناول الأمور التالية:
- طبيعة وخطورة الأضرار التي تسببها الصور الإباحية التي يتم إنشاؤها بالتزييف العميق، بما في مدى تأثير هذه الأضرار على النساء، لا سيما الشخصيات العامة.
- المعلومات السياقية عن استخدام الصور الإباحية التي يتم إنشاؤها بالتزييف العميق ومعدل انتشارها عالميًا، بما في ذلك الولايات المتحدة والهند.
- الاستراتيجيات التي تنتهجها Meta في التصدي للصور الإباحية التي يتم إنشاؤها بالتزييف العميق على منصاتها، بما في ذلك السياسات وعمليات الإنفاذ التي قد تكون أكثر فعالية في هذا الصدد.
- إنفاذ Meta لقاعدة "الصور أو الرسومات الجنسية المهينة التي تم إعدادها باستخدام برامج تعديل الصور" لديها ضمن سياسة المضايقة والإساءة، بما في ذلك استخدام بنوك خدمات مطابقة الوسائط.
- تحدي الاعتماد على الأنظمة التلقائية التي تغلق الطعون تلقائيًا خلال 48 ساعة في حالة عدم إجراء مراجعة.
في إطار عملية اتخاذ القرارات، يمكن للمجلس إصدار توصيات بشأن السياسة إلى Meta. وعلى الرغم من أن هذه التوصيات غير ملزمة، يتعين على Meta الرد عليها في غضون 60 يومًا. وبناءً على ذلك، يرحب المجلس بتلقي تعليقات العامة التي تقترح توصيات ملائمة لهاتين الحالتين.
تعليقات العامة
إذا كنت تشعر أنت أو مؤسستك بالقدرة على الإسهام بوجهات نظر قيِّمة يمكن أن تساعد في البت في الحالتين اللتين أُعلِن عنهما اليوم، يمكنك تقديم إسهاماتك باستخدام الرابط أعلاه. يُرجى العلم بأنه يمكن تقديم تعليقات العامة بشكل مجهول الهوية. يمكن تلقي التعليقات من العامة لمدة 14 يومًا، وينتهي تلقي التعليقات الساعة 23:59 بتوقيتك المحلي يوم الثلاثاء الموافق 30 أبريل.
احترامًا لحقوق النساء اللاتي يظهرن بهذه المنشورات والحد من مخاطر التعرض لمزيد من المضايقات، يطلب المجلس ألا تحتوي تعليقات العامة على أسماء أو تشارك معلومات خاصة عن أطراف ثالثة أو تتكهن بهويات الأشخاص الذين يظهرون في محتوى هذه الحالات.
الخطوة التالية
في الأسابيع القليلة القادمة، سيتداول أعضاء المجلس هاتين الحالتين. وبمجرد أن يتوصلوا إلى قرارات نهائية، سننشرها على موقع الويب الخاص بمجلس الإشراف.
لتلقي تحديثات عند إعلان المجلس عن الحالات الجديدة أو نشر القرارات، يمكنك التسجيل هنا.
