El Consejo asesor de contenido anunció un caso de negación del Holocausto
31 de agosto de 2023
El Consejo anunció hoy un nuevo caso para su consideración. Como parte de este proceso, invitamos a las personas y organizaciones a enviar comentarios.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que podrían afectar a muchos usuarios de todo el mundo, que sean de suma relevancia para el discurso público o que planteen cuestiones importantes sobre las políticas de Meta.
Este es el caso que anunciamos hoy:
Negación del Holocausto
2023-022-IG-UA
Apelación de un usuario para eliminar contenido de Instagram
Enviar comentarios del público aquí.
Para leer este anuncio en hebreo, haz clic aquí.
לקריאת הודעה זו בעברית, יש ללחוץ כאן.
En septiembre de 2020, un usuario de Instagram con aproximadamente 9.000 seguidores publicó una imagen de Calamardo, un personaje animado de la serie de televisión Bob Esponja, con una burbuja de diálogo titulada "Fun Facts About The Holocaust" (Datos divertidos sobre el Holocausto). La burbuja de diálogo contenía afirmaciones sobre el Holocausto que no son ciertas. El pie de foto incluía varias etiquetas relacionadas con memes, y es posible que algunas de ellas estuvieran dirigidas a públicos geográficos específicos. En comentarios realizados en su propia publicación, el usuario reiteró que las afirmaciones eran "real history" (historia real). La publicación se visualizó unas 1.000 veces y obtuvo menos de 1.000 Me gusta.
El 12 de octubre de 2020, varias semanas después de la fecha de publicación original del contenido, Meta anunció revisiones a sus políticas de contenido para prohibir la negación del Holocausto. Se agregó "Negación o distorsión de la información sobre el Holocausto" a la lista de "Lenguaje o imágenes deshumanizantes en forma de comparaciones, generalizaciones o afirmaciones no aptas basadas en comportamientos" de la sección Lenguaje que incita al odio (Nivel 1) de las Normas comunitarias. El 23 de noviembre de 2022, Meta reorganizó la sección de lenguaje que incita al odio de las Normas comunitarias para incluir "Negación del Holocausto" como ejemplo de "estereotipos dañinos vinculados históricamente con intimidación, exclusión o violencia sobre la base de una característica protegida" en el Nivel 1.
Desde que el contenido se publicó en septiembre de 2020, los usuarios lo reportaron seis veces como lenguaje que incita al odio. Cuatro de estos reportes se realizaron antes del cambio en la política de Meta, y dos se hicieron después. Algunos reportes se evaluaron automáticamente y se concluyó que el contenido no infringía las políticas de Meta, mientras que otros reportes se cerraron automáticamente como resultado de lo que Meta describió como "políticas de automatización relacionadas con el COVID-19". Mediante estas políticas, presentadas al principio de la pandemia en 2020, se cerraban automáticamente tareas de revisión en función de distintos criterios a fin de disminuir el volumen de reportes para revisión manual, mientras que se mantenían abiertos los reportes de "alto riesgo". Debido a que algunos reportes se cerraron automáticamente, el contenido no se eliminó de Instagram.
Se llevó a cabo la revisión manual de dos reportes. En ambas instancias, una antes del cambio en la política y otra después, se concluyó que el contenido no infringía las normas. En mayo de 2023, otro usuario que reportó el contenido apeló la decisión, pero esa apelación se cerró automáticamente debido a las políticas de automatización relacionadas con el COVID-19 de Meta. Luego, el mismo usuario apeló al Consejo y expresó una profunda preocupación por el hecho de que Meta no eliminó el contenido sobre la negación del Holocausto.
El Consejo asesor de contenido seleccionó este caso debido a su relevancia para las prioridades estratégicas del Consejo y el volumen de apelaciones de usuarios que cuestionaron la manera en que Meta aplicó su prohibición relacionada con la negación del Holocausto.
Este caso está amparado por la prioridad Lenguaje que incita al odio contra grupos marginados del Consejo. Luego de que el Consejo seleccionara este caso, Meta determinó que había cometido un error en su decisión original de conservar el contenido en Instagram y la empresa, en última instancia, eliminó la publicación.
Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:
- Investigaciones de tendencias online sobre contenido que niegue la base fáctica del Holocausto y los daños asociados online y offline.
- Las responsabilidades de Meta con los derechos humanos en relación con contenido que niega la base fáctica del Holocausto, incluidos los derechos a la dignidad, la seguridad y la libertad de expresión.
- Desafíos y prácticas recomendadas relacionados con el uso de la automatización para detectar con precisión el lenguaje que incita al odio y promueve narrativas falsas sobre grupos con características protegidas, así como el lenguaje que incita al odio en la forma de memes u otros videos o imágenes con texto superpuesto, y cómo reducir la incorrecta aplicación de políticas.
- Desafíos y prácticas recomendadas relacionados con la prevención de la eliminación errónea (falsos positivos) de contenido en contra del lenguaje que incita al odio, por ejemplo, contenido en forma de sátira o cualquier otro tipo de expresión.
- La dependencia de Meta en la automatización para la moderación de contenido desde el comienzo de la pandemia de COVID-19 y lo que esto implica para la capacidad de los usuarios de apelar y rectificar errores.
- La utilidad de los informes de transparencia de Meta en cuanto al alcance y la precisión de su aplicación de políticas contra el lenguaje que incita al odio, en especial para personas que estudian o trabajan para combatir el lenguaje que incita al odio online.
Como parte de sus decisiones, el Consejo puede formular recomendaciones de políticas a Meta. Si bien estas recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. El Consejo recibe comentarios del público con recomendaciones que sean relevantes para este caso.
Comentarios del público
Si tú o tu organización consideran que pueden contribuir con perspectivas valiosas que ayuden a tomar una decisión sobre el caso anunciado hoy, puedes enviar tus aportes a través del enlace que aparece arriba. El plazo para enviar comentarios del público dura 14 días y finaliza el jueves, 14 de septiembre, a las 23:59 de tu zona horaria local.
Próximos pasos
En las próximas semanas, los miembros del Consejo deliberarán sobre este caso. Cuando hayan tomado su decisión final, la publicaremos en el sitio web del Consejo asesor de contenido. Para recibir notificaciones cuando el Consejo anuncie nuevos casos o publique decisiones, regístrate aquí.
