El Consejo asesor de contenido anuló las decisiones de Meta en los casos de violencia contra las mujeres
12 de julio de 2023
El Consejo asesor de contenido anuló las decisiones de Meta de eliminar dos publicaciones de Instagram que repudiaban la violencia de género. El Consejo recomienda que Meta incluya la excepción que permite contenido que repudia la violencia de género o genera conciencia al respecto en el texto público de la política sobre lenguaje que incita al odio, y que actualice sus pautas internas para los revisores a fin de garantizar que dichas publicaciones no se eliminen por error.
Información de los casos
En esta decisión, el Consejo tuvo en cuenta dos publicaciones de una usuaria de Instagram en Suecia. Meta eliminó ambas publicaciones por infringir su norma comunitaria sobre lenguaje que incita al odio. Luego de que el Consejo identificara los casos, Meta determinó que la primera publicación se había eliminado por error, pero sostuvo su decisión en cuanto a la segunda.
La primera publicación incluía un video con una grabación de audio y su transcripción, ambas en sueco, de una mujer que describía lo que había experimentado en una relación íntima violenta, por ejemplo, que se sentía incapaz de hablar sobre la situación con sus familiares. En la descripción, se indicaba que la mujer que se escuchaba en la grabación de audio había dado su consentimiento para que esta se publicara y que la voz se había modificado. También se afirmaba que existe una cultura de culpar a las víctimas de violencia de género y que poco se comprende cuán difícil es para las mujeres alejarse de una pareja violenta. En la descripción, se leía: "Los hombres asesinan mujeres, las violan y abusan de ellas mental y físicamente… en todo momento, todos los días". También se compartía información sobre organizaciones de apoyo a las víctimas de parejas violentas, se mencionaba el Día Internacional de la Eliminación de la Violencia contra la Mujer y se expresaba el deseo de que las mujeres que leyeran la publicación se dieran cuenta de que no están solas.
Luego de que uno de los clasificadores de Meta detectara que el contenido podría infringir las reglas de Meta sobre lenguaje que incita al odio, dos revisores evaluaron la publicación y la eliminaron. Los mismos dos revisores sostuvieron esta decisión en diferentes niveles de revisión. Como consecuencia de que el Consejo seleccionara este caso, Meta llegó a la conclusión de que había eliminado el contenido por error y restauró la publicación.
Mientras el Consejo comenzaba a evaluar la primera publicación, recibió otra apelación de la misma usuaria. La segunda publicación, compartida también en Instagram, incluía un video en el que una mujer hablaba en sueco y señalaba palabras escritas en sueco en un cuaderno. En el video, la persona que hablaba decía que, pese a odiar a los hombres, no los odiaba a todos. También explicaba que odiaba a los hombres para repudiar la misoginia y que el fundamento de ese odio radicaba en el temor a la violencia. Meta eliminó el contenido por infringir sus reglas sobre lenguaje que incita al odio. La usuaria apeló la eliminación ante Meta, pero la empresa sostuvo su decisión original tras una revisión manual. Después de que se le informara a Meta que el Consejo había seleccionado este caso, la empresa mantuvo su postura.
Desde al menos 2017, algunas campañas digitales destacan que, debido a las políticas sobre lenguaje que incita al odio de Facebook, se eliminan frases cuyo fin es poner el foco en el acoso y la violencia de género. Por ejemplo, mujeres y activistas coordinaron la publicación de frases como "los hombres son una basura" y "los hombres son escoria" y, luego, se mostraron en desacuerdo con su posterior eliminación por considerarse lenguaje que incita al odio contra los hombres.
Conclusiones principales
El Consejo determinó que ninguna de las dos publicaciones infringía las reglas de Meta sobre lenguaje que incita al odio.
En la primera publicación, el Consejo concluyó en que la afirmación "Los hombres asesinan mujeres, las violan y abusan de ellas mental y físicamente… en todo momento, todos los días" es una frase aceptable y no infringe la política sobre lenguaje que incita al odio de Meta. Dado que la publicación hace referencia a campañas internacionales contra la violencia hacia la mujer y brinda recursos locales, como organizaciones cuya labor es ayudar a mujeres que son víctimas, es claro que la frase se refiere a los hombres que infligen violencia contra las mujeres.
Asimismo, el Consejo determinó que la segunda publicación no es una expresión de desprecio contra los hombres, sino que repudia la violencia contra las mujeres y debate las raíces del odio basado en género. Si bien Meta manifestó que la declaración de la usuaria en la que afirmaba que ella no odiaba a todos hombres no afectaba a la evaluación de otras partes de la publicación, el Consejo no estuvo de acuerdo y evaluó la publicación de forma integral. El Consejo determinó que los demás aspectos de la publicación que Meta mencionó como potencialmente infractores no lo son si se leen en el contexto de la publicación. Para algunos miembros del Consejo la publicación en cuestión sí infringía las reglas sobre lenguaje que incita al odio de Meta.
Al Consejo le preocupa que el enfoque de Meta para aplicar normas sobre lenguaje que incita al odio en función del género conduzca a la eliminación desproporcionada de contenido que pretende repudiar la violencia de género y generar conciencia al respecto. Meta afirma, por ejemplo, que la primera publicación debería permanecer en sus plataformas y que la política sobre lenguaje que incita al odio "se diseñó para dar lugar a que se genere conciencia sobre la violencia de género". No obstante, ni la política pública ni sus documentos de pautas internas para moderadores contienen directrices claras para garantizar que publicaciones como estas no se eliminen por equivocación. Las confusas pautas de la empresa hacen que a los moderadores les sea casi imposible llegar a la conclusión correcta. Si bien Meta se basó en claves contextuales para determinar que la primera publicación no infringía las normas una vez identificada por el Consejo, las pautas para los moderadores de la empresa limitan en gran medida la posibilidad de realizar un análisis del contexto.
Para el Consejo, en este contexto, es fundamental que las afirmaciones que repudian la violencia de género o generan conciencia al respecto no se eliminen erróneamente. La preocupación del Consejo de que esté ocurriendo esto se acentúa particularmente porque la concesión para este tipo de contenido, que Meta destaca, no se comunica al público con claridad y las pautas para los moderadores son confusas. Para abordar esta problemática, Meta debería clasificar sus reglas públicas y brindar pautas apropiadas a los moderadores que reflejen mejor esta concesión.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló las decisiones de Meta de eliminar ambas publicaciones. El Consejo recomienda que Meta lleve a cabo estas acciones:
- Incluir la excepción para permitir contenido que genera conciencia sobre la violencia de género o la repudia en el texto público de la política sobre lenguaje que incita al odio.
- Actualizar las pautas para sus moderadores a gran escala con especial atención a las reglas sobre calificación para garantizar que el contenido que repudia la violencia de género o genera conciencia al respecto no se elimine por error.
- Actualizar su Centro de transparencia con información sobre las penalizaciones relacionadas con la acumulación de faltas en Instagram. El Consejo valora que Meta haya proporcionado información adicional sobre las faltas aplicadas a los usuarios de Facebook en respuesta a las recomendaciones que emitió. Considera que debería pasar lo mismo con los usuarios de Instagram.
- Evaluar cómo su protocolo actual de guía para la revisión afecta a la precisión. El Consejo considera que Meta mejoraría la precisión en la moderación de contenido si ajustara este protocolo para priorizar que se envíen tareas para una segunda revisión a revisores diferentes de los que evaluaron el contenido anteriormente.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre estos casos, haz clic en el archivo adjunto a continuación.
