El Consejo asesor de contenido anuló la decisión original de Meta en el caso sobre la caricatura de la Policía de Colombia (2022-004-FB-UA)
15 de septiembre de 2022
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar una publicación de Facebook en la que se exhibía la violencia policial en Colombia mediante una caricatura. Al Consejo le preocupa que los bancos de Media Matching Service, que pueden eliminar de forma automática imágenes que infringen las reglas de Meta, puedan amplificar el impacto de las decisiones incorrectas respecto del contenido incluido en ellos. Como respuesta, Meta debe mejorar de inmediato sus procedimientos para eliminar con rapidez contenido no infractor de estos bancos.
Información sobre el caso
En septiembre de 2020, un usuario de Facebook en Colombia publicó una caricatura que se asemejaba al escudo oficial de la Policía Nacional de Colombia, en la que aparecían tres figuras en uniforme policial con las porras en alto. Estas parecían estar pateando y golpeando a otra figura tirada en el suelo con sangre debajo de la cabeza. El texto del escudo rezaba, en español, "República de Colombia - Policía Nacional - Bolillo y Pata". Meta tradujo el texto, que interpretó como una denuncia de violencia, ya que "bolillo" y "pata" hacen referencia a "porras" y "patadas", respectivamente.
Según Meta, en enero de 2022, 16 meses después de que el usuario publicara el contenido, la empresa lo eliminó ya que coincidía con una imagen que estaba en un banco de Media Matching Service. Estos bancos pueden identificar y eliminar automáticamente imágenes que los revisores determinan que infringen las normas de la empresa. Debido a que el Consejo seleccionó este caso, Meta determinó que la publicación no infringía sus reglas y la restauró. Asimismo, la empresa restauró otros contenidos que mostraban esta caricatura, que los bancos de Media Matching Service habían eliminado por error.
Conclusiones principales
Como Meta reconoce, esta publicación no infringía sus políticas. Meta cometió un error al incluir esta caricatura en el banco de Media Matching Service, lo que condujo a eliminar la imagen de la plataforma de forma masiva y desproporcionada, así como también el contenido publicado por el usuario en este caso. Pese a que 215 usuarios apelaron estas eliminaciones, y un 98% de dichas apelaciones resultaron favorables, Meta no eliminó la caricatura de este banco hasta que el caso llegó al Consejo.
Este caso demuestra de qué manera, mediante sistemas automatizados para eliminar contenido, los bancos de Media Matching Service pueden amplificar el impacto de las decisiones incorrectas que toman los revisores. Agregar contenido a estos bancos por error supone un riesgo especialmente alto cuando, como en este caso, se incluye un discurso político que critica a agentes del Estado.
En respuesta, Meta debería desarrollar mecanismos que permitan eliminar con rapidez el contenido no infractor que se agrega erróneamente a dichos bancos. Cada vez que una decisión de eliminar contenido incluido en estos bancos se revierte en el proceso de apelación, se deberían poner en marcha revisiones que puedan quitar este contenido del banco.
Al Consejo le preocupa particularmente que Meta no mida la precisión de los bancos de Media Matching Service en cuanto a políticas de contenido específicas. Sin estos datos, que son fundamentales para mejorar el funcionamiento de estos bancos, la empresa no puede determinar si esta tecnología tiene más efectividad con algunas normas comunitarias que con otras.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar el contenido.
El Consejo recomendó que Meta:
- Se asegure de que el contenido con altas tasas de apelaciones y gran porcentaje de apelaciones favorables se reevalúe a fin de determinar si se debe eliminar de los bancos de Media Matching Service.
- Limite el tiempo que transcurre desde que se identifica y se vuelve a revisar el contenido incluido en el banco hasta que se lo elimina de allí, si se determina que no infringe las normas. Con esta medida, se garantizaría que el contenido no infractor se quite de inmediato de dichos bancos.
- Publique en sus informes de transparencia las tasas de errores relativas al contenido incluido erróneamente en los bancos de contenido infractor de Media Matching Service, desglosadas por política de contenido.
Más información:
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic en el archivo adjunto a continuación.
