El Consejo asesor de contenido ratificó la decisión de Meta en el caso de la publicación sobre armas vinculada con el conflicto en Sudán
13 de febrero de 2024
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar una publicación que contenía el gráfico de un cartucho de arma, acompañado por una descripción que brindaba instrucciones para fabricar y arrojar un cóctel Molotov. Para el Consejo, la publicación infringía la norma comunitaria sobre violencia e incitación de Facebook y suponía un riesgo inminente de daño que podría exacerbar la violencia que hay actualmente en Sudán. Este caso trajo aparejadas preocupaciones más generales sobre las responsabilidades de Meta con los derechos humanos en cuanto al contenido que incluye instrucciones sobre armas que se comparte durante conflictos armados. Para cumplir con tales responsabilidades, Meta debe garantizar que las excepciones a sus reglas sobre violencia e incitación sean más claras. Asimismo, Meta debe desarrollar herramientas para corregir sus propios errores cuando se envía a los usuarios una notificación incorrecta sobre qué norma comunitaria infringieron con su contenido.
Información sobre el caso
En junio de 2023, un usuario de Facebook publicó la ilustración de un cartucho con sus componentes identificados en árabe. La descripción de la publicación brinda instrucciones para crear un cóctel Molotov usando dichos componentes y aconseja usar un casco al arrojar el dispositivo incendiario. Concluye con un grito de victoria para la población sudanesa y las Fuerzas Armadas de Sudán (FAS).
Dos meses antes de que se publicara el contenido, se desató una lucha en Sudán entre las FAS y las Fuerzas de Apoyo Rápido (FAR), un grupo paramilitar que Meta designó como peligroso en agosto de 2023. El conflicto armado en Sudán sigue vigente y se diseminó por todo el país, y ambos grupos usan armas explosivas en áreas con mucha densidad de población civil.
Los sistemas automatizados de Meta detectaron el contenido y determinaron que infringía la norma comunitaria sobre violencia e incitación de Facebook. Meta eliminó la publicación y aplicó una falta estándar al perfil del usuario. El usuario apeló de inmediato. Tras esto, uno de los revisores de Meta determinó que la publicación infringía la política de bienes y servicios restringidos. Entonces, el usuario apeló al Consejo, luego de lo cual Meta determinó que el contenido debía eliminarse, pero conforme a su decisión original basada en la norma comunitaria sobre violencia e incitación.
Conclusiones principales
El Consejo determinó que la publicación infringía la política de violencia e incitación de dos maneras. En primer lugar, el efecto combinado de la imagen y la descripción infringía la regla que prohíbe "instrucciones sobre cómo fabricar o usar armas en las que se establece explícitamente el objetivo de herir gravemente o matar personas". Independientemente de la intención de la persona que creó la publicación, la guía paso a paso para construir un cóctel Molotov y el consejo de "usar un casco" indica que el contenido incita a las personas a ejecutar las instrucciones. En segundo lugar, recurrir a la violencia en apoyo de las FAS durante el conflicto armado en curso no se relaciona con una finalidad no violenta. La política de violencia e incitación prohíbe instrucciones para crear armas, a menos que "quede claro por el contexto que el contenido no tiene una finalidad violenta".
La regla que prohíbe instrucciones sobre cómo fabricar y usar armas sí incluye una excepción para el contenido que se comparte para fines de "autodefensa recreativa, entrenamiento a cargo de las fuerzas armadas de un país, videojuegos comerciales o cobertura de noticias". Las partes interesadas a las que consultó el Consejo, así como las noticias afirmaron que Meta permite que se publiquen dichas instrucciones en un contexto de autodefensa durante determinados conflictos armados. Meta lo niega rotundamente. El Consejo no está en una posición para determinar la veracidad de estas afirmaciones contradictorias.
Sin embargo, es fundamental que las reglas de Meta en cuanto a temas tan importantes sean claras y se apliquen de forma coherente y rigurosa. Dado que tanto la población civil como las personas implicadas en la lucha durante un conflicto usan las plataformas de Meta para compartir información sobre el uso de armas o contenido violento relacionado con autodefensa, Meta debe aclarar qué significan realmente las excepciones de "autodefensa recreativa" y "entrenamiento a cargo de las fuerzas armadas". El Consejo no está de acuerdo con Meta en que estos términos en el texto público de la norma comunitaria sobre violencia e incitación tienen "un significado simple". Para que esto quede más claro, Meta debe explicar mejor qué partes se pueden beneficiar de la "autodefensa recreativa" y en qué contextos se aplica esta excepción. Asimismo, el texto público de la política que prohíbe las instrucciones para fabricar o usar armas o explosivos no indica expresamente que los contextos de autodefensa no se tienen en cuenta durante conflictos armados.
Este caso también pone de manifiesto otra excepción poco clara de la norma comunitaria sobre violencia e incitación, que permite amenazas dirigidas a terroristas y otras partes violentas. Esto no es lo suficientemente claro porque Meta no explica si esta disposición se aplica a todas las organizaciones y personas que designa en virtud de su política de personas y organizaciones peligrosas. Cabe destacar la importancia de ello para este caso porque las FAR se designaron durante un período relevante en 2023. Sin embargo, es imposible para los usuarios saber si esta publicación se podría eliminar o no, dado que la lista de personas y organizaciones designadas no está disponible públicamente. El Consejo ya manifestó inquietudes respecto de dicha falta de claridad en nuestra decisión del caso Video de una estación de policía haitiana.
Al Consejo le preocupa también que el sistema de notificaciones de Meta no permite a la empresa rectificar sus propios errores cuando no comunica correctamente qué norma comunitaria se infringió. Es fundamental poder indicarles correctamente a los usuarios qué infracción cometieron, ya que así se garantiza la equidad. Una notificación incorrecta socava la capacidad de los usuarios de apelar y obtener resarcimiento. En este caso, se le informó al usuario infractor que la publicación se había eliminado porque contenía lenguaje que incita al odio, aunque se la había eliminado por infringir la norma comunitaria sobre violencia e incitación. Por lo tanto, el Consejo le recomienda a Meta explorar vías factibles desde el punto de vista técnico por las cuales pueda corregir las notificaciones que envía a los usuarios.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de eliminar la publicación.
El Consejo le recomendó a Meta:
- Modificar la política de violencia e incitación para que incluya la definición de "autodefensa recreativa" y "entrenamiento a cargo de las fuerzas armadas" como excepciones a las reglas que prohíben a los usuarios brindar instrucciones para fabricar o usar armas, y aclare que no admite excepción alguna relacionada con autodefensa cuando estas instrucciones se proporcionan en el contexto de un conflicto armado.
- Desarrollar herramientas que le permita rectificar sus propios errores al enviar mensajes a los usuarios para notificarles sobre la norma comunitaria que infringieron, de modo que estos puedan entender bien qué políticas incumplieron con su contenido.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic aquí.
