El Consejo asesor de contenido anula la decisión de Meta en el caso del video de la comisaría de Haití
5 de diciembre de 2023
El Consejo asesor de contenido anuló la decisión de Meta de retirar un video de Facebook en el que se veía que unas personas entraban a una comisaría en Haití, intentaban abrir una celda donde se alojaba el presunto miembro de una pandilla y lo amenazaban con violencia. Para el Consejo, el video sí infringía la política de violencia e incitación de la empresa. Sin embargo, la mayoría de los miembros del Consejo no están de acuerdo con la evaluación que realizó Meta respecto de la aplicación de la concesión de interés periodístico en este caso. Para esta mayoría, que Meta se haya demorado casi tres semanas en eliminar el contenido implica que el riesgo de daño en la vida real había disminuido lo suficiente como para aplicar dicha concesión. Asimismo, el Consejo recomienda que Meta evalúe la efectividad y puntualidad de sus respuestas ante contenido remitido por medio del programa de socios de confianza.
Información sobre el caso
En mayo de 2023, un usuario de Facebook publicó un video en el que se mostraba que personas vestidas de civiles entraban a una comisaría, intentaban abrir una celda donde se alojaba un hombre que se presume es miembro de una pandilla, según Meta, y gritaban "abriremos la puerta" y "ya es hombre muerto". Hacia el final del video, alguien grita "bwa kale na boudaw", que Meta interpretó como una incitación para que el grupo "tome medidas contra la persona al estilo 'bwa kale', en otras palabras, que lo linchen". Meta también interpretó "bwa kale" como una referencia al movimiento civil en Haití por el cual las personas hacen justicia por mano propia. El video iba acompañado por una descripción en criollo haitiano que incluía la afirmación "la policía no puede hacer nada". La publicación se vio más de 500.000 veces, y el video se reprodujo alrededor de 200.000 veces.
Haití está atravesando un momento de inseguridad sin precedentes en el que las pandillas están tomando control del territorio y aterrorizando a la población. Debido a la incapacidad de la policía de abordar situaciones de violencia y, en algunos casos, a su complicidad, emergió un movimiento con el que "más de 350 personas [fueron] linchadas por gente local y grupos de vigilantes" en un período de cuatro meses este año, según la Alta Comisionada para los derechos humanos de la ONU. A modo de represalia, las pandillas se vengaron de aquellos que creían parte o simpatizantes del movimiento.
Un socio de confianza marcó el video a Meta como potencialmente infractor 11 días después de que se publicara y advirtió que este podría incitar a más violencia. El programa de socios de confianza de Meta es una red de organizaciones no gubernamentales, agencias humanitarias e investigadores en materia de derechos humanos de 113 países. Meta le explicó al Consejo que "cuanto mayor es el nivel de riesgo [de violencia de un país], más prioritario es entablar relaciones con socios de confianza" que pueden reportar contenido a la empresa. Aproximadamente ocho días después de recibir el reporte del socio de confianza en este caso, Meta determinó que el video incluía tanto una declaración de intención de cometer violencia grave como una incitación a ella, y eliminó el contenido de Facebook. Meta remitió este caso al Consejo para abordar las complejas preguntas de moderación que plantea el contenido relacionado con el movimiento "Bwa Kale" en Haití. Meta no aplicó la concesión de interés periodístico porque la empresa determinó que el riesgo de daño era alto y superaba el valor de interés público de la publicación, teniendo en cuenta el patrón actual de represalias y asesinatos en Haití.
Conclusiones principales
El Consejo determinó que el contenido infringía la norma comunitaria sobre violencia e incitación de Facebook porque había una amenaza creíble de daño en la vida real tanto para el prisionero de la celda como para otras personas. Sin embargo, la mayoría de los miembros del Consejo no están de acuerdo con la aplicación de Meta de la concesión de interés periodístico en este caso. Dada la demora de casi tres semanas entre la publicación y la aplicación de medidas, Meta debería haber aplicado la concesión de interés periodístico para conservar el contenido. Asimismo, el Consejo concluye en que el riesgo de daño y el interés público implicado en cualquier análisis que tome en cuenta el interés periodístico deberían evaluarse en el momento en que Meta considera emitir una concesión, no cuando se publica el contenido. El Consejo determinó que Meta debería actualizar el texto de la concesión de interés periodístico para que esto les quede claro a los usuarios.
Para la mayoría de los miembros del Consejo, que Meta se haya demorado casi tres semanas en eliminar el contenido implica que el riesgo de daño en la vida real había disminuido lo suficiente como para aplicar dicha concesión. Este grupo tuvo en cuenta el contexto en Haití, la medida y el alcance de la publicación y la posibilidad de daños debido a la demora en la aplicación de políticas. Para ese entonces, cuando el video se había visto 200.000 veces, el riesgo que suponía el contenido probablemente ya se habría materializado. Asimismo, en una situación de violencia generalizada prolongada en el orden público, compartir información es incluso más importante, ya que permite que las comunidades reaccionen ante los acontecimientos, y el video en este caso tiene el potencial de informar a las personas tanto en Haití como en el extranjero sobre la realidad que vive el país.
No obstante, para una minoría de los miembros del Consejo, Meta tomó la decisión correcta de aplicar la concesión. Como el contenido se publicó durante un período de mucho riesgo, la amenaza de que el video generara más hechos de violencia y represalias no había desaparecido cuando Meta revisó el contenido. Estos miembros del Consejo consideran que la eliminación era necesaria para abordar dichos riesgos.
Al Consejo le preocupa la capacidad de Meta de moderar contenido en Haití de modo oportuno durante este período de riesgo elevado. La demora en este caso parece derivar de la incapacidad de la empresa de invertir los recursos adecuados en la moderación de contenido en dicho país. Meta no pudo proporcionar una evaluación oportuna del reporte de su socio de confianza. Los reportes de los socios de confianza son una de las principales herramientas que Meta usa en Haití para identificar contenido potencialmente infractor. Un reporte reciente de un socio de confianza determinó que Meta no brinda a sus propios equipos los recursos adecuados para revisar el contenido que identifican los socios de confianza y existen importantes irregularidades en los tiempos de respuesta.
Por último, el Consejo expresó que Meta no logró activar su protocolo de la política de crisis en Haití. Si bien Meta le manifestó al Consejo que ya había implementado medidas de mitigación de riesgo, al Consejo le preocupa que la prolongada demora en este caso indique que las medidas actuales son inadecuadas. Si la empresa no puede usar este protocolo en estas situaciones, no podrá llevar a cabo la moderación de manera oportuna o fundamentada, lo que socava la capacidad de la empresa y del público de evaluar la efectividad del protocolo para cumplir sus objetivos.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión de Meta de eliminar este contenido y solicitó que se restaurara la publicación.
El Consejo recomendó que Meta llevara a cabo estas acciones:
- Evalúe la puntualidad y efectividad de sus respuestas ante contenido remitido por medio del programa de socios de confianza para abordar el riesgo de daño, en particular cuando Meta cuenta con herramientas, procesos o medidas de moderación limitadas o nulas para identificar y evaluar contenido.
- El Consejo también aprovecha esta oportunidad para recordarle a Meta sobre una recomendación anterior del caso "Poema ruso", en la que se insta a la empresa a hacer pública una excepción a su política de violencia e incitación. Esta excepción permite el contenido que "repudia la violencia o genera conciencia sobre ella", pero Meta exige que el usuario deje en claro si publica el contenido con uno de estos dos fines.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic aquí.
