Video de una estación de policía haitiana

Para leer esta decisión en criollo haitiano, haz clic aquí.

Pou li desizyon sa an Kreyòl Ayisyen, klikeisit la.

Resumen

El Consejo asesor de contenido anuló la decisión de Meta de retirar un video de Facebook en el que se veía que unas personas entraban a una comisaría en Haití, intentaban abrir una celda donde se alojaba el presunto miembro de una pandilla y lo amenazaban con violencia. Para el Consejo, el video sí infringía la política de violencia e incitación de la empresa. Sin embargo, la mayoría de los miembros del Consejo no están de acuerdo con la evaluación que realizó Meta respecto de la aplicación de la concesión de interés periodístico en este caso. Para esta mayoría, el hecho de que Meta se haya demorado casi tres semanas en eliminar el contenido implica que el riesgo de daño en la vida real había disminuido lo suficiente como para aplicar dicha concesión. Asimismo, el Consejo recomienda que Meta evalúe la efectividad y puntualidad de sus respuestas ante contenido remitido por medio del programa de socios de confianza.

Información sobre el caso

En mayo de 2023, un usuario de Facebook publicó un video en el que se mostraba que personas vestidas de civiles entraban a una comisaría, intentaban abrir una celda donde se alojaba un hombre que se presume es miembro de una pandilla, según Meta, y gritaban "abriremos la puerta" y "ya es hombre muerto". Hacia el final del video, alguien grita "bwa kale na boudaw", que Meta interpretó como una incitación para que el grupo "tome medidas contra la persona al estilo 'bwa kale', en otras palabras, que lo linchen". Meta también interpretó "bwa kale" como una referencia al movimiento civil en Haití por el cual las personas hacen justicia por mano propia. El video iba acompañado por una descripción en criollo haitiano que incluía la afirmación "la policía no puede hacer nada". La publicación se vio más de 500.000 veces, y el video se reprodujo alrededor de 200.000 veces.

Haití está atravesando un momento de inseguridad sin precedentes, en el que las pandillas están tomando control del territorio y aterrorizando a la población. Debido a la incapacidad de la policía de abordar situaciones de violencia y, en algunos casos, a su complicidad, emergió un movimiento con el que "más de 350 personas [fueron] linchadas por gente local y grupos de vigilantes" en un período de cuatro meses este año, según la Alta Comisionada para los derechos humanos de la ONU. A modo de represalia, las pandillas se vengaron de aquellos que creían parte o simpatizantes del movimiento.

Un socio de confianza marcó el video a Meta como potencialmente infractor 11 días después de que se publicara y advirtió que este podría incitar a más violencia. El programa de socios de confianza de Meta es una red de organizaciones no gubernamentales, agencias humanitarias e investigadores en materia de derechos humanos de 113 países. Meta le explicó al Consejo que "cuanto mayor es el nivel de riesgo [de violencia de un país], más prioritario es entablar relaciones con socios de confianza" que pueden reportar contenido a la empresa. Aproximadamente ocho días después de recibir el reporte del socio de confianza en este caso, Meta determinó que el video incluía tanto una declaración de intención de cometer violencia grave como una incitación a ella, y eliminó el contenido de Facebook. Meta remitió este caso al Consejo para abordar las complejas preguntas de moderación que plantea el contenido relacionado con el movimiento "Bwa Kale" en Haití. Meta no aplicó la concesión de interés periodístico porque la empresa determinó que el riesgo de daño era alto y superaba el valor de interés público de la publicación, teniendo en cuenta el patrón actual de represalias y asesinatos en Haití.

Conclusiones principales

El Consejo determinó que el contenido infringía la norma comunitaria sobre violencia e incitación de Facebook porque había una amenaza creíble de daño en la vida real tanto para el prisionero de la celda como para otras personas. Sin embargo, la mayoría de los miembros del Consejo no están de acuerdo con la aplicación de Meta de la concesión de interés periodístico en este caso. Dada la demora de casi tres semanas entre la publicación y la aplicación de medidas, Meta debería haber aplicado la concesión de interés periodístico para conservar el contenido. Asimismo, el Consejo concluye en que el riesgo de daño y el interés público implicado en cualquier análisis que tome en cuenta el interés periodístico deberían evaluarse en el momento en que Meta considera emitir una concesión, no cuando se publica el contenido. El Consejo determinó que Meta debería actualizar el texto de la concesión de interés periodístico para que esto les quede claro a los usuarios.

Para la mayoría de los miembros del Consejo, el hecho de que Meta se haya demorado casi tres semanas en eliminar el contenido implica que el riesgo de daño en la vida real había disminuido lo suficiente como para aplicar dicha concesión. Este grupo tuvo en cuenta el contexto en Haití, la medida y el alcance de la publicación y la posibilidad de daños debido a la demora en la aplicación de políticas. Para ese entonces, cuando el video se había visto 200.000 veces, el riesgo que suponía el contenido probablemente ya se habría materializado. Asimismo, en una situación de violencia generalizada prolongada y la ruptura del orden público, compartir información es incluso más importante, ya que permite que las comunidades reaccionen ante los acontecimientos, y el video en este caso tiene el potencial de informar a las personas tanto en Haití como en el extranjero sobre la realidad que vive el país.

No obstante, para una minoría de los miembros del Consejo, Meta tomó la decisión correcta al no aplicar la concesión. Como el contenido se publicó durante un período de mucho riesgo, la amenaza de que el video generara más hechos de violencia y represalias no había desaparecido cuando Meta revisó el contenido. Estos miembros del Consejo consideran que la eliminación era necesaria para abordar dichos riesgos.

Al Consejo le preocupa la capacidad de Meta de moderar contenido en Haití de modo oportuno durante este período de riesgo elevado. La demora en este caso parece derivar de que la empresa no dedica los recursos adecuados a la moderación de contenido en dicho país. Meta no pudo proporcionar una evaluación oportuna del reporte de su socio de confianza. Los reportes de los socios de confianza son una de las principales herramientas que Meta usa en Haití para identificar contenido potencialmente infractor. Un reporte reciente de un socio de confianza determinó que Meta no brinda a sus propios equipos los recursos adecuados para revisar el contenido que identifican los socios de confianza y existen importantes irregularidades en los tiempos de respuesta.

Por último, el Consejo expresó que Meta no activó su protocolo de la política de crisis en Haití. Si bien Meta le manifestó al Consejo que ya había implementado medidas de mitigación de riesgo, al Consejo le preocupa que la prolongada demora en este caso indique que las medidas actuales son inadecuadas. Si la empresa no puede usar este protocolo en estas situaciones, no podrá llevar a cabo la moderación de manera oportuna o fundamentada, lo que socava la capacidad de la empresa y del público de evaluar la efectividad del protocolo para cumplir sus objetivos.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de eliminar este contenido y solicitó que se restaurara la publicación.

El Consejo le recomendó a Meta:

• Evaluar la puntualidad y efectividad de sus respuestas ante contenido remitido por medio del programa de socios de confianza para abordar el riesgo de daño, en particular, cuando Meta cuenta con herramientas, procesos o medidas de moderación proactivos limitados o nulos para identificar y evaluar contenido.
• El Consejo también aprovecha esta oportunidad para recordarle a Meta sobre una recomendación anterior del caso "Poema ruso", en la que se instó a la empresa a hacer pública una excepción a su política de violencia e incitación. Esta excepción permite el contenido que "repudia la violencia o genera conciencia sobre ella", pero Meta exige que el usuario deje en claro si publica el contenido con uno de estos dos fines. * Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1 Resumen de la decisión

El Consejo asesor de contenido anuló la decisión de Meta de retirar una publicación de Facebook de un video en el que se veía a un grupo de personas entrando a una comisaría en Haití. Mientras la multitud intentaba acceder a una celda cerrada donde se encontraba el presunto miembro de una pandilla, los miembros de la multitud gritaban "abriremos la puerta" y "ya es hombre muerto", entre otras frases que amenazaban con violencia. El Consejo determinó que la publicación infringía la política de violencia e incitación de Meta porque representaba incitación a la violencia en un contexto en el que había una amenaza creíble de daño en la vida real tanto para el prisionero como para otras personas. No obstante, la mayoría de los miembros del Consejo no están de acuerdo con la evaluación que realizó Meta respecto de la aplicación de la concesión de interés periodístico en este caso. Para esta mayoría, dada la demora de casi tres semanas de Meta para eliminar el contenido, el riesgo de daño había disminuido significativamente, y Meta debería haber conservado el contenido en la plataforma debido al valor del interés público de la publicación. Para una minoría del Consejo, Meta hizo lo correcto al no aplicar la concesión de interés periodístico en este caso, ya que el riesgo de que el video pudiera provocar otros actos violentos y de represalia no había cesado cuando la empresa lo revisó, dado el contexto general de violencia generalizada y continua de pandillas y de "defensa propia" o "vigilantes" de Haití. El Consejo también indicó que, para cumplir con sus responsabilidades en materia de derechos humanos, Meta debe garantizar que la moderación de contenido en Haití, durante este tiempo de mayor riesgo, sea efectiva y oportuna. El Consejo le recomendó a Meta evaluar la puntualidad y la efectividad de sus respuestas ante contenido remitido a través del programa de socios de confianza, entre otras cosas, la eficacia de la empresa al proporcionar respuestas oportunas ante los escalamientos y las medidas correctivas que prevé implementar para mejorar los tiempos de respuesta ante tales escalamientos.

2 Descripción y contexto del caso

En mayo de 2023, un usuario de Facebook publicó un video con una descripción escrita en criollo haitiano. En el video, se veía a un grupo grande de personas con ropa civil que entraban a una comisaría y se acercaban a una celda cerrada donde había un hombre dentro. De acuerdo con Meta, el hombre que se encontraba dentro de la celda era un supuesto miembro de la pandilla "5 segundos", una pandilla prominente y bien armada de Haití. En el video, también se observaba a una persona del grupo que se encontraba en la comisaría que intentaba romper la cerradura de la celda. Varias personas más gritaban palabras de aliento, como "abriremos la puerta" y "ya es hombre muerto". Hacia el final del video, alguien gritaba "bwa kale na boudaw". Según Meta señaló al remitir el caso al Consejo, la interpretación literal de esta frase es "palo de madera en el culo", y dado el contexto, indicaba una incitación al grupo "a tomar medidas contra la persona, al estilo 'Bwa Kale', en otras palabras, lincharlo". Meta interpretó el uso del término "bwa kale" como una referencia al movimiento civil homónimo, que involucra a civiles que hacen justicia por mano propia contra presuntos miembros de pandillas.

En el video, se incluía un texto en el que se describía lo que sucedía y se afirmaba que la "policía no puede hacer nada, las cosas se pondrán raras". De acuerdo con los lingüistas expertos a los que consultó el Consejo, el texto transmite una pérdida de fe en la policía y un panorama sombrío respecto de lo que podría suceder a continuación. La publicación se vio más de 500.000 veces, y el video se reprodujo alrededor de 200.000 veces.

Un socio de confianza marcó el video a Meta como potencialmente infractor 11 días después de que se publicara en Facebook y advirtió que este podría incitar a más violencia. Meta evaluó el contenido y lo eliminó de Facebook por infringir su norma comunitaria sobre violencia e incitación. El programa de socios de confianza de Meta es una red de organizaciones no gubernamentales, agencias humanitarias, organizaciones de defensa de los derechos humanos e investigadores de 113 países de todo el mundo. Meta le explicó al Consejo que "cuanto mayor es el nivel de riesgo [de violencia de un país], más prioritario es entablar relaciones con socios de confianza". Los socios de confianza pueden reportar contenido a Meta y proporcionar comentarios sobre las políticas de contenido de la empresa y su aplicación. En este caso, ocho días después de recibir el reporte del socio de confianza, Meta determinó que el video incluía tanto una declaración de intención de cometer violencia grave como una incitación a ella, y eliminó el contenido.

El siguiente contexto es pertinente para la decisión del Consejo. Haití está atravesando un momento de "inseguridad sin precedentes", en el que las pandillas están tomando control del territorio y aterrorizando a la población. La policía no puede hacer frente a la violencia y, en algunos casos, presuntamente es cómplice. De acuerdo con la Representante Especial de la ONU para Haití, "durante el primer trimestre del año, se registraron 1.647 incidentes criminales (homicidios, violaciones, secuestros y linchamientos)", lo cual representa más del doble en comparación con el mismo período de 2022. Este aumento de la violencia está ocurriendo en medio de una crisis política y humanitaria. Haití no tiene un Gobierno electo desde el asesinato del presidente Jovenel Moïse en 2021 y afronta una epidemia de cólera y desastres naturales. En marzo de 2023, Médicos Sin Fronteras (MSF) informó que debió cerrar uno de sus hospitales a raíz de la gran violencia presente en la capital del país. El primer ministro en funciones Ariel Henry realizó repetidos pedidos a la comunidad internacional para que enviara fuerzas multinacionales para luchar contra el control de las pandillas, y señaló que este debería ser un primer paso necesario para "crear un entorno en el que el Estado pueda volver a funcionar".

Un movimiento civil, al que se hace referencia como "Bwa Kale", emergió como respuesta ante el aumento de la violencia y la incapacidad del Gobierno o la policía de proteger a la población. Un acontecimiento ampliamente difundido que tuvo lugar el 24 de abril de 2023 fue un momento crucial para el movimiento. Cuando la policía haitiana detuvo un autobús en el que viajaban 14 hombres armados, que supuestamente se dirigían a unirse a una pandilla aliada en un distrito cercano, una multitud se reunió en la escena. La policía se mantuvo a distancia, y se vio que algunos ayudaron, mientras la multitud apedreaba a los presuntos miembros de la pandilla y los quemaba hasta la muerte. Grabaciones de este acontecimiento circularon en gran medida en los medios sociales. De acuerdo con un informe realizado por la Red Nacional de Defensa de los Derechos Humanos de Haití, tras la circulación de estas grabaciones en los medios sociales, otras personas "armadas con armas de fuego, machetes y neumáticos comenzaron a buscar a las bandas armadas, sus familiares o cualquier persona que se sospechara que tenía vínculos con estas para lincharlas". De acuerdo con la Alta Comisionada de la ONU para los Derechos Humanos, entre el 24 de abril y mediados de agosto, "más de 350 personas fueron linchadas por personas locales y grupos de vigilantes". A modo de represalia, las pandillas se vengaron de aquellos que creían parte o simpatizantes del movimiento.

El 2 de octubre de 2023, el Consejo de Seguridad de las Naciones Unidas autorizó una misión de seguridad multinacional de un año en Haití. Según se informó, pasarán varios meses antes de que se envíen fuerzas a Haití.

3 Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene autoridad para revisar las decisiones que Meta envía a revisión (artículo 2, sección 1, del acta constitutiva; artículo 2, sección 2.1.1, de los estatutos).

El Consejo puede ratificar o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

4 Fuentes de autoridad y pautas

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido

Entre las decisiones previas del Consejo asesor de contenido más relevantes, se encuentran las siguientes:

• Violencia en una comunidad del estado de Odisha de la India
• Primer ministro de Camboya
• Discurso del general brasileño
• Poema ruso
• Mención de los talibanes en los informes de noticias
• Publicación compartida de Al Jazeera
• Aislamiento de Öcalan
• Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump
• Afirmación sobre la existencia de una cura para el COVID-19
• Cita nazi

II. Políticas de contenido de Meta

La política de violencia e incitación de Meta "busca evitar daños en el mundo real que puedan relacionarse con contenido en Facebook". En las bases de la política, se indica que no todas las incitaciones a la violencia son literales y propensas a incitar actos violentos, por lo que la empresa intenta "tener en cuenta el lenguaje y el contexto para distinguir afirmaciones casuales de contenido que constituya una amenaza creíble a la seguridad pública o privada". En la política, se prohíben las "[d]eclaraciones de intención de cometer actos de violencia de gravedad alta" y la "[i]ncitación a actos de violencia de gravedad alta". Meta define violencia de gravedad alta como una amenaza que pudiera ocasionar la muerte o que probablemente sea letal. En las bases de la política, Meta explica que "vemos amenazas condicionales o expresiones de deseo contra terroristas y otros agentes violentos (p. ej.: 'Los terroristas merecen ser asesinados'), pero las consideramos no creíbles, salvo que se demuestre lo contrario".

El análisis del Consejo se basó en el compromiso de Meta con la "expresión", que la empresa describe como "primordial", y en el valor de "seguridad". Para explicar su compromiso con la expresión, Meta precisó que "en algunos casos, permitimos contenido que, de otro modo, incumpliría nuestras normas si es de interés periodístico y relevante para el público". Esto se conoce como concesión de interés periodístico. Se trata de una excepción general a las políticas que tiene validez para todas las Normas comunitarias. Para potencialmente otorgar la concesión, Meta lleva a cabo una prueba de equilibrio, en la que evalúa el interés público en el contenido frente al riesgo de daño. Meta elimina el contenido "incluso si tiene cierto grado de interés periodístico, cuando mantenerlo genera un riesgo de daño, como daño físico, emocional o financiero, o implica una amenaza directa a la seguridad pública".

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, en la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP.

El análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso se basó en las siguientes normas internacionales:

· Derecho a la libertad de opinión y expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), observación general n.º 34, Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018) y A/74/486 (2019).

· Derecho a la vida: artículo 6 del ICCPR.

· Prohibición de la defensa del odio que constituye incitación a la discriminación, la hostilidad o la violencia: artículo 20, párrafo 2, del ICCPR; Plan de Acción de Rabat, informe de la Alta Comisionada de la ONU para los Derechos Humanos: A/HRC/22/17/Anexo 4 (2013).

5: Respuestas del usuario

Tras la remisión de Meta y la decisión del Consejo de aceptar el caso, se envió un mensaje al usuario para notificarle acerca de la revisión del Consejo y para proporcionarle la oportunidad de presentar una declaración ante el Consejo. El usuario no presentó ninguna declaración.

6 Respuestas de Meta

Meta determinó que el video constituía tanto una declaración de intención de cometer actos violentos de gravedad alta como una incitación a dichos actos contra el hombre que se encontraba en la celda, quien, de acuerdo con Meta, era un presunto miembro de la pandilla "5 segundos". La pandilla "5 segundos" es una pandilla prominente de Haití que se llama así debido a la "percepción de que sus miembros matarán a una persona al cabo de ese tiempo". En el video, se puede oír a un miembro de la multitud decir: "Abriremos la puerta […] Ya es hombre muerto", lo que Meta consideró una declaración de intención de asesinar al hombre. Meta también interpretó la frase "bwa kale na boudaw" como una incitación a matar al hombre. Meta proporcionó un análisis amplio de la situación política, de seguridad y humanitaria de Haití como contexto respecto del riesgo de daño que suponía el contenido en cuestión. Meta también destacó que la violencia pandillera se convirtió en una situación endémica en el país, ya que los funcionarios del Gobierno tienen problemas para mantener la autoridad, y que "el vigilantismo está contribuyendo a una cultura de violencia retributiva extrajudicial".

Meta consideró dos excepciones específicas a las Normas comunitarias, además de la concesión de interés periodístico, como parte de este análisis. De acuerdo con Meta, la empresa permite contenido que infringe la política de violencia e incitación cuando "se comparte con el propósito de condenar la violencia o concientizar al respecto. Corresponde al usuario dejar claro que la intención es alguno de esos propósitos". En este caso, Meta no halló una intención clara de condena o concientización en la publicación. De acuerdo con Meta, el hecho de que el video se compartiera en una página de Facebook que se describe a sí misma como página de medios de comunicación no es suficiente para satisfacer esta excepción.

Meta también indicó que, en algunas ocasiones, permite incitaciones a violencia de alta gravedad en el contenido que está dirigido a una persona o entidad designada en la política de personas y organizaciones peligrosas de la empresa. De acuerdo con Meta, esta excepción es válida solo si la empresa confirma que el blanco es una persona u organización peligrosa, o miembro de una de estas. Meta le informo al Consejo que la empresa designó a la pandilla "5 segundos" como organización peligrosa. Sin embargo, la empresa no pudo confirmar que el hombre que se encontraba en la celda y aparecía en el video fuera miembro de dicha pandilla. Si Meta hubiera podido confirmarlo, el contenido no hubiera infringido la prohibición de incitación a la acción, de acuerdo con la empresa.

Por último, al considerar si aplicar la concesión de interés periodístico, Meta determinó que el riesgo de daño de la publicación superaba su valor de interés público. Meta determinó que el video podía contribuir a actos violentos, ya sea contra la pandilla "5 segundos" o contra el movimiento Bwa Kale. Si bien el contenido tenía valor para notificar a otras personas sobre la violencia inminente y el desarrollo de los acontecimientos, según Meta, dicho valor se vio disminuido por la amplia cobertura del movimiento Bwa Kale.

Meta tuvo en cuenta los factores del Plan de Acción de Rabat de la ONU a la hora de evaluar si la publicación constituía una incitación a la violencia y concluyó que "el discurso suponía una incitación a violencia inminente", ya que la amenaza era "específica y estaba vinculada a acontecimientos violentos en curso".

En respuesta a las preguntas del Consejo, Meta le informó que la empresa no designó la situación de Haití como crisis conforme al protocolo de la política de crisis (CPP) porque la empresa ya había implementado medidas de mitigación cuando se puso en marcha el protocolo en agosto de 2022.

El Consejo le hizo 18 preguntas a Meta por escrito. Las preguntas se relacionaron con la capacidad lingüística de Meta para aplicar sus Normas comunitarias en Haití; los procesos para la revisión de reportes provenientes de socios de confianza y el modo en que el programa se relaciona con otros sistemas que Meta emplea en situaciones de crisis; y si y cómo Meta usó el protocolo de la política de crisis en Haití. Meta respondió todas las preguntas.

7: Comentarios del público

El Consejo asesor de contenido recibió nueve comentarios del público. Siete de los comentarios provinieron de los Estados Unidos y Canadá; uno, de Asia-Pacífico y Oceanía; y uno de Europa.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

8: Análisis del Consejo asesor de contenido

El Consejo examinó si este contenido debía eliminarse a la luz de las políticas de contenido, las responsabilidades con los derechos humanos y los valores de Meta. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

El Consejo seleccionó este caso para examinar el papel de los medios sociales en el contexto de inseguridad y violencia extremas, además de cómo las políticas de Meta y sus sistemas de aplicación de políticas abordan el contenido que se comparte durante el desarrollo de una crisis. Este caso se encuentra dentro de la prioridad estratégica de Situaciones de conflicto y crisis del Consejo.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo determinó que el contenido de este caso infringe la norma comunitaria sobre violencia e incitación. Sin embargo, la mayoría de los miembros del Consejo no están de acuerdo con la evaluación que realizó Meta respecto de la aplicación de la concesión de interés periodístico. Para esta mayoría, dada la demora de casi tres semanas en la aplicación de la política, Meta debería haber otorgado la concesión de interés periodístico para permitir que el contenido permaneciera en Facebook en el momento en que la empresa lo revisó.

I.Reglas de contenido

a.Violencia e incitación

Meta prohíbe las "[d]eclaraciones de intención de cometer actos de violencia de gravedad alta" y la "[i]ncitación a actos de violencia de gravedad alta". El Consejo determinó que el contenido de este caso infringe ambas partes de la política. El contenido representa incitación a la violencia en un contexto en el que había una amenaza creíble de daño en la vida real tanto para el prisionero como para otras personas. En el video, se veía una multitud de personas que intentaban ingresar a una celda en la que se encontraba un hombre que supuestamente era miembro de una pandilla. Las personas de la multitud gritaban que entrarían y que el hombre "ya estaba muerto". Estas son declaraciones que demuestran la intención de usar fuerza letal. Un miembro de la multitud gritó "bwa kale na boudaw", una frase que, en el contexto de Haití, constituye una incitación a actos violentos de gravedad alta. Si bien "bwa kale" se usó en varios contextos, incluso en mensajes musicales y políticos, en este caso, la frase se empleó en un contexto que refleja los acontecimientos mortales en los que civiles asesinaron a supuestos miembros de pandillas o sus aliados.

Meta permite que contenido que infringe la política de violencia e incitación permanezca en la plataforma si se comparte para "generar conciencia en torno a la violencia o condenarla". Estas excepciones no están incluidas en el texto público de la política, pero se proporcionan en un conjunto de instrucciones interno que se otorga a los moderadores de contenido. Para que la excepción sea válida, la empresa exige que el usuario deje claro que publica el contenido por alguno de esos dos motivos.

El Consejo determinó que el usuario de este caso no cumplió con este requisito; por lo tanto, el contenido no se beneficia de esta excepción según la definición de Meta. El texto que acompañaba al video era descriptivo y concluía con una declaración: "La policía no puede hacer nada, las cosas se pondrán raras". Una descripción del video o un texto neutral o ambiguo no cumplen con el requisito establecido por Meta.

Además, Meta, en ciertas ocasiones, permite incitaciones a actos violentos de gravedad alta cuando el blanco es un miembro de una organización peligrosa designada o una persona designada. Se hace referencia a esta excepción en las bases de la política de violencia e incitación de Meta, aunque no está indicada en las reglas. El Consejo estuvo de acuerdo en que esta excepción no tiene validez en este caso. Sin embargo, el Consejo remarcó varias preocupaciones respecto de esta excepción. En primer lugar, la excepción no está articulada con claridad en la norma comunitaria pública. En segundo lugar, como la lista de personas y organizaciones designadas en virtud de las políticas de Meta no es pública, no hay forma de que un usuario sepa cómo se aplicaría esta excepción en su contenido. El Consejo reiteró en varias ocasiones la recomendación de que Meta debía proporcionar mayor claridad y transparencia en torno a la política de personas y organizaciones peligrosas (consulta Mención de los talibanes en los informes de noticias; Publicación compartida de Al Jazeera; Aislamiento de Öcalan; y Cita nazi). Por último, de acuerdo con Meta, la credibilidad de la amenaza no se considera a la hora de aplicar esta excepción. Si el blanco es una entidad designada o un agente violento, el contenido se considera no infractor. Al Consejo le resulta inquietante que las amenazas creíbles contra cualquier persona designada en virtud de la poco clara política de personas y organizaciones peligrosas estén exentas de la norma comunitaria sobre violencia e incitación.

b. Concesión de interés periodístico

Si bien el Consejo determinó que el contenido infringe la norma comunitaria sobre violencia e incitación, la mayoría de los miembros del Consejo no están de acuerdo con Meta en cuanto a la aplicación de la concesión de interés periodístico en este caso. En primer lugar, el Consejo destacó que el riesgo de daño y el interés público implicados en el análisis del interés periodístico deberían evaluarse en el momento en que Meta considera otorgar la concesión, y no en el momento en que el usuario publica el contenido. Meta debería actualizar el texto público de la concesión de interés periodístico para que esto les quede claro a los usuarios. Idealmente, los dos momentos deberían ser suficientemente cercanos para evitar un resultado diferente, en especial, en un contexto de violencia generalizada y creciente que se apodera de toda una nación. Desafortunadamente, en este caso, pasaron casi tres semanas entre la publicación del video por parte del usuario y la eliminación del contenido por parte de Meta.

La mayoría del Consejo determinó que el riesgo de daño había disminuido significativamente cuando Meta tomó la decisión (es decir, casi tres semanas después de que se publicara la incitación representada en el video) y Meta debería haber conservado el contenido mediante el otorgamiento de la concesión. El video tiene la capacidad potencial de informar al público de Haití, así como del extranjero, las realidades de violencia y la ruptura del orden público en un momento en que el país solicita ayuda e intervención internacionales. Cualquiera que fuera el riesgo que supusiera el contenido, incluso para los individuos identificables en el video, habría disminuido significativamente para el momento en que Meta otorgara la concesión, como se analiza en mayor medida en la sección 8.2 (iii) a continuación. Si Meta hubiera revisado el contenido apenas se publicó, el riesgo de daño hubiera superado el interés público de la publicación, como en el caso Violencia en una comunidad del estado de Odisha de la India. En ese caso, Meta identificó y eliminó el contenido en un plazo de días respecto de su publicación, en un momento de aumento de las tensiones y violencia continua, cuando representaba un riesgo grave y probable de acrecentar la violencia, lo que superó el valor de interés público del contenido. En este caso, dada la demora de Meta en la revisión del contenido, el riesgo de daño había disminuido significativamente y fue superado por su valor de interés público para resguardar el acceso a la información a fin de informar al público en general la situación de Haití durante este período. En el momento en que Meta realizó la evaluación relativa al interés periodístico, la publicación había obtenido 500.000 visualizaciones y cualquier riesgo de daño que el video supusiera probablemente ya se había materializado. Cuando los equipos internos de Meta evalúan el interés periodístico en la etapa de escalamiento, Meta cuenta con los recursos y la pericia necesarios para realizar una evaluación que considere en mayor medida el contexto y que tenga en cuenta el cambio en las circunstancias al tomar dicha decisión.

Para una minoría de los miembros del Consejo, Meta tomó la decisión adecuada al no aplicar la concesión de interés periodístico en este caso. Si bien el riesgo de daño para las personas que aparecían en el video fue mayor durante los días posteriores a la publicación del contenido, el riesgo de que el video pudiera generar más violencia de represalia no había cesado cuando Meta revisó el contenido, dado el contexto general de violencia e inseguridad generalizadas y continuas en Haití. Por lo tanto, los daños inherentes a conservar el contenido en la plataforma aún superaban el interés público de divulgar el discurso, como se analiza en mayor detalle en la sección 8.2 (iii) a continuación. El riesgo de que otras personas, al ver este video, pudieran armarse, unirse al movimiento y procurar castigar a alguien no había cesado. Ni tampoco se había aplacado la posibilidad de que un miembro de la pandilla "5 segundos", o una pandilla afiliada, reconociera a alguien del video y buscara vengarse de él, de otros miembros del movimiento Bwa Kale o de miembros de la fuerza policial. Para estos miembros del Consejo, el hecho de que varios individuos pudieran identificarse a partir del video y de que el riesgo de represalias esté bien establecido y sea continuo implica que el contenido no debía beneficiarse de la concesión, incluso con la demora.

8.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

La mayoría del Consejo determinó que la eliminación del contenido, tres semanas después de que se publicara, no fue necesaria ni proporcionada, y que restaurar la publicación en Facebook es coherente con las responsabilidades de Meta en materia de derechos humanos. El Consejo también indicó que, para cumplir con sus responsabilidades en materia de derechos humanos, Meta debe garantizar que la moderación de contenido en Haití, durante este tiempo de mayor riesgo, sea efectiva y oportuna.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR contiene disposiciones para una amplia protección de la expresión, incluyendo "comentarios sobre asuntos propios y públicos" y expresiones que las personas pueden considerar ofensivos (observación general n.º 34, párrafo 11). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad requiere que cualquier regla que limite la expresión sea clara y accesible, tanto para quienes las hacen cumplir como para quienes se ven afectados por ellas (observación general n.º 34, párrafo 25). Las reglas que restringen la expresión "no pueden conferir una discrecionalidad absoluta para restringir la libertad de expresión a los encargados de su implementación" y deben "proporcionar suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no" (ibidem). En referencia a las reglas que regulan el discurso online, la Relatora Especial de la ONU sobre la libertad de expresión dijo que deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo determinó que, tal como se aplica a los hechos de este caso, está bien definida la prohibición de Meta de declaraciones de intención de cometer actos violentos de gravedad alta y la incitación a estos. El Consejo consideró que la política y su propósito, según se aplican a este caso, son suficientemente claros para satisfacer el requisito de legalidad.

Sin embargo, el Consejo destacó que la excepción relacionada con la "concientización respecto de actos violentos o condena de estos" correspondiente a la política de violencia e incitación aún no está disponible en el texto público de la política. El hecho de no incluir estas excepciones en el texto público de la norma comunitaria y de no explicar que le corresponde al usuario dejar clara su intención plantea graves inquietudes relacionadas con la legalidad (consulta la sección 8.1 [1][a] anterior). En el caso Poema ruso, el Consejo recomendó que Meta agregara al texto público de su norma comunitaria sobre violencia e incitación que, según su interpretación, la política permite contenido que incluya declaraciones con "referencias neutrales a un resultado potencial de una acción o una advertencia", y contenido que "condene las amenazas violentas o concientice sobre estas". Meta se comprometió a realizar este cambio, pero aún no actualizó la norma comunitaria sobre violencia de incitación en consecuencia. El Consejo hizo hincapié en esta recomendación nuevamente e instó a Meta a agregar esta excepción al texto público de la norma comunitaria.

II.Fin legítimo

En virtud del artículo 19, párrafo 3, del ICCPR, la expresión puede restringirse por una lista definida y limitada de motivos. En este caso, el Consejo determinó que la prohibición de declaraciones de intención e incitación a cometer actos violentos de gravedad alta correspondiente a la norma comunitaria sobre violencia e incitación procura el fin legítimo de proteger el orden público y respetar los derechos de las otras personas.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34). El Consejo previamente usó los factores del Plan de Acción de Rabat para analizar la necesidad y proporcionalidad de eliminar contenido en virtud de la norma comunitaria sobre violencia e incitación cuando la seguridad pública se veía implicada (consulta los casos Discurso del general brasileño y Primer ministro de Camboya). En este caso, el Consejo consideró los factores de Rabat para evaluar la necesidad y proporcionalidad de eliminar este contenido. El Consejo también tuvo en cuenta la larga demora en la revisión de este contenido por parte de Meta, así como qué indica esto respecto de la capacidad de la empresa para cumplir sus responsabilidades en materia de derechos humanos a la hora de moderar contenido en Haití.

La mayoría de los miembros del Consejo determinó que eliminar este contenido casi tres semanas después de su publicación ya no era necesario. Esta mayoría tuvo en cuenta el contexto de Haití, la extensión y el alcance de la publicación y la probabilidad de que ocurrieran daños debido a la demora entre la publicación del contenido y su eliminación. El riesgo que una publicación conlleva depende del contexto en el que se comparte. En el momento de la revisión, ese contexto había cambiado, ya que, ante la falta de actuación de Meta, el video había obtenido 200.000 visualizaciones. Para estos miembros del Consejo, dada la demora en la revisión del contenido por parte de Meta y el gran número de visualizaciones que ya habían ocurrido, cualquier riesgo que el contenido supusiera probablemente ya se había materializado. La evaluación oportuna de Meta de esta publicación hubiera afectado el análisis de necesidad y proporcionalidad, y justificado su eliminación, como en el caso Violencia en una comunidad del estado de Odisha de la India, en el que la eliminación sucedió en el plazo de unos días desde la publicación del contenido. Dada la demora en la aplicación de políticas por parte de Meta, la mayoría cree que la eliminación ya no era necesaria.

Asimismo, en una situación de violencia generalizada prolongada y una ruptura en las autoridades gubernamentales y el orden público, compartir información es incluso más importante para que las comunidades reaccionen ante acontecimientos importantes que las afectan. Los expertos a quienes consultó el Consejo destacaron el hecho de que las personas de Haití dependen de la información que se comparte a través de WhatsApp para informarse acerca de los posibles riesgos. En un contexto en el que el "trabajo de los periodistas se ve coartado por amenazas y violencia, [en el que ataques] contra periodistas ocurren con frecuencia y la impunidad de los perpetradores es la norma", preservar el acceso a la información en los medios sociales es aún más importante. Garantizar que el contenido que documenta los hechos no se elimine de forma innecesaria puede ser útil para reforzar las iniciativas para informar al público y para identificar y responsabilizar a aquellos que incitan y consuman la violencia en Haití.

En el caso Afirmación sobre la existencia de una cura para el COVID-19, el Consejo hizo hincapié en que Meta debía explicar todas las opciones que tiene a disposición para conseguir los fines legítimos (como la prevención de daños) y para articular los motivos por los que la medida seleccionada es la menos intrusiva. Como indicó en esa decisión, Meta debería demostrar públicamente tres cosas a la hora de determinar la medida menos intrusiva: (1) el objetivo de interés público no se podría abordar con medidas que no infrinjan la libertad de expresión; (2) entre las medidas que infringen la libertad de expresión, Facebook [sic] seleccionó la menos invasiva; y (3) la medida seleccionada efectivamente permite alcanzar el objetivo y no es ineficaz ni contraproducente (A/74/486, párrafos 51-52).

En este caso, por ejemplo, dado el interés de la comunidad internacional en evaluar la situación a fin de ayudar a las personas de Haití (como se describió anteriormente), Meta debería justificar públicamente los motivos por los que medidas como el bloqueo geográfico no serían suficiente para evitar el daño. Dado que habían transcurrido casi tres semanas cuando Meta revisó el contenido, la empresa también debería explicar por qué medidas como evitar la interacción con el contenido o emplear degradaciones no hubieran sido suficientes para minimizar el riesgo de daño en ese momento. En cambio, Meta pareciera solicitarle al Consejo que evalúe la necesidad y la proporcionalidad por separado, en un marco binario de aceptar/rechazar, en lugar de considerar las consecuencias de todas sus herramientas, como lo exige un enfoque serio que contemple los derechos humanos para moderar contenido.

Para una minoría del Consejo, eliminar este contenido es necesario y proporcionado, en especial, dado el contexto de Haití, la extensión y el alcance de la publicación y la probabilidad de que genere daños. El Consejo determinó que este video se publicó durante un período de mayor riesgo, cuando se había intensificado la violencia pandillera y se había iniciado un movimiento civil de violencia de "defensa propia" o "vigilantes" contra supuestos miembros de pandillas. Este movimiento anteriormente había sacado de la custodia policial a presuntos miembros de pandillas para matarlos arrojándoles piedras, golpeándolos o quemándolos. De acuerdo con la Alta Comisionada de la ONU para los Derechos Humanos, entre el 24 de abril y mediados de agosto, "más de 350 personas fueron linchadas por personas locales y grupos de vigilantes. Entre los asesinados, había 310 presuntos miembros de pandillas, 46 miembros del público y un oficial de policía". Videos de tales acontecimientos circularon en los medios sociales y se relacionaron con el hecho de que otras personas se armaron para unirse y buscar a supuestos miembros de pandillas con el fin de matarlos. Asimismo, de acuerdo con informes de la Alta Comisionada de la ONU para los Derechos Humanos, miembros del Gobierno municipal y de las fuerzas policiales que se creía que simpatizaban con los grupos de defensa propia locales fueron asesinados por pandillas en represalia, así como personas que se creía que pertenecían al movimiento. El líder de la pandilla "5 segundos" previamente había amenazado con represalias, incluidos asesinatos, en los medios sociales. En la publicación, se nombra la comisaría y se muestra el rostro de la persona que intenta entrar a la celda, así como los rostros de varias personas de la multitud. Esta publicación obtuvo más de 500.000 visualizaciones. Dados estos hechos, la amenaza de violencia a partir de la circulación de este video en Facebook era directa e inminente (observación general n.º 34, párrafo 35), en especial, en el período inmediato a su publicación, pero también cuando Meta llevó a cabo esta revisión. Asimismo, para la minoría, ninguna medida, inferior a la eliminación, hubiera sido suficiente para proteger a quienes aparecían en el video y a quienes estaban en riesgo de sufrir más violencia a partir de este video.

Al Consejo le preocupa la capacidad de Meta para identificar de forma proactiva y moderar de forma efectiva el contenido en Haití de una manera oportuna. El Consejo señaló el mayor riesgo que representa el contenido que contribuye directamente a daños en un contexto en el que el orden público y los servicios gubernamentales están ausentes y los asesinatos extrajudiciales y descentralizados se convirtieron en la herramienta principal en la lucha por el poder y el control.

En este caso, hubo una demora significativa en la evaluación y la eliminación del contenido por parte de Meta. La demora parece derivar de que la empresa no dedica los recursos adecuados a la moderación de contenido en dicho país. El Consejo previamente manifestó preocupación por la falta de inversión por parte de la empresa en la moderación de contenido en idiomas diferentes del inglés (p. ej., consulta los casos "Mención de los talibanes en los informes de noticias", "Publicación compartida de Al Jazeera" y "Aislamiento de Öcalan"). En este caso, Meta no pudo proporcionar una evaluación oportuna de un reporte de un socio de confianza, una de las principales herramientas que Meta emplea en Haití para identificar contenido potencialmente infractor. En un reporte reciente, uno de los socios de confianza de Meta evaluó el programa, detectó una irregularidad significativa en los tiempos de respuesta de Meta y concluyó que el programa no cuenta con recursos suficientes. Los socios de confianza invierten tiempo y recursos en alertar a Meta sobre contenido potencialmente peligroso en sus plataformas. Al Consejo le preocupa que Meta no proporcione recursos suficientes a sus equipos internos adecuadamente para evaluar estos reportes de modo oportuno.

Por último, Meta no activó su protocolo de la política de crisis en Haití. En el caso Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, el Consejo instó a Meta a desarrollar y publicar una política para regir sus respuestas ante situaciones nuevas o crisis en las que los procesos habituales no prevendrían ni evitarían el daño inminente. En respuesta, Meta creó el protocolo de la política de crisis, que procura "codificar las respuestas [de la empresa] específicas a políticas para garantizar la actuación oportuna, sistemática y proporcionada [de Meta] en una crisis" (protocolo de la política de crisis, Actas del Foro de políticas, 25 de enero de 2022). En este caso, Meta le dijo al Consejo que la empresa no designó la situación de Haití como crisis conforme al protocolo porque "está diseñado para facilitar la evaluación oportuna y la mitigación de las crisis nuevas o emergentes", y la empresa ya había implementado medidas de mitigación de riesgo en Haití cuando este protocolo comenzó a usarse en agosto de 2022. Sin embargo, al Consejo le preocupa que, si la empresa no usa el protocolo de la política de crisis en tales situaciones, no podrá ofrecer moderación oportuna y basada en principios en esas circunstancias. Muchas crisis y conflictos de todo el mundo son continuos o suponen períodos de violencia aguda o daños que remiten y resurgen según las circunstancias. Meta debe disponer de un mecanismo para evaluar los riesgos en tales crisis y pasar de las medidas de mitigación existentes a aquellas que prevé el protocolo de la política de crisis. La falta de uso de este protocolo en tales circunstancias socava la capacidad de la empresa y del público de evaluar la efectividad del protocolo para cumplir sus objetivos.

El Consejo entiende que Meta debe tomar decisiones difíciles a la hora de priorizar los recursos para sus varios sistemas de moderación de contenido (por ejemplo, desarrollar clasificadores específicos para cada idioma, contratar moderadores de contenido, usar el protocolo de la política de crisis o priorizar medidas operativas, como los socios de confianza). Sin embargo, para cumplir con sus responsabilidades en materia de derechos humanos, Meta debe garantizar que la moderación de contenido en Haití, durante este tiempo de mayor riesgo, sea efectiva y oportuna.

9 Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de eliminar el contenido y solicitó que se restaurara la publicación.

10 Recomendaciones

Aplicación de políticas

1. Para hacer frente al riesgo de daño, en particular, cuando Meta cuenta con herramientas, procesos o medidas de moderación proactivos limitados o nulos para identificar y evaluar contenido, Meta debería evaluar la puntualidad y efectividad de sus respuestas ante contenido remitido por medio del programa de socios de confianza.

El Consejo considerará que se implementó esta recomendación cuando Meta comparta los resultados de esta evaluación con el Consejo, lo que incluye la distribución del tiempo promedio correspondiente a la resolución final en el caso de los escalamientos provenientes de socios de confianza desglosados por país, los objetivos propios internos de Meta respecto del tiempo de dicha resolución final y toda medida correctiva que toma en caso de no cumplirse tales objetivos, además de divulgar un resumen público de sus resultados para demostrar que siguió esta recomendación.

Política

El Consejo también reiteró la siguiente recomendación del caso "Poema ruso":

Meta debería agregar al texto público de su norma comunitaria sobre violencia e incitación que, según su interpretación, la política permite contenido que incluya declaraciones con referencias neutrales a un resultado potencial de una acción o una advertencia, y contenido que condene las amenazas violentas o concientice sobre estas.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Al Consejo lo asistió un instituto de investigación independiente con sede en la Universidad de Gotemburgo, que se apoya en un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas