Publicaciones que incluyen la frase "From the River to the Sea" (Desde el río hasta el mar)

Esta decisión está disponible en árabe y hebreo.
Haz clic aquí para ver la decisión en hebreo.
Para ver la decisión en árabe, navega hasta la parte superior derecha de la página y haz clic en el icono del globo para ver el menú de idiomas.

Resumen

Luego de revisar tres casos relativos a diferentes contenidos de Facebook que incluían la frase "From the River to the Sea" (Desde el río hasta el mar), el Consejo determinó que no infringían las reglas de Meta sobre lenguaje que incita al odio, violencia e incitación o personas y organizaciones peligrosas. Específicamente, los tres contenidos presentan signos contextuales de solidaridad con los palestinos, pero ninguna clase de lenguaje que incite a la violencia o la exclusión. Tampoco glorifican ni hacen referencia a Hamás, una organización que Meta designa como peligrosa. Al ratificar la decisión de Meta de mantener el contenido, el Consejo por mayoría destacó que la frase tiene múltiples significados y las personas la utilizan de diversas maneras y con diferentes intenciones. Sin embargo, una minoría consideró que, debido a que la frase aparece en la Carta fundacional de Hamás de 2017 y dados los atentados del 7 de octubre, debería presumirse que su uso en una publicación constituye una glorificación de una entidad designada, salvo que haya indicios claros en contrario.

Estos tres casos ponen de manifiesto las tensiones entre el valor de expresión de Meta y la necesidad de proteger la libertad de expresión, en especial, el discurso político en tiempos de conflicto, y los valores de seguridad y dignidad de Meta para proteger a las personas de la intimidación, la exclusión y la violencia. El conflicto actual y en curso tras el atentado terrorista de Hamás en octubre de 2023 y las operaciones militares subsiguientes desplegadas por Israel dieron lugar a protestas en todo el mundo y a acusaciones contra ambas partes por infringir el derecho internacional. El aumento estrepitoso del antisemitismo y de la islamofobia es igual de importante, no solo en estos casos, sino también en cuanto al uso generalizado de la frase "From the River to the Sea" (Desde el río hasta el mar) en las plataformas de Meta. Estos casos han vuelto a resaltar la importancia del acceso a los datos para evaluar con eficacia la moderación del contenido de Meta en tiempos de conflicto, así como también la necesidad de contar con un método para hacer un seguimiento de la cantidad de contenido que ataca a las personas basándose en una característica protegida. Las recomendaciones del Consejo instan a Meta a asegurarse de que su nueva biblioteca de contenido sea un reemplazo eficaz de CrowdTangle y a implementar por completo una recomendación del informe de diligencia debida respecto de los derechos humanos elaborado por BSR sobre el impacto de Meta en Israel y Palestina.

Información de los casos

En el primer caso, un usuario de Facebook comentó un video publicado por otro usuario. La descripción del video anima a las personas a "speak up" (no quedarse calladas) e incluye hashtags como "#ceasefire" (alto al fuego) y "#freepalestine" (liberen a Palestina). El comentario del usuario incluye la frase "FromTheRiverToTheSea" (Desde el río hasta el mar) con formato de hashtag, hashtags adicionales como "#DefundIsrael" (Desfinancien a Israel) y emojis de corazones con los colores de la bandera de Palestina. El comentario tuvo 3.000 visualizaciones y cuatro usuarios lo reportaron, pero estos reportes se cerraron automáticamente porque el sistema automatizado de Meta no los priorizó para que pasen a revisión manual.

En el segundo caso, el usuario de Facebook publicó lo que probablemente sea una imagen generada de unas rodajas de sandía flotando que forman las palabras de la frase, junto a "Palestine will be free" (Palestina será libre). Esta publicación tuvo 8 millones de visualizaciones y 937 usuarios la reportaron. Algunos de estos reportes fueron evaluados por moderadores humanos que determinaron que la publicación no infringía las reglas de Meta.

En el tercer caso, el administrador de una página de Facebook volvió a compartir una publicación de una organización comunitaria canadiense, en la que los miembros fundadores declaraban su apoyo al pueblo palestino, denunciaban su "senseless slaughter" (matanza sin sentido) y a los "Zionist Israeli occupiers" (israelíes sionistas que ocupan sus territorios). Esta publicación tuvo menos de 1.000 visualizaciones y un usuario la reportó, pero el reporte se cerró automáticamente.

En los tres casos, los usuarios apelaron a Meta para que elimine el contenido, pero las apelaciones se cerraron sin revisión manual luego de una evaluación realizada por una de las herramientas automatizadas de la empresa. Luego de que Meta ratificara su decisión de mantener el contenido en Facebook, los usuarios apelaron al Consejo.

Los atentados terroristas sin precedentes perpetrados por Hamás en Israel en octubre de 2023, en los que 1.200 personas murieron y 240 fueron tomadas como rehenes, fueron sucedidos por una respuesta militar a gran escala por parte de Israel en Gaza, que se cobró la vida de 39.000 personas (hasta julio de 2024). Desde entonces, ambas partes han sido acusadas de infringir el derecho internacional y de cometer crímenes de guerra y crímenes de lesa humanidad. Esto ha generado debates a nivel mundial, de los cuales gran parte se han dado en medios sociales, incluidos Facebook, Instagram y Threads.

Conclusiones principales

El Consejo determinó que no hay indicios que permitan concluir que el comentario o las dos publicaciones infringen las reglas de Meta sobre lenguaje que incita al odio porque no atacan al pueblo judío o israelí con incitaciones a la violencia o la exclusión, ni a un concepto o institución asociados con una característica protegida que pueda dar lugar a violencia inminente. Los tres contenidos presentan indicios contextuales de solidaridad con los palestinos, mediante hashtags, representaciones visuales o declaraciones de apoyo. En lo relativo a otras políticas, no infringen las reglas de violencia e incitación ni la política de personas y organizaciones peligrosas de Meta dado que no contienen amenazas relacionadas con actos de violencia u otro tipo de daño físico ni glorifican a Hamás o sus acciones.

Al tomar su decisión, el Consejo por mayoría destacó que la frase "From the River to the Sea" (Desde el río hasta el mar) tiene múltiples significados. Aunque algunas personas pueden interpretarla como un acto de promoción y legitimación del antisemitismo y del exterminio de Israel y su pueblo, a menudo también se la utiliza como un llamado político a la solidaridad con el pueblo palestino, su derecho a la igualdad y a la autodeterminación, y para abogar por el fin de la guerra en Gaza. Considerando las circunstancias, y como muestran estos casos, la frase aislada no puede interpretarse como una incitación a la violencia contra un grupo sobre la base de características protegidas, ni como promoción de la exclusión de un grupo en particular o como apoyo a una entidad designada (Hamás). El uso de la frase por parte de un grupo terrorista con una intención violenta explícita de exterminio y acciones en igual sentido no implica que la frase sea intrínsecamente ofensiva o violenta, teniendo en cuenta la variedad de personas que la utilizan de diferentes maneras. Es esencial evaluar factores como el contexto y la identificación de riesgos específicos para analizar el contenido que se publica en las plataformas de Meta de manera integral. Aunque la eliminación del contenido podría haber estado alineada con las responsabilidades de Meta en materia de derechos humanos si la frase hubiese estado acompañada por declaraciones o indicios que incitaran a la exclusión o la violencia o legitimaran el odio, a criterio de la mayoría del Consejo, dicha eliminación no habría estado basada en la frase en sí, sino en otros elementos que infringen las normas. Debido a que la frase no tiene un único significado, una prohibición absoluta del contenido que la incluya, una regla predeterminada que obligue a eliminar este tipo de contenido o incluso utilizarla como indicio para tomar medidas o realizar una revisión constituiría un obstáculo inaceptable para el discurso político protegido.

En contraste, una minoría del Consejo consideró que Meta debería implementar una regla predeterminada que presuma que la frase constituye una glorificación de una organización designada, salvo que haya indicios claros de que el usuario no apoya a Hamás ni los atentados del 7 de octubre.

El Consejo dispuso una investigación en relación con estos casos que se basó en la herramienta de análisis de datos CrowdTangle. El acceso a datos de la plataforma es esencial para el Consejo y otras partes externas para poder evaluar la necesidad y la proporcionalidad de las decisiones sobre moderación de contenido de Meta durante conflictos armados. Por este motivo, al Consejo le preocupa la decisión de Meta de desactivar la herramienta mientras existen dudas sobre si la biblioteca de contenido de Meta, que es una opción más nueva, es un reemplazo adecuado.

Por último, el Consejo reconoció que, incluso con herramientas de investigación, la capacidad de evaluar el alcance del aumento del antisemitismo, la islamofobia, el racismo y el contenido ofensivo en las plataformas de Meta es limitada. El Consejo instó a Meta a implementar por completo una recomendación previamente publicada en el informe de diligencia debida respecto de los derechos humanos elaborado por BSR para abordar esta problemática.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de mantener el contenido en los tres casos.

El Consejo le recomendó a Meta lo siguiente:

• Garantizar que los investigadores calificados, incluidos periodistas y organizaciones de la sociedad civil, que previamente tuviesen acceso a CrowdTangle se registren en la nueva biblioteca de contenido de Meta en un plazo máximo de tres semanas desde la presentación de la solicitud correspondiente.
• Garantizar que la biblioteca de contenido sea un reemplazo adecuado para CrowdTangle, que proporcione un nivel de acceso a los datos y funcionalidad igual o mayor.
• Implementar la recomendación n.º 16 del informe de diligencia debida respecto de los derechos humanos elaborado por BSR sobre el impacto de Meta en Israel y Palestina para desarrollar un mecanismo para registrar la prevalencia de contenido que ataca a las personas sobre la base de características protegidas (por ejemplo, contenido antisemita, islamofóbico y homofóbico).

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

El Consejo asesor de contenido revisó tres casos que involucraban contenido publicado en Facebook por diferentes usuarios en noviembre de 2023, luego de los atentados terroristas perpetrados por Hamás el 7 de octubre y de que Israel respondiera con el despliegue de una operación militar en Gaza. Los tres contenidos, todos ellos en idioma inglés, contienen la frase "From the River to the Sea" (Desde el río hasta el mar).

En el primer caso, un usuario de Facebook comentó un video de otro usuario. El video tiene una descripción que anima a las personas a "speak up" (no quedarse calladas) y varios hashtags como "#ceasefire" (alto al fuego) y "#freepalestine" (liberen a Palestina). El comentario incluye la frase "FromTheRiverToTheSea" (Desde el río hasta el mar) con formato de hashtag, así como también hashtags adicionales que incluyen "#DefundIsrael" (Desfinancien a Israel) y emojis de corazones con los colores de la bandera de Palestina. El usuario que creó el contenido no es una figura pública y tiene menos de 500 amigos y ningún seguidor. El comentario tuvo unas 3.000 visualizaciones y cuatro usuarios lo reportaron siete veces. Los reportes se cerraron luego de que el sistema automatizado de Meta no los priorizara para su revisión manual en un plazo de 48 horas. Uno de los usuarios que reportó el contenido luego apeló la decisión a Meta.

En el segundo caso, un usuario de Facebook publicó lo que pareciera ser una imagen generada de unas rodajas de sandía flotando que forman las palabras "From the River to the Sea (Desde el río hasta el mar)", junto con "Palestine will be free" (Palestina será libre). El usuario que creó el contenido no es una figura pública y tiene menos de 500 amigos y ningún seguidor. La publicación tuvo unos 8 millones de visualizaciones y 937 usuarios la reportaron 951 veces. El primer reporte se cerró, una vez más, debido a que el sistema automatizado de Meta no lo priorizó para su revisión manual en un plazo de 48 horas. Algunos de los otros reportes fueron revisados y evaluados por moderadores humanos que decidieron que el contenido no infringía las normas. Varios de los usuarios que reportaron el contenido luego apelaron la decisión a Meta.

En el tercer caso, el administrador de una página de Facebook volvió a compartir una publicación de la página de una organización comunitaria de Canadá. La publicación es una declaración de los "miembros fundadores" de la organización, quienes declaraban su apoyo a "the Palestinian people" (el pueblo palestino), denunciaban su "senseless slaughter" (matanza sin sentido) por parte del "Zionist State of Israel" (estado sionista de Israel) y los "Zionist Israeli occupiers" (israelíes sionistas que ocupan sus territorios) y expresaban su solidaridad con los "Palestinian Muslims, Palestinian Christians and anti-Zionist Palestinian Jews" (musulmanes palestinos, cristianos palestinos y judíos palestinos antisionistas). La publicación termina con la frase "From The River To The Sea" (Desde el río hasta el mar). Esta publicación tuvo menos de 1.000 visualizaciones y un usuario la reportó. El reporte se cerró automáticamente. El usuario que reportó el contenido luego apeló la decisión a Meta.

Todas las apelaciones que Meta recibió en relación con los tres contenidos se cerraron sin revisión manual, sobre la base de una evaluación realizada por herramientas automáticas. Meta ratificó sus decisiones de mantener los tres contenidos en la plataforma. Los usuarios que reportaron el contenido luego apelaron la decisión ante el Consejo para que este disponga su eliminación. Después de que el Consejo seleccionara y anunciara estos casos, el usuario que publicó el contenido del tercer caso eliminó la publicación de Facebook.

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó.

El 7 de octubre de 2023, Hamás, una organización designada de nivel 1 conforme a la norma sobre personas y organizaciones peligrosas de Meta, lideró atentados terroristas sin precedentes en Israel desde Gaza en los que aproximadamente 1.200 personas murieron y 240 fueron tomadas como rehenes, en su mayoría judíos y varios ciudadanos israelíes musulmanes, así como también ciudadanos con doble nacionalidad y extranjeros (Ministerio de Relaciones Exteriores, Gobierno de Israel). Más de 115 de esos rehenes continúan secuestrados en julio de 2024. Los atentados incluyeron la quema y la destrucción de cientos de hogares y provocaron el desplazamiento inmediato y constante de unas 120.000 personas. Israel desplegó de inmediato una operación militar a gran escala en Gaza en respuesta a los atentados. La operación militar desplegada por Israel, que continúa en curso, se cobró la vida de más de 39.000 personas (Oficina de las Naciones Unidas para la Coordinación de Asuntos Humanitarios, de acuerdo con datos del Ministerio de Salud de Gaza). Los informes indican que, hasta julio de 2024, se estima que el 52% de las víctimas son mujeres y niños. La operación militar provocó una destrucción masiva de la infraestructura civil y el desplazamiento recurrente de 1.900.000 personas, de las cuales la mayoría son habitantes de Gaza, quienes hoy se enfrentan a una profunda crisis humanitaria. Hasta abril de 2024, al menos 224 miembros del personal humanitario fueron asesinados en Gaza, "más del triple de trabajadores humanitarios asesinados que en cualquier otro conflicto registrado en un solo año".

Meta designó de inmediato los acontecimientos del 7 de octubre como un atentado terrorista en virtud de su política de personas y organizaciones peligrosas. Conforme a sus Normas comunitarias, esto significa que Meta eliminaría de sus plataformas todo contenido que "glorificara, respaldara o representara" los atentados del 7 de octubre o a sus perpetradores.

Durante el conflicto en curso, ambas partes han sido acusadas de infringir el derecho internacional. Israel se enfrenta a cargos por el presunto incumplimiento de sus obligaciones en virtud de la Convención para la Prevención y la Sanción del Delito de Genocidio ante la Corte Internacional de Justicia. Además, el fiscal de la Corte Penal Internacional solicitó que se emitan órdenes de detención contra funcionarios israelíes y líderes de Hamás por presuntos crímenes de guerra y crímenes de lesa humanidad cometidos por ambas partes. Se acusa a los líderes de Hamás de tener responsabilidad penal por el exterminio, asesinato, secuestro, violación y otros actos de violencia sexual, tortura, otros actos inhumanos, trato cruel y vejaciones contra la dignidad de las personas en el contexto del cautiverio en Israel y los territorios palestinos (en la Franja de Gaza) al menos desde el 7 de octubre de 2023. Según el fiscal, estos "se dieron como parte de un ataque generalizado y sistemático contra la población civil de Israel por parte de Hamás y otros grupos armados en virtud de políticas de ciertas organizaciones", y algunas de las cuales·"siguen vigentes". Se acusa a los funcionarios israelíes de tener responsabilidad penal por provocar un estado de inanición a civiles como método de guerra, provocar conscientemente un gran sufrimiento o lesiones graves al cuerpo o la salud, cometer asesinato u homicidio doloso, dirigir ataques contra la población civil de forma intencional, exterminar o asesinar (incluso mediante inanición), perseguir, y llevar a cabo otros actos inhumanos en los territorios palestinos (en la Franja de Gaza) al menos desde el 8 de octubre de 2023. Según el fiscal, estos "se cometieron como parte de un ataque generalizado y sistemático contra la población civil palestina en virtud de políticas de estado", y algunas de las cuales "siguen vigentes". Además, en una opinión de asesoramiento normativo del 19 de julio de 2024, emitida en respuesta a una solicitud de la Asamblea General de las Naciones Unidas, la Corte Internacional de Justicia concluyó que "la presencia continua del Estado de Israel en el territorio palestino ocupado infringe el derecho" y se pronunció sobre las obligaciones de Israel, otros Estados y organizaciones internacionales, incluidas las Naciones Unidas, sobre la base de esta conclusión. El análisis de la Corte no considera "la conducta de Israel en la Franja de Gaza en respuesta a [el] atentado perpetrado el 7 de octubre de 2023".

La Comisión Internacional de Investigación Independiente de la ONU en el territorio palestino ocupado, incluido el este de Jerusalén e Israel, establecida por el Consejo de Derechos Humanos de las Naciones Unidas, concluyó, en un informe de mayo de 2024, que los miembros de Hamás "asesinaron, lesionaron, maltrataron, secuestraron y cometieron actos de violencia sexual y de género de forma deliberada contra civiles, incluidos ciudadanos israelíes y extranjeros, así como contra miembros de las Fuerzas de Defensa de Israel (FDI)". De acuerdo con la Comisión, "estos actos constituyen crímenes de guerra", así como también "infracciones y abusos del derecho internacional humanitario y el derecho internacional de los derechos humanos". La Comisión también concluyó que "Israel cometió crímenes de guerra, crímenes de lesa humanidad e infracciones del [derecho internacional humanitario] y el [derecho internacional de los derechos humanos]". También manifestó que "Israel ha utilizado la inanición como método de guerra", "empleado como arma la privación de necesidades vitales, incluida la asistencia humanitaria" y "cometido delitos sexuales y de violencia de género contra los palestinos". En relación con las denuncias y acusaciones de las Fuerzas de Defensa de Israel que indican que el brazo militar de Hamás y otros grupos armados paraestatales en Gaza operaban desde dentro de las áreas civiles, la Comisión "reitera que todas las partes del conflicto, incluidas las Fuerzas de Defensa de Israel y el brazo armado de Hamás y otros grupos armados paraestatales, deben acatar [el derecho internacional humanitario] y evitar un mayor riesgo para los civiles absteniéndose de utilizar objetivos civiles con fines militares". Adicionalmente, la Representante Especial del Secretario General de la ONU sobre la Violencia Sexual en los Conflictos concluyó que se encontró información clara y convincente de que se cometieron "actos de violencia sexual, incluidas violaciones [y] torturas sexualizadas" contra rehenes en el contexto de los atentados del 7 de octubre, y exhortó a realizar una "investigación exhaustiva". Los atentados terroristas y las operaciones militares que provocaron la muerte de decenas de miles de personas y el desplazamiento de más de dos millones de personas, la mayoría en Gaza, pero también en Israel y la zona ocupada de Cisjordania, han generado un gran interés, debate y escrutinio a nivel mundial. Gran parte se ha dado en plataformas de medios sociales, incluidas Facebook, Instagram y Threads.

Según los informes y la investigación que encargó el Consejo, el uso de la frase "From the River to the Sea" (Desde el río hasta el mar) aumentó considerablemente en los medios sociales y en las protestas y marchas a favor de Palestina luego de los atentados del 7 de octubre y de las operaciones militares de Israel. La frase se refiere al área ubicada entre el río Jordán y el mar Mediterráneo, que hoy comprende la totalidad del Estado de Israel y los territorios palestinos ocupados por Israel. Esta frase es anterior a los atentados del 7 de octubre y se utiliza hace muchísimo tiempo en el marco del movimiento de protesta palestino, que comenzó durante el plan de partición de 1948 aprobado por la Asamblea General de las Naciones Unidas. La frase está ligada a las aspiraciones de los palestinos en cuanto a sus derechos a la igualdad y a la autodeterminación (consulta los comentarios del público: Access Now PC-29291; SMEX PC-29396; PC-29211; PC-28564; Jewish Voices for Peace PC-29437). Sin embargo, la frase también se vinculó en su uso más reciente a Hamás. La Carta fundacional original de Hamás de 1988 incitaba a la destrucción de Israel y "parece alentar el asesinato de judíos donde sea que estén" (PC-28895). La Carta fundacional de Hamás de 2017 incluyó la frase "Desde el río hasta el mar" usada por personas y grupos que incitan a la oposición violenta a Israel o a su destrucción y a la expulsión forzosa del pueblo judío de Palestina, con variaciones como "desde el río hasta el mar, Palestina será árabe" (consulta los comentarios del público: ADL PC-29259; American Jewish Committee PC-29479; NGO Monitor PC-28905; PC-29526; Jewish Home Education Network PC-28694). También apareció otra variación de la frase en la plataforma de 1977 de Likud, el partido gobernante de Israel: "Entre el mar y el Jordán, solo habrá soberanía israelí".

La frase no tiene un único significado. Varios grupos y personas la utilizaron y su interpretación depende del emisor, del receptor y del contexto. Para algunos, se trata de una acusación antisemita que le niega al pueblo judío el derecho a la vida, a la autodeterminación y a permanecer en su propio estado, establecido en 1948, incluso mediante la expulsión forzosa del pueblo judío de Israel. Ghazi Hamad, jefe de la oficina política de Hamás, personas en contra de Israel y colaboradores de organizaciones terroristas que buscan la destrucción de Israel por medios violentos utilizaron esta frase, recogida en la Carta fundacional de Hamás, como un grito de guerra. También es un pedido a favor de un Estado de Palestina que abarque todo el territorio, lo que significaría el desmantelamiento del Estado de Israel. Los miembros de la comunidad judía y pro-Israel pueden sentir miedo al escucharla y entenderla como una legitimación o defensa de la escala sin precedentes de asesinatos, secuestros, masacres y atrocidades cometidas durante los atentados del 7 de octubre, cuando el pueblo judío fue testigo de un intento de aniquilación. El hecho de que la población judía represente aproximadamente el 0,2% de la población mundial (15,7 millones de personas en todo el mundo), la mitad de la cual son judíos israelíes (aproximadamente el 0,1% de la población mundial), aumenta esta percepción y la sensación de riesgo e intimidación que sienten muchos judíos (consulta los comentarios del público: ADL PC-29259; CAMERA PC-29218; Campaign Against Antisemitism PC-29361; World Jewish Congress PC-29480; American Jewish Committee PC-29479). Por otro lado, la cantidad estimada de palestinos en todo el mundo a finales del 2023 era alrededor de 14,6 millones de personas, la mitad de las cuales vive en Israel o en territorios ocupados por Israel. Esta es en parte la razón por la que muchas personas entienden la frase como un pedido de derechos de igualdad y autodeterminación para el pueblo palestino. A veces, se utiliza para indicar apoyo a uno o más objetivos políticos específicos tales como un Estado único binacional en todo el territorio, una solución de dos Estados para ambos grupos, el derecho de los refugiados palestinos a regresar o el fin de la ocupación militar israelí en territorios palestinos que se tomaron en la guerra de 1967, entre otros. En otros contextos, la frase es una simple afirmación de un lugar, un pueblo y una historia sin objetivos ni tácticas políticas concretas (consulta los comentarios del público: Access Now PC-29291; SMEX PC-29396; PC-29211; PC-28564; Hearing Palestine Initiative at the University of Toronto PC-28564). Después de los atentados terroristas de Hamás del 7 de octubre y las operaciones militares israelíes en Gaza, también se utilizó junto con los pedidos de un alto al fuego (consulta los comentarios del público: Jewish Voices for Peace PC-29437; Access Now PC-29291; y el resumen del artículo 19). Para algunos palestinos y la comunidad pro-Palestina, el uso de la frase en el acta constitutiva de 1977 de Likud junto con afirmaciones recientes por parte de Benjamín Netanyahu, líder del partido, y de miembros de su gobierno sobre la oposición a la creación de un Estado palestino indican que se oponen a la solución de dos Estados y a los derechos de igualdad de los palestinos, y que piden la expulsión de los palestinos de Gaza o Cisjordania (consulta los comentarios del público: Access Now PC-29291; Digital Rights Foundation PC-29256).

El Consejo les encargó a expertos externos que analizaran la frase en las plataformas de Meta. El análisis de los expertos se basó en CrowdTangle, una herramienta de análisis de datos propiedad de Meta y operada por ella. CrowdTangle hace un seguimiento del contenido público de las páginas, grupos y cuentas principales en todos los países e idiomas, pero no incluye todo el contenido en las plataformas de Meta ni información sobre el contenido que fue eliminado por la empresa. Por lo tanto, es poco probable encontrar casos de uso de la frase acompañada de contenido infractor (por ejemplo, un ataque directo o incitaciones a la violencia contra personas judías o israelíes basados en una característica protegida, o contenido que apoye a una organización terrorista), ya que probablemente habrían sido eliminados por Meta. En los seis meses anteriores a los atentados del 7 de octubre, los expertos notaron un mayor uso de la frase en árabe que en inglés en Facebook (1.600 contra 1.400, respectivamente). En los seis meses posteriores al 7 de octubre, hasta el 23 de marzo de 2024, el uso de la frase en inglés aumentó de forma considerable en comparación con el uso en árabe (82.082 contra 2.880, respectivamente). Según esos expertos, el mayor incremento en el uso de la frase en Facebook en este período se dio en enero y marzo. En Instagram, la frase se usó muchísimo más en inglés que en árabe antes y después del 7 de octubre. Se observó un gran aumento en noviembre de 2023, que coincidió con el ataque de las Fuerzas de Defensa de Israel (FDI) contra el hospital Al-Shifa y la creciente crisis humanitaria en Gaza. Además, los expertos señalaron que los usos de la frase en la plataforma aparecían en publicaciones que buscaban generar conciencia sobre el impacto de la guerra en los palestinos, pedían un alto al fuego o celebraban los derechos de los palestinos a la autodeterminación y la igualdad. Si bien algunos hashtags se volvieron cada vez más contundentes en contra del ejército israelí, no se encontraron publicaciones que incitaran explícitamente a asesinar al pueblo judío o que apoyaran las acciones de Hamás del 7 de octubre. Es posible que la ausencia de dichas publicaciones sea consecuencia de la eliminación por parte de Meta de dicho contenido.

La frase se usó como parte de protestas en contra de la guerra y a favor de Palestina en todo el mundo, incluidas las protestas en campus universitarios en EE. UU. de abril a mayo de 2024. Hasta el 6 de junio de 2024, se arrestó o se detuvo a más de 3.000 personasen manifestaciones en los campus de Estados Unidos por presuntas infracciones de las reglas que rigen sus asambleas. En la mayoría de los casos, se retiraron los cargos. En otros países, hubo casos en que los funcionarios intentaron prohibir o cancelar las protestas o procesar a los manifestantes debido al uso de la frase (por ejemplo, en Viena , Austria). La ciudad checa de Praga intentó prohibir una manifestación en noviembre de 2023 debido al uso previsto de la frase, pero un tribunal municipal revocó la decisión y permitió que la manifestación se llevara a cabo. En el Reino Unido, la exministra del Interior instó a la policía a interpretar el uso de la frase como un incumplimiento de la ley, pero la Policía Metropolitana rechazó la adopción de una prohibición absoluta. En Alemania, la ministra del Interior calificó la frase como un eslogan vinculado con Hamás. El tribunal administrativo de la ciudad de Munster, Renania del Norte-Westfalia, sostuvo que la frase por sí sola no podía interpretarse como una incitación porque tiene varios significados. Sin embargo, el tribunal administrativo superior de otro estado en Alemania decidió que, aunque la frase puede tener varios significados, no podía anular la prohibición de su uso en una asamblea mediante una decisión preliminar, dada la orden emitida por el Ministerio del Interior. En Estados Unidos, la Resolución 883, que se aprobó con 377 votos a favor y 44 en contra en la Cámara de Representantes en abril de 2024, denunció la frase como "una incitación antisemita a las armas con el objetivo de erradicar al Estado de Israel ubicado entre el río Jordán y el mar Mediterráneo". La resolución también hace énfasis en que "Hamás, la Yihad Islámica Palestina, Hezbolá y otras organizaciones terroristas, junto con sus simpatizantes, han utilizado y continúan utilizando este eslogan como un grito de guerra para destruir Israel y exterminar al pueblo judío".

Desde el 7 de octubre, las Naciones Unidas, agenciasgubernamentales y grupos dedefensa advirtieron sobre un aumento tanto del antisemitismo como de la islamofobia. En Estados Unidos, por ejemplo, en los tres meses siguientes al 7 de octubre, la Liga Antidifamación (ADL) registró un aumento del 361% en los incidentes antisemitas reportados, que incluyen agresiones físicas, vandalismo, acoso verbal o escrito y manifestaciones con "retórica antisemita, expresiones de apoyo al terrorismo contra el Estado de Israel o antisionismo". Si no se considera esta última categoría de "manifestaciones con retórica antisemita, expresiones de apoyo al terrorismo contra el Estado de Israel o antisionismo", que la ADL agregó después del 7 de octubre, Estados Unidos igual registró un aumento del 176% en los casos de antisemitismo. Según el Consejo de Relaciones Islámico-Estadounidenses, durante ese mismo trimestre, las denuncias de discriminación y odio contra musulmanes y palestinos (p. ej., discriminación laboral, delitos de odio e incidentes, y discriminación educativa, entre otras categorías descritas en el informe, págs. 13 a 15) aumentaron alrededor del 180% en Estados Unidos. La Policía Metropolitana del Reino Unido publicó datos comparativos sobre delitos de odio antisemitas e islamofóbicos en octubre de 2022 en comparación con octubre de 2023 que mostraron un aumento de ambos (los antisemitas subieron de 39 a 547 y los islamofóbicos subieron de 75 a 214). Al evaluar estas cifras, algunos miembros del Consejo también consideran como contexto importante el hecho de que los judíos representan el 0,5% y los musulmanes representan el 6,5% de la población del Reino Unido, y que los judíos constituyen el 0,2% y los musulmanes el 25,8% de la población mundial. En países de toda Europa se advirtió sobre el aumento de delitos de odio, lenguaje que incita al odio y amenazas a las libertades civiles dirigidas a comunidades judías y musulmanas. Desde el 7 de octubre de 2023, se reportaron asesinatos y otras formas de violencia de extrema gravedad contra palestinos, e intentos de asesinato, violación y otras formas de violencia de extrema gravedad contra judíos.

2. Respuestas de los usuarios

Los usuarios de Facebook que reportaron el contenido y luego apelaron al Consejo afirmaron que la frase infringía las reglas de lenguaje que incita al odio, violencia e incitación o personas y organizaciones peligrosas de Meta. El usuario que reportó el contenido en el primer caso indicó que la frase infringía las políticas de Meta que prohíben contenido que incite a la violencia o apoye el terrorismo. Los usuarios que reportaron el contenido en el segundo y tercer caso indicaron que la frase constituye lenguaje que incita al odio, es antisemita e incita al genocidio y la abolición del Estado de Israel.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

Meta analizó la frase y el contenido en los tres casos y según las tres políticas.

Lenguaje que incita al odio

Según las bases de la política, la norma comunitaria sobre lenguaje que incita al odio prohíbe los "ataques directos contra personas (no contra conceptos o instituciones) por razón de (...) características protegidas: [lo que incluye] raza, etnia, origen nacional [y] afiliación religiosa". La empresa define como "ataques el discurso deshumanizador; el trato de inferioridad; las expresiones de desprecio o asco; los insultos y los llamamientos a la exclusión o la segregación".

El nivel 1 de la política prohíbe dirigir ataques a una persona o a un grupo de personas en función de una característica protegida utilizando "declaraciones en forma de llamamientos a la acción o declaraciones de intención de infligir daño, declaraciones condicionales o de deseo, o declaraciones en defensa de los daños o de apoyo a los daños" con "incitaciones a la muerte sin un perpetrador o método" e "incitaciones a accidentes u otros daños físicos causados por una deidad o sin un perpetrador".

Conforme al nivel 2 de la política, Meta también prohíbe dirigir ataques a una persona o un grupo de personas en función de una característica protegida mediante "la exclusión o la segregación en forma de llamamientos a la acción, declaraciones de intención, declaraciones condicionales o de deseo, o declaraciones en defensa de la exclusión o apoyo a la exclusión de tipo explícita, social, económica o política".

Por último, en la sección "Requerimos información o contexto adicionales para hacer cumplir las siguientes Normas comunitarias:", la empresa prohíbe "contenido que ataque conceptos, instituciones, ideas, prácticas o creencias asociados con características protegidas, que probablemente contribuya a un daño físico inminente, intimidación o discriminación contra las personas asociadas con esa característica protegida".

Violencia e incitación

La política de violencia e incitación de Meta prohíbe "amenazas de violencia que podrían llevar a la muerte (u otras formas de violencia de gravedad alta)". Se proporcionan protecciones adicionales a "personas o grupos que son objeto de amenazas debido a sus características protegidas frente a amenazas de violencia de gravedad baja". Antes del 6 de diciembre de 2023, la prohibición de incitaciones a la violencia formaba parte de la política de lenguaje que incita al odio. Según Meta, la decisión de pasar esta disposición a la política de violencia e incitación formó parte de una reorganización de las Normas comunitarias y no afectó la forma en que se aplica dicha política.

En la sección "Requerimos información o contexto adicionales para hacer cumplir las siguientes Normas comunitarias:", la empresa prohíbe las "declaraciones cifradas en las que el método de violencia no se expresa con claridad, pero hay una amenaza encubierta o implícita, según se indica mediante la combinación de una señal de amenaza y un indicio contextual".

Personas y organizaciones peligrosas

Tras la apelación al Consejo por parte de los usuarios que reportaron el contenido a Meta, Meta actualizó la norma sobre personas y organizaciones peligrosas (el 29 de diciembre de 2023). Hamás es una entidad designada conforme al nivel 1 de la política. Antes de la actualización del 29 de diciembre de 2023, la política prohibía la "exaltación" de entidades del nivel 1, que se definía como "hablar positivamente de una entidad o un hecho designado" o "legitimar la causa de una entidad designada al afirmar que su conducta violenta, delictiva o de odio es justificable o aceptable en términos legales, morales o de otra naturaleza", o "alinearse ideológicamente con una entidad o un hecho designados". La política actual (hasta julio de 2024) prohíbe la "glorificación" de entidades del nivel 1, lo que incluye "legitimar o defender los actos violentos u ofensivos de una entidad designada al afirmar que dichos actos tienen una justificación moral, política, lógica o de otro tipo, lo que los hace aceptables o razonables".

II. Respuestas de Meta

Meta explicó que la frase "From the River to the Sea" (Desde el río hasta el mar) por sí sola no infringe las políticas de lenguaje que incita al odio, violencia e incitación, o personas y organizaciones peligrosas de la empresa. Por lo tanto, solo elimina el contenido que incluye la frase cuando otra parte de dicho contenido infringe de forma independiente las Normas comunitarias.

Meta explicó que la empresa no llevó a cabo un proceso completo de desarrollo para recopilar las opiniones de partes interesadas y expertos globales sobre la frase, pero sí revisó su uso después de los atentados del 7 de octubre y la respuesta militar de Israel. La empresa afirmó que es consciente de la larga historia que tiene la frase. Y explicó que mientras que algunaspartes interesadas piensan que la frase es antisemita o una amenaza para el Estado de Israel, otras partes interesadas la usan para apoyar al pueblo de Palestina y consideran que describirla como antisemita es "incorrecto o se basa en la islamofobia". Dadas estas distintas visiones, Meta "no puede concluir sin contexto adicional que los usuarios del contenido en cuestión usan la frase como incitación a la violencia contra un grupo en función de sus características protegidas". Tampoco puede concluir "sin contexto adicional que (...) el emisor está abogando por la exclusión de un grupo en particular".

Al evaluar la frase en virtud de la política de personas y organizaciones peligrosas, la empresa determinó que "la frase no está vinculada exclusivamente a Hamás. Si bien Hamás emplea la frase en su Carta fundacional de 2017, esta también precede al grupo; y personas no afiliadas a Hamás y que no apoyan su ideología terrorista siempre la usaron". Respecto del contenido en revisión, Meta determinó que "ninguno de los tres contenidos en este conjunto de casos sugiere apoyo a Hamás ni glorifica a la organización. Sin este contexto adicional, Meta considera que el contenido no infringe las Normas comunitarias".

En respuesta a las preguntas del Consejo sobre la investigación y el análisis que Meta llevó a cabo para llegar a sus conclusiones, Meta afirma que su equipo de políticas revisó la forma en que se estaba usando la frase en sus plataformas y evaluó la frase de acuerdo con las Normas comunitarias. La empresa también realizó un análisis para determinar si se deberían bloquear los hashtags que contienen la frase. Según Meta, la empresa eliminará los hashtags que infrinjan las normas intrínsecamente y los bloqueará cuando exista una alta prevalencia de contenido relacionado con un hashtag que infrinja las normas. Para hacer esta evaluación, el equipo de operaciones de Meta revisó el contenido que contenía hashtags con la frase y descubrió que solo una pequeña parte infringía las políticas de Meta y lo hacía por motivos ajenos a la frase.

El Consejo le preguntó a Meta si la empresa recibió solicitudes del Gobierno para eliminar contenido con la frase y qué medidas tomó como respuesta. Meta le informó al Consejo que recibió solicitudes de organismos gubernamentales de Alemania para restringir el acceso al contenido en ese país de conformidad con las leyes locales. En respuesta, Meta restringió el acceso al contenido en Alemania.

4. Comentarios del público

El Consejo asesor de contenido recibió 2.412 comentarios del público dentro de los plazos de presentación: el 60% procedían de Estados Unidos y Canadá, el 17% de Oriente Medio y África del Norte, el 12% de Europa, el 6% de Asia-Pacífico y Oceanía y el 5% de otras regiones. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios enviados se referían a los siguientes temas: el uso de la frase por parte de Hamás y su significado como incitación antisemita a la violencia o la exclusión; la frase como discurso político protegido durante una crisis humanitaria en curso; las raíces históricas de la frase y la evolución de su uso, lo que incluye utilizarla para abogar por los derechos de los palestinos a la igualdad y la autodeterminación; la necesidad de evaluar la frase contextualmente para determinar su significado y si puede asociarse a incitaciones a la violencia; y las preocupaciones respecto del uso de la automatización para moderar el contenido relacionado con el conflicto y su impacto negativo en los periodistas y los defensores de los derechos humanos.

5. Análisis del Consejo asesor de contenido

Estos tres casos ponen de manifiesto la tensión entre la protección del valor de expresión de Meta y la mayor necesidad de proteger la libertad de expresión, en especial, el discurso político en tiempos de conflicto, y los valores de seguridad y dignidad de Meta para proteger a las personas de la intimidación, la exclusión, la violencia y los daños en el mundo real. Esto cobra especial importancia durante un conflicto violento que afecta la seguridad de las personas, no solo en la zona de guerra, sino en todo el mundo. Es imperioso que Meta tome medidas efectivas para garantizar que sus plataformas no se utilicen para incitar actos de violencia. La respuesta de la empresa a esta amenaza también debe basarse en el respeto por todos los derechos humanos, incluida la libertad de expresión. Esto es particularmente relevante para la iteración actual y continua de un conflicto que siguió al atentado terrorista de Hamás en octubre de 2023 y las operaciones militares subsiguientes de Israel, que dieron lugar a protestas en todo el mundo y a acusaciones en contra de ambas partes por infringir el derecho internacional. El aumento del antisemitismo y la islamofobia también es relevante para la evaluación, no solo de estos casos, sino también del uso general de la frase "From the River to the Sea" (Desde el río hasta el mar) en las plataformas de Meta, dada la variedad de significados, usos e interpretaciones.

El Consejo destaca que, si bien Meta determinó que "el eslogan aislado no constituye una infracción de las Normas comunitarias", la empresa "no llevó a cabo investigaciones sobre la prevalencia y uso de la frase", aparte del trabajo que realizaron los equipos de la empresa para entender el uso de la frase en los hashtags, como se explicó en la sección 3. Meta no proporcionó datos sobre el contenido que incluía la frase que se eliminó debido a otros incumplimientos de las políticas. Sin embargo, muchos de los comentarios del público que recibió el Consejo resaltan los matices en el uso de esta frase. El Consejo considera que, si Meta les otorgara a los investigadores mayor acceso a los datos de la plataforma e invirtiera más recursos en el desarrollo de investigaciones internas, Meta permitiría una mejor comprensión de las correlaciones entre el comportamiento online y el daño en la vida real.

El Consejo analizó la decisión de Meta en estos casos en relación con sus políticas de contenido, valores y responsabilidades en materia de derechos humanos. Asimismo, el Consejo evaluó las implicaciones de estos casos para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

El Consejo considera que ninguno de los tres contenidos (un comentario y dos publicaciones) infringe las políticas de Meta. Dada la variedad de significados e interpretaciones que puede tener la frase "From the River to the Sea" (Desde el río hasta el mar), el Consejo observó el contenido en su totalidad en las tres publicaciones para determinar si se infringió la política.

No hay indicios que permitan concluir que alguno de los tres contenidos en revisión infringe la política de lenguaje que incita al odio de Meta porque no atacan al pueblo judío o israelí con incitaciones a la violencia o la exclusión, ni constituyen un ataque a un concepto o una institución asociados con una característica protegida que pueda causar violencia de forma inminente. Si bien algunas personas utilizaron la frase para atacar al pueblo judío o israelí, estos tres contenidos expresan o incluyen indicios contextuales de solidaridad con los palestinos y no contienen lenguaje o indicios que inciten a la violencia o la exclusión. El comentario del primer caso está en un video que anima a las personas a "speak up" (no quedarse calladas) e incluye un hashtag de "#ceasefire" (alto al fuego), mientras que los comentarios de los usuarios incluyen los hashtags "#PalestineWillBeFree" (Palestina será libre) y "#DefundIsrael" (Desfinancien a Israel), así como también emojis de corazones con los colores de la bandera palestina. La publicación del segundo caso es una representación visual, lo que pareciera ser una imagen generada de rodajas de sandía flotando (la sandía es un símbolo de solidaridad con Palestina que tiene los mismos colores que la bandera palestina) que forman las palabras de la frase junto con "Palestine will be free" (Palestina será libre), sin ninguna descripción ni indicios visuales adicionales. Y la tercera publicación declara expresamente que es en solidaridad con las familias palestinas que están luchando por sobrevivir, expresando apoyo a los palestinos de todas las religiones.

Ninguno de estos contenidos infringe la política de violencia e incitación, ya que no contienen amenazas de violencia u otro daño físico. Como explicó el Consejo en decisiones anteriores, Meta exige que las publicaciones contengan una "amenaza" y un "objetivo" para considerar que infringen esta política. El Consejo no encuentra indicios de amenaza en ninguno de estos tres casos. La política de violencia e incitación también prohíbe que los usuarios publiquen "declaraciones cifradas en las que el método de violencia no se expresa con claridad, pero hay una amenaza encubierta o implícita". Para aplicar esa disposición, esta exige que exista una "señal de amenaza", así como también un "indicio contextual". Meta identifica, entre los "indicios contextuales" para la aplicación de políticas, el "contexto local o los conocimientos de expertos [que] confirman que la declaración en cuestión podría causar violencia de forma inminente". Si bien el Consejo reconoce que hay instancias y contextos donde el contenido que incluye la frase se puede utilizar para incitar a la violencia, no existen indicios de que estos tres contenidos en revisión podrían causar violencia de forma inminente.

Además, ni el comentario ni las dos publicaciones glorifican a Hamás, una organización designada de conformidad con la política de personas y organizaciones peligrosas de Meta, ni a sus acciones. Ninguno de los contenidos hace referencia a Hamás ni utilizan ninguna referencia para glorificar a la organización o sus acciones. Aunque varios comentarios del público han argumentado que cualquier uso de la frase debe interpretarse como apoyo a Hamás, la mayoría del Consejo rechaza este enfoque y considera que ninguno de los tres contenidos infringe la política de Meta, dado que la frase, que existía antes de la creación de Hamás, no tiene un único significado (ver la sección 1). Asimismo, ninguno de los contenidos hace referencia a la entidad designada ni intenta justificar los atentados del 7 de octubre.

Por último, el Consejo destaca de nuevo que la frase "From the River to the Sea" (Desde el río hasta el mar) tiene varios significados y que varios grupos y personas la adoptaron con diferentes interpretaciones e intenciones. Aunque muchas personas pueden usarla para la promoción y legitimación del antisemitismo y del exterminio de Israel y su pueblo, también se la utiliza como un llamado político a la solidaridad con el pueblo palestino, su derecho a la igualdad y a la autodeterminación, y para abogar por el fin de la guerra en Gaza (ver la sección 2). Considerando estos usos, y como muestran estos tres casos, la frase aislada no puede interpretarse como una incitación a la violencia contra un grupo sobre la base de características protegidas, ni como promoción de la exclusión de un grupo en particular o como apoyo a una entidad designada o sus acciones. El uso de una frase por parte de un grupo terrorista extremista concreto con una intención violenta y explícita de exterminio y acciones en igual sentido no implica que la frase sea intrínsecamente ofensiva o violenta, teniendo en cuenta la variedad de personas que la utilizan de diferentes maneras. De manera similar, el Comité de Derechos Humanos, en la observación general n.º 37, abordó el umbral para prohibir expresiones basadas en símbolos y emblemas que puedan tener varios significados e interpretaciones de la siguiente manera: "Por lo general, el uso de banderas, uniformes, signos y pancartas se debe considerar como una forma legítima de expresión que no se debería restringir, aunque esos símbolos recuerden un pasado doloroso. En casos excepcionales, cuando esos símbolos estén directa y predominantemente asociados a la incitación a la discriminación, la hostilidad o la violencia, se deberían aplicar las restricciones apropiadas" (CCPR/C/GC/37, párrafo 51).

Una minoría del Consejo considera que, si bien estos tres contenidos no infringen las políticas, la frase "From the River to the Sea" (Desde el río hasta el mar) debe presumirse como una glorificación de Hamás, una organización designada, y eliminarse a menos que esté claro que el contenido que usa la frase no apoya a Hamás ni sus objetivos. Para estos miembros del Consejo, después del 7 de octubre, el contexto cambió muchísimo y debe presumirse que los usos ambiguos de la frase hacen referencia al apoyo a Hamás y sus acciones. La minoría está de acuerdo en que estos tres casos muestran indicios claros de que el contenido no glorifica a Hamás o a sus acciones del 7 de octubre. El razonamiento de la minoría se proporciona con mayor detalle en la sección de análisis de derechos humanos (ver la sección 5.2).

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo considera que las decisiones de Meta de conservar las tres contenidos en Facebook fueron coherentes con las responsabilidades en materia de derechos humanos de la empresa. El Consejo comprende que el contenido en cuestión en el tercer caso ya no está en Facebook porque el usuario que realizó la publicación la eliminó de la plataforma.

Libertad de expresión (artículo 19 del Pacto Internacional de Derechos Civiles y Políticos)

El artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) brinda mayor protección al derecho a la libertad de expresión, lo que comprende la "libertad de buscar, recibir y difundir informaciones e ideas de toda índole", lo que abarca el "discurso político" y comentarios sobre "asuntos públicos" (observación general n.º 34, párrafo 11). El Comité de Derechos Humanos indicó que el alcance de este derecho "llega incluso a expresiones que puedan considerarse profundamente ofensivas, aunque esta expresión solo puede limitarse de conformidad con lo dispuesto en el párrafo 3 del artículo 19 y en el artículo 20" para proteger los derechos o la reputación de otras personas o prohibir la incitación a la discriminación, la hostilidad o la violencia (observación general n.º 34, párrafo 11). La mayor protección proporcionada a la expresión de ideas políticas se extiende a reuniones con un mensaje político (artículo 21 del ICCPR, observación general n.º 37, párrafos 32 y 49). "Como las reuniones pacíficas suelen tener una función expresiva y el discurso político goza de una protección especial como forma de expresión, se deduce que las reuniones con un mensaje político se deberían facilitar y proteger en mayor medida" (observación general n.º 37, párrafo 32). Las protestas se pueden llevar a cabo en internet o en el mundo real, ya sea de forma conjunta o exclusiva. El artículo 21 extiende la protección a actividades relacionadas que se realizan online (párrafos 6 y 34).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. El Consejo coincide con la Relatora Especial de la ONU sobre la libertad de expresión en que las "empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

Como se mencionó en la sección 1, los comentarios del público reflejan diferentes puntos de vista sobre cómo las normas en materia de derechos humanos sobre la limitación de la expresión deberían aplicarse a la moderación de contenido que incluye la frase "From the River to the Sea" (Desde el río hasta el mar). Varios comentarios del público señalaron que las responsabilidades de Meta en materia de derechos humanos exigen que se elimine dicho contenido (consulta ADL PC-29259), dado que se puede identificar la frase con llamados extremos a eliminar al pueblo judío. Otros argumentaron que se debería eliminar en el contexto en el cual su propagación posiblemente aumente las consecuencias perjudiciales para el pueblo o las comunidades judías: cuando, por ejemplo, existen elementos que sugieren que el emisor se identifica con Hamás, o cuando la frase se usa en conjunto con otras señales que connotan amenazas de violencia hacia los israelíes o el pueblo judío, como "by any means necessary" (a como dé lugar) o "go back to Poland" (vuelvan a Polonia), (consulta ACJ PC-29479 y Profesor Shany, titular de la cátedra de Derecho internacional público Hersch Lauterpacht en la facultad de Derecho de la Universidad Hebraica, anterior miembro y presidente del Comité de Derechos Humanos de las Naciones Unidas, PC-28895). Varios comentarios del público señalaron que no hay nada en la frase que intrínsecamente constituya una incitación a la violencia o la exclusión de ningún grupo, ni está vinculada de manera exclusiva a una declaración que expresa apoyo a Hamás; al contrario, está arraigada principalmente a la expresión palestina para la liberación, libertad e igualdad (consulta SMEX PC-29396). Algunos comentarios del público argumentaron que afirmar que la frase en sí misma conlleva una intención genocida no se basa en un registro histórico sino más bien en el racismo y la islamofobia (consulta Hearing Palestine Initiative PC-28564). Otros comentarios del público destacaron la responsabilidad de Meta de proporcionar mayor protección al discurso político, restringiendo contenido que utilice la frase solo en contextos específicos cuando el emisor incite a la violencia, la discriminación o la hostilidad (consulta Human Rights Watch PC-29394).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que las reglas que limitan la expresión sean accesibles y claras, y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas (observación general n.º 34, párrafo 25). Asimismo, estas reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y deben "proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (ibidem). La Relatora Especial de la ONU sobre la libertad de expresión dijo que, cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo considera que las políticas de Meta y su aplicación en estos tres casos son suficientemente claras para los usuarios.

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR, entre ellos, proteger los derechos de los demás. El Comité de Derechos Humanos interpretó que el término "derechos" comprende los derechos humanos reconocidos en el ICCPR y, de forma más general, en la normativa internacional de los derechos humanos (observación general n.º 34, párrafo 28).

En varias decisiones, el Consejo reconoció que la política de lenguaje que incita al odio de Meta procura el fin legítimo de proteger los derechos de los demás. Meta indica que no permite el lenguaje que incita al odio porque "crea un ambiente intimidatorio y excluyente que, en algunos casos, puede incitar a la violencia en la vida real". Protege el derecho a la vida (artículo 6, párrafo 1, del ICCPR), así como los derechos de igualdad y no discriminación, incluso sobre la base de raza, origen étnico o nacional (artículo 2, párrafo 1, del ICCPR; artículo 2 de la ICERD). Por otro lado, el Consejo manifestó reiteradamente que restringir la expresión únicamente para evitar la ofensa no es un fin legítimo (consulta el caso Representación de Zwarte Piet, que cita el informe de la Relatora Especial de la ONU A/74/486, párrafo 24, ), ya que para la normativa internacional de los derechos humanos es sumamente importante que la expresión pueda tener lugar sin inhibiciones (observación general n.º 34, párrafo 38).

La política de violencia e incitación tiene como objetivo "evitar que se cometan actos de violencia fuera de internet" al eliminar contenido que incluya "incitación a la violencia contra una persona o un grupo de personas por sus características protegidas" y que represente un "riesgo real para la integridad física de las personas o amenazas directas a la seguridad pública". Como se concluyó previamente en la decisión del caso Presuntos delitos en Raya Kobo, esta política ampara el fin legítimo de proteger los derechos de los demás, como el derecho a la vida (artículo 6 del ICCPR).

La política de personas y organizaciones peligrosas de Meta busca "evitar e impedir que se produzcan daños fuera de internet". En varias decisiones, el Consejo determinó que esta política tiene como fin legítimo proteger los derechos de los demás, como el derecho a la vida (artículo 6 del ICCPR) y el derecho a la no discriminación y a la igualdad (artículos 2 y 26 del ICCPR), porque abarca organizaciones que promueven el odio, la violencia y la discriminación, como así también eventos violentos motivados por el odio (ver las decisiones sobre los casos Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán y Campaña electoral 2023 en Grecia).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

El Consejo destaca aún más que Meta tiene la responsabilidad de identificar, prevenir, mitigar y justificar las consecuencias negativas de sus actividades sobre los derechos humanos, y proceder con la debida diligencia continua en materia de derechos humanos para evaluar el impacto de sus actividades (principio 17 de los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas [UNGP]) y reconocer que el riesgo de que los derechos humanos se vean afectados (incluido el peligro en aumento que enfrentan las minorías vulnerables hacia la hostilidad y la incitación) es mayor en zonas afectadas por conflictos (principio 7 de los UNGP; A/75/212, párrafo 13). El Consejo destacó en reiteradas ocasiones la necesidad de desarrollar un marco transparente y basado en principios para moderar el lenguaje que incita al odio durante crisis y en zonas de conflicto (consulta las decisiones de los casos El meme de los "dos botones", Video de una estación de policía haitiana y Consejo de comunicaciones de Tigray). Si bien es imperioso que Meta evite que sus plataformas se usen para intimidar, excluir o atacar a las personas por sus características protegidas o para incitar actos de violencia terrorista (un fin legítimo al que apuntan sus políticas de moderación de contenido), las responsabilidades de Meta en materia de derechos humanos exigen que las limitaciones a la expresión sean necesarias y proporcionadas y, en última instancia, respeten la expresión de personas en comunidades que sufren violencia. Es precisamente durante conflictos de rápida evolución que las grandes empresas de medios sociales deben dedicar los recursos necesarios para garantizar que no se socave la libertad de expresión innecesariamente y dedicar su atención a regiones donde los riesgos de daño son especialmente serios. El Consejo también señala que, si se les otorgara a los investigadores acceso a los datos de la plataforma e invirtiera más recursos en el desarrollo de investigaciones internas, esto permitiría a Meta una mejor comprensión de las correlaciones entre el comportamiento online y el daño en la vida real. Esto ayudaría a la empresa a cumplir con su responsabilidad de proteger los derechos humanos conforme a los UNGP.

La mayoría del Consejo considera que conservar el contenido en estos tres casos concuerda con el principio de necesidad y hace hincapié en la importancia de evaluar dicho contenido en su contexto particular. Si bien es innegable que, en algunos casos, la frase "From the River to the Sea" (Desde el río hasta el mar) tiene la intención de ser utilizada, y se utiliza, como una incitación a la violencia o la exclusión, o como apoyo hacia Hamás y sus actos de violencia, dada la gran cantidad de maneras en las que se usa la frase, en especial como parte del discurso político protegido, esta no se puede entender por sí misma, más allá del contexto, como una incitación a la violencia, intimidación o exclusión.

Como parte de este análisis, el Consejo recurrió a los seis factores (contexto de la declaración, la posición o el estatus social del emisor, la intención de incitar, el contenido y la forma del discurso, la extensión de su difusión y la probabilidad de causar daño) del Plan de Acción de Rabat para evaluar la capacidad tanto del contenido en estos casos como de la frase independiente "From the River to the Sea" (Desde el río hasta el mar) de generar un riesgo grave de incitación a la discriminación, la violencia u otra acción ilegal. Los factores del Plan de Acción de Rabat se elaboraron para evaluar cuándo la apología del odio nacional, racial o religioso constituye una incitación a actos dañinos, y el Consejo los utilizó de esta manera anteriormente (decisión del caso Dibujo animado de Knin).

Contexto

El contenido relacionado con estos tres casos, así como el uso más amplio de la frase, se da en respuesta a un conflicto en curso con consecuencias regionales y mundiales considerables. Los tres contenidos se publicaron poco después de los atentados del 7 de octubre y una vez que la ofensiva terrestre de Israel en Gaza se encontraba en marcha.

Hay indicios en los tres contenidos para concluir que los usuarios tienen la intención de responder o llamar la atención al sufrimiento del pueblo palestino o de denunciar las acciones del ejército israelí. El profundo impacto de las operaciones militares de Israel en Gaza, junto con las dudas respecto de su legitimidad, han sido parte de las conversaciones y debates públicos, así como de actuaciones judiciales ante la Corte Internacional de Justicia y la Corte Penal Internacional. Diferentes personas y grupos en todo el mundo han tratado de influir en este debate, tanto a nivel local como mundial. En este momento, en una declaración conjunta, los Relatores Especiales de la ONU sobre los derechos culturales, el derecho a la educación, los derechos a la libertad de reunión pacífica y asociación, y la promoción y protección del derecho a la libertad de opinión y expresión afirmaron que "los llamados a poner fin a la violencia y a los ataques en Gaza, o a un alto al fuego humanitario, o las críticas a las acciones y políticas del Gobierno israelí en muchos ámbitos se han visto equiparados de forma engañosa con el apoyo al terrorismo o al antisemitismo. Esto restringe la libertad de expresión, incluida la expresión artística, y crea un clima de miedo a participar en la vida pública".

En términos más generales, la frase y la manera en que esta se interpreta están muy influenciadas por la naturaleza cambiante del conflicto y el contexto general tanto en la región como a nivel mundial. Esto incluye el aumento en el uso de la frase tanto para demostrar apoyo, aprobación o respaldo a Hamás y sus actos violentos como para apoyar la lucha palestina por los derechos a la autodeterminación y la igualdad, junto con los pedidos de hacer un alto al fuego. El contexto también incluye un drástico aumento en el uso de una retórica discriminatoria, deshumanizante y peligrosa dirigida a los árabes, israelíes, judíos, musulmanes y palestinos.

Como se expresó en diferentes comentarios del público, hubo instancias en que las personas utilizaron la frase junto con incitaciones antisemitas, amenazas de violencia o expresiones de apoyo a Hamás, o para justificar los atentados del 7 de octubre, cuando iba acompañada de declaraciones que incitan a la violencia o la exclusión, como "by all means necessary" (a como dé lugar) o "go back to Poland" (vuelvan a Polonia) (ver el comentario del público PC-28895), o junto con otros indicios de violencia, "como la imagen de un parapente que recuerda a los perpetradores de los atentados del 7 de octubre" (ver AJC PC-29354). La mayoría del Consejo considera que la eliminación de contenido infractor podría ser congruente con las Normas comunitarias de Meta y sus responsabilidades en materia de derechos humanos en situaciones en las que el contexto indica que se está incitando a la violencia o la exclusión. Sin embargo, dicha eliminación no dependería de la frase en sí misma, sino de los indicios contextuales u otros elementos presentes en una publicación que la contiene. Dado que la frase tiene diferentes significados y se utiliza de diferentes maneras, es esencial evaluar el contexto e identificar los riesgos específicos que pueden surgir del contenido publicado en las plataformas de Meta de forma integral. Sin embargo, debido a que la frase no tiene un único significado, una prohibición absoluta del contenido que la incluya, una regla predeterminada que obligue a eliminar este tipo de contenido o incluso utilizarla como indicio para tomar medidas o realizar una revisión constituiría un obstáculo inaceptable para el discurso político protegido. Según lo manifestado en varios comentarios del público, debido a la naturaleza ampliamente contextual del significado y el uso de la frase, y a los problemas documentados en relación con las dificultades que presenta la automatización a la hora de realizar el análisis necesario para entender un determinado contexto, el hecho de basarse en herramientas automatizadas para moderar contenido en el que se utilice esta frase "inevitablemente dará lugar a un exceso de censura de contenido vinculado a cuestiones de interés público en un conflicto armado en curso" (ver los comentarios del público: Human Rights Watch PC-29394; Integrity Institute PC-29544; y el resumen del artículo 19). Esto tiene especial importancia en el contexto del conflicto entre Israel y Gaza, en el que, como el Consejo ya manifestó en las decisiones de los casos Rehenes secuestrados de Israel y Hospital Al-Shifa, Meta implementó varias medidas temporales, incluida una reducción en los límites de confianza para identificar y eliminar contenido, lo que permitió aumentar la eliminación automatizada de contenido en los casos en que había una puntuación más baja de confianza para contenido que infringe las políticas de Meta. En otras palabras, Meta usó sus herramientas automatizadas de manera más agresiva para eliminar contenido que podría infringir sus políticas.

El Consejo también destaca el protagonismo de la frase en el marco de protestas a favor de Palestina en todo el mundo tanto online como offline. El Consejo está al tanto de que existen ejemplos de manifestantes que promueven la violencia o glorifican a Hamás, sin embargo, de acuerdo con el Comité de Derechos Humanos, en virtud del derecho internacional de los derechos humanos, las concentraciones de personas se presumen pacíficas (observación general n.º 37, CCPR/C/GC/37, párrafos del 15 al 17) y las infracciones de algunos no deben afectar el derecho de los demás. En su informe, la Relatora Especial de la ONU sobre el derecho a la libertad de reunión pacífica y de asociación destacó la importancia de poder ejercer estos derechos de forma efectiva y segura como garantía de "controles y contrapesos" y como medio para superar las desigualdades arraigadas", tan endémicas en situaciones de conflicto. Ejercer el derecho a la libertad de reunión y asociación "a menudo es la única opción para que las personas que viven en contextos de fragilidad posterior a un conflicto puedan hacerse oír; y constituye un mecanismo importante para las mujeres, las víctimas, la juventud y los grupos marginados, a quienes, de no ser por estos derechos, a menudo se los excluye de los procesos y no pueden manifestar sus problemas y preocupaciones [y] … para llamar la atención de los pacificadores y la comunidad internacional respecto de los problemas locales, que si se abordan pueden ayudar a resolver las causas subyacentes de los conflictos y evitar que estos se agraven o vuelvan a surgir" ( A/78/246, párrafos del 2 al 4).

Identidad del emisor

No hay indicios de que los usuarios que publicaron el contenido en estos tres casos, o las páginas en las que se compartieron las publicaciones en el segundo y el tercer caso, estén asociados a organizaciones designadas, como Hamás, o muestren apoyo hacia ellas, ni de discriminación o exclusión. En su comentario del público, el profesor Yuval Shany, por ejemplo, indica que "el hecho de que el emisor que utiliza la frase se identifique o no con Hamás o apoye los actos de violencia llevados a cabo por esta organización" (PC-28895) constituye un indicador importante en virtud del análisis del Plan de Acción de Rabat.

Intención, contenido y forma de expresión

Según lo explicado con mayor detalle en la sección 5.1, si bien la frase "From the River to the Sea" (Desde el río hasta el mar) puede utilizarse de diferentes maneras, el Consejo considera que los tres contenidos en revisión no muestran una intención de incitar a la discriminación o la violencia, promover la exclusión de un grupo en particular o apoyar a entidades designadas o sus actos.

La frase, utilizada prácticamente como un eslogan, se difundió rápidamente y sentó las bases para que los usuarios reaccionen a los atentados terroristas del 7 de octubre y a las operaciones militares desplegadas por Israel en Gaza, con diferentes significados e intenciones. Según lo indicado anteriormente, de acuerdo con la investigación que encargó el Consejo, el uso de la frase aumentó considerablemente en las plataformas de Meta después del 7 de octubre, y los mayores aumentos se dieron en enero y marzo de 2024 en el caso de Facebook y en noviembre de 2023 en el caso de Instagram. El aumento en Instagram se dio al mismo tiempo que las Fuerzas de Defensa de Israel atacaron el hospital Al-Shifa con la consiguiente intensificación de la crisis humanitaria en Gaza. Los expertos destacaron que Meta parece estar eliminando el contenido que incluye la frase cuando esta se acompaña de indicios explícitos de violencia o discriminación. La investigación que encargó el Consejo se basó en datos de CrowdTangle, que no incluye todo el contenido de las plataformas de Meta ni el que Meta haya eliminado. La investigación indica que, en el caso del contenido que se mantuvo en las plataformas de Meta, en general la frase se utiliza en publicaciones que buscan generar conciencia sobre el impacto de la guerra en los palestinos, pedir el alto al fuego o defender los derechos de los palestinos. Sin embargo, según se mencionó anteriormente, Meta no proporcionó datos sobre contenido que incluya la frase y que se haya eliminado con motivo de otras infracciones a sus políticas, ni realizó una investigación exhaustiva en relación con los datos de la plataforma "sobre la prevalencia y el uso de la frase". El Consejo reconoce que la frase se ha utilizado y se sigue utilizando en algunos ámbitos para incitar a la exclusión o a la violencia y puede utilizarse de ese modo en las plataformas de Meta. Sin embargo, necesitaría más datos para evaluar la naturaleza y la prevalencia del contenido que se eliminó de las plataformas de Meta.

Probabilidad, inminencia y alcance

Luego de un análisis integral, el Consejo considera que ninguno de los contenidos de estos tres casos específicos conlleva una probabilidad o un riesgo de discriminación o violencia inminente. Según lo indicado anteriormente, debido a los múltiples significados que tiene la frase y las diferentes intenciones en cuanto a su uso, el Consejo por mayoría determina que no es posible interpretarla intrínsecamente, en todos los casos o de forma predeterminada, y más allá del contexto, como dañina, violenta o discriminatoria en sí misma.

Si bien el Consejo reconoce que la frase "From the River to the Sea" (Desde el río hasta el mar) puede utilizarse con expresiones amenazantes contra personas o grupos judíos o israelíes, o junto con amenazas de violencia más generales , o para celebrar lo ocurrido el 7 de octubre (ver el comentario del público AJC PC-29354), y es imperioso que Meta prevenga estos usos en sus plataformas, las responsabilidades de la empresa en materia de derechos humanos exigen que, en respuesta a estas amenazas, esta respete todos los derechos humanos, incluido el derecho a expresarse de las personas que viven en comunidades que sufren violencia. El Consejo considera que también existe un riesgo significativo de eliminar contenido que incluya la frase cuando este tenga por objeto generar conciencia sobre el sufrimiento de las personas en Gaza y la deshumanización de los palestinos durante una operación militar en curso. Según lo manifestado en un comentario del público, las plataformas de Meta constituyen una de las principales herramientas que tienen los palestinos para documentar los hechos que se dan en tierra y para buscar el apoyo de la comunidad internacional a fin de responsabilizar al Gobierno y al ejército israelí y exigir que se ponga fin a la violencia (ver el comentario del público, Hearing Palestine Initiative PC-28564). Las plataformas de Meta también son un medio fundamental para generar conciencia y movilizaciones a nivel mundial en respuesta al aumento del antisemitismo y la islamofobia. Las plataformas se utilizan para fomentar la solidaridad, ofrecer apoyo a las personas y los grupos afectados, generar conciencia sobre la intolerancia, contrarrestar la desinformación y educar. Es esencial que estas funciones clave de los medios sociales puedan darse en un entorno en el que las personas se sientan seguras y respetadas. Asimismo, es fundamental que se apliquen las políticas de contenido de Meta y se examinen de forma constante la evolución del lenguaje que incita al odio y la relación entre los medios sociales y el daño en la vida real.

El primer y el tercer contenido tuvieron un alcance bajo, mientras que la publicación del segundo caso tuvo cerca de 8 millones de visualizaciones. Sin embargo, el alcance del contenido no es un factor que determine si la eliminación es necesaria cuando no es claro si existe un riesgo de daño.

Por su parte, una minoría del Consejo considera que, después de los atentados del 7 de octubre, el contexto modifica significativamente el análisis de acuerdo con lo seis factores del Plan de Acción de Rabat y que el significado de la frase debe establecerse con dicho contexto en mente. Aunque la historia y los diferentes usos de la frase son importantes, su función como declaración del programa violento de una organización designada, incluida en las listas de terrorismo de varios países, implica que tanto las connotaciones de la frase como los riesgos asociados a su uso han cambiado (contexto). Para estos miembros del Consejo, después del 7 de octubre, la consideración de ambigüedad histórica ya no se aplica y desestimar esta nueva realidad resulta imprudente e ignora que la frase puede actuar como un apoyo encubierto a una entidad designada y una ideología de odio que conlleva un riesgo de daño.

Esta minoría del Consejo considera que Meta debería implementar una regla predeterminada que presuma que la frase constituye una glorificación de una organización designada, salvo que haya indicios claros de que el usuario no apoya a Hamás ni los atentados del 7 de octubre. Luego debería proporcionar orientación a sus moderadores de contenido sobre los indicios de los usos de la frase que no infringen las normas para que los eximan de esta regla predeterminada. Para esta minoría, implementar este enfoque permitiría a Meta respetar la libertad de expresión de los usuarios que buscan mostrar solidaridad con los palestinos y expresarse a favor de objetivos políticos específicos, incluido el derecho a la igualdad de todas las personas de Israel y los territorios palestinos y, al mismo tiempo, considerar el riesgo actual de violencia relacionado con el uso de la expresión en diferentes entornos locales.

Por los motivos mencionados anteriormente, la mayoría del Consejo no coincide con este enfoque, debido a que la frase, que existía antes de la creación de Hamás, no tiene un único significado, intención o interpretación. Además, hace hincapié en el asesoramiento proporcionado por el Relator Especial de la ONU sobre la promoción y protección de los derechos humanos y las libertades fundamentales en la lucha contra el terrorismo, quien alertó sobre los riesgos de deslegitimar a la sociedad civil "clasificándolos en términos generales como 'terroristas', [lo que aumenta] la vulnerabilidad de todos los agentes de la sociedad civil y contribuye a la percepción de que son blancos legítimos de los abusos cometidos por agentes estatales y no estatales" (A/HRC/40/52, párrafo 54). Consulta, por ejemplo, el contenido de la decisión resumida del caso Comentarios deshumanizantes sobre las personas de Gaza. Otra minoría del Consejo está convencida de que el hecho de llamar la atención al uso de una frase adoptada por un grupo terrorista no debe considerarse equivalente a una afirmación de que las personas que publican dicho contenido son terroristas. Esta minoría sostiene que, al tomar una decisión sobre contenido online, la procedencia y el significado de las frases deben ser objeto de análisis e interpretación, y tal análisis no debe combinarse con iniciativas para deslegitimar a los miembros de la sociedad civil.

Por último, el Consejo reconoce que Meta estableció una serie de políticas para abordar los riesgos del contenido discriminatorio online. Las pruebas en relación con el daño provocado por la circulación acumulada generalizada y a gran velocidad de contenido antisemita y otros contenidos dañinos en las plataformas de Meta, según lo analizado en la decisión del caso Negación del Holocausto, requieren que Meta cuente con medidas y herramientas de aplicación de políticas adecuadas para moderar esta clase de contenido sin coartar indebidamente la expresión política respecto de temas de interés público, de acuerdo con sus responsabilidades en materia de derechos humanos. Adicionalmente, si las políticas de Meta se aplican correctamente, actúan como un límite importante en pos del objetivo de evitar la violencia y otros daños derivados del uso de las plataformas de Meta por parte de los terroristas y quienes los apoyan. En este sentido, en respuesta a la recomendación n.º 5 del Consejo en el caso Mención de los talibanes en los informes de noticias, Meta afirmó que desarrollaría nuevas herramientas que permitirían obtener información más detallada sobre el otorgamiento de la concesión para informes periodísticos en la política [de personas y organizaciones peligrosas]. Como ya recomendó el Consejo, esto debería ampliarse a la aplicación de la política de lenguaje que incita al odio (decisión del caso Negación del Holocausto, recomendación n.º 1), así como también a la política de violencia e incitación (decisión del caso Publicaciones sobre el aborto en los Estados Unidos, recomendación n.º 1).

Acceso a datos

Si Meta sigue proporcionando al Consejo y los investigadores independientes acceso a los datos de la plataforma, el Consejo y los asesores externos estarán en mejores condiciones de evaluar la necesidad y la proporcionalidad de las decisiones sobre moderación de contenido de Meta. En marzo de 2024, Meta anunció que desactivaría CrowdTangle el 14 de agosto de 2024. La empresa explicó que, en su lugar, centraría sus recursos en "nuevas herramientas de investigación, la biblioteca de contenido de Meta y la API de la biblioteca de contenido de Meta". Aunque el Consejo celebra que Meta desarrolle nuevas herramientas de investigación y trabaje para ofrecer una mayor funcionalidad, le preocupa la decisión de la empresa de desactivar CrowdTangle antes de que las nuevas herramientas puedan reemplazarlo de forma eficaz. Según una carta abierta que varias organizaciones le enviaron a Meta instándola a no desactivar CrowdTangle "durante un año electoral clave", hay mucha preocupación en torno al hecho de si la biblioteca de contenido de Meta es una herramienta idónea que pueda proporcionar el acceso a los datos necesarios para posibilitar una supervisión independiente. La Comisión Europea abrió un procedimiento formal en virtud de la Ley de Servicios Digitales contra Facebook e Instagram en relación con la decisión de desactivar "CrowdTangle, su herramienta de información pública en tiempo real, sin contar con un reemplazo adecuado". El Consejo se hace eco de la preocupación manifestada por las diferentes organizaciones, personas y la Comisión Europea en cuanto a la decisión de Meta de desactivar CrowdTangle durante un año electoral clave sin contar con un reemplazo adecuado.

El Consejo destaca que, aunque se utilice CrowdTangle, existen límites respecto de la capacidad que tiene el Consejo y el público en general de evaluar de forma eficaz el alcance del aumento del contenido antisemita, antimusulmán o racista y otro tipo de contenido ofensivo en las plataformas de Meta, y en cuanto a la posibilidad de determinar en qué lugar y momento ese aumento podría adquirir mayor relevancia. Los informes de transparencia de Meta no son lo suficientemente detallados como para evaluar el alcance y la naturaleza del contenido ofensivo en sus plataformas. Una de las recomendaciones (n.º 16) publicadas por BSR en su informe de diligencia debida respecto de los derechos humanos, que se le encargó en respuesta a una recomendación anterior del Consejo en la decisión del caso Publicación compartida de Al Jazeera , fue que la empresa desarrolle un mecanismo para registrar la prevalencia de contenido que ataca a las personas basándose en características protegidas específicas (por ejemplo, contenido antisemita, islamofóbico u homofóbico.) En septiembre de 2023, un año después de la publicación del informe de BSR, Meta informó que continuaba evaluando la viabilidad de esta recomendación. El Consejo insta a Meta a implementar de forma integral esta recomendación lo antes posible.

6. La decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de mantener el contenido en los tres casos.

7. Recomendaciones

Transparencia

1. Meta debería garantizar que los investigadores calificados, incluidos periodistas y organizaciones de la sociedad civil, que previamente tuviesen acceso a CrowdTangle se registren en la nueva biblioteca de contenido de la empresa en un plazo máximo de tres semanas desde la presentación de la solicitud correspondiente.

El Consejo considerará esta recomendación implementada cuando Meta le proporcione una lista completa de los investigadores y las organizaciones que anteriormente tenían acceso a CrowdTangle, junto con el tiempo que le llevó registrarlos en la biblioteca de contenido de Meta, y al menos el 75% de ellos deberían quedar registrados en tres semanas o menos.

2. Meta debería garantizar que su biblioteca de contenido sea un reemplazo adecuado para CrowdTangle, que proporcione un nivel de acceso a los datos y de funcionalidad igual o mayor.

El Consejo considerará esta recomendación implementada cuando una encuesta realizada a una muestra representativa de investigadores, organizaciones de la sociedad civil y periodistas que se hayan registrado muestre que al menos el 75% de ellos creen que podrán continuar sus investigaciones, reproducirlas o realizar nuevas investigaciones respecto de temas de interés público utilizando la biblioteca de contenido de Meta. De ser necesario, esta encuesta se deberá realizar longitudinalmente, y se deberán informar los resultados de la primera versión al Consejo a más tardar durante el primer trimestre de 2025.

3. Meta debería implementar la recomendación n.º 16 del informe de diligencia debida respecto de los derechos humanos elaborado por BSR sobre el impacto de Meta en Israel y Palestina para desarrollar un mecanismo para registrar la prevalencia de contenido que ataca a las personas basándose en características protegidas (por ejemplo, contenido antisemita, islamofóbico y homofóbico).

El Consejo considerará esta recomendación implementada cuando Meta publique los resultados de la primera evaluación de estas métricas y emita un comunicado público sobre la manera en que la empresa se compromete a seguir supervisando y sacando provecho de los resultados.

* Nota de procedimiento:

• La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.
• En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5 y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4 y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.
• En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, un grupo de investigaciones digitales que brinda asesoría en materia de riesgos y servicios de inteligencia sobre amenazas para mitigar los riesgos online, también colaboró en la investigación. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas