Referencia a personas peligrosas designadas como "shaheed"

Resumen ejecutivo

El Consejo determinó que el enfoque de Meta en cuanto a moderar contenido que emplea el término "shaheed" para hacer referencia a personas designadas como peligrosas restringe de forma sustancial y desproporcionada la libertad de expresión. Meta interpreta como infractoras todas las instancias en que se utiliza el término "shaheed" para referirse a personas que la empresa designó como peligrosas y, por ende, elimina el contenido. Conforme a Meta, es probable que la palabra "shaheed" provoque más eliminaciones de contenido por infracciones de las Normas comunitarias que cualquier otra palabra o frase en las plataformas de Meta. Los hechos de violencia terrorista acarrean graves consecuencias, ya que destruyen la vida de personas inocentes, obstruyen los derechos humanos y socavan el tejido de nuestras sociedades. No obstante, toda limitación a la libertad de expresión para evitar dicha violencia debe ser necesaria y proporcionada, dado que la eliminación indebida de contenido puede resultar poco efectiva e incluso contraproducente.

Las recomendaciones del Consejo parten desde la perspectiva de que es imperativo que Meta tome medidas efectivas para garantizar que sus plataformas no se empleen para incitar hechos de violencia ni para reclutar gente que participe en ellos. Los extremistas en ocasiones usan la palabra "shaheed" para exaltar o glorificar a personas que murieron mientras cometían hechos de violencia terrorista. Sin embargo, la respuesta de Meta ante esta amenaza también debe regirse conforme al respeto por todos los derechos humanos, incluida la libertad de expresión.

El 7 de octubre de 2023, mientras el Consejo concluía su opinión de asesoramiento normativo, Hamás, una organización de nivel 1 designada conforme a la política de personas y organizaciones peligrosas de Meta, lideró ataques terroristas sin precedentes en Israel en los que aproximadamente 1.200 personas murieron y 240 fueron tomadas como rehén (Ministerio de Relaciones Exteriores, Gobierno de Israel). Según las noticias, al 6 de febrero de 2024, se cree que al menos 30 de los 136 rehenes estimados que seguían en manos de Hamás a principios de enero fueron asesinados. Meta designó de inmediato estos acontecimientos como un ataque terrorista en virtud de su política de personas y organizaciones peligrosas. Israel inició de inmediato una campaña militar en respuesta a estos ataques. Tras dicha campaña, murieron más de 30.000 personas en Gaza al 4 de marzo (Oficina de las Naciones Unidas para la Coordinación de Asuntos Humanitarios, de acuerdo con datos del Ministerio de Salud de Gaza). Los informes de enero indicaban que presuntamente un 70% de las víctimas fatales eran mujeres y niños.

Tras estos acontecimientos, el Consejo puso en pausa la publicación de su opinión de asesoramiento normativo para garantizar que sus recomendaciones se adecuaran al uso de las plataformas de Meta y a la palabra "shaheed" en este contexto. Esta investigación adicional confirmó las recomendaciones que el Consejo hizo a Meta sobre conservar el término shaheed" durante el proceso de moderación, incluso en momentos muy álgidos de dichos acontecimientos, y garantizaría que Meta respete mucho más todos los derechos humanos en su respuesta ante situaciones de crisis. Al mismo tiempo, el Consejo señala que las políticas de Meta en esta área son generales y su impacto trasciende este conflicto. Si bien reconocen la relevancia de los acontecimientos recientes en Israel y Palestina, las recomendaciones del Consejo también son generales y no se limitan a un contexto particular.

Según el Consejo, el enfoque de Meta respecto de la moderación de la palabra "shaheed" es demasiado amplio y restringe de manera desproporcionada la libertad de expresión y el discurso cívico. Por ejemplo, es posible que se eliminen por error publicaciones que reportan hechos de violencia y entidades designadas. El enfoque de Meta tampoco considera los diversos significados que se atribuyen al término "shaheed", muchos de los cuales no tienen como fin glorificar a nadie ni transmitir aprobación, y conducen con demasiada frecuencia a que se eliminen publicaciones de personas que hablan árabe y otros idiomas (muchas de ellas musulmanas), sin que dicha eliminación cumpla la finalidad de la política de personas y organizaciones peligrosas. Asimismo, las políticas de Meta prohíben, por ejemplo, la glorificación, el apoyo y la representación de personas, organizaciones y hechos designados, así como la incitación a la violencia. Estas políticas, si se aplican con precisión, mitigan el peligro que supone el uso de las plataformas de Meta por parte de terroristas. En consecuencia, el Consejo recomienda que Meta anule su prohibición absoluta respecto del uso del término "shaheed" en referencia a personas designadas como peligrosas y que modifique su política para realizar un análisis del contenido que incluye este término en el que se tenga más en cuenta el contexto.

Antecedentes

En febrero de 2023, Meta le preguntó al Consejo si debería seguir eliminando contenido en el que aparece la palabra "shaheed" o هيد (en árabe) para referirse a personas designadas en virtud de su política de personas y organizaciones peligrosas. El término de origen árabe "shaheed" también es un préstamo (es decir, muchos idiomas distintos del árabe lo "tomaron prestado" e incluso adaptaron su grafía).

La empresa describe "shaheed" como un término "honorífico" que usan muchas comunidades de diversas culturas, religiones e idiomas para referirse a una persona que muere de manera inesperada, por ejemplo, en un accidente, o de forma honorable, como en la guerra. La empresa reconoce que el término tiene "varios significados", y, si bien "no hay equivalente directo en idioma inglés ", la traducción más habitual sería "martyr" (mártir). Teniendo en cuenta que "la palabra 'mártir' se refiere a una persona que sufrió o murió por una causa justificada y habitualmente tiene connotaciones positivas", Meta indicó que "es debido a este uso que se categorizó el término ["shaheed"] como exaltación conforme a nuestra política [de personas y organizaciones peligrosas]".

La presunción de Meta de que mencionar a una persona designada como "shaheed" siempre constituye "exaltación" conforme a la política de personas y organizaciones peligrosas generó una prohibición absoluta. Meta reconoció que, dados los diversos significados del término, "tal vez esté sobreaplicando políticas a grandes cantidades de discurso cuyo fin no es exaltar a una persona designada, en particular entre personas que hablan árabe". Además, Meta no aplica las excepciones de la política de personas y organizaciones peligrosas que permiten el uso de la palabra "shaheed" para "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral". Esto siguió igual en las actualizaciones más recientes realizadas en diciembre de 2023 a la política, que ahora prohíbe la "glorificación" y las "referencias poco claras", en lugar de la "exaltación", que se eliminó por completo.

Debido a estas inquietudes, Meta inició un proceso de desarrollo de políticas en 2020 para reevaluar su enfoque respecto del término "shaheed". No obstante, no se llegó a consenso alguno en la empresa y no se acordó un nuevo enfoque.

Al solicitar esta opinión de asesoramiento normativo, Meta le presentó al Consejo tres posibles opciones normativas:

1. Mantener el status quo.
2. Permitir el uso de "shaheed" en referencia a personas designadas en publicaciones que satisfacen las excepciones de la prohibición de "exaltación" (por ejemplo, reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral), siempre que no haya otro tipo de exaltación ni "indicios de violencia". Meta propuso como ejemplos de dichos indicios las representaciones visuales de armas o las referencias a lenguaje militar o violencia en el mundo real.
3. Permitir el uso del término "shaheed" en referencia a personas designadas siempre que no haya otras exaltaciones ni indicios de violencia. Esto ocurre independientemente de si el contenido recae en una de las excepciones enumeradas arriba, en contraste con la segunda opción.

El Consejo tuvo en cuenta otras posibles opciones normativas. Por los motivos que se esgrimen en esta opinión de asesoramiento normativo, las recomendaciones del Consejo concuerdan mucho con la tercera opción, aunque con la adopción de menos indicios de violencia de los que Meta propuso en su solicitud, y hay un requisito para la aplicación más general de excepciones de la política en cuanto a reportar o condenar a entidades designadas o hablar sobre ellas o sus actividades en un tono neutral.

Conclusiones y recomendaciones principales

El Consejo determina que el enfoque actual de Meta respecto del término "shaheed" en relación con personas designadas como peligrosas es exagerado y restringe de forma sustancial y desproporcionada la libertad de expresión.

"Shaheed" es un término importante tanto en el plano cultural como en el religioso. En ocasiones se usa para expresar exaltación hacia aquellas personas que mueren cometiendo actos de violencia e incluso puede "glorificarlas". Sin embargo, aunque haga referencia a personas peligrosas, se usa con frecuencia en noticias y comentarios neutros, debates académicos, debates sobre derechos humanos y hasta de maneras positivas. Entre otros significados, "shaheed" se suele usar en general para hacer referencia a personas que mueren por salvar a su país o defender su causa, o como víctimas inesperadas de una tragedia natural o violencia sociopolítica. En algunas comunidades musulmanas, incluso se usa como nombre y apellido. Existen motivos importantes para creer que, debido a los diversos significados de la palabra "shaheed", se eliminan cantidades sustanciales de material cuyo objetivo no es exaltar a terroristas ni los hechos violentos que cometen.

El enfoque de Meta respecto de la eliminación del contenido por el mero uso de la palabra "shaheed" para hacer referencia a personas designadas ignora intencionalmente su complejidad lingüística y sus diversos usos, y la trata siempre y únicamente como equivalente de la palabra "mártir". Ello afecta en gran medida la libertad de expresión y las libertades de los medios de comunicación, restringe indebidamente el discurso cívico y tiene graves implicaciones negativas en los ámbitos de igualdad y no discriminación Esta sobreaplicación afecta de manera desproporcionada a personas que hablan árabe y otros idiomas que tomaron prestado el término "shaheed". Al mismo tiempo, Meta puede implementar la política de personas y organizaciones peligrosas de otros modos que le sigan permitiendo reforzar su valor de seguridad y su objetivo de mantener sus plataformas libres de todo material que glorifique a terroristas. Por ende, la política actual es desproporcionada e innecesaria.

Para alinear sus políticas y prácticas de aplicación respecto del término "shaheed" más estrechamente con las normas de derechos humanos, el Consejo hace las siguientes recomendaciones (consulta la sección 6 para verlas completas).

1. Meta debe dejar de suponer que la palabra "shaheed", cuando se usa para hacer referencia a personas designadas o a miembros anónimos de organizaciones designadas, siempre infringe las normas y no es apta para que se le apliquen excepciones de la política. El contenido que se refiere a una persona designada como "shaheed" se debe eliminar como "referencia poco clara" solo en dos situaciones. En primer lugar, cuando hay presente uno o más de estos tres indicios de violencia: una representación visual de armamento o armas, una declaración de intención o defensa respecto del uso o la portación de armamento o armas, o referencias a un hecho designado. En segundo lugar, cuando el contenido infringe de otro modo las políticas de Meta (por ejemplo, debido a glorificación o porque la referencia a una persona designada sigue siendo poco clara por otros motivos que no tienen que ver con el uso del término "shaheed"). En cualquier situación, el contenido debería seguir reuniendo los requisitos para las excepciones que permiten "reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral".

2. Para aclarar la disposición que prohíbe las "referencias poco claras", Meta debe incluir varios ejemplos de contenido infractor, como una publicación que haga referencia a una persona designada como "shaheed" en combinación con uno o más de los tres indicios de violencia que se especifican en la recomendación n.º 1.

3. Las pautas normativas internas de Meta también deberían actualizarse para dejar en claro que llamar a personas designadas "shaheed" no infringe las normas, excepto si dicha declaración va acompañada de indicios de violencia, y que, incluso si se presentan dichos indicios, el contenido puede beneficiarse de las excepciones que permiten "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral".

Si Meta acepta e implementa estas recomendaciones, conforme a sus reglas actuales, la empresa seguiría eliminando contenido que "glorifica" a personas designadas, caracteriza su violencia u odio como un logro, o legitima o defiende sus actos violentos o basados en odio, así como el contenido que respalda o representa a una entidad designada como peligrosa. El enfoque que propone el Consejo a partir de estas recomendaciones sería que Meta deje de interpretar siempre que la palabra "shaheed" en referencia a una persona designada constituye una infracción y que solo elimine el contenido si se combina con otras infracciones de la política (p. ej., glorificación) o como "referencia poco clara" debido a indicios de violencia. Dicho contenido debe seguir reuniendo los requisitos para que se apliquen las excepciones de la política que permiten "reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral".

Asimismo, el Consejo le recomendó a Meta:

4. Explicar en más detalle el procedimiento por el cual designa a entidades o hechos en virtud de su política de personas y organizaciones peligrosas, a fin de aumentar la transparencia en torno a esta lista. Meta también debe publicar información consolidada sobre la cantidad total de entidades en cada nivel de su lista de designación, así como la cantidad de entidades que se agregaron o eliminaron el año pasado.

5. Presentar un proceso claro y efectivo para auditar con regularidad las designaciones y eliminar aquellas que ya no cumplen los criterios publicados, a fin de garantizar que la lista de personas y organizaciones peligrosas esté actualizada y no incluya personas, organizaciones ni hechos que ya no encajen dentro de la definición de designación de Meta.

6. Explicar los métodos que emplea para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política de personas y organizaciones peligrosas. Meta también debe compartir periódicamente los resultados de las evaluaciones de rendimiento a las que se someten los clasificadores que se utilizan en la aplicación de esta política, y mostrar los resultados de un modo que se puedan comparar en diversos idiomas o regiones.

7. Explicar con claridad cómo se usan los clasificadores para generar predicciones de infracciones de políticas y cómo Meta establece límites para no tomar medida alguna, derivar el contenido a revisión manual o eliminarlo. Esta información se debe proporcionar en el Centro de transparencia de la empresa para que las partes interesadas estén al tanto.

Opinión de asesoramiento normativo completa

1. Solicitud de Meta

I. Solicitud de opinión de asesoramiento normativo

1. En su solicitud (disponible en inglés y árabe), Meta preguntó al Consejo si debería continuar eliminando contenido que incluya el término "shaheed" (شهيد) (y su forma singular o plural, incluidas las variantes que se tomaron prestadas en árabe y otros idiomas) para hacer referencia a personas designadas como peligrosas conforme a su política de personas y organizaciones peligrosas, o si un enfoque diferente se alinearía mejor con los valores y las responsabilidades de la empresa en materia de derechos humanos. Meta también solicitó orientación sobre problemas de contenido similares que puedan surgir en el futuro.

II. Enfoque de Meta

2. La política de personas y organizaciones peligrosas de Meta anteriormente prohibía "la exaltación, el apoyo material y la representación de entidades y personas designadas" y "hechos violentos infractores" designados. El 29 de diciembre de 2023, Meta actualizó esta política, eliminó la disposición que prohibía la exaltación y agregó disposiciones que prohíben la "glorificación" y las "referencias poco claras". El Consejo extendió sus consideraciones para evaluar el impacto que estos cambios normativos tendrían en sus hallazgos y recomendaciones.

3. Esta solicitud de opinión de asesoramiento normativo tiene que ver con la disposición que prohíbe la exaltación de personas designadas, no con las disposiciones que prohíben su presentación o apoyo material. En comparación con la representación y el apoyo material, Meta consideró la "exaltación" como la infracción de menor gravedad. Meta reserva el nivel 1 a las entidades más peligrosas, incluidas organizaciones terroristas, criminales y de odio. Cuando Meta designa un "hecho violento que infringe las normas", quienes los perpetran también se designan como personas peligrosas de nivel 1 y, por lo tanto, se prohíbe su glorificación (antes "exaltación). Los hechos designados incluyen "ataques terroristas, hechos de odio, violencia o intentos de violencia contra varias víctimas, asesinatos en serie y crímenes de odio". Si bien Meta controla su propia lista de entidades designadas, que no es de dominio público, las designaciones se basan en parte en listas de designación del Gobierno de los Estados Unidos (es decir, la lista de Meta será al menos tan extensa como aquellas del Gobierno de los Estados Unidos de las que deriva). Las Normas comunitarias explican que las entidades de nivel 1 incluyen "traficantes de narcóticos especialmente designados", "organizaciones terroristas extranjeras" o "terroristas mundiales especialmente designados". Estas listas del Gobierno de los Estados Unidos están disponibles para el público aquí, aquí y aquí respectivamente.

4. Antes de la actualización de la política del 29 de diciembre de 2023, la definición de "exaltación" de Meta incluía hablar "positivamente de una entidad o un hecho designado", atribuirles "una sensación de éxito", legitimar "la causa de una entidad designada al afirmar que su conducta violenta, delictiva o de odio es justificable o aceptable en términos legales, morales o de otra naturaleza", o alinearse "ideológicamente con una entidad o hecho designado". Esta definición, o serie de ejemplos, se agregó a la política para aportar mayor claridad tras una recomendación del Consejo asesor de contenido en uno de nuestros primeros casos (decisión del caso Cita nazi, recomendación n.º 2). Tras la actualización de la política realizada en diciembre de 2023, la "glorificación" se define como "legitimar o defender los actos violentos u ofensivos de una entidad designada al afirmar que dichos actos tienen una justificación moral, política, lógica o de otro tipo, lo que los hace aceptables o razonables" o "caracterizar o celebrar la violencia o el odio de una entidad designada como un logro o progreso". Más ampliamente, Meta afirma en dicha actualización que "eliminará referencias poco claras o sin contexto si la intención del usuario no estaba claramente indicada". La política especifica que esto incluye "humor poco claro" y "referencias positivas o sin pies de foto que no glorifican la violencia o el odio de la entidad designada". No obstante, la política no brinda ejemplos de los tipos de publicaciones que infringirían esta regla. Meta le informó al Consejo que sigue eliminando todo contenido que haga referencia a personas designadas como "shaheed". Con dichas referencias, la empresa supone que "shaheed" es un término que infringe las normas en todos los contextos, lo que, básicamente, conduce a una prohibición absoluta de este cuando se refiere a una persona designada. Para ejemplificar en parte el alcance de esta prohibición, se pueden consultar las listas de designación de los Estados Unidos mencionadas arriba, ya que, en virtud de la política de Meta, está prohibido referirse a todas las personas (y miembros de organizaciones) que figuren en su propia lista derivada como "shaheed" (o cualquier traducción del término "mártir"). Esto incluye a entidades en todos los continentes y no se limita a organizaciones terroristas ni organizaciones que sostienen una ideología particular.

5. La empresa describe la palabra "shaheed" como un término "honorífico" utilizado por muchas comunidades en diferentes culturas, religiones e idiomas. La empresa reconoció que el término tiene "varios significados" y que "se usa para describir a alguien que muere de forma inesperada o prematura, en ocasiones, haciendo referencia a una muerte honorable, por ejemplo, cuando alguien muere en un accidente o en un conflicto o una guerra". Meta indicó que, si bien "no existe un equivalente directo del término", la traducción frecuente en inglés suele ser "martyr" (mártir). Cuando envió su solicitud al Consejo, antes de los cambios en la política de diciembre de 2023, Meta indicó: "suponemos que la palabra significa 'mártir'" y "por ello la categorizamos como exaltación en virtud de nuestra política [de personas y organizaciones peligrosas]. La única referencia a esta regla en las Normas comunitarias públicas fue un ejemplo de frases que infringirían la disposición que prohíbe la exaltación. Entre otros ejemplos, Meta incluyó una frase que llamaba "mártir" a un terrorista condenado en los Estados Unidos. En la versión en árabe de la política, Meta usó el mismo ejemplo y tradujo la palabra "mártir" como "shaheed". El ejemplo que incluía los términos "mártir" y "shaheed" se eliminó en la actualización de la norma comunitaria de dominio público realizada en diciembre de 2023, aunque Meta le informó al Consejo que sigue considerándose infractora y se les indica a los moderadores que la eliminen.

6. Meta no aplica las excepciones de la política de personas y organizaciones peligrosas al uso del término "shaheed" en referencia a personas designadas. Dichas excepciones, de otro modo, permiten "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral". Eliminar contenido que incluye el término "shaheed" porque se considera "exaltación" de una persona designada generaría "faltas" graves para los usuarios, y la acumulación de faltas graves conduciría más rápidamente a sanciones, como la suspensión o inhabilitación de cuentas o páginas. En las Normas comunitarias, no se explica la incapacidad de aplicación de excepciones a la regla sobre el término "shaheed".

7. Meta explicó que su tratamiento del término "shaheed" refuerza su valor cuyo fin es fomentar la seguridad porque este contenido, según su opinión, podría "contribuir al riesgo de daños en la vida real". Al mismo tiempo, Meta reconoció que no es adecuado traducir la palabra "shaheed" con la palabra en inglés "martyr" (mártir). Dados los diversos significados de este término y las dificultades que supone analizar el contexto y las intenciones de los usuarios a gran escala, Meta admitió haber estado eliminando discurso que "no contribuye a daños en la vida real" y "cuyo fin no es exaltar a personas designadas, en particular entre hablantes de idioma árabe", por ejemplo, contenido en el que se emplea el término "shaheed" en informes de noticias o para hablar de forma neutral sobre la muerte prematura de una persona designada, no para exaltarla ni exaltar su conducta (o glorificarla).

8. El 29 de agosto de 2023, Meta actualizó la concesión de su política de personas y organizaciones peligrosas para incluir definiciones de "informes de noticias", "debate neutral" y "condena", y proporcionó ejemplos ilustrativos de cada excepción. Al mismo tiempo, Meta amplió la descripción de esta concesión a fin de reconocer que los usuarios pueden referirse a entidades designadas "en el contexto del discurso social y político". Todos los ejemplos ilustrativos de contenido permitido se eliminaron como parte de la actualización de la política de diciembre de 2023, aunque la concesión en sí sigue vigente. Dichos ejemplos se volvieron a incluir en otra actualización realizada el 8 de febrero de 2024. Sin embargo, ninguna de estas actualizaciones (diciembre de 2023 y febrero de 2024) establecen de manera explícita que las referencias a personas u organizaciones designadas poco claras o sin contexto no se beneficiarán de estas excepciones, dado que las define una falta de intención claramente demostrada en la publicación en sí.

9. Meta inició un proceso de desarrollo de políticas en 2020 para reevaluar su enfoque respecto del término "shaheed". Esto incluye una revisión de investigaciones y consultas a las partes interesadas. Según Meta, las conclusiones principales de esta interacción con las partes interesadas es que el significado de "shaheed" depende del contexto y que, "en algunas instancias, el término se insensibilizó y desconectó de la idea de exaltación". Al mismo tiempo, sin lugar a dudas, hay instancias en las que el término "shaheed" se usa e interpreta como la exaltación de una persona designada. Resulta intrínsecamente complejo determinar la intención en una sola publicación, en especial a gran escala. Durante este proceso, como detalla en su solicitud, Meta identificó dos opciones normativas como posibles alternativas a su tratamiento actual del término "shaheed". Sin embargo, no hubo consenso entre las partes interesadas respecto de qué opción es mejor, y Meta no estableció un nuevo enfoque. La empresa enfatiza que, debido al volumen de contenido en su plataforma, una inquietud práctica clave es determinar si la aplicación de una política actualizada es viable a gran escala.

III. Cambios normativos que Meta solicitó que el Consejo analice

10. Meta presentó las siguientes opciones normativas para que el Consejo las analice antes de reemplazar la disposición que prohibía la "exaltación" por una que prohíbe la "glorificación" y las "referencias poco claras":

1) Continuar eliminando todo el contenido que incluye "shaheed" en referencia a una persona designada como peligrosa conforme a la política de personas y organizaciones peligrosas.

2) Permitir contenido que haga referencia a una persona designada como "shaheed" cuando se cumplen las siguientes condiciones: (i) se utiliza en un contexto permitido conforme a la política de personas y organizaciones peligrosas (p. ej., condena, informe de noticias, debate académico, discurso social y político); (ii) no se evidencia exaltación, representación ni apoyo materiales adicionales de una persona designada (p. ej., la publicación no exalta explícitamente al perpetrador de un ataque terrorista ni legitima su violencia); y (iii) no hay indicios de violencia en el contenido. Conforme lo propone Meta, los indicios son: representación visual de armamento; declaración de intención o apoyo respecto del uso o la portación de armamento o armas; referencias a lenguaje militar; referencias a incendios, saqueos u otros métodos de destrucción de la propiedad; referencias a incidentes de violencia del mundo real; y declaraciones de intención, incitación, representación, respaldo o defensa de la violencia contra otras personas.

3) Eliminar contenido que incluye "shaheed" para hacer referencia a una persona designada como peligrosa conforme a la política de personas y organizaciones peligrosas de Meta solo cuando no se evidencia exaltación, representación ni apoyo adicionales y no hay indicios de violencia. Estos indicios son los mismos que se establecen en la segunda opción.

11. Tanto la segunda como la tercera opción buscan entender de un modo más contextualizado el uso del término "shaheed" y no parecen discrepar tanto en cuanto a los resultados que pretenden. Parece haber incluso más semejanzas entre las dos opciones en tanto que Meta amplió el alcance de las excepciones contextualizadas que aplica a la disposición que prohíbe la exaltación (ahora glorificación) en general (consulta el párrafo 8 anterior). Conforme a la interpretación del Consejo, tras consultarle a Meta sobre las diferencias en la aplicación y el resultado de estas dos opciones, la principal diferencia radica en que la segunda opción exigiría a Meta buscar y confirmar que una de las excepciones (reportar o condenar personas designadas, o hablar sobre ellas o sus actividades en un tono neutral) se aplica al contenido, mientras que la tercera opción omitiría ese paso y solo tendría en cuenta si la publicación incluye o no exaltación adicional (ahora "glorificación" o "referencias poco claras") o uno de los seis indicios enumerados de violencia. Respecto de todas las opciones que propone Meta, la política se aplicaría de un modo que cualquier contenido que nombre o represente a personas designadas como peligrosas, cuya intención resulte ambigua o poco clara, se trate de forma predeterminada como infractor, lo que supondría que la carga respecto de la claridad de la intención recaiga sobre el usuario. Los cambios realizados en diciembre de 2023 incorporan esta aplicación en la norma comunitaria sobre personas y organizaciones peligrosas y explican que, en el caso de las entidades y los hechos designados de nivel 1, la política prohíbe "referencias poco claras o sin contexto", lo que incluye "humor poco claro, referencias positivas o sin pies de foto que no glorifican la violencia o el odio de la entidad designada". Por ejemplo, se eliminaría la foto de una persona designada, sin otras palabras o comentarios, en virtud de la disposición que prohíbe las referencias poco claras porque la intención del usuario no fue lo suficientemente explícita.

12. Si bien el Consejo analizó las opciones que presentó Meta, también consideró otras y tuvo en cuenta las actualizaciones de la política acontecidas en diciembre de 2023. Asimismo, como Meta, a través de su solicitud, le pidió de manera directa al Consejo que le brinde recomendaciones para abordar desafíos similares en el futuro, el Consejo evaluó asuntos relacionados que tienen que ver con la aplicación de políticas y las prácticas de transparencia de Meta en áreas evidentes en esta opinión de asesoramiento normativo, pero que también tienen implicaciones en la libertad de expresión y en otros derechos humanos de manera más general.

IV. Preguntas que el Consejo le hizo a Meta

13. El Consejo le hizo a Meta 41 preguntas por escrito. Estas versaban sobre las bases que subyacen a la norma comunitaria sobre personas y organizaciones peligrosas; evidencia del daño que podría generarse si se permitiera la "exaltación" en las plataformas de Meta; los procesos de aplicación de políticas manuales y automatizados de Meta; el proceso de designación y la lista de entidades designadas de Meta; el sistema de faltas de Meta y las implicaciones prácticas de la adopción de la opción normativa dos o tres. En octubre de 2023, el Consejo planteó preguntas de seguimiento sobre las tendencias de contenido en cuanto al término "shaheed" en relación con los ataques terroristas que tuvieron lugar el 7 de octubre en Israel y la respuesta militar en curso de Israel, y si el análisis de Meta de las opciones normativas que presentó al Consejo en su solicitud había cambiado en vista de la crisis actual. El Consejo le hizo a Meta tres preguntas adicionales sobre la actualización de su política realizada el 29 de diciembre de 2023. La empresa respondió un total de 40 preguntas, pero en una brindó una respuesta parcial. Meta solo le proporcionó al Consejo la lista de entidades designadas de nivel 1, pero no las de entidades designadas de nivel 2 y 3, y explicó que la "exaltación" solo se prohíbe si hace referencia a entidades de nivel 1.

2. Participación de partes interesadas

14. El Consejo asesor de contenido recibió 101 comentarios del público dentro de los plazos de presentación. Un total de 72 comentarios procedían de los Estados Unidos y Canadá, quince de Oriente Medio y África septentrional, ocho de Europa, tres de Asia-Pacífico y Oceanía, dos de Latinoamérica y el Caribe, y uno de Asia central y meridional. El Consejo recibió todos los comentarios antes del 10 de abril de 2023. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

15. Los comentarios abarcaban diversos asuntos. Muchos explicaban los diferentes significados de la palabra "shaheed" y, por consiguiente, el impacto negativo para la libertad de expresión que tiene la interpretación predeterminada que hace Meta de este término como "exaltación", en particular en el discurso político y la documentación sobre derechos humanos. También expresaban inquietudes sobre el uso de la automatización en la aplicación de políticas, así como la lista de designación de Meta, los problemas de transparencia y los posibles sesgos en el proceso de designación. Otros comentarios expresaban inquietud respecto de que los cambios normativos podrían conducir a la normalización de grupos terroristas y aumentar la violencia, en particular en Israel y los territorios palestinos ocupados.

16. El Consejo llevó a cabo tres mesas redondas con partes interesadas de Asia suroccidental y África septentrional, África subsahariana y el Sudeste Asiático. Asimismo, se organizaron dos mesas redondas sobre temas específicos, una sobre automatización en la moderación de contenido y la otra sobre la lucha contra el terrorismo y los derechos humanos. Los participantes hicieron hincapié en que el término "shaheed" tiene varios significados. Uno de los posibles significados es "martirio", que se refiere a la muerte de personas mientras llevan a cabo actos de terrorismo, pero "shaheed" se suele usar con frecuencia en otros contextos, por ejemplo, para describir a las víctimas de violencia en dichos ataques. Muchos participantes, incluidos miembros de comunidades afectadas, expertos en la lucha contra el terrorismo y especialistas en moderación de contenido expresaron preocupación respecto del sesgo en la política y debatieron cómo afecta de manera negativa a la libertad de expresión, en particular de personas que hablan árabe y otras comunidades que usan el término "shaheed". Otros temas tratados incluían la falta de evidencia que demuestre un vínculo causal entre el uso de "shaheed" en referencia a personas designadas y daños en la vida real, que los expertos en seguridad nacional y lucha contra el terrorismo también señalaron. Del mismo modo, se expusieron inquietudes respecto de que, si el término no se modera en absoluto, acabaríamos por normalizar a personas designadas y sus organizaciones, que podrían usar los medios sociales para reclutar gente y obtener otros tipos de ayuda sustancial. Otros temas giraban en torno a preocupaciones sobre la calidad de la automatización que Meta usa para moderar el contenido que incluye el término. Asimismo, los participantes exigían más transparencia respecto de su uso, así como de la lista de entidades designadas y los procesos de designación de Meta.

17. Para obtener un informe sobre las mesas redondas con partes interesadas, haz clic aquí (para obtener la versión en árabe, haz clic aquí).

3. Autoridad y alcance del Consejo asesor de contenido

18. Meta puede solicitar opiniones de asesoramiento normativo al Consejo (artículo 3, sección 7.3, del acta constitutiva), y el Consejo puede, a su exclusivo criterio, aceptar o rechazar las solicitudes de Meta (artículo 2, sección 2.1.3, de los estatutos). Estas opiniones son consultivas (artículo 3, sección 7.3, del acta constitutiva). Meta debe responder a esta opinión en un plazo de 60 días a partir de la publicación (artículo 2, sección 2.3.2, de los estatutos). El Consejo supervisa la implementación de las recomendaciones respecto de las que Meta se comprometió a tomar medidas y puede hacer un seguimiento de cualquier recomendación anterior en sus decisiones de casos.

4. Fuentes de autoridad y pautas

I. Recomendaciones anteriores del Consejo asesor de contenido

19. En casos anteriores, el Consejo le recomendó a Meta aclarar y acotar el alcance de la política de personas y organizaciones peligrosas, así como mejorar el debido proceso y la transparencia en torno a la aplicación.

20. En relación con aumentar la claridad de la política y acotar su alcance, el Consejo le recomendó a Meta:

• Acotar la definición de "exaltación" en las pautas de preguntas conocidas para revisores ( Mención de los talibanes en los informes de noticias, recomendación n.º 3).
• Revisar sus pautas internas para aclarar que la concesión "de interés periodístico" correspondiente a la política de personas y organizaciones peligrosas permite la conservación de declaraciones positivas sobre entidades designadas como parte de la cobertura periodística, y explicar cómo se debería distinguir esto de las "exaltaciones" prohibidas ( Mención de los talibanes en los informes de noticias, recomendación n.º 4).
• Agregar criterios y ejemplos ilustrativos a su política para mejorar la comprensión de las excepciones relativas al debate neutral, las actitudes de condena y los fines periodísticos ( Publicación compartida de Al Jazeera, recomendación n.º 1).
• Actualizar las bases de la política para reflejar que el respeto por la libertad de expresión y otros derechos humanos puede reforzar el valor de seguridad de Meta, y especificar en más detalle los "daños en la vida real" que la política busca prevenir e interrumpir cuando se reprime el valor de expresión ( Aislamiento de Öcalan, recomendación n.º 4).
• Explicar de qué manera los usuarios pueden dejar clara su intención en las publicaciones que realizan, de modo que estas puedan beneficiarse de las excepciones de la política ( Aislamiento de Öcalan, recomendación n.º 6).
• Explicar la aplicación de términos clave en la política de personas y organizaciones peligrosas, brindar ejemplos de estos, incluido el significado de "exaltación", y brindar pautas más claras a los usuarios sobre cómo dejar en evidencia la intención que tienen ( Cita nazi, recomendación n.º 2).

21. En relación con el sistema de faltas de Meta, el Consejo recomienda a Meta:

• Explicar el proceso de faltas y penalizaciones para restringir perfiles, páginas, grupos y cuentas en Facebook e Instagram de una manera clara, integral y accesible ( Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, recomendación n.º 15).
• Incluir en la explicación pública de su sistema de faltas de dos vías detalles más exhaustivos y accesibles, y brindar más información general sobre "faltas graves" ( Mención de los talibanes en los informes de noticias, recomendación n.º 2).
• Proporcionar a los usuarios información accesiblesobre la cantidad de infracciones, faltas y penalizaciones que se evaluaron en su contra, así como las consecuencias que habrá si se cometen más infracciones en el futuro ( Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, recomendación n.º 16).

22. En relación con la transparencia, el Consejo recomienda a Meta:

• Compartir públicamente su lista de entidades designadas o al menos proporcionar ejemplos ilustrativos de dichas entidades ( Cita nazi, recomendación n.º 3).
• Incluir la cantidad de perfiles, páginas y cuentas restringidos (además de las decisiones de eliminación de contenido), con información desglosada por región y país, para presentar informes de aplicación de políticas más precisos ( Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, recomendación n.º 17).
• Incluir información más integral respecto de las tasas de errores en la aplicación de las reglas sobre "exaltación" y "apoyo" de personas y organizaciones peligrosas, desglosada por región e idioma ( Aislamiento de Öcalan, recomendación n.º 12).
• Aumentar la información pública sobre tasas de errores y ponerla a disposición por país e idioma en cada norma comunitaria ( Inquietud punyabí en torno a la RSS en la India, recomendación n.º 3).

23. En relación con la automatización, el Consejo recomienda a Meta:

• Informar a los usuarios cuando se usen sistemas automatizados de aplicación de políticas contra su contenido, lo que incluye facilitar descripciones accesibles sobre lo que esto implica ( Síntomas de cáncer de mama y desnudos, recomendación n.º 3).
• Expandir los informes de transparencia para divulgar datos sobre la cantidad de decisiones de eliminación automatizadas por norma comunitaria y la proporción de dichas decisiones que se revirtieron posteriormente tras la revisión manual" (Síntomas de cáncer de mama y desnudos, recomendación n.º 6).
• Publicar en sus informes de transparencia las tasas de errores relativas al contenido incluido erróneamente en los bancos de contenido infractor de Media Matching Service, desglosadas por política de contenido. En estos informes, se debería incluir información sobre cómo el contenido ingresa en los bancos, así como las iniciativas de la empresa para reducir errores en el proceso ( Caricatura sobre la policía colombiana, recomendación n.º 3).
• Proporcionar una explicación pública de la priorización automática y el cierre de apelaciones ( Eslogan de protesta contra Irán, recomendación n.º 7).

24. Para consultar el estado de implementación de estas recomendaciones anteriores en el momento en que concluía esta opinión, haz clic aquí (para consultar la versión en árabe, haz clic aquí).

II. Valores y responsabilidades de Meta en materia de derechos humanos

25. El análisis y las recomendaciones del Consejo en esta opinión de asesoramiento normativo se basaron en los valores y las responsabilidades de Meta en materia de derechos humanos.

26. Meta describe la expresión como un valor "fundamental" y señala que se puede limitar en favor de otros valores, de los cuales el más relevante es la seguridad en esta opinión de asesoramiento normativo. Para proteger el valor de seguridad, Meta elimina contenido que podría contribuir a un riesgo de daño para la seguridad física de las personas. Asimismo, no permite el "contenido que supone una amenaza para las personas", ya que "puede intimidar, excluir o silenciar a otros".

27. El 16 de marzo de 2021, Meta anunció su Política corporativa de derechos humanos, en la que describe su compromiso con el respeto de los derechos de conformidad con los Principios Rectores sobre las empresas y los derechos humanos de las Naciones Unidas (UNGP). Estos principios, respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. Estas responsabilidades implican, entre otras cosas, que las empresas "deben abstenerse de infringir los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos humanos en las que tengan alguna participación" (Principio 11, UNGP). Se espera que las empresas: "(a) eviten que sus propias actividades provoquen o contribuyan a provocar consecuencias negativas sobre los derechos humanos y hagan frente a esas consecuencias cuando se produzcan; (b) traten de prevenir o mitigar las consecuencias negativas sobre los derechos humanos directamente relacionadas con operaciones, productos o servicios prestados por sus relaciones comerciales, incluso cuando no hayan contribuido a generarlos" (Principio 13, UNGP).

28. Como se reconoce en la solicitud que Meta hace al Consejo, sus prácticas de moderación de contenido pueden tener efectos adversos en el derecho a la libertad de expresión. El párrafo 2 del artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR) protege ampliamente este derecho, dada su importancia para el discurso político, y el Comité de Derechos Humanos señaló que también protege la expresión que puede resultar profundamente ofensiva ( observación general n.º 34, párrafos 11, 13 y 38). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó la Relatora Especial de la ONU sobre la libertad de expresión y opinión, si bien "las empresas no tienen las obligaciones de los Gobiernos, su impacto es tal que las obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho a la libertad de expresión de sus usuarios" (informe A/74/486, párrafo 41).

29. Se garantiza el derecho a la libertad de expresión a todas las personas de forma igualitaria. Toda restricción a este derecho no debe basarse en la discriminación, incluido por motivos de religión o creencias, idioma u origen nacional (artículos 2 y 26 del ICCPR).

Legalidad (claridad y accesibilidad de las reglas)

30. Cada vez que se aplique una restricción a la libertad de expresión, se debe ofrecer información de fácil acceso y suficientemente clara en cuanto al alcance, el significado y las consecuencias que sirva a los usuarios y revisores de contenido como guía sobre el contenido que se permite o se prohíbe. La falta de claridad o precisión puede dar lugar a una aplicación de las reglas incoherente y arbitraria (informe de la Relatora Especial de la ONU A/HRC/38/35, párrafo 46). El Consejo había criticado anteriormente la falta de claridad de la política de personas y organizaciones peligrosas, y había brindado a Meta recomendaciones para mejorarla ( Aislamiento de Öcalan, recomendaciones n.º 4 y n.º 6; Publicación compartida de Al Jazeera, recomendación n.º 1; Mención de los talibanes en los informes de noticias, recomendaciones n.º 3 y n.º 4). Posteriormente, Meta implementó las recomendaciones del Consejo para aclarar su definición de exaltación.

31. Sin embargo, la actualización que realizó Meta a la política de personas y organizaciones peligrosas en diciembre de 2023 presenta nuevas inquietudes que tienen que ver con la legalidad. Si bien Meta brinda ejemplos de publicaciones que infringen la disposición que prohíbe la "representación", el "apoyo" y la "glorificación", no lo hace respecto de "referencias poco claras" que infringen las normas. Las recomendaciones del Consejo en esta opinión de asesoramiento normativo pretenden aumentar la claridad y accesibilidad de las reglas de Meta.

Fin legítimo

32. El párrafo 3 del artículo 19 del ICCPR estipula que toda restricción a la libertad expresión debe tener un fin legítimo, incluido proteger los derechos de otras personas, así como velar por los intereses más generales de la sociedad (consulta también la observación general n.º 34, párrafos 21 y 30). En las bases de la política de Meta relativas a la norma comunitaria sobre personas y organizaciones peligrosas, se explica que el objetivo es "evitar y prevenir daños en la vida real", consideración que el Consejo determinó, en varios casos, como coherente con el fin legítimo de proteger los derechos de otras personas, incluido el derecho a la vida (artículo 6, ICCPR). Asimismo, el Consejo reconoció en instancias anteriores que la exaltación de entidades designadas puede poner en riesgo de daño los derechos de otras personas y que intentar mitigar dichos daños por medio de la disposición incluida en la norma comunitaria sobre personas y organizaciones peligrosas que prohíbe la exaltación entraña un fin legítimo ( Mención de los talibanes en los informes de noticias).

Necesidad y proporcionalidad

33. Toda restricción que se aplique a la libertad de expresión debe ser adecuada a fin de cumplir su función de protección; debe ser el instrumento menos invasivo entre aquellos que le permitan cumplir dicha función; debe ser proporcional al interés que se busca proteger ( observación general n.º 34, párrafo 34).

34. La Resolución 1624 del Consejo de Seguridad de las Naciones Unidas (2005) exige a los Estados, conforme sea necesario y adecuado, y en función de sus obligaciones en virtud de la legislación internacional, "prohibir por ley la incitación a la comisión de un acto o actos de terrorismo" (párrafo 1a), y resoluciones posteriores expresaron inquietud respecto del uso de internet por parte de organizaciones terroristas (Resolución 2178 [2014] y Resolución 2396 [2017] del UNSC). Si bien estas resoluciones reafirman que los Estados deben abordar y prevenir el terrorismo de conformidad con las obligaciones contraídas en virtud de las leyes internacionales de derechos humanos, el Relator Especial sobre la promoción y la protección de los derechos humanos y las libertades fundamentales en la lucha contra el terrorismo expresó preocupaciones tanto sobre la ambigüedad de las leyes en el ejercicio de sus obligaciones, incluidas aquellas relacionadas con la expresión online, como también sobre el enfoque de estas respecto del contenido del discurso, no respecto de la intención del orador o el impacto que dicho discurso tiene en los demás (informe A/HRC/40/52, párrafo 37). El Relator Especial concluyó en que criminalizar la propaganda terrorista "exige una probabilidad razonable de que la expresión en cuestión logre incitar a la comisión de un acto terrorista, estableciendo así un cierto grado de relación causal o de riesgo real de que se produzca el resultado prohibido" ( ibid.). La Declaración Conjunta Sobre Internet y sobre Medidas Anti-Terroristas de la Relatora Especial de la ONU sobre la libertad de expresión, el representante de la OSCE para la libertad de los medios y el Relator Especial para la libertad de expresión de la OEA, con fecha del 21 de diciembre de 2005, indica que, si no se muestra con claridad que el discurso en cuestión constituye una incitación directa e intencional a participar en hechos terroristas y aumenta de manera directa la probabilidad de que ocurran dichos hechos, un Estado no puede aplicar medidas punitivas para restringir y sancionar el discurso (p. 39). El Relator Especial de la ONU sobre la libertad de expresión también estableció un límite alto en el párrafo 36 del informe A/HRC/17/27 publicado el 16 de mayo de 2011, en el que indica que la protección de la seguridad nacional o la lucha contra el terrorismo no pueden aducirse para justificar la restricción del derecho a la libertad de expresión, a no ser que se pueda demostrar que: "a) la expresión tiene por objetivo instigar a la violencia inmediata; b) es probable que instigue a ese tipo de violencia; y c) existe una relación directa e inmediata entre la expresión y la posibilidad de que se produzca ese tipo de violencia". Conforme al Comité de Derechos Humanos, cuando las medidas de lucha contra el terrorismo prohíben cierto discurso, términos como "incitación", "glorificación" y "exaltación" deben "estar claramente definidos" y no deben "limitar indebidamente la función crucial que los medios de comunicación desempeñan en la tarea de informar a la población sobre los actos de terrorismo" (observación general n.º 34, párrafos 30 y 46).

35. Si bien estas normas y principios son un importante punto de partida para el análisis del Consejo, las obligaciones y limitaciones que la legislación internacional de derechos humanos impone en los Estados no son idénticas a las responsabilidades y los criterios que puede tener una empresa privada en esta esfera. La aplicación de sanciones penales por parte de un Estado no equivale a la moderación de contenido en una plataforma de medios sociales, y el Consejo reconoce que Meta, como empresa privada, no estatal, puede adoptar, y en ocasiones adopta, un enfoque respecto de la expresión que es más restrictivo que el que se justificaría para un Estado, tomando en cuenta los dos valores de la empresa (consulta los párrafos 27 y 28 anteriores) y los desafíos únicos que supone moderar contenido a gran escala. De acuerdo con la Relatora Especial de la ONU sobre la libertad de expresión: "Cuando las reglas de las empresas difieren de las normas internacionales, las empresas deben dar una explicación razonada de antemano de la diferencia de política, de manera que se explique la variación" (informe sobre lenguaje que incita al odio online de la Relatora Especial sobre la libertad de expresión, A/74/486, párrafo 48, 9 de octubre de 2019). En muchas de sus decisiones anteriores, el Consejo exploró cómo transformar las normas internacionales diseñadas para los Estados en responsabilidades con los derechos humanos de una empresa, al evaluar el requisito de proporcionalidad, lo que también busca lograr con esta opinión de asesoramiento normativo.

36. En decisiones anteriores del Consejo en relación con la norma comunitaria sobre personas y organizaciones peligrosas, también se analizaron las responsabilidades con los derechos humanos de Meta en torno a la "exaltación" de entidades designadas. Pese a que el objetivo de evitar que entidades designadas que buscan incitar a la violencia, o reclutar gente o participar en otras formas de apoyo material, es un fin legítimo, el Consejo detectó varias instancias en las que el alcance o la imprecisión de la disposición que prohíbe la "exaltación" restringe la expresión de los usuarios de un modo innecesario y desproporcionado. Por ejemplo, el Consejo anuló la eliminación de una publicación de un periódico en idioma urdu sobre un comunicado de los talibanes que afirmaba que había planes para restablecer la educación de mujeres y niñas, porque no la consideró como "exaltación" ( Mención de los talibanes en los informes de noticias). También, de un modo similar, revirtió la eliminación de Meta de la publicación de un usuario por atribuir erróneamente una cita a Joseph Goebbels ( Cita nazi) porque había contexto suficiente para que quedara claro que la publicación no exaltaba la ideología nazi, sino que generaba un debate político en los Estados Unidos. El Consejo también anuló la decisión de Meta de eliminar una publicación sobre un artículo periodístico de Al Jazeera que reportaba las amenazas de violencia de un grupo terrorista designado, que se debería haber conservado en la plataforma, lo que plantea inquietudes respecto del impacto potencialmente discriminatorio de las políticas de Meta ( Publicación compartida de Al Jazeera). En decisiones resumidas e inmediatas, el Consejo también revirtió o instó a que se reviertan varias decisiones de eliminación de Meta de publicaciones en Facebook e Instagram que se habían quitado inicialmente por exaltar a personas designadas ( Líder anticolonial Amílcar Cabral; Activista libanés; Respuesta ante un caso de antisemitismo; Distrito electoral federal en Nigeria; Educación de las niñas en Afganistán; Mención de Al Shabaab; Alabado sea Dios; y Rehenes secuestrados de Israel). Muchas de estas decisiones siguen siendo relevantes, sin perjuicio de los cambios recientes de Meta a la política de personas y organizaciones peligrosas. El Consejo seguirá evaluando esta política en casos futuros, incluido en relación con las nuevas disposiciones sobre glorificación y "referencias poco claras".

6. Recomendaciones y análisis

37. El Consejo asesor de contenido emitió siete recomendaciones a Meta relativas a políticas de contenido, aplicación de políticas y transparencia. El Consejo considera que dichas recomendaciones son viables a gran escala y permitirán a Meta aumentar su transparencia y seguir defendiendo sus valores de expresión y seguridad, y, al mismo tiempo, respetar aún más el derecho a la libertad de expresión y otros derechos humanos.

6.1 Política de Meta respecto del término "shaheed"

Recomendación n.º 1 sobre la política de contenido: Meta debe dejar de suponer que la palabra "shaheed", cuando se usa para hacer referencia a personas designadas o a miembros anónimos de organizaciones designadas, siempre infringe las normas y no es apta para que se le apliquen excepciones de la política. El contenido que se refiere a una persona designada como "shaheed" se debe eliminar como "referencia poco clara" solo en dos situaciones. En primer lugar, cuando hay presente uno o más de estos tres indicios de violencia: una representación visual de armamento o armas, una declaración de intención o defensa respecto del uso o la portación de armamento o armas, o referencias a un hecho designado. En segundo lugar, cuando el contenido infringe de otro modo las políticas de Meta (por ejemplo, debido a glorificación o porque la referencia a una persona designada sigue siendo poco clara por otros motivos que no tienen que ver con el uso del término "shaheed"). En cualquier situación, el contenido debería seguir reuniendo los requisitos para las excepciones que permiten "reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral".

El Consejo considerará implementada esta recomendación cuando Meta actualice públicamente las Normas comunitarias y especifique que las referencias a personas designadas como "shaheed" no se admiten cuando hay presentes uno o más de los tres indicios de violencia.

Recomendación n.º 2 sobre la política de contenido: Para aclarar la disposición que prohíbe las "referencias poco claras", Meta debe incluir varios ejemplos de contenido infractor, como una publicación que haga referencia a una persona designada como "shaheed" en combinación con uno o más de los tres indicios de violencia que se especifican en la recomendación n.º 1.

El Consejo considerará implementada esta recomendación cuando Meta actualice públicamente sus Normas comunitarias con ejemplos de "referencias poco claras".

Recomendación 3 sobre la aplicación de políticas: Las pautas normativas internas de Meta también deberían actualizarse para dejar en claro que llamar a personas designadas "shaheed" no infringe las normas, excepto si dicha declaración va acompañada de indicios de violencia, y que, incluso si se presentan dichos indicios, el contenido puede beneficiarse de las excepciones que permiten "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral".

El Consejo considerará implementada esta recomendación cuando Meta actualice las pautas que proporciona a los revisores a fin de que el término "shaheed" pueda beneficiarse de las excepciones que permiten reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral, y comparta con el Consejo las pautas revisadas.

38. Si bien es imperativo que Meta evite que sus plataformas se usen para incitar actos de violencia terrorista (un fin legítimo al que apuntan sus políticas de moderación de contenido), las responsabilidades de Meta con los derechos humanos exigen que las limitaciones a la expresión sean necesarias y proporcionadas, y, en última instancia, respeten la expresión de personas en comunidades que sufren violencia. Si bien uno de los significados del término "shaheed" corresponde a la palabra "mártir" y se usa de ese modo, al Consejo no le parece necesario ni proporcionado que Meta elimine todo el contenido únicamente por emplear dicha palabra para referirse a personas designadas. El motivo es que la prohibición categórica no tiene en cuenta la complejidad lingüística del término, conduce a la eliminación exagerada del discurso, restringe de manera indebida la libertad de los medios de comunicación y el espacio cívico, y tiene implicaciones negativas graves para la igualdad y la no discriminación. Asimismo, si la empresa acepta e implementa esta recomendación, se seguirán aplicando las disposiciones de la política de Meta que prohíben la "glorificación" y las "referencias poco claras" de manera más general. Por ende, Meta debe dejar de eliminar contenido solo porque incluye el término "shaheed". En lugar de ello, Meta debe adoptar un enfoque más contextual y definir de manera clara y concisa cuáles son los indicios de violencia que llevarían a interpretar el término "shaheed" como dañino. Como se explica más adelante, el Consejo respalda absolutamente dos de los seis indicios que Meta propone en su solicitud y recomienda acotarlos a un tercio. Los otros tres indicios propuestos por Meta, que se proporcionan como pauta a los revisores para la aplicación de la política de violencia e incitación independiente, son demasiado generales para los fines que persigue la política de personas y organizaciones peligrosas. Al mismo tiempo, el Consejo recomienda a Meta aplicar excepciones que permiten el contenido que reporta o condena a entidades designadas, o habla sobre ellas o sus actividades en un tono neutral cuando hay presentes indicios de violencia. Las recomendaciones anteriores se aplican tanto al singular como al plural del término "shaheed" y a sus variantes en los diversos idiomas que lo adoptaron.

39. El Consejo consultó con expertos y partes interesadas para evaluar los daños potenciales que supone permitir el contenido que incluye esta palabra en referencia a entidades designadas en las plataformas de Meta. A algunas partes interesadas les preocupa que las plataformas de Meta favorezcan la propaganda y las iniciativas de reclutamiento de terroristas, y fomenten la violencia y la discriminación, incluso contra personas judías (consulta los comentarios del público, p. ej., PC-11123 de CyberWell Ltd; PC-11153 de Stop Antisemitism Now; PC-11194 del Comité para la Exactitud de la Información de Oriente Medio; PC-11068 de Canadian Antisemitism Education Foundation). Aunque no existe investigación que demuestre una conexión causal concreta entre "shaheed" y un aumento en la violencia o la discriminación (como se señaló previamente en la referencia de Meta en la página 10 y que surgió de las reuniones que Meta mantuvo con expertos y partes interesadas antes de solicitar la opinión de asesoramiento normativo), existen casos individuales que vinculan el deseo de martirio con actos violentos. En términos más generales, preocupa mucho que organizaciones violentas usen los medios sociales para reclutar personas e incitarlas a cometer actos terroristas, normalizar el terrorismo y facilitar el extremismo. La exhaustiva participación de partes interesadas y las consultas a expertos del Consejo, que incluyeron una mesa redonda con expertos en la lucha contra el terrorismo (consulta Mesas redondas con partes interesadas) confirmaron dichas presunciones e inquietudes.

40. Diversos comentarios que expertos y partes interesadas presentaron al Consejo también describían las repercusiones negativas que tiene para la libertad de expresión la eliminación de contenido que incluye el término "shaheed" (consulta los comentarios del público, p. ej., PC-11196 de Integrity Institute; PC-11164 de SMEX; PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation). Esto incluye eliminar el discurso que emplea el término "shaheed" que no exalta ni glorifica a entidades designadas, sino que reporta la violencia de organizaciones terroristas o de otro tipo designadas, o mantiene un debate académico o político sobre personas designadas en un tono neutro.

41. Los siguientes ejemplos pueden servir para ilustrar el enfoque que adopta Meta al eliminar contenido que hace referencia a una persona como "shaheed":

• Un gobierno comparte un comunicado de prensa en las plataformas de Meta en el que confirma la muerte de una persona designada y emplea el término honorífico "shaheed" junto a su nombre. Esta publicación se eliminaría porque Meta supone que la palabra "shaheed" infringe las normas, independientemente del contexto que indica que se trata de un debate neutral.
• Un usuario publica la foto de una manifestación a la que asiste sin una descripción clara que explica la finalidad de dicha concentración. Varios carteles mencionan a una persona designada fallecida con la frase "shaheed". Esta publicación se eliminaría porque Meta supone que la imagen que muestra carteles con el nombre de una persona designada en conjunto con el término "shaheed" infringe las normas.
• Un defensor de los derechos humanos comparte una publicación con la descripción de la ejecución sumaria por orden del Estado de una persona designada, en la que se hace referencia a dicha persona como "shaheed" y se repudia la política antiterrorismo del Gobierno. Esta publicación se eliminaría porque Meta supone que la palabra "shaheed" infringe las normas, independientemente del contexto del informe.
• El miembro de una comunidad hace una publicación en reclamo por el estado de una carretera local que lleva el nombre de una persona designada e incluye el término honorífico "shaheed". Meta eliminaría la publicación porque supone que el término "shaheed" infringe las normas, independientemente de que se haya mencionado la persona designada de manera indirecta en un debate sobre asuntos locales.
• El miembro de una familia se refiere a un ser querido que murió en un ataque terrorista como "shaheed" y repudia a los perpetradores, que son personas designadas. Si bien esta publicación no infringiría las normas, el uso de la palabra "shaheed" en un contexto en el que también se menciona a los perpetradores sirve como ejemplo de contenido que se elimina erróneamente conforme al enfoque categórico de Meta.

42. Algunas partes interesadas expresaron preocupación por el hecho de que, si se aplica un enfoque menos restrictivo respecto del uso de "shaheed", se podría producir un efecto acumulativo a gran escala que conduciría a normalizar el terrorismo. Si bien es innegable que, en algunos casos, el término "shaheed" constituye una forma de aprobación o apoyo hacia una persona y los actos violentos que comete, y se usa con este fin, el Consejo no lo considera como motivo suficiente para justificar la prohibición absoluta que impone la política a esta palabra. En vista de la información que obtuvo el Consejo de las partes interesadas, incluidos expertos en la lucha contra el terrorismo, y de las investigaciones previas y consultas con partes interesadas de Meta, el Consejo llegó a la conclusión de que pesa más el impacto negativo tangible específico que tiene la política actual sobre la libertad de expresión que las posibilidades de que dichos casos tengan importantes efectos dañinos acumulativos. Esto ocurre especialmente porque, aunque se implementen las recomendaciones del Consejo, siguen vigentes medidas de protección que respaldan los objetivos de prevención de la violencia y otros daños que surgen cuando se permite que terroristas y sus seguidores usen libremente las plataformas de Meta.

43. El Consejo consideró también que el término "shaheed" tiene diversos significados y se suele usar de maneras que no incitan a la violencia o al odio, sino que pretenden informar sobre asuntos de interés público. Aplicar una prohibición absoluta implica eliminar mucho contenido que no entraña los daños que las políticas de Meta intentan mitigar. Si bien moderar contenido a gran escala a veces requiere aceptar un porcentaje de errores en la aplicación de políticas, Meta tiene la responsabilidad de evaluar las concesiones en función de todas sus responsabilidades con los derechos humanos. Conforme a todas estas consideraciones, el Consejo llegó a la conclusión de que el enfoque que propone concuerda mejor con las responsabilidades con los derechos humanos de Meta.

Importancia cultural y religiosa del término "shaheed" y diversidad de significados

44. "Shaheed" es un término importante desde el punto de vista cultural y religioso que se utiliza en muchos contextos diferentes y adquiere diversos significados. Los comentarios del público que recibió el Consejo y las investigaciones que este encargó aportaron más información valiosa sobre esta palabra. "Shaheed" puede significar "dar fe de algo" y "testificar". También se usa como nombre islámico y, en algunas regiones, como Asia occidental y África septentrional, como apellido (consulta los comentarios del público, p. ej., PC-11196 del Integrity Institute; PC-11164 de SMEX). "Shaheed" también se utiliza para hacer referencia a personas que mueren honrando una obligación religiosa. En conflictos armados o ataques violentos, incluidos incidentes en los que participan organizaciones designadas, las personas en ocasiones conmemoran a las víctimas de violencia o terrorismo con la palabra "shaheed" (consulta los comentarios del público, p. ej., PC-11164 de SMEX; PC-11197 del Gobierno de Nueva Zelanda, en el que se reconoce a las víctimas del tiroteo de Christchurch como "shuhada", que es el plural de "shaheed"; PC-11196 del Integrity Institute, que manifiesta que comunidades musulmanas marginalizadas, como los rohinyá, en algunos países se consideran refugiados que debieron abandonar Myanmar a la fuerza debido a la persecución religiosa de la que son víctimas o se cree que son "shaheed"). Las investigaciones cuantitativas respecto de contenido que se publicó y sigue vigente en las plataformas de Meta, que el Consejo encomendó a Memetica, indican que "shaheed" se usa en general para referirse a personas que murieron por servir a su país o defender su causa, o como víctimas inesperadas de una tragedia natural o de violencia sociopolítica. Si bien dichas publicaciones no asocian necesariamente la palabra "shaheed" con una persona designada, los ejemplos que citamos antes (consulta el párrafo 41) ilustran cómo los diversos significados y usos de este término también son relevantes en ese contexto.

45. Tras los ataques terroristas perpetrados por Hamás contra Israel y la posterior ofensiva militar de Israel en Gaza en octubre de 2023, el Consejo encomendó otra investigación sobre tendencias de contenido en torno al uso de "shaheed". De las más de 12.000 publicaciones públicas evaluadas en este análisis, solo dos respaldaban a Hamás. Casi todas las instancias del término se relacionaban con descripciones de las víctimas fatales en la Franja de Gaza, sin mención alguna de personas u organizaciones designadas. Las publicaciones incluían expresiones de dolor de palestinos ante la pérdida de sus seres queridos, mientras que otras mostraban a niños palestinos heridos o los momentos posteriores a los ataques aéreos en Gaza. Se plantearon otras preguntas a Meta, ya que el acceso de los investigadores a tendencias de contenido se limita al contenido público que permanece en las plataformas, pero no incluye aquel que Meta eliminó por infringir su política de personas y organizaciones peligrosas. La respuesta de Meta reforzó los hallazgos de la investigación. En opinión de la empresa, las tendencias de contenido durante la crisis no demostraron cambios en el uso o la interpretación de la palabra "shaheed" en comparación con el período anterior a estos acontecimientos.

46. Estos diversos significados indican que la presunción predeterminada de Meta de que el uso de "shaheed" infringe las normas y provoca daños en la vida real y, por ende, se debe eliminar siempre, impone costos globales a la libertad de expresión que se deben abordar. Meta explicó que "shaheed" es probablemente la palabra más moderada en sus plataformas, y diversas partes interesadas observaron que Meta suele eliminar contenido que reporta a entidades designadas y hechos de violencia ( solicitud de opinión de asesoramiento normativo, página 3). Este enfoque respecto del término "shaheed" es un ejemplo de cómo la empresa prioriza las distinciones claras (evidentes) en la aplicación de políticas a gran escala. Mientras que, en principio, tales distinciones pueden resultar apropiadas en ocasiones, ya que la moderación de contenido a gran escala a menudo implica concesiones difíciles, el Consejo concluye, en este caso, que no hay justificación suficiente que respalde la presunción predeterminada de que "shaheed" siempre se debe eliminar si se vincula con una persona designada y, por lo tanto, esta se debe descartar. Como Meta admite, su enfoque pasa por alto intencionalmente el contexto lingüístico y cultural, lo que genera una importante sobreaplicación de políticas de dos maneras. En primer lugar, supone la eliminación de contenido cuyo fin no es exaltar ni glorificar a nadie, pero que de todos modos infringe la política porque Meta supone que "shaheed" siempre es un término infractor. En segundo lugar, fomentan tasas más altas de eliminaciones erróneas de contenido que emplea el término "shaheed" en relación con personas no designadas, ya que el enfoque tiene arraigado un marco categórico y rechaza evaluaciones más contextuales.

47. Sin perjuicio de los diversos significados de la palabra "shaheed", el Consejo señala que los ejemplos antes proporcionados incluidos en la disposición de la política de personas y organizaciones peligrosas de Meta que prohíbe la "exaltación" no estaban contextualizados según los diferentes mercados y se tradujeron de un modo demasiado simplista. El único indicador en el enfoque que adoptan las Normas comunitarias de Meta respecto de contenido que incluye el término "shaheed" era el ejemplo de una frase que llama "mártir" a un terrorista condenado, que se enumera en su prohibición más general de la exaltación. Se utilizó este mismo ejemplo en diversos idiomas y, en árabe, se tradujo como "shaheed", pese a que los términos no eran necesariamente equivalentes. El Consejo manifiesta que este ejemplo se eliminó de la actualización de la política realizada en diciembre de 2023. Si bien la traducción de este ejemplo no era necesariamente exacta, no es preciso usar ese solo ejemplo para afirmar que "shaheed" siempre equivale a "mártir".

48. Por las mismas razones en sentido contrario, las conclusiones del Consejo sobre el término "shaheed" en esta opinión de asesoramiento normativo no deberían transferirse automáticamente al término "martyr" (mártir) y a todas sus traducciones a otros idiomas. "Martyr" y "shaheed" no son equivalentes directos, ya que el primero tiene menos variabilidad semántica dentro las diversas regiones en las que se habla inglés. En los diversos idiomas, Meta deberá evaluar qué términos llegan al límite de "glorificación" que la empresa estipula, pero sin perder de vista las pautas establecidas en esta opinión de asesoramiento normativo. En cualquier caso, el Consejo no apoya las prohibiciones absolutas que aíslan al término "shaheed" del contexto más general de las publicaciones en las que se incluye y prohíben su uso. De conformidad con un precedente del Consejo asesor de contenido, estas publicaciones deben evaluarse en su totalidad. Asimismo, de acuerdo con sus políticas de dominio público, Meta debe garantizar que las excepciones de la política permitan "reportar o condenar a personas designadas, o hablar sobre ellas o sus actividades en un tono neutral" cuando se emplea el término "martyr" (y los términos referidos a glorificación o que hagan una referencia positiva conforme corresponda genuinamente). Esto remarca la importancia de que las pautas internas que se proporcionan a los revisores se adapten al contexto local y a las especificidades lingüísticas del lenguaje que se someterá a revisión (consulta inquietudes similares expresadas en la decisión del caso Bot de Birmania, que sustentaron la recomendación n.º 1 en ese caso).

49. En varios casos, el Consejo obligó a Meta a recalibrar la concesión entre contar con reglas claras aplicables a gran escala y contar con políticas cuya aplicación tiene más en cuenta el contexto, lo que a menudo propicia la libertad de expresión y la voz del usuario (p. ej., respetar que se informe sobre entidades designadas; consulta Mención de los talibanes en los informes de noticias y Publicación compartida de Al Jazeera). Si bien casos anteriores no implicaban directamente el uso del término "shaheed", el Consejo advirtió sobre suponer que hay malas intenciones cuando se hace referencia a entidades designadas (consulta Cita nazi). Varios comentarios del público resaltan cómo la presunción de Meta de que "shaheed" siempre equivale a "exaltación", como consecuencia de los errores que cometen los moderadores o la automatización a gran escala, podría conducir a la sobreaplicación de políticas contra personas que conmemoran a las víctimas de ataques terroristas (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 1; PC-11197 del Gobierno de Nueva Zelanda). Eliminar dicho contenido incluso podría ir en contra de los objetivos de la política de personas y organizaciones peligrosas, ya que podría impedir que se desarrolle un debate sobre la violencia terrorista y las iniciativas para contrarrestar las ideologías que la sustentan (consulta, p. ej., PC-11164 de SMEX).

Respeto por la libertad de los medios de comunicación y el espacio cívico

50. Al Consejo le preocupa especialmente que el enfoque de Meta afecte al periodismo y el discurso cívico. Dichas repercusiones son agudas en ubicaciones donde abunda la violencia de organizaciones terroristas o de otro tipo designadas, así como en lugares donde entidades designadas tienen control territorial o, de otro modo, poder político. Diversos comentarios del público plantearon estas inquietudes (consulta los comentarios del público, p. ej., PC-11196 del Integrity Institute; PC-11157 de Palestine Institute for Public Diplomacy). Es posible que organizaciones de medios de comunicación y otros comentaristas se manejen con precaución a la hora de informar sobre entidades designadas porque querrán evitar las eliminaciones de contenido que pueden generar sanciones graves, incluidas la eliminación de páginas o grupos o la inhabilitación de cuentas. En algunos casos, esto puede ser impredecible, por ejemplo, informar sobre una manifestación contra un agente del Gobierno en la que se muestran letreros de apoyo a personas designadas que ese mismo agente asesinó. Las convenciones lingüísticas, culturales o religiosas podrían imponer que "shaheed" se utilice en referencia a personas asesinadas en estas situaciones, incluidas aquellas que murieron mientras cometían actos de violencia.

51. Cabe tener en cuenta la complejidad de las situaciones en las que entidades designadas pueden estar involucradas en hechos de violencia, incluidas situaciones que podrían llegar a considerarse conflictos armados, resistencia a la ocupación extranjera o disturbios civiles. Los medios de comunicación pueden enfrentar importantes desafíos a la hora de informar sobre estas situaciones, ya que estos deben tener en cuenta las convenciones lingüísticas, culturales o religiosas locales y, al mismo tiempo, cumplir con las políticas de contenido de Meta. Como agravante de dichas inquietudes está la falta de transparencia en torno a la lista de entidades designadas de Meta y el hecho de que los usuarios no saben en realidad quién figura en ella. Los informes periodísticos sobre dichas situaciones con frecuencia también pueden mostrar indicios de violencia, como la imagen de un arma, que, fuera del contexto de las excepciones que permiten reportar o condenar a estas entidades, o hablar sobre ellas y sus actividades en un tono neutro, pueden indicar que se está infringiendo la política. Por lo tanto, es de suma importancia que Meta aplique la excepción de la política en instancias en las que el contenido reporta o condena a una entidad designada, o habla sobre ella y sus actividades en un tono neutro.

52. Con dicha prohibición, también es posible que a los usuarios se les haga más difícil expresar sus opiniones y críticas al vivir en contextos en los que entidades designadas operan o gozan de poder político. Para evitar la confrontación directa y los riesgos para la seguridad, los usuarios en estos contextos pueden formular comentarios desde el respeto que no necesariamente deben interpretarse como exaltación. Preocupa especialmente que se sancione ese discurso, ya que los medios sociales constituyen un importante foro de debate, en particular en países y zonas de conflicto en los que se limita la libertad de la prensa.

Igualdad y no discriminación

53. Dado el uso generalizado y muy variable del término "shaheed", en particular entre hablantes de árabe y de otros idiomas (muchos de ellos musulmanes) que lo tomaron prestado, la política de Meta repercute de manera desproporcionada en estas comunidades. Esto suscita importantes preocupaciones con respecto a la responsabilidad de la empresa de respetar los derechos a la igualdad y la no discriminación de todos los usuarios en el ejercicio de sus derechos a la libertad de expresión. Este fue el enfoque de muchos comentarios del público (consulta, p. ej., PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation; PC-11196 de Integrity Institute; consulta también el informe de BSR sobre el impacto de Meta en Israel y Palestina). En su informe sobre interrupción del viaje hacia el extremismo, el Programa de las Naciones Unidas para el Desarrollo (PNUD) destaca que los principales factores que impulsan la violencia extremista son, entre otras causas raíz, "la desigualdad, la exclusión, la falta de oportunidades y las percepciones de injusticia". Al Consejo le preocupa que el enfoque de la política de Meta pueda agravar las experiencias de marginalización y exclusión de ciertas comunidades e incluso resultar contraproducente para la finalidad establecida, que es reducir la violencia. El PNUD señala que, en relación con la moderación de contenido en plataformas online, las empresas deben garantizar que la labor para prevenir el extremismo violento "no conduzca involuntariamente a que se estigmatice o ataque a personas".

Medios menos invasivos de prevenir el daño

54. Una evaluación de la necesidad y proporcionalidad de la política requiere también que se realice un análisis para determinar si hay medios menos restrictivos de alcanzar el fin legítimo en cuestión. Las recomendaciones del Consejo en esta opinión, de implementarse, exigirían que Meta deje de eliminar categóricamente todas las instancias del término "shaheed" que hacen referencia a personas designadas. No obstante, el contenido que incluye este término se podría seguir eliminando en circunstancias más concretas en las que las posibilidades de daños son menos ambiguas y más evidentes. Las recomendaciones permitirían a Meta seguir eliminando contenido que hace referencia a personas designadas como "shaheed" cuando haya otras infracciones de la política (p. ej., glorificación o referencias poco claras) o el contenido incluya indicios de violencia. De este modo, se seguirá imponiendo una restricción importante y se reducirán, al mismo tiempo, los efectos adversos de la política, incluida su sobreaplicación a grupos lingüísticos o religiosos específicos.

55. La presencia de indicios de violencia junto con la mención del término "shaheed" en referencia a una persona designada indican con más claridad que la publicación tiene como fin hablar de manera positiva sobre la persona debido a su vínculo con la violencia (siempre que no se aplique la excepción que permite reportar a personas designadas, condenarlas o hablar sobre ellas y sus actividades en un tono neutro). En su solicitud, Meta propuso los siguientes indicios de violencia, que tomó prestados de las pautas internas que figuran en la política de violencia e incitación: (1) representación visual de armamento; (2) declaración de intención o apoyo respecto del uso o la portación de armamento o armas; (3) referencias a lenguaje militar; (4) referencias a incendios, saqueos u otros métodos de destrucción de la propiedad; (5) referencias a incidentes de violencia del mundo real conocidos; y (6) declaraciones de intención, incitación, representación, respaldo o defensa de la violencia contra otras personas. El Consejo determina que algunos de estos indicios constituyen indicadores útiles de contenido que podría ocasionar daños, que no se pueden inferir a partir del uso del término "shaheed" solo. Sin embargo, otros de estos indicios no se consideran tan útiles. La política de violencia e incitación de dominio público se refiere a "indicios temporales de alto riesgo de violencia o daños en el mundo real" en tres ocasiones, cada una relacionada con reglas que se diseñaron para abordar riesgos de violencia en lugares específicos y en acontecimientos de duración concreta, como mesas electorales y manifestaciones. Basar en estos indicios la aplicación de políticas respecto del término "shaheed" en todos los contextos, en los que la posibilidad de daños no es comparablemente probable ni inminente, supone riesgos de aplicación desproporcionada.

56. Para el Consejo, teniendo en cuenta el contexto más general de la política de personas y organizaciones peligrosas, es adecuado emplear un conjunto más acotado de indicios. El indicio de representación visual de armamento y el de declaración de intención o apoyo respecto del uso o la portación de armamento o armas deberían tomarse como indicadores de contenido que es más probable que contribuya a daños. Para el Consejo, el indicio de "referencias a incidentes de violencia del mundo real conocidos" es demasiado amplio, lo que supone la eliminación de demasiados escenarios que muestran la violencia de personas u organizaciones designadas. Por lo tanto, debería definirse mejor y restringirse a acontecimientos designados en la política de personas y organizaciones peligrosas de Meta, que incluyen ataques terroristas, hechos de odio, violencia o intentos de violencia contra varias víctimas, asesinatos en serie o crímenes de odio. Los tres indicios que recomienda el Consejo admiten más matices contextuales, lo que garantiza que se sigan eliminando las instancias menos ambiguas del término "shaheed", que se refieren más explícitamente a hechos de violencia terrorista.

57. El resto de los indicios que propone Meta, "referencias a lenguaje militar" y a "incendios, saqueos u otros métodos de destrucción de la propiedad", son demasiados amplios y conducirían a una aplicación de políticas imprecisa. El indicio final propuesto que atañe a "declaraciones de intención, incitación, representación, respaldo o defensa de la violencia contra otras personas" conduciría particularmente a contenido que infringe la norma comunitaria sobre violencia e incitación y, por ende, sería redundante e innecesario si se incluyera como indicio de violencia.

58. Contrario a la tercera opción normativa de Meta, el Consejo señala que, incluso cuando se haga referencia a personas designadas junto con estos indicios de violencia, puede que no siempre haya intención de glorificarlas o glorificar sus actos. En su solicitud (páginas 9 y 10), Meta explica el potencial de sobreaplicación y menciona las prácticas que emplean los medios de comunicación para difundir una noticia en Pakistán. En opinión del Consejo, al hablar sobre la muerte de una persona designada, sería habitual que los medios de comunicación publicaran imágenes en las que se la ve con armamento o se muestra la destrucción que ocasionó, sin glorificar sus actos. Por este motivo, es necesario que los revisores a escala reciban capacitación para conservar contenido en las plataformas cuando hay una clara intención de reportar a una entidad, condenarla o hablar sobre ella y sus actividades en un tono neutro.

59. Asimismo, los cambios a la política que recomienda el Consejo dejarían intactas una amplia variedad de políticas de contenido que brindan protección contra los terroristas que usan las plataformas de Meta para causar daños en el mundo real y sus seguidores. Las publicaciones que incluyan el término "shaheed" en referencia a una persona designada de nivel 1 se eliminarían en las siguientes circunstancias:

• Cuando vengan acompañadas de uno o más de los tres indicios de violencia mencionados antes.
• Cuando incluyan otra infracción de la política de personas y organizaciones peligrosas (p. ej., representación, apoyo o glorificación de una personas designada). Glorificación incluiría, por ejemplo, legitimar o defender los hechos violentos o de odio de una persona designada, o celebrar su violencia u odio como si fuese un logro.
• Cuando incluyan otra infracción de la política, como lenguaje que incita al odio o violencia e incitación.
• Cuando incluyan referencias "poco claras o sin contexto". Esto incluye "humor poco claro, referencias positivas o sin pies de foto que no glorifican la violencia o el odio de la entidad designada".

60. Las recomendaciones del Consejo no evitarán, por lo tanto, que Meta exija a sus usuarios reflejar claramente la intención de sus publicaciones al referirse a una persona designada de nivel 1 como "shaheed". Sin embargo, sí evitarán que Meta se base solo en dicho término para afirmar que la publicación infringe las normas. La participación activa de Meta en el Foro Global de Internet contra el Terrorismo y el uso de su base de datos de coincidencias cifradas también garantizan que se elimine contenido que podría ocasionar daños en el mundo real. Las recomendaciones del Consejo permitirán aplicar las políticas de manera más clara, contextualizada y proporcionada a contenido que podría aumentar los riesgos de violencia y, al mismo tiempo, garantizar el respeto a la libertad de expresión y la no discriminación.

Evaluación de opciones normativas alternativas

61. Por estos motivos, el Consejo concluye que continuar con el status quo de la política, que Meta presentó como opción para que el Consejo la tome en consideración, entrañaría restricciones injustificadas a la libertad de expresión que afectan de forma desproporcionada a personas que hablan árabe, comunidades lingüísticas relevantes y musulmanes. La segunda opción normativa que propone Meta es similar a esta tercera opción, que el Consejo recomienda, siempre que se intente contextualizar el uso de la palabra "shaheed" y se admita su uso en relación con personas peligrosas de diversas maneras. De hecho, Meta indica que los cambios en la política del 29 de agosto de 2023 permiten más discurso político y social en determinadas instancias, incluido en relación con acuerdos de paz, elecciones, asuntos relativos a los derechos humanos, informes de noticias y debates académicos, condenatorios o neutros. Esto se aproxima más a los resultados normativos que se buscan alcanzar con la segunda y la tercera opción. La diferencia más significativa entre estas opciones es su viabilidad técnica y la implementación a gran escala. La segunda opción requiere que Meta establezca de manera afirmativa que se aplica una de las excepciones permitidas y, luego, examine si el contenido es infractor o incluye indicios de violencia; la tercera opción tiene como fin examinar de manera directa si hay presentes infracciones o indicios de violencia. Según Meta, sería mucho más engorroso diseñar e implementar de forma técnica la segunda opción porque exige que se tenga en cuenta un amplio conjunto de posibles excepciones (incluso más generales tras los cambios recientes realizados a la política), cada una de las cuales depende en gran medida de una evaluación del contexto. La dificultad de realizar dichas evaluaciones de manera precisa y coherente a su vez implica que es probable que se necesite mucha más revisión manual y haya mayor cantidad de errores de aplicación de políticas.

62. El Consejo considera que es preferible que Meta se base en un enfoque que evalúe de manera más uniforme todas las instancias en que se utilice el término "shaheed" en relación con personas designadas, más allá de las excepciones existentes, y las elimine cuando haya infracciones o uno de los tres indicios de violencia que figuran en la recomendación n.º 1. Tal como el Consejo recomienda, cambiar la política para adoptar una postura más aproximada a la tercera opción que propone Meta para tratar el término "shaheed" como una referencia prohibida solo cuando se infringen normas o hay presentes indicios de violencia específicos permitirá reducir los falsos positivos (eliminaciones erróneas de contenido no infractor), proteger mejor discurso de interés público y el discurso cívico y libre de los medios de comunicación, y reducir el impacto negativo sobre el derecho a la igualdad y la no discriminación entre grupos afectados. En respuesta a las preguntas del Consejo luego de los ataques perpetrados por Hamás contra Israel en octubre de 2023 y el posterior conflicto, Meta confirmó que estos acontecimientos no modificaron su análisis de la escalabilidad de las opciones que presentó en su solicitud. En opinión del Consejo, las recomendaciones propuestas, en función de la tercera opción de Meta, serían más resistentes a posibles errores cuando se desata una crisis de esta magnitud, siempre que sigan disponibles las excepciones que permiten "reportar o condenar a personas designadas o hablar sobre ellas y sus actividades en un tono neutro". El Consejo reconoció que poner a disposición dichas excepciones suma algo de complejidad a la escalabilidad de la política que Meta propone con su tercera opción, pero llegó a la conclusión de que estas son esenciales para la adecuada protección de la libertad de expresión en relación con la moderación del contenido que incluye el término "shaheed".

63. Una minoría en el Consejo no está de acuerdo con esta conclusión y preferiría recomendar que se mantenga el status quo o que Meta adopte la segunda opción propuesta. Algunos miembros destacan que, de hecho, algunas organizaciones terroristas usan el término "shaheed" para exaltar o glorificar a personas que cometen actos violentos, lo que puede constituir un incentivo para la radicalización y el reclutamiento. Para estos miembros del Consejo, estos hechos por sí solos representan un peligro lo suficientemente grave de daños en el mundo real para garantizar que se mantenga la prohibición categórica actual, incluso aunque se sepa que es a costa de la libertad de expresión. Otros mencionan la ausencia de datos adecuados respecto de la medida del daño en el mundo real que se puede vincular al uso de "shaheed" en las plataformas de Meta y de la prevalencia de la sobreaplicación en virtud de la política como un motivo para adoptar un enfoque más cauto en el que es mejor equivocarse en beneficio de una mayor seguridad. Algunos miembros del Consejo también creen que la segunda opción, en la que Meta solo consideraría el significado y el uso de "shaheed" cuando se determina en principio que es posible aplicar excepciones específicas admitidas, representa una postura transigente muy adaptada, sin perjuicio de las implicaciones de sus dificultades técnicas y su viabilidad a gran escala. El Consejo debatió y analizó estas alternativas de forma cabal. Por los motivos expresados en las secciones anteriores, la mayoría llegó a la conclusión de que las recomendaciones basadas en la tercera opción de Meta presentan el equilibrio más conveniente.

Faltas y penalizaciones

64. Si bien se puede justificar que se mantengan otras restricciones en virtud de la política de personas y organizaciones peligrosas, Meta debe garantizar que dichas restricciones y las sanciones que se impongan debido a una infracción sean proporcionadas. Meta le informó anteriormente al Consejo que siempre aplica faltas graves a todas las infracciones de la política de personas y organizaciones peligrosas, incluido lo que recaía en su anterior prohibición de "exaltación". Las faltas graves conducen más rápidamente a penalizaciones en el nivel de la cuenta, como bloqueo temporal de funciones, suspensión de cuentas e inhabilitación definitiva de páginas y perfiles. Estas medidas pueden restringir severamente los derechos a la libertad de expresión de los usuarios (lo que también se señala en comentarios del público, como PC-11190 de Brennan Centre). El Consejo le había recomendado a Meta antes que ofreciera mayor claridad y transparencia respecto de su sistema de faltas ( Mención de los talibanes en los informes de noticias, recomendación n.º 2; Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump, recomendación n.º 15). En respuesta, Meta proporcionó información sobre el sistema de faltas en su Centro de transparencia y permite a los usuarios revisar qué penalizaciones Meta aplicó a su cuenta. Hace poco, Meta actualizó su sistema de faltas estándar para que fuese más proporcionado, pero al público sigue sin quedarle claro si el enfoque de Meta respecto de las "faltas graves" también se adaptó.

65. Meta afirmó estar trabajando en cambios al sistema de aplicación de políticas en relación con la política de personas y organizaciones peligrosas, aunque la explicación que brindó respecto de la actualización de la política acontecida en diciembre de 2023 no indica si dicho sistema cambió o cambiará, ni de qué manera (p. ej., en relación con faltas graves). El Consejo acepta cambios al sistema de aplicación de políticas si esto supone que se apliquen penalizaciones más proporcionadas al contenido que se identifica con precisión como infractor, de conformidad con otras recomendaciones que hizo anteriormente. Las faltas graves son penalizaciones desproporcionadas que se imponen a infracciones más leves o más ambiguas, desde el punto de vista semántico, de la política de personas y organizaciones peligrosas, lo que genera que siga habiendo altas tasas de sobreaplicación y se trate a los usuarios injustamente.

6.2 Mejorar la transparencia y la auditoría de la lista

Recomendación n.º 4 sobre la transparencia: Para aumentar la transparencia de su lista de entidades y hechos designados, Meta debe explicar en más detalle el procedimiento por el cual se designan estas entidades o hechos. También debe publicar información consolidada sobre la lista de designación de forma regular, incluida la cantidad total de entidades en cada nivel de la lista, así como la cantidad de entidades que se agregaron o eliminaron en cada nivel el año pasado.

El Consejo considerará implementada esta recomendación cuando Meta haya publicado la información solicitada en su Centro de transparencia.

Recomendación n.º 5 sobre la aplicación de políticas: Para garantizar que la lista de entidades conforme a la política de personas y organizaciones peligrosas esté actualizada y no incluya personas, organizaciones ni acontecimientos que ya no encajen dentro de la definición de designación, la empresa debe presentar un proceso claro y efectivo para auditar con regularidad las designaciones y eliminar aquellas que ya no satisfacen los criterios publicados.

El Consejo considerará implementada esta recomendación cuando Meta haya creado un proceso de auditoría y lo explique en su Centro de transparencia.

66. Conforme a la política de personas y organizaciones peligrosas anterior de Meta, la "exaltación" y el uso del término "shaheed" solo se prohibían cuando se referían a una entidad designada por Meta como persona peligrosa de nivel 1 (incluidos los perpetradores de "hechos violentos infractores" designados). Tras la actualización de diciembre de 2023, la política ahora prohíbe las "referencias poco claras" y la glorificación de todas las entidades de nivel 1. Las "referencias poco claras" pueden incluir "humor poco claro, referencias sin contexto y referencias positivas que no glorifican la violencia o el odio de la entidad designada". Los posibles efectos adversos que estas prohibiciones suponen para la libertad de expresión dependen en gran medida de las entidades que Meta designe como organizaciones de nivel 1 y los "hechos violentos infractores" que designe. Durante las mesas redondas y en comentarios del público, muchas partes interesadas criticaron la falta de transparencia y de debido proceso en torno a esta lista, y señalaron que Meta debería publicarla (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 3; PC-11157 de Palestine Institute for Public Diplomacy). A una parte interesada le preocupaba que se comparta la lista de manera general, ya que para ella esto podría generar inquietudes de seguridad. Dado que la lista es tan relevante para entender el alcance de las políticas de Meta, la empresa le proporcionó al Consejo su lista de personas y organizaciones designadas de nivel 1, junto con una explicación de sus procesos de designación, que el Consejo estudió en profundidad, como se indica más adelante.

67. Como se mencionó anteriormente, muchas de las listas de las que Meta extrae las designaciones de nivel 1 provienen del Gobierno de los Estados Unidos y son de dominio público. Estas incluyen "traficantes de narcóticos especialmente designados", "organizaciones terroristas extranjeras" o "terroristas mundiales especialmente designados". Estas listas son amplias, incluyen a entidades (y sus miembros) en contextos altamente politizados de diversos continentes y no se limitan a entidades terroristas. La amplitud y la diversidad son indicadores del alcance que pueden tener las prohibiciones que figuran en la política de personas y organizaciones peligrosas de Meta, incluida la prohibición más categórica respecto del término "shaheed" en referencia a personas designadas, y su impacto.

68. Meta explicó que su proceso para revisar y aprobar entidades para que se agreguen a la lista de personas y organizaciones peligrosas "se basa en la consulta con una variedad de expertos internos, la evaluación de datos internos e investigaciones externas". Meta cuenta también con un proceso para documentar "miembros adicionales, alias, símbolos, eslóganes, subgrupos o ramas de los medios de comunicación relacionados con organizaciones o personas ya designadas". En 2022, en función de una evaluación de Meta de las amenazas procedentes de personas y organizaciones peligrosas en sus plataformas, la empresa designó a menos de 1.000 entidades. La mayor parte de las designaciones incluían a entidades criminales, seguidas de cerca por entidades terroristas y, por último, entidades de odio. Meta tiene un proceso normativo para eliminar a entidades de la lista que suele examinar si una entidad continúa alcanzando el límite de la política para que se la siga designando como persona u organización peligrosa, y considera las "medidas activas que una entidad tomó para poner fin a los hechos violentos y procurar la paz". Actualmente, el proceso se encuentra en una nueva fase de desarrollo, pero, en 2022, se aplicó menos de diez veces. Meta explicó que está realizando auditorías a designaciones anteriores como parte de una iniciativa permanente para mantenerlas lo más actualizadas posible y reflejar con precisión las amenazas de personas y organizaciones peligrosas.

69. Meta explicó que compartir su lista de entidades o hechos designados públicamente, o notificar a las entidades cuando se las agrega a la lista, podría suponer riesgos para la aplicación efectiva de políticas y para la seguridad de muchos empleados de Meta. Algunas entidades emprendieron acciones legales contra Meta tras tomar conocimiento de que se las había designado (consulta el caso Facebook versus CasaPound , 29 de abril de 2020, Tribunal de Roma, Italia, y el análisis aquí). El Consejo manifiesta que, en algunos casos, Meta divulgó las designaciones de algunos grupos en respuesta a consultas de los medios de comunicación, y estas se compartieron a través de decisiones del Consejo asesor de contenido.

70. El Consejo le había recomendado a Meta anteriormente compartir públicamente su lista de entidades designadas o al menos proporcionar ejemplos ilustrativos de dichas entidades ( Cita nazi, recomendación n.º 3). Meta aún no publicó la lista ni proporcionó información actualizada en relación con esta recomendación tras una evaluación de viabilidad. Si Meta continúa rehusándose a implementar esta recomendación, como mínimo debería tomar otras medidas para aumentar la transparencia en torno a la lista. Si publicara datos agrupados, mejorara la transparencia del proceso de designación y aumentara la eficacia del proceso para quitar entidades de la lista, los usuarios estarían más al tanto de las reglas y los procesos de Meta. Esto contribuiría a un mayor escrutinio y una asignación de responsabilidades más precisa respecto de las designaciones de Meta y de las consecuencias que recaen en la libertad de expresión y otros derechos humanos. Meta también podría proporcionar a los investigadores acceso a los datos para aumentar la transparencia y, al mismo tiempo, preservar la confidencialidad de la lista.

6.3 Datos para evaluar la precisión de la aplicación de políticas y pruebas de clasificadores

Recomendación n.º 6 sobre la transparencia: Para aumentar la transparencia en cuanto a la aplicación de políticas de Meta, incluidas diferencias regionales entre mercados e idiomas, Meta debe explicar los métodos que emplea para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política de personas y organizaciones peligrosas. También debe compartir periódicamente los resultados de las evaluaciones de rendimiento a las que se someten los clasificadores que se utilizan en la aplicación de esta misma política de un modo que permita comparar dichas evaluaciones en diversos idiomas o regiones.

El Consejo considerará implementada esta recomendación cuando Meta incluya dicha información en su Centro de transparencia y en los informes de cumplimiento de las Normas comunitarias.

Recomendación n.º 7 sobre la transparencia: Para informar a las partes interesadas, Meta debe proporcionar explicaciones claras sobre cómo se usan los clasificadores para generar predicciones de infracciones de políticas. Meta también debe explicar cómo establece límites para no tomar medida alguna, derivar contenido a revisión manual o eliminar contenido. Para ello, debe describir los procesos por medio de los cuales establece dichos límites. Esta información se debe proporcionar en el Centro de transparencia de la empresa.

El Consejo considerará implementada esta recomendación cuando Meta haya publicado la información solicitada en su Centro de transparencia.

71. Muchas partes interesadas, en mesas redondas y en comentarios del público, afirmaron que la aplicación de la política de personas y organizaciones peligrosas de Meta, y el tratamiento de la palabra "shaheed" tanto en la revisión manual como en la automatizada con frecuencia conducían a errores de aplicación que afectaban a musulmanes y comunidades lingüísticas relevantes (consulta los comentarios del público, p. ej., PC-11183 de ECNL y EFF; PC-11190 de Brennan Centre; PC-11188 de Digital Rights Foundation; PC-11196 de Integrity Institute; consulta también el informe de BSR sobre el impacto de Meta en Israel y Palestina). Asimismo, Meta reconoció en su solicitud que esto es consecuencia de su política respecto del término "shaheed". Para aumentar la transparencia, la precisión y la imparcialidad de los procesos de aplicación de políticas manuales y automatizados de Meta, el Consejo realiza las dos recomendaciones anteriores.

72. Meta explicó que mide con regularidad la precisión de los procesos de aplicación de políticas manuales y automatizados. Los revisores están sujetos a auditorías periódicas que llevan a cabo socios externos de Meta, y dichas auditorías están supeditadas a una evaluación adicional que realiza el equipo de operaciones internacionales de Meta.

73. El Consejo anteriormente había recomendado que, para mejorar sus informes de transparencia y aumentar la información sobre las tasas de errores, Meta permitiera consultar dichos datos por país e idioma en relación con la "exaltación" y el "apoyo" de personas y organizaciones peligrosas ( Aislamiento de Öcalan, recomendación n.º 12) y con cada norma comunitaria ( Inquietud punyabí en torno a la RSS en la India, recomendación n.º 3). Meta explicó que, tras realizar una evaluación de viabilidad, se rehusó a implementar esta recomendación ( Aislamiento de Öcalan, recomendación n.º 12; actualización trimestral de Meta sobre el Consejo asesor de contenido, cuarto trimestre de 2021, página 21), y centró su atención en iniciativas a largo plazo para definir métricas de precisión basadas en restricciones de perfiles, páginas y cuentas, así como en la ubicación, no en el idioma ( Inquietud punyabí en torno a la RSS en la India, recomendación n.º 3; actualización trimestral de Meta sobre el Consejo asesor de contenido, segundo trimestre de 2023, página 59). Consciente de las inquietudes generalizadas respecto de la aplicación desproporcionada de la política de personas y organizaciones peligrosas, que la postura de Meta respecto del término "shaheed" ilustra, y de la deficiencia en la divulgación de Meta de datos de aplicación útiles, el Consejo reitera estas recomendaciones, así como la importancia de que la empresa aumente la transparencia en la aplicación de políticas por ubicación.

74. Los datos que Meta actualmente comparte en su Centro de transparencia no brindan suficiente información valiosa sobre la precisión de la revisión manual y el rendimiento de los sistemas automatizados. Para permitir que se supervisen sus métodos, Meta debe explicar cómo evalúa la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política de personas y organizaciones peligrosas. Para aumentar la transparencia en torno al análisis de los clasificadores, Meta debe compartir métricas que incluyan precisión (es decir, que indiquen la proporción de contenido identificado correctamente como infractor de todo el contenido marcado por infringir las normas) y recuperación (es decir, que indiquen el porcentaje de contenido infractor que el clasificador identifica de este modo de todo el contenido que infringe las normas que existe). Publicar información sobre la precisión de la revisión manual en diferentes regiones, y el rendimiento de los clasificadores en distintos idiomas, puede contribuir a que Meta asuma la responsabilidad por las obligaciones que contrajo con los derechos humanos. Por ende, el Consejo reitera sus recomendaciones anteriores e insta a Meta a implementar los cambios propuestos.

75. Meta recurre a sistemas automatizados, incluidos clasificadores, para aplicar sus Normas comunitarias. Los modelos de clasificadores automáticamente categorizan los datos en una "clase" o más (p. ej., infractor o no infractor) en función de un conjunto de datos de entrenamiento. Comprender cómo funcionan estos sistemas y qué tan precisos son es fundamental para evaluar cómo Meta modera el contenido a gran escala. Meta proporciona información básica sobre cómo usa los sistemas automatizados para detectar contenido infractor en la sección de aplicación de políticas y explica cómo clasifica y selecciona contenido en la sección de funciones de su Centro de transparencia. Meta ya publicó información en sus informes de cumplimiento de las Normas comunitarias sobre el porcentaje de contenido que elimina antes de que se reporte (es decir, sobre la base de la detección automatizada). Estos datos indican la importancia de la detección automatizada, pero no alcanzan a proporcionar métricas detalladas sobre el uso y la precisión de los sistemas automatizados de Meta, en especial sobre las eliminaciones automatizadas. Este conjunto de recomendaciones tiene como fin reforzar la transparencia en cuanto al uso de algoritmos por parte de Meta.

76. En respuesta a las preguntas que planteó el Consejo, Meta explicó que el clasificador de personas y organizaciones peligrosas para "idioma general: árabe" realiza una revisión inicial de aplicación en función de las políticas de Meta. Los clasificadores intentan detectar contenido que puede infringir esas políticas. El Consejo considera que Meta debe explicar a los usuarios en detalle cómo usa los clasificadores en la sección de aplicación de políticas del Centro de transparencia, de conformidad con sus decisiones anteriores (consulta Síntomas de cáncer de mama y desnudos, recomendación n.º 3; Caricatura sobre la policía colombiana, recomendación n.º 3). En particular, es importante que haya transparencia en los umbrales de confianza aproximados para tomar o no medidas respecto del contenido y para ponerlo en cola de revisión manual, así como consideraciones o factores que determinen dichas puntuaciones.

77. Meta explicó que su prueba de precisión no se centra en tipos de infracciones individuales de las políticas, sino en las tasas de precisión generales en toda el área normativa. Meta indicó que "realiza supervisiones de métricas regulares y auditorías de las tasas de precisión a gran escala". El Consejo había explicado anteriormente que esto no basta para evaluar el rendimiento de Meta en cuanto a la aplicación de las Normas comunitarias en su totalidad (consulta la decisión del caso "Cinturón de abalorios"). Es posible que los sistemas que funcionen bien en términos generales tengan un rendimiento bastante deficiente en subcategorías de contenido, como contenido que incluye el término "shaheed", en las que tomar decisiones incorrectas perjudica en gran medida los derechos humanos. Por ello, es fundamental que Meta demuestre que emplea la debida diligencia para identificar y minimizar los posibles efectos negativos que sus sistemas tienen en los derechos humanos, y que comparta información para que se analicen estos efectos.

78. Muchas partes interesadas argumentaron que los sistemas de aplicación de políticas basados en algoritmos de Meta no tuvieron en cuenta el contexto, fueron más imprecisos en otros idiomas distintos del inglés y esto tuvo un impacto dispar contra las comunidades musulmanas (consulta los comentarios del público, p. ej., PC-11190 de Brennan Centre).

79. Algunas partes interesadas recomendaron que Meta deje por completo de moderar el término "shaheed" mediante automatización, ya que esta en general no tuvo en cuenta el contexto hasta la fecha (consulta los comentarios del público, p. ej., PC-11164 de SMEX, p. 4; PC-11157 de Palestine Institute for Public Diplomacy). Otros manifestaron que, teniendo en cuenta las penalizaciones graves que se imponen al contenido que infringe la política de personas y organizaciones peligrosas, la automatización solo se debe usar para poner el contenido en cola de revisión, pero no para eliminarlo de forma automática (consulta, p. ej., PC-11183 de ECNL y EFF, p. 4f). Las partes interesadas sugirieron que cualquier publicación que use el término "shaheed" en referencia a una persona designada debe "someterse idealmente a revisión manual por parte de un moderador que conozca el contexto local del cual proviene" (consulta PC-11188 de Digital Rights Foundation, p. 2). Algunas de ellas sugirieron aplicar etiquetas de ubicación al contenido, de modo que la revisión manual y automatizada pueda analizar mejor el contexto (consulta, p. ej., PC-11165 de Taraaz, p. 1). Asimismo, las partes interesadas instaron a Meta a proporcionar más información sobre la precisión de su aplicación de políticas automatizada y a invertir más dinero a fin de mejorar sus sistemas automatizados en idiomas distintos del inglés (consulta, p. ej., PC-11164 de SMEX, p. 5; PC-11190 de Brennan Centre). También presionaron a Meta para que informe sobre sus actividades de moderación "de forma coherente en todos los idiomas, incluido que proporcione datos integrales sobre reportes de usuarios, proporción de acción, tipos de acción, eficacia de las técnicas de mitigación, información de entrenamiento y proporción de apelaciones" (consulta, p. ej., PC-11196 de Integrity Institute).

80. Algunos expertos no están de acuerdo con el uso de "shaheed" en relación con una entidad designada como punto particular de referencia para que los sistemas automatizados eliminen el contenido de la plataforma, pero sugerirían usar el término como parte de un enfoque de moderación más estratificado (p. ej., como señal que indica que el contenido debe ponerse en cola de revisión para determinar si cumple las políticas de Meta, pero no se debería eliminar por incluir esta referencia solamente).

81. El Consejo reconoce que es necesario recurrir a sistemas algorítmicos al moderar contenido a gran escala, y muchos de estos enfoques propuestos no serían viables a gran escala y con el uso de automatización. Sin embargo, el Consejo concluye también en que Meta debe tomar otras medidas, incluidas las que recomendó anteriormente, para asegurar la transparencia e imparcialidad de dichos sistemas.

* Nota de procedimiento:

La preparación de las opiniones de asesoramiento normativo del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a esta opinión de asesoramiento normativo, se encargó una investigación independiente en nombre del Consejo. Al Consejo lo asistió un instituto de investigación independiente con sede en la Universidad de Gotemburgo, que se apoya en un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas