El Consejo asesor de contenido publicó una opinión de asesoramiento normativo sobre la referencia a personas peligrosas designadas como "shaheed"
26 de marzo de 2024
Hoy, el Consejo publicó una opinión de asesoramiento normativo en respuesta a una solicitud de Meta sobre si la empresa debería continuar eliminando todo el contenido en el que se incluye el término árabe "shaheed" para hacer referencia a personas designadas conforme a su política de personas y organizaciones peligrosas. El Consejo concluyó que el enfoque actual de Meta restringe de forma desproporcionada la libertad de expresión, lo que es innecesario, y que la empresa debería dejar de aplicar esta prohibición absoluta.
Lee el resumen ejecutivo de la opinión de asesoramiento normativo a continuación. Para leer la versión completa del caso, haz clic aquí.
Resumen ejecutivo
El Consejo determinó que el enfoque de Meta en cuanto a moderar contenido que emplea el término "shaheed" para hacer referencia a personas designadas como peligrosas restringe de forma sustancial y desproporcionada la libertad de expresión. Meta interpreta como infractoras todas las instancias en que se utiliza el término "shaheed" para referirse a personas que la empresa designó como peligrosas y, por ende, elimina el contenido. Según Meta, es probable que la palabra "shaheed" provoque más eliminaciones de contenido por infracciones de las Normas comunitarias que cualquier otra palabra o frase en las plataformas de Meta. Los hechos de violencia terrorista acarrean graves consecuencias, ya que destruyen la vida de personas inocentes, obstruyen los derechos humanos y socavan el tejido de nuestras sociedades. No obstante, toda limitación a la libertad de expresión para evitar dicha violencia debe ser necesaria y proporcionada, dado que la eliminación indebida de contenido puede resultar poco efectiva e incluso contraproducente.
Las recomendaciones del Consejo parten de la perspectiva de que es imperativo que Meta tome medidas efectivas para garantizar que sus plataformas no se empleen para incitar hechos de violencia ni para reclutar personas que participen en ellos. Los extremistas en ocasiones usan la palabra "shaheed" para exaltar o glorificar a personas que murieron mientras cometían hechos de violencia terrorista. Sin embargo, la respuesta de Meta ante esta amenaza también debe regirse conforme al respeto por todos los derechos humanos, incluida la libertad de expresión.
El 7 de octubre de 2023, mientras el Consejo concluía su opinión de asesoramiento normativo, Hamás, una organización de nivel 1 designada conforme a la política de personas y organizaciones peligrosas de Meta, lideró ataques terroristas sin precedentes en Israel en los que aproximadamente 1.200 personas murieron y 240 fueron tomadas como rehén (Ministerio de Relaciones Exteriores, Gobierno de Israel). Según las noticias, al 6 de febrero de 2024, se cree que al menos 30 de los 136 rehenes estimados que seguían en manos de Hamás a principios de enero fueron asesinados. Meta designó de inmediato estos acontecimientos como un ataque terrorista en virtud de su política de personas y organizaciones peligrosas. Israel inició de inmediato una campaña militar en respuesta a estos ataques. Tras dicha campaña, murieron más de 30.000 personas en Gaza al 4 de marzo (Oficina de las Naciones Unidas para la Coordinación de Asuntos Humanitarios, de acuerdo con datos del Ministerio de Salud de Gaza). Los informes de enero indicaban que presuntamente un 70% de las víctimas fatales eran mujeres y niños.
Tras estos acontecimientos, el Consejo puso en pausa la publicación de su opinión de asesoramiento normativo para garantizar que sus recomendaciones se adecuaran al uso de las plataformas de Meta y a la palabra "shaheed" en este contexto. Esta investigación adicional confirmó las recomendaciones que el Consejo hizo a Meta sobre conservar el término "shaheed" durante el proceso de moderación, incluso en momentos muy álgidos de dichos acontecimientos, y garantizaría que Meta respete mucho más todos los derechos humanos en su respuesta ante situaciones de crisis. Al mismo tiempo, el Consejo señala que las políticas de Meta en esta área son generales y su impacto trasciende este conflicto. Si bien reconocen la relevancia de los acontecimientos recientes en Israel y Palestina, las recomendaciones del Consejo también son generales y no se limitan a un contexto particular.
Según el Consejo, el enfoque de Meta respecto de la moderación de la palabra "shaheed" es demasiado amplio y restringe de manera desproporcionada la libertad de expresión y el discurso cívico. Por ejemplo, es posible que se eliminen por error publicaciones que reportan hechos de violencia y entidades designadas. El enfoque de Meta tampoco considera los diversos significados que se atribuyen al término "shaheed", muchos de los cuales no tienen como fin glorificar a nadie ni transmitir aprobación, y conducen con demasiada frecuencia a que se eliminen publicaciones de personas que hablan árabe y otros idiomas (muchas de ellas musulmanas), sin que dicha eliminación cumpla la finalidad de la política de personas y organizaciones peligrosas. Asimismo, las políticas de Meta prohíben, por ejemplo, la glorificación, el apoyo y la representación de personas, organizaciones y hechos designados, así como la incitación a la violencia. Estas políticas, si se aplican con precisión, mitigan el peligro que supone el uso de las plataformas de Meta por parte de terroristas. En consecuencia, el Consejo recomienda que Meta anule su prohibición absoluta respecto del uso del término "shaheed" en referencia a personas designadas como peligrosas y que modifique su política para realizar un análisis del contenido que incluye este término en el que se tenga más en cuenta el contexto.
Contexto
En febrero de 2023, Meta le preguntó al Consejo si debería seguir eliminando contenido en el que aparece la palabra "shaheed" o شهيد (en árabe) para referirse a personas designadas en virtud de su política de personas y organizaciones peligrosas. El término de origen árabe "shaheed" también es un préstamo (es decir, muchos idiomas distintos del árabe lo "tomaron prestado" e incluso adaptaron su grafía).
La empresa describe "shaheed" como un término "honorífico" que usan muchas comunidades de diversas culturas, religiones e idiomas para referirse a una persona que muere de manera inesperada, por ejemplo, en un accidente, o de forma honorable, como en la guerra. La empresa reconoce que el término tiene "varios significados", y, si bien "no hay equivalente directo en idioma inglés ", la traducción más habitual sería "martyr" (mártir). Teniendo en cuenta que "la palabra 'mártir' se refiere a una persona que sufrió o murió por una causa justificada y habitualmente tiene connotaciones positivas", Meta indicó que "es debido a este uso que se categorizó el término ['shaheed'] como exaltación conforme a nuestra política [de personas y organizaciones peligrosas]".
La presunción de Meta de que mencionar a una persona designada como "shaheed" siempre constituye "exaltación" conforme a la política de personas y organizaciones peligrosas generó una prohibición absoluta. Meta reconoció que, dados los diversos significados del término, "tal vez esté sobreaplicando políticas a grandes cantidades de discurso cuyo fin no es exaltar a una persona designada, en particular entre personas que hablan árabe". Además, Meta no aplica las excepciones de la política de personas y organizaciones peligrosas que permiten el uso de la palabra "shaheed" para "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral". Esto siguió igual en las actualizaciones más recientes realizadas en diciembre de 2023 a la política, que ahora prohíbe la "glorificación" y las "referencias poco claras", en lugar de la "exaltación", que se eliminó por completo.
Debido a estas inquietudes, Meta inició un proceso de desarrollo de políticas en 2020 para reevaluar su enfoque respecto del término "shaheed". No obstante, no se llegó a consenso alguno en la empresa, por lo que no se acordó un nuevo enfoque.
Al solicitar esta opinión de asesoramiento normativo, Meta le presentó al Consejo tres posibles opciones normativas:
- Mantener el status quo.
- Permitir el uso de "shaheed" en referencia a personas designadas en publicaciones que cumplen los requisitos para considerarse las excepciones de la prohibición de "exaltación" (por ejemplo, reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral), siempre que no haya otro tipo de exaltación ni "indicios de violencia". Meta propuso como ejemplos de dichos indicios las representaciones visuales de armas o las referencias a lenguaje militar o violencia en el mundo real.
- Permitir el uso del término "shaheed" en referencia a personas designadas siempre que no haya otras exaltaciones ni indicios de violencia. Esto ocurre independientemente de si el contenido recae en una de las excepciones enumeradas arriba, en contraste con la segunda opción.
El Consejo tuvo en cuenta otras posibles opciones normativas. Por los motivos que se esgrimen en esta opinión de asesoramiento normativo, las recomendaciones del Consejo concuerdan estrechamente con la tercera opción, aunque con la adopción de menos indicios de violencia de los que Meta propuso en su solicitud, y hay un requisito para la aplicación más general de excepciones de la política en cuanto a reportar o condenar a entidades designadas o hablar sobre ellas o sus actividades en un tono neutral.
Conclusiones y recomendaciones principales
El Consejo determinó que el enfoque actual de Meta respecto del término "shaheed" en relación con personas designadas como peligrosas es exagerado y restringe de forma sustancial y desproporcionada la libertad de expresión.
"Shaheed" es un término importante tanto en el plano cultural como en el religioso. En ocasiones, se usa para expresar exaltación hacia aquellas personas que mueren cometiendo actos de violencia e incluso puede "glorificarlas". Sin embargo, aunque haga referencia a personas peligrosas, se usa con frecuencia en noticias y comentarios neutrales, debates académicos, debates sobre derechos humanos y hasta de maneras más pasivas. Entre otros significados, "shaheed" se suele usar en general para hacer referencia a personas que mueren por salvar a su país o defender su causa, o como víctimas inesperadas de una tragedia natural o violencia sociopolítica. En algunas comunidades musulmanas, incluso se usa como nombre y apellido. Existen motivos importantes para creer que, debido a los diversos significados de la palabra "shaheed", se eliminan cantidades sustanciales de material cuyo objetivo no es exaltar a terroristas ni los hechos violentos que cometen.
El enfoque de Meta respecto de la eliminación del contenido por el mero uso de la palabra "shaheed" para hacer referencia a personas designadas ignora intencionalmente su complejidad lingüística y sus diversos usos, y la trata siempre y únicamente como equivalente de la palabra "mártir". Ello afecta en gran medida la libertad de expresión y las libertades de los medios de comunicación, restringe indebidamente el discurso cívico y tiene graves implicaciones negativas en los ámbitos de igualdad y no discriminación Esta sobreaplicación afecta de manera desproporcionada a personas que hablan árabe y otros idiomas que tomaron prestado el término "shaheed". Al mismo tiempo, Meta puede implementar la política de personas y organizaciones peligrosas de otros modos que le sigan permitiendo reforzar su valor de seguridad y su objetivo de mantener sus plataformas libres de todo material que glorifique a terroristas. Por ende, la política actual es desproporcionada e innecesaria.
Para alinear sus políticas y prácticas de aplicación respecto del término "shaheed" más estrechamente con las normas sobre derechos humanos, el Consejo hizo las siguientes recomendaciones:
1. Meta debe dejar de suponer que la palabra "shaheed", cuando se usa para hacer referencia a personas designadas o a miembros anónimos de organizaciones designadas, siempre infringe las normas y no es apta para que se le apliquen excepciones de la política. El contenido que se refiere a una persona designada como "shaheed" se debe eliminar como "referencia poco clara" solo en dos situaciones. En primer lugar, cuando hay presente uno o más de estos tres indicios de violencia: una representación visual de armamento o armas, una declaración de intención o defensa respecto del uso o la portación de armamento o armas, o referencias a un hecho designado. En segundo lugar, cuando el contenido infringe de otro modo las políticas de Meta (por ejemplo, debido a glorificación o porque la referencia a una persona designada sigue siendo poco clara por otros motivos que no tienen que ver con el uso del término "shaheed"). En cualquier situación, el contenido debería seguir reuniendo los requisitos para las excepciones que permiten "reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral".
2. Para aclarar la disposición que prohíbe las "referencias poco claras", Meta debe incluir varios ejemplos de contenido infractor, como una publicación que haga referencia a una persona designada como "shaheed" en combinación con uno o más de los tres indicios de violencia que se especifican en la recomendación n.º 1.
3. Las pautas normativas internas de Meta también deben actualizarse para dejar en claro que llamar a personas designadas "shaheed" no infringe las normas, excepto si dicha declaración va acompañada de indicios de violencia, y que, incluso si se presentan dichos indicios, el contenido puede beneficiarse de las excepciones que permiten "reportarlas, condenarlas o hablar sobre ellas o sus actividades en un tono neutral".
Si Meta acepta e implementa estas recomendaciones, conforme a sus reglas actuales, la empresa seguiría eliminando contenido que "glorifica" a personas designadas, caracteriza su violencia u odio como un logro, o legitima o defiende sus actos violentos o basados en odio, así como el contenido que respalda o representa a una entidad designada como peligrosa. El enfoque que propone el Consejo a partir de estas recomendaciones sería que Meta deje de interpretar siempre que la palabra "shaheed" en referencia a una persona designada constituye una infracción y que solo elimine el contenido si se combina con otras infracciones de la política (p. ej., glorificación) o como "referencia poco clara" debido a indicios de violencia. Dicho contenido debe seguir reuniendo los requisitos para que se apliquen las excepciones de la política que permiten "reportar o condenar a personas designadas o hablar sobre ellas o sus actividades en un tono neutral".
Asimismo, el Consejo le recomendó a Meta:
4. Explicar en más detalle el procedimiento por el cual designa a entidades o hechos en virtud de su política de personas y organizaciones peligrosas, a fin de aumentar la transparencia en torno a esta lista. Meta también debe publicar información consolidada sobre la cantidad total de entidades en cada nivel de su lista de designación, así como la cantidad de entidades que se agregaron o eliminaron el año pasado.
5. Presentar un proceso claro y efectivo para auditar con regularidad las designaciones y eliminar aquellas que ya no cumplen los criterios publicados, a fin de garantizar que la lista de personas y organizaciones peligrosas esté actualizada y no incluya personas, organizaciones ni hechos que ya no encajen dentro de la definición de designación de Meta.
6. Explicar los métodos que emplea para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de su política de personas y organizaciones peligrosas. Meta también debe compartir periódicamente los resultados de las evaluaciones de rendimiento a las que se someten los clasificadores que se utilizan en la aplicación de esta política, y mostrar los resultados de un modo que se puedan comparar en diversos idiomas o regiones.
7. Explicar con claridad cómo se usan los clasificadores para generar predicciones de infracciones de políticas y cómo Meta establece límites para no tomar medida alguna, derivar el contenido a revisión manual o eliminarlo. Esta información se debe proporcionar en el Centro de transparencia de la empresa para que las partes interesadas estén al tanto.
Más información
Al preparar esta opinión de asesoramiento normativo, el Consejo incluyó una amplia participación de las partes interesadas. Si quieres obtener más información sobre los comentarios del público y las mesas redondas de las partes interesadas, haz clic para leer el texto completo de la opinión de asesoramiento normativo.
