Acusaciones de criminalidad basadas en la nacionalidad
25 de septiembre de 2024
El Consejo revisó tres casos en conjunto que implican acusaciones de criminalidad contra personas basadas en su nacionalidad. Al anular una de las decisiones de Meta de eliminar una publicación de Facebook, el Consejo tuvo en cuenta cómo estos casos plantearon la cuestión más amplia de distinguir contenido que critica las acciones y políticas de un Estado de aquel que ataca a las personas en función de su nacionalidad. El Consejo recomendó modificar la política de lenguaje que incita al odio de Meta y abordar los desafíos que implica la aplicación de políticas y, en este sentido, optó por un enfoque con matices que es adecuado para la moderación a gran escala e incluye protecciones para evitar consecuencias negativas. Como parte de la regla sobre lenguaje que incita al odio relevante, Meta debe desarrollar una excepción para subcategorías más acotadas que emplean señales objetivas para determinar si el blanco al que va dirigido dicho contenido es un Estado o sus políticas, o bien un grupo de personas.
Información de los casos
En el primer caso, una publicación de Facebook describía a los rusos y los estadounidenses como "criminales". El usuario señalaba que estos últimos eran más "honorables" porque admiten sus crímenes, mientras que los rusos "quieren sacar partido de los crímenes" que cometen los estadounidenses. Los sistemas automatizados de Meta enviaron esta publicación a un revisor, pero el reporte se cerró automáticamente, de modo que el contenido permaneció en Facebook. Tres meses más tarde, cuando Meta seleccionó este caso para remitirlo al Consejo, los expertos en políticas de Meta decidieron que la publicación infringía la norma comunitaria sobre lenguaje que incita al odio y la eliminaron. Si bien el usuario apeló la decisión, Meta determinó como correcta su decisión de eliminar el contenido tras otras revisiones manuales.
En el segundo caso, un usuario respondió a un comentario en una publicación de Threads. La publicación incluía un video sobre el conflicto entre Gaza e Israel, así como un comentario que decía: "genocide of terror tunnels?" ("¿Genocidio en los túneles del terror?"). Las respuesta del usuario afirmaba: "Genocide … all Israelis are criminals" ("Genocidio... todos los israelíes son criminales"). Los sistemas automatizados de Meta enviaron este contenido a un revisor y, luego, se eliminó por infringir las reglas de lenguaje que incita al odio.
El tercer caso tiene que ver con el comentario de un usuario en una publicación de Instagram en la que se describe a "todos los indios" como "violadores". La publicación de Instagram original muestra un video en el que una mujer está rodeada por hombres que parecen estar mirándola. Meta eliminó el comentario en virtud de sus reglas de lenguaje que incita al odio.
Meta remitió los tres casos al Consejo. Los desafíos de abordar acusaciones de criminalidad contra personas en función de su nacionalidad son particularmente relevantes durante crisis y conflictos, cuando "se pueden interpretar como ataques contra las políticas de un país, su gobierno o su ejército, más que como ataques contra su gente", según enunció la empresa.
Conclusiones principales
El Consejo determinó que Meta eliminó incorrectamente la publicación de Facebook en el primer caso, que menciona a los rusos y los estadounidenses, porque hay indicios que señalan que el contenido toma como blanco a dos países, no a sus ciudadanos. De conformidad con sus reglas de lenguaje que incita al odio, Meta no admite "lenguaje deshumanizante en forma de ataques contra una persona o un grupo de personas" en función de su nacionalidad por medio de comparaciones en relación con "criminales". No obstante, en esta publicación, es muy probable que las referencias a los crímenes cometidos por rusos y estadounidenses tengan que ver con los Estados o sus políticas, conclusión confirmada por el informe que encargó el Consejo a un experto.
En el segundo y el tercer caso, la mayoría en el Consejo está de acuerdo con Meta en que el contenido sí infringió las reglas que prohíben ataques contra personas por su nacionalidad, ya que las referencias a "todos los israelíes" y "todos los indios" indican que el blanco del ataque son las personas. El contenido no incluye indicios contextuales que señalen que se critican las medidas del Estado de Israel o el Gobierno indio respectivamente. Por ende, el contenido en ambos casos debería haberse eliminado. No obstante, una minoría en el Consejo no está de acuerdo y manifiesta que eliminar el contenido en estos casos no fue el medio menos invasivo con el que cuenta Meta para abordar posibles peligros. Estos miembros del Consejo señalan que Meta no respetó los principios de necesidad y proporcionalidad al eliminar el contenido.
En cuanto al asunto más general de los cambios normativos, el Consejo cree que se necesita un enfoque matizado y a escala para proteger el discurso político relevante sin aumentar el riesgo de daño contra grupos que son el objetivo de ataques. En primer lugar, Meta debe detectar señales específicas y objetivas con las que reduciría las posibilidades de eliminar o conservar contenido dañino erróneamente.
Si no se proporciona una lista exhaustiva de señales, el Consejo cree que Meta debería permitir acusaciones de criminalidad cuando se dirigen contra un grupo específico que es probable que represente al Estado, como la policía, las fuerzas armadas, el ejército, los soldados, el Gobierno y otros funcionarios del Estado. Otra señal objetiva se relacionaría con la naturaleza del crimen que se señala, como atrocidades o violaciones graves de los derechos humanos, que se pueden asociar más típicamente con los Estados. Esto significa que las publicaciones en las que se vinculan ciertos tipos de crímenes con la nacionalidad se tratarían como discurso político que critica las medidas de un Estado y permanecerían en la plataforma.
Asimismo, Meta podría considerar las señales lingüísticas que distinguirían entre declaraciones políticas y ataques contra personas basados en su nacionalidad. Si bien dichas distinciones variarán según el idioma, lo que suma aún más importancia al contexto, el Consejo sugiere que la presencia o ausencia del artículo definido podría ser esa señal. Por ejemplo, términos como "todos" ("todos los estadounidenses cometen crímenes") o "los" ("los estadounidenses cometen crímenes") podrían indicar que el usuario hace una generalización sobre todo un grupo de personas, no sobre el Estado del país.
Contar con un enfoque normativo más matizado supondrá desafíos de aplicación de políticas, como Meta ya indicó y el Consejo reconoce. El Consejo manifiesta que Meta podría elaborar listas de agentes y crímenes que es muy probable que hagan referencia a agentes o políticas de un Estado. Una de esas listas podría incluir a la policía, las fuerzas armadas, el ejército, el Gobierno y otros funcionarios del Estado. En cuanto a las fotos y los videos, los revisores podrían buscar indicios visuales en el contenido, como personas vestidas con uniforme militar. Cuando dicho indicio se combina con una generalización sobre criminalidad, podría indicar que el usuario no compara a personas con criminales, sino que se refiere a acciones o agentes del Estado.
El Consejo insta a Meta a diseñar medidas de aplicación de políticas cuyo objetivo sea informar a los usuarios y brindarles herramientas cuando se coarta la libertad de expresión. En respuesta a una de las recomendaciones anteriores del Consejo, Meta ya se comprometió a enviar notificaciones a los usuarios ante posibles infracciones de las Normas comunitarias. El Consejo considera esta implementación como un paso importante para informar y empoderar a los usuarios en las plataformas de Meta.
La decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión de Meta de eliminar el contenido en el primer caso y solicitó que se restaurara la publicación. En el segundo y el tercer caso, el Consejo ratificó las decisiones de Meta de eliminar el contenido.
El Consejo le recomendó a Meta:
- Modificar la norma comunitaria sobre lenguaje que incita al odio, específicamente la regla que no permite "lenguaje o imágenes deshumanizantes en forma de comparaciones o generalizaciones en relación con criminales", dirigidas a las personas en función de su nacionalidad, e incluir en ella una excepción que admita las siguientes líneas: "Excepto cuando los agentes (p. ej., policías, miembros del ejército, soldados, funcionarios del Gobierno o del Estado) o los crímenes (p. ej., atrocidades o violaciones graves de los derechos humanos, conforme se especifican en el Estatuto de Roma de la Corte Penal Internacional) se vinculan a un Estado, no a las personas con base en su nacionalidad".
- Publicar los resultados de las auditorías internas que realiza para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de la política de lenguaje que incita al odio. Dichos resultados deben proporcionarse de un modo que permita comparar estas evaluaciones en diversos idiomas y regiones.
Note:
In July 2024, as part of its update on a policy forum about speech using the term “Zionist,” Meta stated it had referred cases to the Board to seek guidance on “how to treat comparisons between proxy terms for nationality (including Zionists) and criminals (e.g. ‘Zionists are war criminals’).” The Board takes this opportunity to clarify that none of the three cases that have been reviewed as part of this decision includes the term “Zionists” and neither does the decision discuss use of the term.
Para obtener más información
To read public comments for this case, click here.
