El Consejo asesor de contenido anuló la decisión de Meta en el caso "Mujer iraní confrontada en la calle"
7 de marzo de 2024
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar un video en el que se mostraba a un hombre confrontando a una mujer en las calles de Irán por no llevar puesto el hiyab. La publicación no infringía las normas sobre violencia e incitación porque contenía una afirmación figurativa, más que literal, y no mostraba una amenaza creíble de violencia. Se compartió durante un período de disturbios, creciente represión y violencia contra las personas que se manifestaban, por lo que el acceso a los medios sociales en Irán es fundamental, ya que internet representa el nuevo campo de batalla en la lucha por los derechos de las mujeres. Como Instagram es una de las pocas plataformas que el país todavía no prohibió, tiene un rol inconmensurable en el movimiento antirrégimen cuya consigna es "Mujeres, vida, libertad", pese a los esfuerzos del régimen para atemorizar y silenciar a las mujeres online. El Consejo concluye que las iniciativas de Meta para garantizar el respeto a la libertad de expresión y de reunión en el contexto de represión sistemática del Estado no fueron suficientes y recomienda un cambio en el Protocolo de la política de crisis de la empresa.
Información sobre el caso
En julio de 2023, un usuario publicó un video en Instagram en el que un hombre confrontaba a una mujer en público por no llevar puesto el hiyab. En el video, que está en persa con subtítulos en inglés, la mujer responde diciendo que ella está defendiendo sus derechos. Una descripción que acompaña la publicación expresa apoyo por esa mujer en particular y por las mujeres de Irán que hacen frente al régimen. Parte de la descripción, que también critica al régimen, incluye una frase que, según Meta, se traduce como "no falta mucho para que te hagamos añicos".
El Código Penal de Irán penaliza a las mujeres que se muestran en público sin un "hiyab adecuado" con encarcelamiento, multas o azotes. En septiembre de 2023, el régimen iraní aprobó un nuevo proyecto de ley sobre castidad y uso del hiyab, conforme al cual las mujeres podrían enfrentar hasta diez años de cárcel si siguen desafiando las reglas obligatorias de uso del hiyab. La descripción de esta publicación deja en claro que a la mujer en el video ya la habían arrestado.
La publicación, que los sistemas automáticos de Meta habían marcado primero por infringir potencialmente las Normas comunitarias de Instagram, se envió para que se someta a revisión manual. Si bien varios revisores evaluaron el contenido en función de la política de violencia e incitación de Meta, no arribaron a la misma conclusión, lo cual, en combinación con un error técnico, dio lugar a que la publicación se conservara en la plataforma. Un usuario la reportó luego, por lo que se realizó una ronda adicional de revisión; esta vez a cargo del equipo regional de Meta con conocimientos lingüísticos. En esta etapa, se determinó que la publicación infringía la política de violencia e incitación, y se eliminó de Instagram. El usuario que publicó el contenido apeló ante el Consejo. Meta sostuvo que su decisión de eliminarlo era correcta hasta que el Consejo seleccionó el caso, momento en el cual la empresa revirtió su decisión y restauró la publicación.
Conclusiones principales
Para el Consejo, la publicación no infringe la norma comunitaria sobre violencia e incitación porque contiene lenguaje figurativo, no literal, y no supone una amenaza creíble de violencia con potencial para fomentar daños en el mundo real. Aunque Meta eliminó originalmente la publicación, en parte porque evaluó la frase "no falta mucho para que te hagamos añicos" como una declaración de la intención de cometer violencia de gravedad alta contra el hombre del video, dicha frase no debería interpretarse de manera literal. Dado el contexto de las manifestaciones masivas en Irán, y teniendo en cuenta la descripción y el video en conjunto, la frase es figurativa y expresa ira y disgusto contra el régimen. Los expertos en lingüística a los que consultó el Consejo mencionaron una traducción un tanto diferente para la frase "no falta mucho para que te hagamos añicos", y explicaron que transmite ira, decepción y resentimiento contra el régimen. Más que incitar a que se comentan daños contra el régimen, lo más probable es que la publicación conduzca al régimen a tomar represalias violentas.
Si bien las bases de la política de Meta sugieren que se pueden tomar en cuenta el "lenguaje" y el "contexto" al evaluar una "amenaza creíble", las pautas internas que Meta brinda a los moderadores no lo hacen posible en la práctica. A los moderadores se les pide identificar criterios específicos (una amenaza y un objetivo) y, cuando dichos criterios se cumplen, eliminar el contenido. El Consejo anteriormente manifestó su preocupación por esta irregularidad en el caso Eslogan de protesta contra Irán, en el que recomendó que Meta proporcione pautas que tengan en cuenta los matices a la hora de evaluar el contexto para que los moderadores no realicen eliminaciones predeterminadas de "lenguaje retórico" que expresa disenso. Sigue siendo preocupante que haya lugar para inconsistencias en la aplicación de políticas al lenguaje figurativo en contextos como el de Irán. Asimismo, como la calidad de los datos de entrenamiento que aportan las personas afecta la precisión de la automatización, es probable que se amplifique el error de eliminar lenguaje figurativo.
Esta publicación también se evaluó conforme a la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia porque existe una regla que prohíbe el "contenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin velo en contra de su voluntad o sin su consentimiento". Esta disposición se editó y ahora prohíbe: "Contenido que expone a [mujeres sin velo]: contenido que expone la identidad de una persona y la pone en riesgo de daño". En este respecto, el Consejo concuerda con Meta en que el contenido no "expone" a la mujer en el video y el riesgo de daño se había aplacado porque era una persona muy conocida y ya la habían arrestado. De hecho, la publicación se compartió para que se sepa que la habían arrestado y presionar a las autoridades para que la liberen.
Como Irán se designó como país en riesgo en virtud de las políticas de crisis de Meta, incluido el Protocolo de la política de crisis, la empresa puede aplicar modificaciones temporales a la política ("instrumentos normativos") para abordar una situación particular. Si bien el Consejo reconoce los esfuerzos de Meta en Irán, no fueron suficientes para que se respete el derecho a la libertad de expresión y de reunión de las personas en entornos de represión sistemática.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar la publicación.
El Consejo le recomendó a Meta:
- Agregar un instrumento normativo al Protocolo de la política de crisis para que quede claro que las afirmaciones figurativas (es decir, no literales) cuya intención no es incitar a la violencia, y no es probable que lo hagan, no infringen la disposición de la política de violencia e incitación que prohíbe las amenazas de violencia en los contextos relevantes. Esto debe incluir desarrollar criterios que los moderadores a escala puedan seguir sobre cómo identificar estas afirmaciones en el contexto relevante.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic aquí.
