Mujer iraní confrontada en la calle

Resumen

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar un video en el que se mostraba a un hombre confrontando a una mujer en las calles de Irán por no llevar puesto el hiyab. La publicación no infringía las normas sobre violencia e incitación porque contenía una afirmación figurativa más que literal y no mostraba amenaza creíble de violencia. Se compartió durante un período de disturbios, creciente represión y violencia contra las personas que se manifestaban, por lo que el acceso a los medios sociales en Irán es fundamental, ya que internet representa el nuevo campo de batalla en la lucha por los derechos de las mujeres. Como Instagram es una de las pocas plataformas que el país todavía no prohibió, tiene un rol inconmensurable en el movimiento antirrégimen cuya consigna es "Mujeres, vida, libertad", pese a los esfuerzos del régimen para atemorizar y silenciar a las mujeres online. El Consejo concluye que las iniciativas de Meta para garantizar el respeto a la libertad de expresión y de reunión en el contexto de represión sistemática del Estado no fueron suficientes y recomienda un cambio en el Protocolo de la política de crisis de la empresa.

Información sobre el caso

En julio de 2023, un usuario publicó un video en Instagram en el que un hombre confronta a una mujer en público por no llevar puesto el hiyab. En el video, que está en persa con subtítulos en inglés, la mujer responde diciendo que ella está defendiendo sus derechos. Una descripción que acompaña la publicación expresa apoyo por esa mujer en particular y por las mujeres de Irán que hacen frente al régimen. Parte de la descripción, que también critica al régimen, incluye una frase que, según Meta, se traduce como "no falta mucho para que te hagamos añicos".

El Código Penal de Irán penaliza a las mujeres que se muestran en público sin un "hiyab adecuado" con encarcelamiento, multas o azotes. En septiembre de 2023, el régimen iraní aprobó un nuevo proyecto de ley sobre castidad y uso del hiyab, conforme al cual las mujeres podrían enfrentar hasta diez años de cárcel si siguen desafiando las reglas obligatorias de uso del hiyab. La descripción de esta publicación deja en claro que a la mujer en el video ya la habían arrestado.

La publicación, que los sistemas automáticos de Meta habían marcado primero por infringir potencialmente las Normas comunitarias de Instagram, se envió para que se someta a revisión manual. Si bien varios revisores evaluaron el contenido en función de la política de violencia e incitación de Meta, no arribaron a la misma conclusión, lo cual, en combinación con un error técnico, dio lugar a que la publicación se conservara en la plataforma. Un usuario la reportó luego, por lo que se realizó una ronda adicional de revisión; esta vez a cargo del equipo regional de Meta con conocimientos lingüísticos. En esta etapa, se determinó que la publicación infringía la política de violencia e incitación y se eliminó de Instagram. El usuario que publicó el contenido apeló ante el Consejo. Meta sostuvo que su decisión de eliminarlo era correcta hasta que el Consejo seleccionó el caso, momento en el cual la empresa revirtió su decisión y restauró la publicación.

Conclusiones principales

Para el Consejo, la publicación no infringe la norma comunitaria sobre violencia e incitación porque contiene lenguaje figurativo, no literal, y no supone una amenaza creíble de violencia con potencial para fomentar daños en el mundo real. Aunque Meta eliminó originalmente la publicación, en parte porque evaluó la frase "no falta mucho para que te hagamos añicos" como una declaración de la intención de cometer violencia de gravedad alta contra el hombre del video, dicha frase no debería interpretarse de manera literal. Dado el contexto de las manifestaciones masivas en Irán, y teniendo en cuenta la descripción y el video en conjunto, la frase es figurativa y expresa ira y disgusto contra el régimen. Los expertos en lingüística a los que consultó el Consejo mencionaron una traducción un tanto diferente para la frase "no falta mucho para que te hagamos añicos", y explicaron que transmite ira, decepción y resentimiento contra el régimen. Más que incitar a que se comentan daños contra el régimen, lo más probable es que la publicación conduzca al régimen a tomar represalias violentas.

Si bien las bases de la política de Meta sugieren que se puede tomar en cuenta el "lenguaje" y el "contexto" al evaluar una "amenaza creíble", las pautas internas que Meta brinda a los moderadores no lo hacen posible en la práctica. A los moderadores se les pide identificar criterios específicos (una amenaza y un objetivo) y, cuando dichos criterios se cumplen, eliminar el contenido. El Consejo anteriormente manifestó su preocupación por esta irregularidad en el caso Eslogan de protesta contra Irán, en el que recomendó que Meta proporcione pautas que tengan en cuenta los matices a la hora de evaluar el contexto para que los moderadores no realicen eliminaciones predeterminadas de "lenguaje retórico" que expresa disenso. Sigue siendo preocupante que haya lugar para inconsistencias en la aplicación de políticas al lenguaje figurativo en contextos como el de Irán. Asimismo, como la calidad de los datos de entrenamiento que aportan las personas afecta la precisión de la automatización, es probable que se amplifique el error de eliminar lenguaje figurativo.

Esta publicación también se evaluó conforme a la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia porque existe una regla que prohíbe el "contenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin velo en contra de su voluntad o sin su consentimiento". La línea normativa se editó y ahora prohíbe: "Contenido que expone a [mujeres sin velo]: contenido que expone la identidad de una persona y la pone en riesgo de daño". En este respecto, el Consejo concuerda con Meta en que el contenido no "expone" a la mujer en el video y el riesgo de daño se había aplacado porque era una persona muy conocida y ya la habían arrestado. De hecho, la publicación se compartió para que se sepa que la habían arrestado y presionar a las autoridades para que la liberen.

Como Irán se designó como país en riesgo en virtud de las políticas de crisis de Meta, incluido el Protocolo de la política de crisis, la empresa puede aplicar modificaciones temporales a la política ("instrumentos normativos") para abordar una situación particular. Si bien el Consejo reconoce los esfuerzos de Meta en Irán, no fueron suficientes para que se respete el derecho a la libertad de expresión y de reunión de las personas en entornos de represión sistemática.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar la publicación.

El Consejo le recomendó a Meta:

• Agregar un instrumento normativo al Protocolo de la política de crisis para que quede claro que las afirmaciones figurativas (es decir, no literales) cuya intención no es incitar a la violencia, y no es probable que lo hagan, no infringen la disposición de la política de violencia e incitación que prohíbe las amenazas de violencia en los contextos relevantes. Esto debe incluir desarrollar criterios que los moderadores a escala puedan seguir sobre cómo identificar estas afirmaciones en el contexto relevante.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar un video en el que mostraba a un hombre confrontando a una mujer en las calles de Irán por no llevar puesto el hiyab. Meta eliminó la publicación de Instagram debido a la línea de texto en la descripción que rezaba "no falta mucho para que te hagamos añicos", que la empresa interpreta como una amenaza cuyo blanco es el hombre del video que confronta a la mujer. El Consejo considera que la publicación no infringía la política de violencia e incitación porque la afirmación en cuestión es figurativa, no literal, y, dado el contexto, no constituye una amenaza de violencia creíble. Luego de que el Consejo seleccionara el caso, Meta inicialmente ratificó su decisión de eliminar la publicación; sin embargo, luego de presentar sus fundamentos ante el Consejo, Meta determinó que la decisión original de quitar el contenido fue errónea y, por ende, restauró la publicación en la plataforma. El Consejo concluye que las iniciativas de Meta para garantizar el respeto a la libertad de expresión y de reunión en un contexto de represión sistemática de la libertad de expresión por parte del Estado no fueron suficientes y recomienda un cambio en el Protocolo de la política de crisis de la empresa.

2. Descripción y contexto del caso

En julio de 2023, un usuario de Instagram publicó un video en idioma persa con subtítulos en inglés en el que aparecía un hombre confrontando a una mujer en público por no llevar puesto el hiyab, y la mujer le respondía que estaba defendiendo sus derechos. No se puede ver la identidad del hombre, mientras que la de la mujer queda completamente expuesta. Al parecer el video correspondía a una grabación que había compartido inicialmente una persona afín o afiliada al régimen iraní y se había vuelto a compartir. Acompaña al video una descripción, también en idioma persa, que expresa respaldo a esa mujer en concreto y a las mujeres iraníes que le hacen frente al régimen, y critica al régimen y a sus seguidores. La descripción incluía una frase que Meta tradujo como "no falta mucho para que te hagamos añicos" e indicaba que habían arrestado a la mujer tras el incidente. La publicación se visualizó 47.000 veces, tuvo 2.000 Me gusta y 100 comentarios, y se compartió 50 veces.

A este contenido lo había marcado inicialmente un clasificador automático (algoritmo que usa Meta para identificar posibles infracciones de sus políticas) por infringir potencialmente las Normas comunitarias de Instagram y se había enviado al proceso de revisión manual. Varios revisores evaluaron el contenido, pero debido a un error técnico y a que dichos revisores no llegaron a la misma conclusión respecto de si la publicación infringía la política de violencia e incitación, no se eliminó en su momento. Más adelante, un usuario reportó el contenido, por lo que un clasificador automático, en respuesta al reporte, determinó nuevamente que este infringía potencialmente las políticas de Meta y lo envío para que se someta a otra revisión. Solo un usuario reportó el contenido una vez. Tras este nivel de revisión adicional por parte del equipo de Meta con conocimientos regionales y lingüísticos, Meta eliminó la publicación de Instagram conforme a su política de violencia e incitación. La decisión de Meta de eliminar la publicación se basó en la siguiente línea de texto incluida en la descripción: "no falta mucho para que te hagamos añicos". La empresa interpreta esta frase como una amenaza en contra del hombre del video que aborda a la mujer por no llevar el hiyab. El usuario que creó la publicación apeló la decisión de eliminación de Meta. Un revisor ratificó esta decisión.

El usuario que publicó el contenido apeló entonces la eliminación ante el Consejo. Cuando el Consejo eligió el caso para someterlo a una revisión legal, Meta ratificó sus decisión de eliminarlo. En esta etapa del proceso de revisión, Meta tuvo en cuenta la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia, que prohíbe "exponer" a una mujer sin velo si esto la pone en riesgo de sufrir daños. En el momento en que se publicó el contenido, el régimen ya había arrestado a la mujer. Luego de que el Consejo seleccionara el caso, la empresa posteriormente cambió su decisión y restauró el contenido en función de otros aportes que realizó el equipo regional y de la decisión del Consejo en el caso Convocatoria a protesta de mujeres en Cuba.

Como lo expresó el Consejo en la decisión del caso Eslogan de protesta contra Irán, las personas en Irán se manifiestan en contra del Gobierno y a favor de los derechos civiles y políticos, y de la igualdad de género al menos desde la revolución de 1979. En 2023, se le concedió el Premio Nobel de la Paz a Narges Mohammadi, una defensora de los derechos humanos encarcelada, por "más de 20 años de lucha por los derechos de la mujer [que] la transformaron en un símbolo de libertad y en abanderada de la batalla contra la teocracia iraní". El Código Penal de Irán penaliza a las mujeres que se muestran en público sin un "hiyab adecuado" con encarcelamiento, multas o azotes. En este país, las mujeres tienen prohibido incursionar en ciertos campos de estudio y en muchos lugares públicos, y las personas tienen prohibido bailar con miembros del sexo opuesto, entre otras reglas. Se considera que los hombres son la cabeza del hogar, y las mujeres necesitan el permiso de sus padres o esposos para trabajar, casarse o viajar. Se considera que el testimonio de una mujer en un tribunal tiene la mitad de valor que el de un hombre, lo que limita el acceso de las mujeres a la justicia.

Desde que las autoridades iraníes intensificaron y ampliaron las medidas de uso obligatorio del hiyab en 2022, las mujeres enfrentan un intenso escrutinio, que suele conducir a acoso verbal y físico y detenciones. En septiembre de 2022, la joven Jina Mahsa Amini, de 22 años, murió bajo custodia policial tres días después de haber quedado detenida presuntamente por no cumplir con las reglas del país sobre el uso de un "hiyab adecuado". Su muerte desató olas de indignación y protesta en todo el país, y dio nacimiento a un movimiento antirrégimen que se conoce como: "Zan, Zendegi, Azadi" ("Mujeres, vida, libertad"). Como consecuencia, las autoridades comenzaron a tomar medidas violentas, con más de 500 muertes confirmadas a finales de 2022 y aproximadamente 14.000 personas arrestadas, incluidos manifestantes, periodistas, abogados, activistas, artistas y deportistas que expresaron su apoyo al movimiento.

En septiembre de 2023, el parlamento iraní aprobó un nuevo "proyecto de ley sobre castidad y uso del hiyab", conforme al cual las mujeres podrían enfrentar hasta diez años de cárcel si siguen desafiando las reglas obligatorias de uso del hiyab del país. Las empresas que atiendan a mujeres que no lleven el hiyab también pueden recibir sanciones y corren riesgo de clausura.

Los medios sociales son fundamentales para el movimiento de protesta de las mujeres en Irán y desempeñan un papel indispensable en la movilización de las manifestaciones y la transmisión de información vital (consulta los comentarios del público PC 21007, PC-21011), así como en la documentación y conservación pública de evidencia que prueba los abusos y las violaciones de los derechos humanos (PC-21008, archivo adjunto).

Sin embargo, las campañas online también exponen a las mujeres al riesgo de sufrir más represión por parte del régimen, incluidas amenazas, campañas difamatorias, arrestos y encarcelamiento. Los expertos a los que consultó el Consejo señalaron una amplia red de entidades asociadas con el Cuerpo de la Guardia Revolucionaria Islámica y el Gobierno iraní que operan en Instagram y Telegram, siendo esta última la app más utilizada para acusar y atacar directamente a manifestantes y disidentes.

Varios comentarios del publico enviados al Consejo también señalaron la táctica que emplea el régimen de reportar de forma masiva contenido sobre las manifestaciones en Instagram por medio del sistema de reporte de usuarios a fin de "presionar a las empresas de medios sociales para que eliminen contenido relacionado con disidentes o apliquen bloqueos encubiertos" (consulta los comentarios del público PC-21011, PC-21009). También hubo reportes de funcionarios de la inteligencia iraní que ofrecían a los moderadores de contenido dinero para eliminar el contenido que criticaba al régimen.

En febrero de 2023, el Relator Especial de la ONU sobre la situación de los derechos humanos en Irán manifestó inquietudes sobre la represión y los ataques constantes que tienen como blanco a activistas de la sociedad civil, defensores de los derechos humanos, activistas por los derechos de la mujer, abogados y periodistas, debido a que las autoridades restringen las vías para expresar disenso, lo que incluye intervenciones muy invasivas de internet y censura de plataformas de medios sociales.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene la facultad para revisar la decisión de Meta tras una apelación de la persona cuyo contenido se eliminó (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos).

El Consejo puede mantener o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

Cuando selecciona casos como este, en los que Meta posteriormente reconoce que cometió una equivocación, el Consejo revisa la decisión original para entender mejor el proceso de moderación de contenido y hacer recomendaciones a fin de reducir errores y tratar a los usuarios de Facebook e Instagram de manera más justa.

4. Fuentes de autoridad y pautas

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido

Entre las decisiones previas del Consejo asesor de contenido más relevantes, se encuentran las siguientes:

• Convocatoria a protesta de mujeres en Cuba
• Declaración metafórica contra el presidente de Perú
• Eslogan de protesta contra Irán
• Aislamiento de Öcalan
• Síntomas de cáncer de mama y desnudos

II. Políticas de contenido de Meta

El análisis del Consejo se basó en el compromiso que Meta asumió con la expresión, a la cual la empresa describe como "fundamental", y con los valores de seguridad, privacidad y dignidad.

Normas comunitarias de Instagram

Las Normas comunitarias de Instagram expresan que la empresa "eliminará contenido que incluya amenazas creíbles" y se vinculan con la norma comunitaria sobre violencia e incitación. Las Normas comunitarias no se vinculan directamente con la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia. El informe de cumplimiento de las Normas comunitarias del primer trimestre de 2023 de Meta afirma que "Facebook e Instagram comparten las políticas de contenido, lo que significa que, si se determina que el contenido infringe las normas en Facebook, también se considerará que infringe las normas en Instagram".

El contenido se eliminó conforme a la política de violencia e incitación. Luego de que el Consejo seleccionara el caso, Meta también analizó el contenido de conformidad con la política de organización de actos dañinos y promoción de la delincuencia.

Norma comunitaria sobre violencia e incitación

Según las bases de la política, la norma comunitaria sobre violencia e incitación de Meta busca "evitar violencia en el mundo real que pueda relacionarse con contenido" en las plataformas de Meta. Al mismo tiempo, Meta reconoce que "las personas suelen expresar desprecio o desacuerdo mediante amenazas o apelaciones a la violencia sin intenciones serias y de manera informal". Por lo tanto, Meta elimina el contenido si considera que incluye "amenazas de violencia que podrían conducir a la muerte", incluido el contenido que ataca a otras personas con "declaraciones de intención" de cometer "violencia de gravedad alta". La empresa afirma que tiene en cuenta el contexto de la declaración al evaluar si una amenaza es creíble, es decir, analiza toda información adicional, como la "visibilidad pública y la vulnerabilidad" de una persona.

La sección de la política "No publiques" prohíbe específicamente las "amenazas que podrían llevar a la muerte (y otras formas de violencia de gravedad alta)". El término "amenaza" incluye "las declaraciones de intención" de cometer actos de violencia de gravedad alta.

Norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia

Según las bases de la política, la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia pretende "prevenir y evitar daños en la vida real, y la imitación de dicho comportamiento, y no permitir que las personas faciliten, organicen, promuevan o admitan determinadas actividades criminales o dañinas dirigidas a personas, negocios, propiedades o animales". Esto incluye la "exposición", que Meta define como el contenido que exponga la identidad o las ubicaciones vinculadas con cualquiera que presuntamente "sea miembro de un grupo de riesgo de exposición". Los moderadores aplican esta línea normativa a escala en relación con determinados grupos en concreto. En el proceso de escalamiento, con contexto adicional, la política de Meta vigente en el momento en que se publicó el contenido indicaba que también podía eliminar: "contenido que pone a mujeres sin velo en riesgo porque expone su imagen sin velo en contra de su voluntad o sin permiso". La disposición se editó y ahora prohíbe: "Exposición de [mujeres sin velo]: contenido que expone la identidad de una persona y la pone en riesgo de daño".

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. La Política corporativa de derechos humanos de Meta, anunciada el 16 de marzo de 2021, reafirmó el compromiso de la empresa de respetar los derechos tal como se estipula en los UNGP.

Las siguientes normas internacionales pueden ser relevantes para el análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso:

• Derecho a la libertad de expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR); observación general n.º 34 del Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018) y A/74/486 (2019); y Plan de Acción de Rabat, informe de la Alta Comisionada de la ONU para los Derechos Humanos: A/HRC/22/17/Add.4 (2013).
• Derecho a la libertad de reunión pacífica: artículo 21 del ICCPR; observación general n.º 37 del Comité de Derechos Humanos (2020).
• Derecho a la vida: artículo 6 del ICCPR.
• Derecho a la libertad y a la seguridad de las personas: artículo 9 del ICCPR.
• Derecho a la no discriminación: artículos 2(1), 3 y 26 del ICCPR; artículos 1 y 7 (no discriminación en la vida pública y política del país), Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer ( CEDAW). Consulta también la Declaración de los Defensores de Derechos Humanos, artículo 8, sobre el derecho a tener la oportunidad efectiva, sobre una base no discriminatoria, de participar en la gestión de los asuntos públicos.
• Derecho a la privacidad: artículo 17 del ICCPR.

5. Respuestas del usuario

El usuario que publicó el contenido apeló la eliminación ante el Consejo. En su declaración, explicó que la publicación mostraba a un representante del Gobierno iraní confrontando a una mujer por no usar el hiyab. El usuario manifestó que el video refleja la valentía de la mujer iraní que está defendiendo sus derechos. También afirmó que otras personas compartieron videos similares en los medios sociales y que el contenido no era dañino ni peligroso, y no infringía ninguna política de Instagram.

6. Respuestas de Meta

Norma comunitaria sobre violencia e incitación

Meta le indicó al Consejo que basó su decisión original de eliminar el contenido en este caso en la política de violencia e incitación. Explicó que su decisión se basó en la parte de la descripción de la publicación que la empresa tradujo como: "no falta mucho para que te hagamos añicos". La empresa interpreta que esta frase se dirige al hombre del video que aborda a la mujer por no llevar el hiyab. El equipo regional determinó que la frase "te hagamos añicos" constituía una amenaza de daño físico en el contexto de Irán. Dada esa interpretación, Meta inicialmente ratificó la decisión de eliminar el contenido en función de su política de violencia e incitación.

Si bien Meta sostuvo dicha decisión cuando el Consejo identificó en un principio el caso para someterlo a revisión legal, cambió posteriormente su decisión luego de que el Consejo seleccionara este caso y restauró el contenido en función del aporte adicional del equipo regional. Conforme a dicho aporte, Meta concluyó que lo más probable es que el texto de la descripción se interprete como una referencia a derribar el régimen iraní o a aquellas personas que apoyan el uso obligatorio del hiyab, y no que se tome como una amenaza literal contra el hombre que figura en el video.

En esta revisión final, Meta concluyó que el contenido tenía como fin generar conciencia y llamar la atención sobre los abusos contra las mujeres, como es el caso de la mujer del video, a quien un hombre confronta por no usar el hiyab. El usuario apela a la fortaleza de las mujeres iraníes y critica la "actitud canalla" del hombre que graba el video o del régimen en su totalidad, además de difundir que la mujer del video fue arrestada. Meta explicó que el lenguaje potencialmente amenazante debería leerse e interpretarse teniendo en cuenta este contexto general. En su fundamento, Meta afirmó, y cita la decisión del Consejo en el caso "Eslogan de protesta contra Irán", que este tipo de difusión para generar conciencia es de particular importancia en Irán, país en el que se restringen las vías que favorecen la libertad de expresión.

Meta también le informó al Consejo que, tras realizar otras investigaciones, los equipos regionales sugirieron que la forma más razonable de interpretar la frase "no falta mucho para que te hagamos añicos" no es como una amenaza real, sino como una crítica dirigida a todo el régimen en conjunto o a las personas que apoyan el uso obligatorio del hiyab de manera más general. Si bien "hacer añicos" en general se refiere a asesinar a una persona cortándole el cuerpo en pedazos, aquí se podría entender como desmantelar el régimen (similar al lenguaje metafórico analizado en el resumen de la decisión del caso Declaración metafórica contra el presidente de Perú).

Meta le manifestó al Consejo que otro factor por el cual la empresa en última instancia decidió restaurar el contenido fue la reciente decisión del Consejo en el caso Convocatoria a protesta de mujeres en Cuba, en el cual el Consejo enfatizó que una lectura contextual de la publicación debería tener en cuenta la ola de represión por parte del Estado y el importante interés público en las manifestaciones históricas a las cuales se refería la publicación. Asimismo, la empresa consideró el caso Eslogan de protesta contra Irán, en el que el Consejo analizó el movimiento político en torno a los derechos de la mujer en Irán. En ese caso, el Consejo destacaba la importancia de proteger la expresión en el contexto del movimiento de protesta, en particular en vista de la represión sistemática a la libertad de expresión por parte del Gobierno iraní, así como la relevancia que tienen los espacios digitales como foro para expresar disenso. La empresa también afirmó haber considerado la decisión resumida del Consejo en el caso "Declaración metafórica contra el presidente de Perú", que hacía hincapié en la "importancia de diseñar sistemas de moderación delicados con conciencia respecto de la ironía, la sátira o el discurso retórico, en especial para proteger el discurso político".

Norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia

Meta le indicó al Consejo que también consideró eliminar el contenido en virtud de la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia porque exponía involuntariamente a la mujer del video sin el velo. Meta aplica esta disposición normativa solo en el proceso de escalamiento y si se brinda contexto adicional. La aplicación de políticas requiere de aportes de las partes interesadas relevantes y se centra en determinar si el contenido muestra a una mujer sin velo, expone su identidad sin permiso y es probable que la ponga en riesgo, en lugar de centrarse en analizar los términos específicos usados o el tono del contenido o la descripción. Meta manifiesta que una persona no se puede "exponer" a sí misma, sino que, para infringir la política, debe ser involuntario.

En este caso, Meta determinó que el contenido no se debería eliminar por exponer de forma involuntaria la identidad de la mujer porque se trata de una persona muy conocida que figura online y ya la habían arrestado en el momento en que se publicó el contenido. Este contexto redujo de forma significativa el riesgo de daños asociados con dejar que el contenido permanezca en la plataforma.

El Consejo le hizo a Meta 11 preguntas y dos preguntas de seguimiento por escrito. Las preguntas tenían que ver con los procedimientos de aplicación de políticas y los recursos en Irán, la evaluación de riesgos de Meta para Irán en general y para la mujer del video en particular, los procesos de revisión automática y manual, la aplicación de políticas respecto de contenido que muestra a mujeres sin velo y la exposición de un grupo de riesgo, a gran escala y en el proceso de escalamiento. Meta respondió todas las preguntas.

7. Comentarios del público

El Consejo asesor de contenido recibió 12 comentarios del público relacionados con este caso. Siete comentarios se enviaron desde los Estados Unidos y Canadá, dos eran de Asia central y meridional, dos eran de Europa y uno era de Oriente Medio y África septentrional.

Los comentarios abarcaban los siguientes temas: el rol de los medios sociales en las manifestaciones de Irán, incluido el movimiento "Mujeres, vida, libertad" y el papel que las imágenes de mujeres sin velo desempeñan en las campañas digitales; los riesgos de poner en circulación imágenes que muestran a mujeres sin velo en Irán en los medios sociales; el uso que hacen las autoridades iraníes de los medios sociales; la aplicación de las políticas de moderación de contenido de Meta para expresiones en idioma persa relacionadas con la situación política de Irán; libertad de expresión, derechos humanos, derechos de la mujer, represión por parte del Gobierno y bloqueos de medios sociales en Irán.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

El Consejo examinó la decisión original de Meta de eliminar el contenido en virtud de las políticas de contenido, las responsabilidades con los derechos humanos y los valores de la empresa.

El Consejo seleccionó este caso porque brinda la oportunidad de explorar las políticas de violencia e incitación y de organización de actos dañinos y promoción de la delincuencia, así como procesos de aplicación de políticas relacionados en el contexto de las manifestaciones masivas a favor de los derechos de la mujer y de la participación de las mujeres en la vida pública de Irán que se suscitan desde septiembre de 2022. En particular, aborda la importancia de las plataformas de medios sociales para las personas que se manifiestan en contra de las reglas sobre uso obligatorio del hiyab.

Asimismo, el caso le brinda al Consejo la oportunidad de analizar los procedimientos internos de Meta que determinan cuándo y por qué cierto lenguaje figurativo, si se interpreta de forma literal, se puede considerar como una amenaza, pero que dado el contexto, no debería tomarse como una amenaza creíble. Esencialmente, el caso está amparado por la prioridad del Consejo relacionada con las elecciones y los espacios cívicos, pero también se vincula con las prioridades del Consejo en materia de género, uso de las plataformas de Meta por parte de los gobiernos y situaciones de crisis y conflictos.

8.1 Cumplimiento de las políticas de contenido de Meta

Norma comunitaria sobre violencia e incitación

El Consejo considera que el contenido en este caso no infringe la norma comunitaria sobre violencia e incitación, ya que incluye lenguaje figurativo que expresa ira hacia la represión del Gobierno, no una amenaza literal y, por ende, creíble de violencia.

Meta explicó que, en este caso, eliminó el contenido en principio porque incluía una "declaración de intención de cometer violencia de gravedad alta". La empresa define violencia de gravedad alta como una amenaza que pudiera ocasionar la muerte o que probablemente sea letal.

En función de la evaluación realizada por el equipo regional, Meta tomó la frase "no falta mucho para que te hagamos añicos" de la descripción de la publicación como una amenaza de daño físico en el contexto iraní, lo que infringiría la política de violencia e incitación.

Los expertos en lingüística a los que consultó el Consejo explicaron que la parte relevante de la descripción se puede traducir como "te haremos pedazos muy pronto" o "dentro de muy poco te haremos pedazos". Los expertos expresaron que la frase en el contexto de Irán expresa ira, decepción y resentimiento contra los opresores, y sugiere la idea de que la situación puede cambiar eventualmente, ya que el poder de dichos opresores no será eterno. Esta frase no debe interpretarse de manera literal como una intención de causar daño físico; más bien se trata de una "afirmación retórica" que busca llamar la atención, que se acentúa con un lenguaje con carga emocional que emplea verbos contundentes como "hacer añicos" o "hacer pedazos". Estos expertos destacaron que dicho lenguaje figurativo refleja la profunda ira que comparten tanto quien hizo la publicación como su público. Por ello, no implica una amenaza real de violencia física.

Si bien Meta le explicó al Consejo que también analiza el contexto de la declaración al evaluar si una amenaza es creíble, las pautas que brinda a los moderadores no indican que estos pueden tomar en cuenta el contexto al analizar si hay una "declaración de intención [de cometer] violencia de gravedad alta". Siempre que se satisfagan los elementos de la regla, en especial cuando el contenido incluye una amenaza y un blanco, la publicación se considera infractora, como ocurrió en este caso. En este caso, Meta interpretó la declaración como una amenaza dirigida al hombre que sigue a la mujer. La regla no requiere que el blanco sea visible o identificable. Las reglas proporcionan solo un ejemplo de lenguaje amenazante que está exento o no se considera una amenaza creíble: "amenazas que se dirigen contra ciertos actores violentos, como grupos terroristas".

La frase "hacer añicos" aquí no constituye una amenaza creíble. Dado el contexto de un período de disturbios, creciente represión y violencia contra las personas que se manifestaban contra el régimen en Irán y teniendo en cuenta la descripción y el video en su totalidad, el Consejo considera que la frase es figurativa, no literal, que expresa ira y disgusto respecto del régimen y no constituye una "declaración de intención [de cometer] violencia de gravedad alta". Esta interpretación es consistente con el compromiso que Meta asumió con la expresión y la importancia de protegerla cuando hay descontento político.

Norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia

El Consejo determinó que el contenido de este caso no infringe la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia.

Meta consideró eliminar la publicación en virtud de la regla que prohíbe el "contenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin velo en contra de su voluntad o sin su consentimiento". La disposición de la política se editó y ahora prohíbe: "Exposición de [mujeres sin velo]: contenido que expone la identidad de una persona y la pone en riesgo de daño". La empresa entiende "exposición" como el contenido que muestra la imagen de una mujer sin velo, que expone su identidad sin su consentimiento y la pone en riesgo de sufrir daños. La disposición normativa se aplica en el proceso de escalamiento solamente y requiere del aporte de diversas partes interesadas para su aplicación (consulta la sección 4 anterior).

En este caso, el Consejo concuerda con Meta en que el contenido no "expone" a la mujer, ya que es una persona muy conocida, y el riesgo de daño se había aplacado porque ya la habían arrestado en el momento en que se publicó. Por lo tanto, que el video permanezca en la plataforma no aumentaría significativamente el nivel de riesgo de la mujer y, de hecho, podría protegerla porque da a conocer su caso. Para determinar si una publicación "expone" a una mujer y la pone en riesgo, se debe analizar bien el contexto; aplicar la política solo en el proceso de escalamiento puede garantizar que el equipo que la aplique cuente con el tiempo y los recursos necesarios para identificar y analizar el contexto relevante.

8.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo determinó que la eliminación del contenido de la plataforma no estaba alineada con las responsabilidades de Meta en cuanto a los derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR estipula que se proteja ampliamente la libertad de expresión, que incluye la "libertad de buscar, recibir e impartir información e ideas de todo tipo, independientemente de las fronteras, ya sea de manera oral, escrita o impresa, en forma de expresión artística, o por otros medios". Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó la Relatora Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

El acceso a los medios sociales es fundamental en una sociedad cerrada como Irán. Como "guardianes digitales", las plataformas de medios sociales tienen un "profundo impacto" en el acceso público a información ( A/HRC/50/29, párrafo 90). La publicación en este caso es parte del movimiento de protesta más general cuya supervivencia depende de espacios cívicos digitales. Las leyes que determinan cómo deben vestirse las mujeres coartan su libertad y su dignidad ( A/68/290, párrafo 38), ya sea que se les prohíba usar el velo o se les impida salir en público sin él (consulta, por ejemplo,Yaker versus Francia, CCPR/C/123/D/2747/2016). En este aspecto, "internet se ha convertido en el nuevo campo de batalla en la lucha por los derechos de las mujeres, ya que amplía las oportunidades que estas tienen para expresarse" ( A/76/258, párrafo 4). Empoderar a las mujeres para que ejerzan su libertad de expresión fomenta su participación política y la materialización de sus derechos humanos ( A/HRC/Res/23/2, párrafos 1 y 2; A/76/258, párrafos 5).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que toda restricción a la libertad de expresión se imponga conforme a una regla establecida que sea clara y a la que los usuarios puedan acceder. La regla debe "estar formulada con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ella, y hacerse accesible al público" ( observación general n.º 34, párrafo 25). Además, las reglas que restringen la expresión "no pueden conferir una discrecionalidad absoluta para restringir la libertad de expresión a los encargados de su implementación" y "deben proporcionar suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no" (observación general n.º 34, párrafo 25; A/HRC/38/35 [undocs.org], párrafo 46). La falta de claridad o precisión puede dar lugar a un cumplimiento de las reglas incoherente y arbitrario. Aplicado a Meta, los usuarios deben poder predecir las consecuencias de publicar contenido en Facebook e Instagram, y los revisores de contenido deben contar con pautas claras para aplicar las políticas.

Norma comunitaria sobre violencia e incitación

El Consejo determina que, si bien las bases de la norma comunitaria sobre violencia e incitación, que expresan los objetivos que persigue dicha norma, pero no forman parte de la regla en sí, sugieren que "el contexto es importante" y que se puede tener en cuenta al evaluar una "amenaza creíble", las pautas internas y el enfoque de moderación de Meta no lo habilitan en la práctica. Como manifestó el Consejo en el caso "Eslogan de protesta contra Irán", a un moderador de contenido a escala se lo capacita para buscar criterios, o elementos, específicos en la publicación y, una vez que los encuentra, se le indica que elimine la publicación. En otras palabras, si la publicación incluye una amenaza (por ejemplo, "te mataré" o "te haré pedazos") y un blanco de ataque, se terminará eliminando. Los moderadores de contenido no cuentan con las herramientas para realizar una evaluación que les permita determinar si una amenaza es creíble. Como Meta también explicó en ese caso, se aplica un enfoque mecánico o formulista porque "evaluar si [una frase] constituye una expresión retórica en lugar de una amenaza creíble es desafiante, en especial, a gran escala". Se toma en cuenta la consideración sobre la credibilidad de las amenazas para crear la regla, pero no para aplicarla. Como el Consejo manifestó en el caso "Eslogan de protesta contra Irán", si bien las bases de la política parecieran incluir el discurso retórico del tipo que podría esperarse en contextos de manifestaciones, las reglas por escrito y las pautas pertinentes que se proporcionan a los revisores no lo hacen. De hecho, en la práctica, en especial a gran escala, la aplicación de políticas se basa más en una fórmula de lo que las reglas suponen, y esto podría generarles percepciones erróneas a los usuarios respecto de cómo es probable que se apliquen las reglas. Las pautas que se proporcionan a los revisores, según su redacción actual, excluyen la posibilidad de un análisis contextual, incluso cuando existen indicios claros en el contenido mismo de que el lenguaje intimidatorio es retórico. Sigue habiendo falta de concordancia entre las bases de la política que estipula la empresa y su práctica de aplicación real, lo cual no satisface adecuadamente el principio de legalidad.

El Consejo reitera sus hallazgos en el caso "Eslogan de protesta contra Irán", que indican que Meta debe proporcionar pautas que tengan en cuenta los matices respecto de cómo abordar el contexto, e indicarles a los moderadores que eviten eliminar de manera predeterminada el lenguaje "retórico" o no literal que expresa disenso, en particular en entornos políticos delicados, como Irán.

Norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia

El Consejo determinó que la disposición de Meta que prohíbe el "contenido que ponga en riesgo a mujeres sin velo al revelar su imagen sin velo en contra de su voluntad o sin su consentimiento" es lo suficientemente clara, conforme se aplica a este caso. Deja claro que se prohíbe el contenido que "expone" a mujeres sin velo y podría ponerlas en riesgo de daño en las plataformas de Meta. Sin embargo, el Consejo expresa con inquietud que las Normas comunitarias de Instagram no se vinculan directamente con la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia. Esto socava el acceso de los usuarios de Instagram a las reglas. En casos anteriores ( Síntomas de cáncer de mama y desnudos, Aislamiento de Öcalan), el Consejo recomendó que Meta aclarara a los usuarios públicamente cómo se aplican las Normas comunitarias de Facebook a Instagram. En respuesta, Meta emprendió un proceso para unificar estas Normas comunitarias con las de Instagram, y especificar qué políticas son un tanto diferentes entre ambas plataformas. En cuanto a la presentación de informes de transparencia trimestrales, Meta le aseguró al Consejo que esta iniciativa sigue siendo prioritaria y señaló que las consideraciones legales y regulatorias repercutieron en sus plazos. El Consejo reitera la importancia de completar este proceso con celeridad y garantizar la claridad de las reglas aplicables.

II. Fin legítimo

Conforme al artículo 19, párrafo 3, del ICCPR, hay una lista limitada y definida de motivos por los que se puede restringir la expresión, incluido para proteger los derechos de otras personas. En este caso, el Consejo determina que la norma comunitaria sobre violencia e incitación procura "evitar daños en el mundo real eliminando el contenido que representa un riesgo real de que se produzcan daños físicos o amenazas directas a la seguridad pública". Por lo tanto, esta política ampara el fin legítimo de proteger el derecho a la vida (artículo 6 del ICCPR) y a la seguridad física de la persona (artículo 9 del ICCPR; observación general n.º 35, párrafo 9).

La política de organización de actos dañinos y promoción de la delincuencia tiene el fin legítimo de proteger los derechos de las mujeres en Irán a la no discriminación (artículos 2, 3 y 26 del ICCPR; artículos 1 y 7 de CEDAW), incluido el ejercicio de sus derechos a la libertad de expresión y reunión (artículos 19 y 21 del ICCPR), a participar en la vida pública (artículos 1 y 7 de CEDAW), a la privacidad (artículo 17 del ICCPR) y a la vida (artículo 6 del ICCPR ) y la libertad y la seguridad de la persona (artículo 9 del ICCPR).

III. Necesidad y proporcionalidad

Toda restricción que se aplique a la libertad de expresión debe ser adecuada a fin de cumplir su función de protección; debe ser el instrumento menos invasivo entre aquellos que le permitan cumplir dicha función; debe ser proporcional al interés que se busca proteger (observación general n.º 34, párrafo 34). Las empresas de medios sociales deben considerar diversas respuestas posibles ante un contenido problemático más allá de la eliminación para garantizar que las restricciones se delimiten estrictamente (A/74/486, párrafo 51).

Norma comunitaria sobre violencia e incitación

El Consejo determinó que la decisión inicial de Meta de eliminar el contenido en este caso no era necesaria para proteger la seguridad de la persona que grababa el video ni la de otros, ya que la amenaza que figura en la descripción no es literal. Al Consejo le preocupa que, incluso luego de las recomendaciones que brindó en el caso "Eslogan de protesta contra Irán", las Normas comunitarias de la empresa y las pautas proporcionadas a los moderadores sigan dando lugar a inconsistencias en la aplicación de políticas cuando hay amenazas figurativas (no literales), pese a la situación en Irán, donde ya hace más de un año que hay manifestaciones. En ese caso, como en este, hubo una frase que Meta no logró identificar como una declaración de amenaza no literal. La permanente falta de pautas adecuadas se pone aún más de manifiesto debido a que el contenido en este caso se sometió a la revisión de varios moderadores a escala y equipos de Meta, y se determinó como infractor reiteradas veces.

Como parte de este análisis, el Consejo recurrió a los seis factores del Plan de Acción de Rabat para evaluar la capacidad del contenido en este caso de generar un riesgo grave de incitación a la discriminación, la violencia u otra acción ilegal. El Consejo señala que, si bien los factores del Plan de Acción de Rabat se desarrollaron para abordar el apoyo al odio nacional, racial o religioso que constituye incitación, y no para abordar la incitación en general, la prueba de seis factores es útil para evaluar la incitación en términos generales, y el Consejo la utilizó de esta manera anteriormente (consulta, por ejemplo, los casos "Eslogan de protesta contra Irán" y "Convocatoria a protesta de mujeres en Cuba").

• Contexto: El contenido se publicó en julio de 2023, durante un período de disturbios, creciente represión y violencia contra las personas que se manifestaban contra el régimen. Hay limitadas vías de protesta dentro del país, dadas las interrupciones masivas de internet y el bloqueo de las principales plataformas de medios sociales, como Facebook, Telegram y X. Como Instagram es una de las pocas plataformas habilitadas, el rol que desempeña en el movimiento "Mujeres, vida, libertad" es inconmensurable. Los expertos a los que consultó el Consejo señalaron que el movimiento busca que se normalice la protesta y la oposición a cuatro décadas de leyes discriminatorias que atentan contra las mujeres. Estos observaron, sin embargo, que desde que comenzó el movimiento, la principal tendencia es infundir miedo y silenciar a las mujeres para que no se expresen online. Las nuevas leyes y la detención de figuras de alto perfil pretenden frenar la manifestación de protesta y detener la tendencia que busca normalizar la oposición a las leyes relacionadas con el uso de hiyab.
• Identidad del orador: Meta le indicó al Consejo que la empresa no consideró que el usuario que publicó el contenido fuese una figura pública. En función de la descripción del video, el usuario parece ser un seguidor del movimiento "Mujeres, vida, libertad" o formar parte de él. Por lo tanto, el orador aquí no ostenta una posición de autoridad y, además, pone también en riesgo potencial su propia seguridad por expresar abiertamente su apoyo a este contenido.
• Intención: Si bien evaluar la intención al moderar contenido a gran escala supone un enorme desafío, una lectura objetiva y corriente de toda la publicación basta para entender que es en apoyo de la mujer que sale en el video y que pretende dar a conocer su detención. Según los expertos a los que consultó el Consejo, es normal que, en Irán, los manifestantes pongan en circulación la imagen de una mujer sin velo y su nombre luego de su detención, a fin de presionar a las autoridades para que la protejan. Los manifestantes saben que, si publican la identidad de estas personas, pueden evitar que se siga acosando a las víctimas.
• Contenido y forma de expresión: Según los expertos en lingüística a los que acudió el Consejo, las personas que hablan persa interpretarían la frase "hacer añicos" en este contexto como la expresión de una emoción profunda, como ira o decepción, no como una amenaza de violencia literal. El movimiento generalmente recurre a un lenguaje contundente y presuntamente amenazador para expresarse en contra del régimen. En el caso Eslogan de protesta contra Irán, el Consejo determinó que el eslogan "Muerte a Khamenei" constituía una "amenaza retórica" y señaló que Meta había emitido una concesión basada en el "espíritu de la política" para la frase "mataré a quienquiera que mate a mi hermana/hermano" por motivos similares. La frase en este caso parece estar en medio de una descripción que elogia la valentía de una mujer por defender sus derechos. Si se tiene en cuenta en su totalidad, la descripción expresa apoyo a las mujeres iraníes que protestan contra las leyes y prácticas discriminatorias del régimen.
• Extensión y alcance: La publicación se visualizó 47.000 veces, tuvo 2.000 Me gusta y 100 comentarios, y se compartió 50 veces. Dado que este discurso no parece constituir incitación si se tienen en cuenta los demás factores del análisis del Plan de Rabat, el amplio alcance del contenido en sí no es un factor que indique que era necesario eliminarlo.
• Probabilidad e inminencia: Este factor evalúa si hay posibilidades de que el discurso genere daños inminentes y probables contra su blanco potencial, que en este caso es el régimen. El movimiento de protesta, y sus seguidores, hacen frente a un régimen que se vale constantemente de represión y represalias violentas contra todos aquellos que se le oponen. A partir del discurso en este caso, lo más probable es que el régimen tome represalias violentas contra el usuario o la persona que aparece en el video, y no que, al contrario, alguien atente contra el régimen o sus seguidores. Los expertos hicieron hincapié en el peligro que corren las personas que participan en estas manifestaciones y en cómo el movimiento persiste, pese a la inminente amenaza de violencia. También manifestaron que el objetivo de poner en circulación la imagen de mujeres sin velo arrestadas es dar a conocer su detención y presionar a las autoridades para que las protejan.

Sobre la base del análisis de los factores detallado antes, el Consejo considera que el contenido no constituía una amenaza creíble ni podía incitar a daños en la vida real. Si se usa lenguaje figurativo en el contexto de manifestaciones masivas a las que se responde con represión, Meta debe permitir que los revisores evalúen tanto el lenguaje como el contexto local, a fin de que las pautas para los moderadores concuerden con las bases de la política. Para mejorar el proceso de moderación en situaciones de crisis de un modo más general, es fundamental garantizar que se realice una evaluación precisa para determinar si una publicación contiene "lenguaje figurativo" o es probable que incite a la violencia. La calidad de los datos de entrenamiento que proporcionen los moderadores repercutirá en la precisión de la automatización. Si los moderadores eliminan las afirmaciones "figurativas" debido a la aplicación rígida de una regla, es probable que el error se reproduzca y amplifique en toda la automatización.

El Consejo señala que Meta cuenta con ciertos mecanismos disponibles para ajustar las políticas y su aplicación durante situaciones de crisis, incluido el sistema de niveles aplicado a países "en riesgo", y su Protocolo de la política de crisis. El sistema de niveles aplicado a países "en riesgo" se utiliza para identificar países en riesgo de "daños y violencia offline" a fin de determinar cómo la empresa debe priorizar el desarrollo de sus productos o cómo debe invertir sus recursos. La evaluación también se puede considerar en otros procesos (por ejemplo, si se debe conformar un equipo de operaciones especiales o activar el uso del Protocolo de la política de crisis). Meta informó al Consejo que, en la segunda mitad de 2023, Irán se designó como "país en riesgo". Irán también se designó en virtud del Protocolo de la política de crisis desde el 21 de septiembre de 2022 y continúa en ese estado. El Protocolo de la política de crisis permite a Meta realizar determinados cambios normativos temporales, conocidos como "instrumentos normativos", para abordar una situación particular. Meta proporcionó algunos ejemplos de los instrumentos normativos que se emplean en Irán, incluida una "concesión para permitir contenido que incluye el eslogan 'mataré a quienquiera que mate a mi hermana/hermano', o sus derivados, siempre que no se infrinjan otras disposiciones de nuestras políticas". Para obtener más ejemplos de instrumentos normativos, consulta Actas del foro de políticas, 25 de enero de 2022, Protocolo de la política de crisis.

Si bien el Consejo reconoce el compromiso de la empresa con la seguridad, así como el esfuerzo que realiza para mitigar posibles riesgos de moderación de contenido activando el Protocolo de la política de crisis en Irán, este esfuerzo no es suficiente para garantizar que se respete la libertad de expresión y de reunión de las personas en un entorno de tensión social en el que se reprende sistemáticamente el disenso. La investigación encomendada por el Consejo indica que una abrumadora mayoría del contenido en las plataformas de Meta que muestra a mujeres sin velo en el contexto del debate sobre el uso del hiyab en Irán se comparte a modo de apoyo al movimiento de protesta. Aquí, el proceso de aplicación de políticas de Meta no logró en reiteradas ocasiones distinguir las afirmaciones figurativas, o no literales, en un contexto relevante de las amenazas reales y la incitación a la violencia, que pueden ocasionar daños en la vida real.

El Consejo recomienda que Meta agregue un instrumento normativo al Protocolo de la política de crisis y proporcione en consonancia criterios internos a los moderadores a escala sobre cómo identificar afirmaciones que usen lenguaje amenazante de manera figurativa, o no literal, en el contexto relevante para no considerarlas infractoras de la política de violencia e incitación que prohíbe las amenazas de violencia. Para desarrollar los criterios específicos de crisis sobre cómo determinar si una amenaza es figurativa y no literal, Meta puede considerar los factores del Plan de Rabat. Estos factores incluyen el contexto de las protestas generalizadas contra la represión estatal; si el orador tiene la capacidad de incitar, o presenta el riesgo de incitar, a las personas a participar en daños; el contexto lingüístico y social relevante que indica el uso común de un lenguaje emocional o contundente para tener un efecto retórico; y la probabilidad de daño dado el conocimiento local, entre otros. La empresa también puede recurrir a la ayuda de sus socios de confianza para elaborar o evaluar los criterios de moderación. Meta en sí manifestó la importancia práctica del Plan de Acción de Rabat para la moderación de contenido, tras haber ayudado a las Naciones Unidas a traducirlo a 32 idiomas. Este instrumento normativo debe permitir el "lenguaje figurativo" en el contexto de manifestaciones contra un régimen, siempre que no tenga la intención de incitar a la violencia ni sea probable que lo haga.

Norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia

En este caso, el Consejo determinó que no era necesario eliminar la publicación en virtud de la norma comunitaria sobre organización de actos dañinos y promoción de la delincuencia, ya que la mujer del video era muy conocida y el contenido claramente se publicó para dar a conocer su detención, con la esperanza de que, de este manera, conseguiría que la liberen. Asimismo, varios comentarios del público recalcaron que las mujeres que se quitan el hiyab en público lo hacen expresamente, en señal de protesta, y conocen las posibles consecuencias de este acto, pero eligen la sublevación como oposición estratégica ante la autoridad" (consulta el comentario del público de Tech Global Institute, PC-21009). El régimen ya había identificado y detenido a la mujer del video. Esta publicación se compartió para llamar la atención al respecto. Los manifestantes y disidentes a los que el régimen detuvo sufrieron torturas y violencia de género, o desaparecieron. Los expertos a los que consultó el Consejo y varios comentarios del público señalaron específicamente que la práctica de dar a conocer las detenciones y exigir la liberación de una persona detenida suele ser habitual del movimiento y los defensores de los derechos humanos en Irán y puede contribuir a proteger a las personas a las que el régimen tiene cautivas.

Encontrar un equilibrio entre proteger la identidad de usuarios vulnerables y, al mismo tiempo, evitar la censura de aquellos que desean exposición es una cuestión delicada que exige un análisis contextual, una revisión oportuna y medidas inmediatas.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar el contenido.

10. Recomendaciones

1. Aplicación de políticas

Para garantizar que se respete la libertad de expresión y reunión en un entorno de represión sistemática por parte del Estado, Meta debe incorporar un instrumento normativo al Protocolo de la política de crisis que indique que las afirmaciones figurativas (o no literales) cuya intención no es incitar a la violencia, y no es probable que lo hagan, no infringen la disposición de la política de violencia e incitación que prohíbe las amenazas de violencia en contextos relevantes. Esto debe incluir desarrollar criterios que los moderadores a escala puedan seguir sobre cómo identificar estas afirmaciones en el contexto relevante.

El Consejo considerará implementada esta recomendación cuando Meta comparta con el Consejo tanto los métodos de implementación del instrumento normativo como los criterios resultantes para la moderación de contenido en Irán.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Al Consejo lo asistió un instituto de investigación independiente con sede en la Universidad de Gotemburgo, que se apoya en un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

Volver a Decisiones de casos y opiniones consultivas sobre políticas