Disputa política previa a las elecciones en Turquía

Resumen del caso

El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar las publicaciones de tres organizaciones de medios turcas. Todas ellas incluían un video similar de un político que confrontaba a otro en público utilizando el término "İngiliz uşağı", que se traduce como "siervo de los británicos". El Consejo determinó que el término no constituye lenguaje que incita al odio conforme a las políticas de Meta. Asimismo, el hecho de que Meta no calificara el contenido como "reportaje" permisible ni otorgara una concesión de interés periodístico perjudicó la tarea de los medios de comunicación de informar libremente sobre asuntos de interés público. El Consejo recomendó que Meta hiciera pública una excepción que ampare el reportaje permisible sobre insultos.

Información de los casos

Para estas decisiones, el Consejo consideró tres publicaciones (dos en Facebook y una en Instagram) de tres organizaciones de medios turcas diferentes. Todas ellas son independientes. Incluían un video similar que mostraba a una ex Miembro del Parlamento del partido gobernante confrontando a un miembro del principal partido opositor tras los terremotos ocurridos en Turquía en febrero de 2023. Durante el período previo a las elecciones en Turquía, se esperaba que los terremotos afectaran significativamente los patrones de votación.

En el video, aparecía el alcalde de Estambul Ekrem İmamoğlu, figura clave de la oposición, quien, mientras visitaba una de las ciudades más afectadas, se vio confrontado por una ex Miembro del Parlamento, que le gritó que estaba haciendo "un show", lo llamó "siervo de los británicos" y le pidió que regresara "su propia" ciudad. Tanto los comentarios del público como los de los expertos confirmaron que la frase "İngiliz uşağı", para los hablantes turcos, significa "una persona que actúa en favor de los intereses y beneficios" de Gran Bretaña o del Occidente en general.

Meta eliminó las tres publicaciones por infringir la regla de la política sobre lenguaje que incita al odio que se refiere a los insultos. A pesar de que estuvieron involucrados varios de los sistemas de prevención de errores de Meta (incluida la verificación cruzada), lo que llevó a que las publicaciones de cada caso se sometieran a varias instancias de revisión manual, nada de esto generó la restauración del contenido.

En total, en las tres cuentas, las publicaciones obtuvieron más de 1.100.000 visualizaciones antes de su eliminación.

Si bien se les notificó a los tres usuarios que habían infringido la norma comunitaria sobre lenguaje que incita al odio, no se les informó la regla específica que habían transgredido. Además, se aplicaron limitaciones de funciones a las cuentas de dos de las organizaciones de medios. A una de ellas, se le impidió crear contenido durante 24 horas y, a la otra, transmitir en vivo durante tres días.

Después de que el Consejo identificara los casos, Meta resolvió que sus decisiones originales fueron incorrectas porque el término "İngiliz uşağı" no debió incluirse en la lista de insultos, por lo que restauró el contenido. Por separado, Meta llevó a cabo una auditoría anual de las listas de insultos correspondientes a Turquía antes de las elecciones, a raíz de la cual el término "İngiliz uşağı” se eliminó en abril de 2023.

Conclusiones principales

El papel de los medios a la hora de difundir información en el ecosistema digital es esencial. El Consejo concluyó que eliminar las tres publicaciones fue una restricción innecesaria y desproporcionada sobre los derechos de las personas de las organizaciones de medios turcas y sobre el acceso a la información de sus públicos. Asimismo, las medidas de Meta en estos casos perjudicaron la capacidad de dos de las tres organizaciones de compartir libremente información mientras duraron las limitaciones de funciones en sus cuentas. El impacto de esto fue grande, ya que, debido a los terremotos y el período previo a las elecciones, el acceso a noticias locales independientes era especialmente importante.

El Consejo determinó que el término "İngiliz uşağı" no constituye lenguaje que incita al odio conforme a las políticas de Meta porque no ataca a personas sobre la base de ninguna "característica protegida". La confrontación pública de los videos involucraba a políticos de partidos políticos rivales. Dado que el término usado tradicionalmente funcionó como una crítica política en Türkiye (Turquía), se trata de un discurso político sobre un asunto de gran interés público en el contexto de las elecciones.

Incluso si Meta hubiera designado el término correctamente como un insulto, de todos modos, el contenido debería haberse permitido debido a su valor de interés público. Al Consejo le preocupa que ninguna de las tres publicaciones se escalaran para que el equipo de políticas central de Meta las evaluara en vista de una concesión de interés periodístico.

Las políticas de Meta también permiten que las personas compartan lenguaje que incita al odio e insultos para concientizar en torno a ellos, siempre y cuando la intención del usuario sea clara. En respuesta a estos casos, Meta explicó que, para "calificar como reportaje que procura concientizar, no es suficiente reiterar que alguien más usó el lenguaje que incita al odio o un insulto. En cambio, necesitamos [Meta] contexto adicional específico". Ninguna de las organizaciones de medios de estos casos hubiera calificado, ya que el contenido se compartió con un texto neutral, que no se hubiera considerado contexto suficiente. El uso del término por parte de la política en el video no era la historia principal que se relataba, por lo que un texto centrado en explicarlo o condenarlo no hubiera tenido sentido. En cambio, la principal historia periodística era el desacuerdo entre los políticos en el contexto de la respuesta ante el terremoto.

Finalmente, el Consejo indicó que Meta debería hacer público que informar sobre lenguaje que incita al odio está permitido, idealmente en una excepción independiente que distinga la "información" periodística de la "concientización". Las pautas internas de Meta aparentemente permiten excepciones más amplias que las que se comunican de forma pública a los usuarios en este momento. Esta información resultaría especialmente importante para ayudar a las organizaciones de medios a informar sobre incidentes en los que terceros usan insultos en un asunto de interés público, incluso cuando no fueran el punto central de la historia periodística. El marco de esta información debería reconocer que los medios de comunicación y otras partes involucradas en el periodismo podrían no siempre indicar la intención de "concientizar", a fin de informar de modo imparcial sobre los acontecimientos actuales.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar tres publicaciones.

El Consejo le recomendó a Meta:

1. Revisar la norma comunitaria sobre lenguaje que incita al odio para proteger de forma explícita el reportaje periodístico sobre insultos cuando tal reportaje, en especial, en el contexto de unas elecciones, no crea un clima de exclusión ni intimidación. Esta excepción debería hacerse pública, estar separada de la excepción de "concientización" y dejar claro a los usuarios, en particular en los medios, cómo debe contextualizarse dicho contenido. Además, los moderadores deberían recibir una capacitación adecuada, en especial, en idiomas diferentes del inglés, para garantizar el respeto por el periodismo.
2. Asegurarse de que la norma comunitaria sobre lenguaje que incita al odio cuente con explicaciones más claras de cada excepción, con ejemplos ilustrativos, para garantizar una mayor precisión respecto de cuándo pueden usarse insultos.
3. Acelerar las auditorías de sus listas de insultos en los países en que habrá elecciones en lo que resta de 2023 y a principios de 2024, con el objetivo de identificar y eliminar términos que se hayan agregado por error a ellas.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo anuló las decisiones originales de Meta de eliminar las publicaciones de tres organizaciones de medios turcas (BirGün Gazetesi, Bolu Gündem y Komedya Haber), que incluían un video similar. En todos los videos aparecía Nursel Reyhanlıoğlu, ex Miembro del Parlamento del Partido de la Justicia y el Desarrollo (AKP) del presidente Erdoğan, quien se refería al alcalde de Estambul Ekrem İmamoğlu, miembro del mayor partido opositor de Türkiye (Turquía), como "İngiliz uşağı", que se traduce como "siervo de los británicos". En los tres casos, Meta eliminó el video por infringir su norma comunitaria sobre lenguaje que incita al odio, que prohíbe "los insultos que se usen para atacar a las personas en función de sus características protegidas". Después de que el Consejo identificara estos casos, Meta revirtió cada una de sus decisiones de eliminar las publicaciones y determinó que el término "İngiliz uşağı" no debía estar en su lista interna de insultos.

2. Descripción y contexto del caso

El 6 de febrero de 2023, una serie de potentes terremotos sacudieron Türkiye (Turquía) cerca de la frontera norte con Siria. En la catástrofe, murieron más de 50.000 personas solo en Türkiye (Turquía), más de 100.000 resultaron heridas, y tres millones debieron desplazarse en las provincias más afectadas por los sismos. El 8 de febrero de 2023, el alcalde municipal de Estambul Ekrem İmamoğlu, miembro del principal partido opositor (Partido Republicano del Pueblo [CHP]), visitó Kahramanmaraş, una de las ciudades afectadas. Durante su visita, una ex Miembro del Parlamento del Partido de la Justicia y el Desarrollo (AKP) gobernante, Nursel Reyhanlıoğlu, lo confrontó. En la confrontación que quedó grabada, la ex Miembro del Parlamento Reyhanlıoğlu le gritó al alcalde İmamoğlu que estaba haciendo "un show" con su visita, lo llamó "siervo de los británicos" (en turco: İngiliz uşağı) y le exigió que debía "irse" y regresar a "su propia" Estambul.

Los comentarios del público y los expertos a los que consultó el Consejo confirmaron que la frase "İngiliz uşağı", para los hablantes turcos, significa "una persona que actúa en favor de los intereses y beneficios de la nación o los funcionarios del Gobierno británicos o el Occidente en general". Expertos externos subrayaron el hecho de que insinuar que alguien está traicionando a su propio país al favorecer los intereses de potencias extranjeras puede ser una acusación grave y perjudicial, ya que cuestiona la lealtad y el compromiso de una persona con su propio país, en particular, en un contexto político.

Ninguna de las tres organizaciones de medios de estos casos tiene lazos con el Gobierno turco, y todas ellas son independientes. Expertos externos destacaron que BirGün Gazetesi tuvo la relación más controversial con el Gobierno. Uno de sus columnistas, el periodista turco-armenio Hrant Dink, fue asesinado en 2007, y el periódico también estuvo sujeto a procesos penales en reiteradas ocasiones.

Inmediatamente después de los terremotos de febrero, la atención se centró en gran medida en las elecciones presidenciales y parlamentarias que se llevarían a cabo en mayo. Meta anunció en una publicación de blog en abril de 2023 que la empresa estaba lista para luchar contra la "información errónea" y las "noticias falsas" en el período previo a las elecciones en Turquía. Expertos a los que consultó el Consejo describieron de qué modo los observadores electorales habían previsto que los terremotos afectarían los patrones de votación. Una de las principales críticas se centraba en la legislación gubernamental que permitía otorgar la amnistía a las empresas constructoras por haber erigido edificios que no cumplían con los códigos de seguridad, una ley que Reyhanlıoğlu apoyó como Miembro del Parlamento en 2018. La crítica pública al organismo de gestión de catástrofes Afet ve Acil Durum Yönetimi Başkanlığı (AFAD) por las fallas en su respuesta ante los terremotos se convirtió en un asunto electoral.

En el primer caso que el Consejo aceptó tras la apelación, la página del sitio de noticias turco Bolu Gündem publicó el video de la confrontación en su página de Facebook. Usuarios reportaron la publicación, y esta ingresó en cola de espera para que un moderador la revisara. En el momento de la revisión, Meta había implementado un sistema de prevención de errores conocido como multirrevisión dinámica, que permite que varios revisores evalúen las tareas para obtener un resultado por mayoría. Dos de tres revisores determinaron que el contenido infringía la política sobre lenguaje que incita al odio de Meta, y un revisor resolvió que no lo hacía. A raíz del protocolo de revisión secundaria de respuesta temprana (ERSR), que es una forma de verificación cruzada, el contenido se escaló a una etapa de revisión secundaria, en lugar de eliminarse de inmediato (los múltiples sistemas de prevención de errores involucrados en estos casos se explican en mayor detalle en la sección 8.1). Durante esta revisión secundaria, dos revisores determinaron que el contenido infringía la política sobre lenguaje que incita al odio de Meta, por lo que se eliminó. Meta aplicó una falta y una limitación de funciones de 24 horas a la cuenta del creador de contenido de este caso (y no a la página), lo que impidió que el usuario creara contenido en la plataforma (incluidas las páginas que administraba) y que creara salas de Facebook Messenger o se uniera a ellas. Antes de su eliminación, la publicación obtuvo más de un millón de visualizaciones.

En el segundo caso, el medio de comunicación turco BirGün Gazetesi publicó un video más largo que incluyó la misma confrontación que los otros dos videos más cortos en un stream en vivo en su página de Facebook. Una vez finalizado el stream en vivo, se convirtió en una publicación permanente en la página. A diferencia de los otros dos videos, incluía más imágenes del alcalde İmamoğlu y del líder del CHP y candidato presidencial Kemal Kılıçdaroğlu hablándoles a dos miembros del público. En la conversación que seguía a la confrontación, los dos miembros del público solicitaban más ayuda para rescatar a las personas atrapadas bajo los escombros y manifestaban frustración por la respuesta del Gobierno ante la emergencia. Un usuario reportó la publicación de Facebook por infringir las políticas de Meta. En el momento de la revisión, Meta había implementado la multirrevisión dinámica (consulta la sección 8.1), y dos de tres revisores determinaron que el contenido infringía la política sobre lenguaje que incita al odio, mientras que uno resolvió que no lo hacía. El contenido se envió a otra instancia de revisión a causa del clasificador de revisión secundaria general (GSR), que es otro protocolo de verificación cruzada que funciona junto con la ERSR. El algoritmo de la GSR clasifica el contenido para una revisión adicional sobre la base de ciertos criterios, como la sensibilidad del tema, la gravedad de la aplicación de políticas, la probabilidad de que se trate de un falso positivo, el alcance previsto y la sensibilidad de la entidad (consulta una explicación más detallada de este protocolo en la sección 8.1 y en la opinión de asesoramiento normativo acerca de la verificación cruzada, párrafo 42). Un revisor del equipo del mercado regional de Meta determinó que la publicación infringía la política sobre lenguaje que incita al odio, por lo que se eliminó. Meta aplicó una falta estándar tanto al perfil del creador del contenido como a la página de Facebook, pero no aplicó ninguna limitación de funciones (como restringir la capacidad para publicar), ya que el número de faltas no alcanzó el mínimo necesario. Antes de su eliminación, la publicación obtuvo más de 60.000 visualizaciones.

En el tercer caso, un medio de comunicación digital llamado Komedya Haber publicó el video en Instagram. Un clasificador diseñado para identificar el "contenido más viral y potencialmente infractor" detectó el contenido como potencialmente infractor de la política sobre lenguaje que incita al odio y lo asignó para que lo revisara un moderador. El revisor determinó que el contenido infringía la política sobre lenguaje que incita al odio. Más tarde, un usuario reportó el contenido por infringir las políticas de Meta. En el momento de la revisión, Meta había implementado la multirrevisión dinámica, y dos revisores determinaron que el contenido infringía la política sobre lenguaje que incita al odio. El clasificador de la GSR priorizó el contenido para otra instancia de revisión, por lo que la publicación se envió a otro moderador. Según información provista por Meta en la opinión de asesoramiento normativo acerca de la verificación cruzada, la GSR está a cargo de un empleado o de un contratista del equipo del mercado regional de Meta (opinión de asesoramiento normativo acerca de la verificación cruzada, página 21 de la versión en inglés). En la GSR, un revisor evaluó el contenido como infractor de la política sobre lenguaje que incita al odio, por lo que se eliminó. Meta aplicó una falta estándar que ocasionó una limitación de funciones de tres días que impidió que la cuenta de Instagram transmitiera videos en vivo. Antes de su eliminación, la publicación obtuvo más de 40.000 visualizaciones.

Tras la eliminación de cada publicación, se les notificó a los tres usuarios que habían infringido la norma comunitaria sobre lenguaje que incita al odio de Meta, pero no se les informó la regla específica que habían transgredido dentro de esa política. En las notificaciones que los dos usuarios de Facebook recibieron, se indicaba que lenguaje que incita al odio incluye "ataques a personas por su raza, etnia, religión, casta, capacidad física o mental, género u orientación sexual" y se daban varios ejemplos, pero no se mencionaban los insultos. El usuario de Instagram recibió una notificación más breve, que indicaba que el contenido se había eliminado "porque infringe nuestras normas comunitarias sobre lenguaje que incita al odio o símbolos [de Instagram]".

A pesar de que Meta aplicó una limitación de funciones de 24 horas al creador que publicó el contenido en la página de Facebook de Bolu Gündem, la notificación que recibió no lo alertó acerca de dicha restricción. En Instagram, Komedya Haber recibió una notificación que indicaba que se había restringido su cuenta de Instagram temporalmente y no podía transmitir videos en vivo. Los tres usuarios luego apelaron la decisión de Meta de eliminar el contenido, y los revisores de Meta volvieron a concluir que cada una de las publicaciones infringía la política sobre lenguaje que incita al odio. Se notificó a todos los usuarios que el contenido se había revisado una vez más, pero que el contenido infringía las Normas comunitarias de Facebook o Instagram. Los mensajes de la apelación no especificaban la política infringida.

Como consecuencia de que el Consejo seleccionara estas tres apelaciones, Meta identificó que sus tres decisiones originales fueron incorrectas, restauró el contenido en cada una de las cuentas el 28 de marzo de 2023 y revirtió las faltas pertinentes. En este punto, las limitaciones de funciones aplicadas en dos de los casos ya habían expirado. Meta le explicó al Consejo que la frase no se usó como un insulto, y, por lo tanto, ninguna de las tres publicaciones infringía la política sobre lenguaje que incita al odio. Entre enero y abril de 2023, Meta llevó a cabo una auditoría anual de su lista de insultos correspondiente al mercado turco, la cual, en última instancia, conllevó la eliminación de la frase "İngiliz uşağı" de la lista. Esto ocurrió de forma paralela a la selección del Consejo de estos tres casos, la cual, de acuerdo con el proceso regular, generó la revisión de Meta de sus decisiones originales. En esa revisión, la empresa también determinó que "İngiliz uşağı" no constituía un insulto.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene la facultad para revisar la decisión de Meta tras una apelación de la persona cuyo contenido se eliminó (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos). El Consejo puede mantener o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). El Consejo supervisa la implementación de las recomendaciones respecto de las que Meta se comprometió a tomar medidas y puede hacer un seguimiento de cualquier recomendación anterior en sus decisiones de casos.

Cuando selecciona casos como estos, en los que Meta posteriormente reconoce que cometió una equivocación, el Consejo revisa las decisiones originales para entender mejor el proceso de moderación de contenido y hacer recomendaciones a fin de reducir errores y tratar a los usuarios de Facebook e Instagram de manera más justa. Además, el Consejo señaló que la revocación de Meta de sus decisiones originales en cada uno de estos casos, en parte, se basó en un cambio realizado en sus pautas internas después de que se hicieran las publicaciones (eliminación de la frase "İngiliz uşağı" de su lista de insultos no pública en abril de 2023). El Consejo entiende que, en el momento en que la empresa tomó las decisiones originales, los revisores de la etapa de escalamiento de Meta aplicaron la política y las pautas internas en vigencia en ese momento.

Cuando el Consejo identifica casos en los que las apelaciones dan lugar a problemas similares o superpuestos, incluso en relación con las políticas de contenido o su aplicación, o las responsabilidades de Meta respecto de los derechos humanos, pueden unirse y asignarse a un panel para deliberarlas de forma conjunta. Se tomará una decisión vinculante respecto de cada una de las publicaciones.

4. Fuentes de autoridad y pautas

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido:

Entre las decisiones previas del Consejo asesor de contenido más relevantes, se encuentran las siguientes:

• Caso Armenios en Azerbaiyán (2020-003-FB-UA)
• Caso Representación de Zwarte Piet (2021-002-FB-UA)
• Caso Manifestaciones en Colombia (2021-010-FB-UA)
• Caso Insultos de Sudáfrica (2021-011-FB-UA)
• Caso Reapropiación de términos árabes (2022-003-IG-UA)
• Caso Mención de los talibanes en los informes de noticias (2022-005-FB-UA)
• Caso Eslogan de protesta contra Irán (2022-013-FB-UA)

II. Políticas de contenido de Meta:

Las Normas comunitarias de Instagram indican que se eliminará el contenido que incluye lenguaje que incita al odio. En la sección "Respeta al resto de los miembros de la comunidad de Instagram", las normas señalan que "resulta inaceptable fomentar la violencia o atacar a alguien por razones de raza, etnia, nacionalidad, sexo, género, identidad de género, orientación sexual, creencias religiosas, discapacidad o enfermedad". En las Normas comunitarias de Instagram no se menciona ninguna regla específica sobre insultos, pero las palabras "lenguaje que incita al odio" dirigen a la norma comunitaria de Facebook sobre el lenguaje que incita al odio.

En las bases de su política sobre lenguaje que incita al odio, Meta prohíbe "los insultos que se usen para atacar a las personas en función de sus características protegidas". Entre las características protegidas mencionadas en la política de Meta, se incluyen, por ejemplo, nacionalidad, creencias religiosas, raza y etnia. En el momento en que las tres publicaciones se crearon y eliminaron, y se realizaron las apelaciones ante el Consejo, y cuando Meta revirtió sus decisiones originales en los tres casos, la definición de "insultos" era "palabras que son inherentemente ofensivas y se usan como etiquetas peyorativas de las características anteriores". Tras la actualización de la política del 25 de mayo de 2023, ahora Meta define "insultos" como "palabras que generan inherentemente un clima de exclusión e intimidación en contra de las personas sobre la base de una característica protegida, a menudo porque estas palabras están vinculadas a discriminación, opresión y violencia históricas" y agrega "esto sucede incluso cuando se dirigen a alguien que no forma parte del grupo de características protegidas al que el insulto se dirige inherentemente".

En las bases de la política, también se describen varias excepciones que permiten el uso de un insulto "con la intención de reprobarlo o concientizar a los demás" o "de forma autorreferencial o motivadora". Sin embargo, Meta puede eliminar el contenido "si la intención no queda clara". En las revisiones del 25 de mayo de la política sobre lenguaje que incita al odio, no se modificó esta parte.

Además de las excepciones establecidas en la política sobre lenguaje que incita al odio, por la concesión de interés periodístico, se permite "contenido que puede infringir las Normas comunitarias de Facebook o de Instagram si este tiene fines informativos y su visibilidad es de interés público". No obstante, Meta solo otorga concesiones de interés periodístico "después de realizar una revisión exhaustiva que pondera el interés público frente al riesgo de daño" y, para tomar una decisión, tiene en cuenta "las normas internacionales en materia de derechos humanos, como se refleja en [su] Política corporativa de derechos humanos". Meta afirmó que evalúa si el contenido suscita "amenazas inminentes a la salud o la seguridad públicas, o permite que se expresen perspectivas que actualmente se discuten como parte de un proceso político". Esta evaluación considera las circunstancias del país, por ejemplo, si hay elecciones o conflictos en curso, si existe libertad de prensa y si los productos de Meta están prohibidos. Meta indicó que "no puede presumirse que el contenido es inherentemente de interés público solo por la identidad del hablante, por ejemplo, su identidad como político".

El análisis del Consejo se basó en el compromiso que Meta asumió con la "expresión", a la cual la empresa describe como "fundamental", y con los valores de "seguridad", "privacidad" y "dignidad".

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, en la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP.

El análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso se basó en las siguientes normas internacionales:

• Derecho a la libertad de opinión y expresión: artículos 19 y 20 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), observación general n.º 34, Comité de Derechos Humanos (2011); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018), A/74/486 (2019); Declaración Conjunta sobre la Libertad de los Medios de Comunicación y Democracia, mandatos de la ONU y regionales sobre la libertad de expresión (2023).
• Derecho a participar en asuntos públicos y a votar: artículo 25 del ICCPR.
• Derecho a la igualdad y a la no discriminación: artículos 2 y 26 del ICCPR.
• Derecho a la protección de la ley contra ataques ilegales a su honra y reputación: artículo 17 del ICCPR.

5. Respuestas del usuario

Los tres medios de comunicación apelaron por separado las decisiones de Meta de eliminar el contenido ante el Consejo. En su apelación al Consejo, Bolu Gündem señaló que le había pagado a una agencia de noticias por el video y que otras organizaciones de noticias lo habían compartido en Facebook sin que lo eliminaran. BirGün Gazetesi hizo hincapié en el derecho del público a recibir información, mientras que, en la apelación de Komedya Haber, se refutó que el contenido incluyera lenguaje que incita al odio.

6. Respuestas de Meta

Meta eliminó las tres publicaciones conforme a su norma comunitaria sobre el lenguaje que incita al odio, ya que la frase "İngiliz uşağı" era, desde el momento en que se publicaron los videos hasta el momento en que se reincorporaron, un insulto designado en el mercado turco de Meta, que se traduce como "siervo de los británicos".

En el momento en que se eliminaron las tres publicaciones, la norma comunitaria definía a los insultos de forma coherente con la política pública como "palabras que son inherentemente ofensivas y se usan como etiquetas peyorativas de las características protegidas", incluida la nacionalidad. Meta informó al Consejo que, tras un Foro de políticas interno, decidió separarse del concepto de "inherentemente ofensivos" como base para describir a los insultos y, en cambio, usar "una definición basada en investigaciones y centrada en la conexión de la palabra con instancias de discriminación, opresión y violencia históricamente ejercidas contra grupos con características protegidas". Meta indicó al Consejo que este cambio en la definición no afectó las pautas operativas proporcionadas a los revisores sobre cómo implementar la política. El único cambio que hubiera afectado el resultado de estos casos era la eliminación de "İngiliz uşağı" de la lista de insultos.

Meta explicó que estas políticas "permiten a las personas compartir lenguaje que incita al odio e insultos para condenarlos o concientizar acerca de ellos, o cuando se usan de forma autorreferencial o motivadora. Sin embargo, la intención del usuario debe quedar clara. Para calificar como reportaje que procura concientizar, no es suficiente reiterar que alguien más usó el lenguaje que incita al odio o un insulto. En cambio, necesitamos [Meta] contexto adicional específico". En respuesta a las preguntas del Consejo, Meta aclaró que permite insultos en un contexto de "reportaje" solo cuando se comparten para concientizar acerca de su uso con "contexto específico adicional" y que "un texto neutral no es suficiente". Meta explicó que no aplicó esta excepción a estas publicaciones porque los videos no incluían un contexto claro de concientización o condena.

En su respuesta a las preguntas del Consejo, Meta indicó que no era necesario otorgar una concesión de interés periodístico en estos casos porque el contenido no incluía un insulto infractor. No obstante, en el momento de las eliminaciones originales, Meta consideraba que la frase era un insulto. En cuanto a esa situación, Meta agregó que hubiera determinado que el valor del interés público en el contenido en el contexto de unas elecciones superaba cualquier riesgo de daño, por lo que también hubiera restaurado el contenido. Para conocer la evaluación del interés periodístico realizada por el Consejo, consulta la sección 8.1.

En noviembre de 2022, personal de Meta identificó la necesidad de actualizar la lista de insultos correspondiente a Turquía como parte de la preparación de la empresa para las elecciones presidenciales y parlamentarias de mayo de 2023 en Türkiye (Turquía). La auditoría anual de la lista de insultos del mercado del país comenzó en enero de 2023, y el equipo regional de la empresa presentó los cambios propuestos a mediados de marzo de 2023. En dicha auditoría, Meta decidió que la frase "İngiliz uşağı" no constituía un insulto y la eliminó, lo cual entró en vigor el 12 de abril de 2023, dos semanas después de que se restaurara el contenido de los tres casos. Al mismo tiempo, Meta eliminó de su lista de insultos otros términos que combinaban el uso de "uşak" (siervo) con nacionalidades específicas. En respuesta a las preguntas del Consejo, Meta indicó que no cuenta con documentación en la que conste desde cuándo o por qué la frase se designó originalmente como un insulto, pero ahora reconoce que no ataca a las personas sobre la base de una característica protegida. La empresa también agregó que "İngiliz uşağı" aún estaba en la lista de insultos correspondiente al mercado turco cuando las tres publicaciones de este caso se revisaron y, por lo tanto, los moderadores actuaron conforme a las pautas internas al eliminar el contenido.

Cada año, en enero, Meta realiza auditorías de sus listas de insultos a través de un proceso a cargo de los equipos de mercados regionales "con el objetivo de revocar la designación de aquellos insultos que no deberían estar en las listas". Meta usó un nuevo proceso de auditoría que se probó en la auditoría anual de 2023 de la lista de insultos correspondiente al mercado turco. El nuevo proceso consta de dos pasos: primero, un análisis cualitativo para determinar los antecedentes y el uso del término; y, segundo, un análisis cuantitativo para determinar cuestiones de datos clave, como qué parte de la muestra está amparada por las excepciones de la política. Meta explicó que, dado que "İngiliz uşağı" no cumplía cualitativamente su definición de "insultos" (paso uno), se eliminó de la lista sin pasar al análisis cuantitativo de su uso (paso dos).

El Consejo le hizo 23 preguntas a Meta por escrito. Las preguntas abordaban cuestiones relacionadas con los criterios y procesos relativos a la designación de insultos; las pautas internas sobre los insultos y la aplicación de las excepciones a la política; cómo varió el funcionamiento de los sistemas de prevención de errores en las revisiones de las tres publicaciones; y la evaluación de la aplicación de políticas en el nivel de la cuenta como consecuencia de cada decisión sobre el contenido. De las 23 preguntas, 22 se respondieron por completo y una, parcialmente. La respuesta parcial fue acerca de cuándo y por qué la frase "İngiliz uşağı" se designó como insulto, y la empresa explicó que no tenía documentación. Meta también le proporcionó al Consejo información de forma oral sobre los cambios realizados en la definición de los insultos y el proceso de designación.

7. Comentarios del público

El Consejo asesor de contenido recibió 11 comentarios del público relacionados con estos tres casos. Uno de los comentarios recibidos procedía de Asia central y meridional; nueve, de Europa; y uno, de los Estados Unidos y Canadá. Dichos comentarios se referían a los siguientes temas: importancia de un enfoque contextual en la moderación de insultos; notificación adecuada a los usuarios de los motivos de las eliminaciones de contenido; consecuencias de las eliminaciones erróneas de contenido en los medios de comunicación; importancia de la concesión de interés periodístico para el contenido; y solicitudes de una lista pública de ejemplos de insultos.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

El Consejo examinó si debía confirmar o anular las decisiones originales de Meta en estos tres casos a la luz de las políticas de contenido, las responsabilidades con los derechos humanos y los valores de Meta. La evaluación conjunta de estas decisiones también le otorga al Consejo una mayor posibilidad de analizar sus implicaciones para el enfoque más amplio de Meta respecto de la gobernanza de contenido, en particular, en el contexto de elecciones.

8.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

Lenguaje que incita al odio

El Consejo determinó que, en estos tres casos, el término "İngiliz uşağı" no constituye lenguaje que incita al odio conforme a las Normas comunitarias de Meta. Ya sea que se evalúe según la definición de insultos anterior o posterior a los cambios en la política del 25 de mayo de 2023, el término "İngiliz uşağı" no ataca a personas sobre la base de una característica protegida. La eliminación del contenido que incluía este término en los tres casos no fue coherente con las bases de la política sobre lenguaje que incita al odio, ya que no atacaba a personas sobre la base de una característica protegida.

El término "İngiliz uşağı" se usó durante mucho tiempo como una crítica política en Türkiye (Turquía). De acuerdo con los expertos a los que consultó el Consejo, el uso de la frase precedió la fundación de la Türkiye (Turquía) moderna, cuando el término se usaba para criticar a los líderes del Imperio otomano por favorecer los intereses de Gran Bretaña, y el término no es discriminatorio por naturaleza. La confrontación en estos tres casos involucraba a políticos de partidos políticos rivales. El AKP, partido de la Miembro del Parlamento Reyhanlıoğlu, enfrentó críticas y la ira pública por la gestión del Gobierno en respuesta a los terremotos y la legislación que otorgaba la amnistía a los constructores por haber erigido edificios que no se adherían a los códigos de seguridad contra terremotos. Dirigió el insulto al alcalde İmamoğlu, figura clave del CHP, el partido opositor más grande del país. La tensa relación entre el AKP y el CHP antes de las elecciones, incluida la importancia del terremoto como un tema electoral, se manifestó públicamente durante la visita del alcalde İmamoğlu y el candidato presidencial del CHP Kemal Kılıçdaroğlu a Kahramanmaraş. Por lo tanto, el contenido de cada uno de los tres casos constituye un discurso político sobre un asunto de interés público significativo en un contexto electoral.

Como Meta explicó, "para calificar como reportaje que procura concientizar, no es suficiente reiterar que alguien más usó el lenguaje que incita al odio o un insulto. En otras palabras, un texto neutral no es suficiente". Si el contenido hubiera incluido un insulto, ninguna de las organizaciones de medios hubiera cumplido los requisitos de "debatir" o "informar" sobre lenguaje que incita al odio, ya que el contenido se compartió con un texto neutral en los tres casos. Desde el punto de vista del Consejo, incluso si este insulto estuviera adecuadamente designado en la lista, el contenido de los tres casos debería haberse protegido, de todos modos, por ser "reportaje". Según el marco actual de las pautas internas, si el contenido hubiera incluido un insulto, ninguna de las organizaciones de medios hubiera cumplido los requisitos de "debatir" o "informar" sobre lenguaje que incita al odio, ya que el contenido se compartió con un texto neutral en los tres casos. Desde el punto de vista del Consejo, incluso si este insulto estuviera adecuadamente designado en la lista, el contenido de los tres casos debería haberse protegido, de todos modos, por ser "reportaje".

El Consejo determinó que la frase "İngiliz uşağı" no debería haberse agregado a la lista de insultos confidencial de Meta, ya que no constituye una forma de lenguaje que incita al odio. En otros contextos, acusaciones de ser un "agente extranjero" podría equivaler a una amenaza creíble para la seguridad de las personas, pero pueden abordarse en virtud de otras políticas (por ejemplo, conforme a la política sobre violencia e incitación). Incluso en esas situaciones, Meta debería hacer una distinción entre las amenazas de un hablante en una posición influyente y los medios que informan sobre esas amenazas. Dados los hechos de estos casos y las pautas internas en vigencia en ese momento, los revisores de contenido, que moderan contenido a gran escala, actuaron conforme a esas pautas y eliminaron contenido que incluía términos de las listas de insultos de Meta. En ese momento, esa lista incluía la frase "İngiliz uşağı". El motivo de los errores en estos casos fue la decisión de la política de agregar el término a la lista de insultos y las pautas confidenciales e inapropiadamente acotadas sobre cómo los revisores debían aplicar la excepción relacionada con la "concientización" a publicaciones que "informaban" sobre el uso de insultos.

Concesión de interés periodístico

El Consejo manifestó su preocupación respecto de que, en un momento en que las políticas internas de Meta categorizaban la frase "İngiliz uşağı" como un insulto infractor, ninguna de las tres publicaciones se escalara para que se evaluara la posibilidad de que el equipo de políticas central (anteriormente conocido en la empresa como "equipo de políticas de contenido") de la empresa otorgara una concesión de interés periodístico.

La organización turca para la libertad de expresión İfade Özgürlüğü Derneği (İFÖD) argumentó en su comentario del público que, dado su valor de interés público, el contenido de los tres casos debería haber calificado para recibir una concesión de interés periodístico. Si el contenido incluyera un insulto debidamente designado conforme a la política sobre lenguaje que incita al odio de Meta, el Consejo hubiera estado de acuerdo. Las tres publicaciones se refieren a información sobre un discurso de una (ex) política, que se dirige a un político actual, de una forma que se encuentra dentro de los límites de la crítica (incluso ofensiva) que se espera que un político debiera tolerar, incluidos epítetos insultantes. Dicha evaluación podría ser diferente, por ejemplo, si un término se usara en un contexto en particular como insulto discriminatorio. El video afloró en un momento de mucha importancia política y social, luego de que una serie de terremotos arrasadores devastaran Türkiye (Turquía). Los terremotos, así como los debates relacionados con la respuesta del Gobierno y la preparación para ellos, eran temas importantes para el presidente Erdoğan y el candidato presidencial del CHP Kemal Kılıçdaroğlu en el período de campaña previo a las elecciones de mayo de 2023. Tras los terremotos, el Gobierno turco también restringió temporalmente el acceso a Twitter y otros sitios de medios sociales, ya que se difundían críticas a la respuesta del Gobierno ante los terremotos. Dado que estas imágenes eran de interés público y su eliminación no reduciría ningún riesgo de daño, Meta debería haber permitido que el término se usara para reportaje de interés público, incluso si se hubiera calificado de forma adecuada como insulto. El Consejo previamente insistió en que Meta dejara contenido que incluía insultos discriminatorios cuando el contenido se relacionaba de algún otro modo con momentos significativos de la historia de un país (consulta el caso Manifestaciones en Colombia).

II. Desafíos sistémicos en la aplicación de políticas y la prevención de errores

Procesos para la designación y auditoría de listas de insultos

Meta no pudo proporcionarle al Consejo información sobre cuándo o por qué designó originalmente "İngiliz uşağı" como insulto porque carece de documentación suficiente, un problema que procura solucionar a través de sus nuevos procesos para la designación y auditoría de los insultos.

Conforme al proceso de auditoría anterior, los equipos regionales de la empresa, con la ayuda de expertos en políticas y operaciones, llevarían a cabo análisis cualitativos y cuantitativos de la cultura y el idioma de la región o el mercado pertinentes para crear las listas de insultos. Este proceso incluiría la revisión del significado asociado a la palabra, su prevalencia en las plataformas de Meta y su uso local y coloquial. Meta hubiera requerido la recopilación y evaluación de, al menos, 50 elementos de contenido que incluyeran ese término en este proceso. Sin embargo, Meta señaló en su Foro de políticas reciente que el proceso anterior de designación de insultos presentaba una serie de problemas, como la indexación sobre el carácter ofensivo, la falta de documentación y la subjetividad de los criterios. Y, tal como Meta indicó al Consejo, esto se "aplicaba de forma inconsistente", ya que los criterios de eliminación no estaban establecidos ni ponderados.

Al probar su nuevo proceso de designación en el mercado turco en 2023, Meta eliminó "İngiliz uşağı" de la lista de insultos. Por mera coincidencia, esa auditoría estaba en curso en el momento en que el Consejo seleccionó estos tres casos. El término había estado en la lista de insultos de Meta desde 2021, como mínimo. De acuerdo con Meta, el nuevo proceso procura cuantificar de mejor forma los significados y usos alternativos de un término para eliminar la designación de un insulto, un proceso que se centra en reflejar de forma más eficiente la naturaleza cambiante de los significados de las palabras con el tiempo.

Estos cambios en la gobernanza generalmente son positivos, y si se implementan de forma efectiva, deberían disminuir la sobreaplicación de la política sobre insultos. Sin embargo, el nuevo proceso podría mejorarse aún más si tuviera el objetivo específico de identificar términos que se hubieran agregado por error a la lista de insultos. Meta también debería actualizar y ampliar la explicación de la designación y la auditoría de los insultos en el Centro de transparencia, y alinear esto con su nueva definición de insultos y su enfoque revisado respecto de las auditorías de las listas de insultos.

Medidas para la prevención de errores y desafíos de la etapa de escalamiento

Al analizar estos tres casos a la vez, el Consejo pudo evaluar de qué forma diversos sistemas de prevención de errores de Meta funcionaron respecto de contenido similar, así como revisar un desafío sistemático más amplio que también detectó en decisiones anteriores. Al Consejo le preocupa que, si bien varios sistemas de prevención de errores estuvieron involucrados en la revisión de cada publicación, aparentemente, no funcionaron coherentemente en favor de las organizaciones de medios ni de sus públicos. Asimismo, las medidas no habilitaron a los revisores a escalar ninguna de las tres publicaciones para que se sometieran a otra instancia de revisión contextual. Gracias a tales escalamientos, el contenido se podría haber conservado (p. ej., por su interés periodístico) o el error de agregar este término a la lista de insultos se podría haber identificado antes, fuera de la auditoría anual.

En los tres casos, se utilizó verificación cruzada, pero esta funcionó de forma diferente en la decisión correspondiente a cada publicación. Solo Bolu Gündem se encontraba en la lista de organizaciones de medios correspondiente a la revisión secundaria de respuesta temprana (ERSR), mientras que ni BirGün Gazetesi ni Komedya Haber estaban incluidos. La ERSR es una forma de verificación cruzada basada en entidades, por la cual toda publicación de una identidad que se encuentra en la lista se somete a una instancia de revisión adicional si se marca para su eliminación (consulta la opinión de asesoramiento normativo acerca de la verificación cruzada, párrafos 27 y 28). De las tres organizaciones de medios de estos casos, solo Bolu Gündem tenía un ejecutivo de cuenta. De acuerdo con Meta, una organización de medios debe tener un "ejecutivo de cuenta" para cumplir los requisitos correspondientes a la ERSR. Según la empresa, los ejecutivos de cuenta "actúan como el nexo entre las organizaciones externas y las personas que usan las plataformas y los servicios de Meta" y ayudan a los titulares de las cuentas a "optimizar su presencia y maximizar el valor que generan a partir de las plataformas y los servicios de Meta". El Consejo señaló que las publicaciones de BirGün Gazetesi y Komedya Haber se sometieron a una instancia de revisión de verificación cruzada conforme a la revisión secundaria general (GSR), que prioriza el contenido sobre la base del "clasificador de verificación cruzada". No obstante, al Consejo le preocupa que entidades de medios locales o más pequeñas no se incluyan sistemáticamente en las listas correspondientes a la ERSR por no tener un ejecutivo de cuentas. Esto refuerza la preocupación que el Consejo manifestó en la opinión de asesoramiento normativo acerca de la verificación cruzada en torno a la falta de transparencia del programa y la falta de criterios objetivos para la inclusión en la ERSR. Las entidades involucradas en periodismo de interés público deberían tener acceso a información clara sobre cómo sus cuentas pueden beneficiarse a partir de la protección que brinda la verificación cruzada. Si tener un ejecutivo de cuentas es una condición necesaria para la inclusión, debería haber instrucciones claras respecto de cómo enviar una solicitud para conseguir un ejecutivo. Además, al Consejo le preocupa que el hecho de que las tres publicaciones se revisaran a través de la verificación cruzada no suscitara una consideración más exhaustiva de si debiera aplicarse una excepción a la política o si debiera realizarse un escalamiento para una evaluación del interés periodístico.

Asimismo, la multirrevisión dinámica (DMR) también se "habilitó" para la cola de revisión pertinente en el momento en que las tres publicaciones se enviaron para que un moderador realizara una revisión inicial. Para los fines de la DMR, por medio de automatización, se identificaron las tres publicaciones para que se sometieran a revisiones a cargo de varios moderadores antes de la eliminación, por la precisión de la revisión manual y para mitigar los riesgos de decisiones incorrectas sobre la base de varios factores, como la viralidad y la cantidad de visualizaciones. De un total de ocho revisiones en las tres publicaciones similares, las cuales precedieron a las revisiones adicionales correspondientes a la verificación cruzada, solo dos revisores (cada uno de una publicación distinta) determinaron que esas publicaciones no infringían la política sobre lenguaje que incita al odio. Al Consejo le preocupa que no se les informe a los revisores cuando la automatización identifica un mayor riesgo de error en la aplicación de política, ya que esto podría animarlos a examinar el contenido con mayor exhaustividad, ya sea considerando excepciones a la política potencialmente aplicables o escalando el contenido para un análisis contextual más detallado.

Las medidas de prevención de errores actuales de Meta, tanto en la DMR como en la verificación cruzada, parecieran estar dirigidas casi por completo a asegurar que los moderadores apliquen las políticas en consonancia con las pautas internas. Aparentemente, no incluyen mecanismos adicionales para que los revisores identifiquen cuándo la adherencia estricta a las pautas internas de Meta lleva a una decisión equivocada, ya que la política en sí está equivocada (como Meta más tarde admitió que ocurrió respecto de las tres decisiones iniciales). Si bien la automatización identificó de forma adecuada que para las publicaciones de los tres casos existía el riesgo de la aplicación de políticas por falsos positivos, las revisiones adicionales a cargo de los moderadores no originaron escalamientos para el otorgamiento de una concesión de interés periodístico. Dados los desafíos que implican los falsos positivos en la revisión a gran escala, los escalamientos deberían ser más sistemáticos y frecuentes para el contenido relacionado con debates de interés público, en particular, en contextos electorales. El hecho de que Meta aplicara sus sistemas de prevención de errores con numerosos recursos a estos casos y, aun así, llegara a resultados incorrectos en los tres, demuestra que requieren una mayor revisión. Meta previamente desestimó preocupaciones similares que el Consejo manifestó sobre los procesos de escalamiento para la evaluación del interés periodístico en la decisión Manifestaciones en Colombia (consulta la respuesta de Meta a la recomendación número 3 de dicho caso), ya que sentía que el trabajo que estaba haciendo era suficiente. El Consejo determinó que estos tres casos demuestran que este asunto requiere una nueva examinación.

8.2 Cumplimiento de las responsabilidades de Meta con los derechos humanos

El Consejo determinó que la decisión de Meta de eliminar el contenido en los tres casos no fue coherente con sus responsabilidades con los derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR proporciona amplia protección a la libertad de expresión, incluida la "libertad de buscar, recibir y difundir informaciones e ideas de toda índole". El alcance de la protección incluye a las expresiones que "puedan considerarse profundamente ofensivas" (observación general n.º 34, párrafo 11). La protección a la libertad de expresión también es "de gran importancia" cuando el debate público atañe a "figuras del ámbito público y político" (observación general n.º 34, párrafo 34). El papel de los medios a la hora de difundir información en el ecosistema digital es esencial. El Comité de Derechos Humanos también remarcó que "la existencia de medios de prensa y otros medios de comunicación libres y exentos de censura y de trabas es esencial" y que la prensa u otros medios deben ser capaces de "comentar cuestiones públicas sin censura ni limitaciones, así como de informar a la opinión pública" (observación general n.º 34, párrafo 13).

La expresión en cuestión en cada uno de los tres casos merece una protección "de gran importancia" porque la disputa política se produjo durante un debate político significativo en relación con la respuesta del Gobierno a los terremotos en el período previo a las elecciones presidenciales y parlamentarias en Türkiye (Turquía). Las críticas y la ira pública tras los terremotos se produjeron mientras el presidente Erdoğan y el candidato presidencial del CHP Kemal Kılıçdaroğlu hacían campaña en los meses anteriores a las elecciones presidenciales y parlamentarias de mayo de 2023. En la Declaración Conjunta sobre la Libertad de los Medios de Comunicación y Democracia, los titulares de mandatos recomendaron que "las grandes plataformas en línea deben privilegiar los medios independientes de calidad y el contenido de interés público en sus servicios para facilitar el discurso democrático" y "remediar de manera rápida y adecuada las eliminaciones indebidas de medios independientes de calidad y contenido de interés público, incluso a través de una revisión humana acelerada" (recomendaciones para plataformas de medios sociales, página 8 de la versión en inglés).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad requiere que cualquier regla que limite la expresión sea clara y de acceso público (observación general n.º 34, párrafo 25). El Comité de Derechos Humanos también indicó que las reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" (ibidem). En el contexto del discurso en línea, el Relator Especial de la ONU sobre la libertad de expresión indicó que las reglas deben ser específicas y claras (A/HRC/38/35, párrafo 46).

La prohibición de la política sobre lenguaje que incita al odio de Meta respecto de los insultos no es lo suficientemente clara para los usuarios. La definición de insultos de Meta previa al 25 de mayo de 2023, se centraba en el carácter ofensivo, lo que resultaba excesivamente subjetivo y mucho más amplio que la definición de Meta de lenguaje que incita al odio según el marco de las bases de su política. Antes de los cambios, los usuarios de Facebook e Instagram probablemente tenían diferentes interpretaciones acerca de qué significaba "ofensivo", lo que creaba confusión en cuanto a que en ciertas circunstancias existiría un ataque sobre la base de una característica protegida y en otras no. Los cambios del 25 de mayo aclararon la postura de la política de Meta en cierta medida, al poner una distancia respecto del concepto vago de "ofensa".

En ninguna de las notificaciones de los tres casos, se informó a los usuarios respectivos que las publicaciones se habían eliminado por el uso de insultos (solo que el contenido se había eliminado por infringir la política sobre el lenguaje que incita al odio de Meta). En las novedades del segundo trimestre de 2022 sobre el Consejo asesor de contenido, Meta indicó que "prevé evaluar la viabilidad de profundizar la minuciosidad al agregar un mayor nivel de detalle respecto de cuáles aspectos de la política se infringieron a gran escala (p. ej., infracciones contra la prohibición relativa a los insultos dentro de la norma comunitaria sobre lenguaje que incita al odio)". Meta señaló en este informe que sus sistemas de revisión son más precisos en el nivel de la política y priorizan en consecuencia los "mensajes más amplios y correctos" sobre los "mensajes específicos, aunque imprecisos". Por ejemplo, Meta tiene mayor confianza en que puede informar a los usuarios con precisión que infringieron la política sobre el lenguaje que incita al odio, pero tiene menos confianza en que pueda informar con precisión a los usuarios la regla específica dentro de esa política (p. ej., prohibición sobre insultos) que infringieron. No obstante, en su respuesta a la recomendación del caso "Insultos de Sudáfrica", Meta dijo que está "creando nuevas funciones para proporcionar notificaciones más detalladas" que ahora se ofrecen en inglés, con pruebas en notificaciones en árabe, español y portugués en Facebook. Esto no habría beneficiado a los usuarios de estos casos porque, según entiende el Consejo, los usuarios recibieron notificaciones en turco. El Consejo instó a Meta a proporcionar este nivel de detalle a los usuarios que hablan idiomas diferentes del inglés.

La lista de excepciones de Meta correspondiente a la prohibición de insultos, y lenguaje que incita al odio de forma más general, podría explicarse de forma más clara a los usuarios y revisores de contenido. A pesar de que el Consejo tiene objeciones respecto de exigir declaraciones claras de intención como requisito para poder beneficiarse de las excepciones, en la medida en que la intención debe ser una consideración necesaria, Meta debe especificar con mayor claridad a los usuarios cómo pueden demostrar la intención para cada una de las excepciones a la política mencionadas. Además, las pautas internas que se proporcionan a los revisores aparentemente permiten excepciones más amplias que las que se comunican de forma pública a los usuarios, lo que crea problemas en torno a la accesibilidad y la claridad. En las pautas sobre la política de Meta, se indica que se permite el "reportaje" en virtud de la política sobre lenguaje que incita al odio cuando este procura concientizar al respecto. Previamente, el Consejo criticó la política sobre el lenguaje que incita el odio pública de Meta por no incluir una explicación de las reglas que se incluyen en las pautas internas que se proporcionan a los revisores (p. ej., consulta el caso Meme de los dos botones). Meta debería hacer público que el reportaje sobre el lenguaje que incita al odio está permitido, idealmente, en una excepción independiente que distinga el "reportaje" periodístico de la "concientización". Esta información es especialmente importante para ayudar a las organizaciones de medios y otras organizaciones que desean informar sobre incidentes durante los que terceros usan un insulto en un asunto de interés público, por ejemplo, cuando el insulto es incidental o no es el punto central de la historia periodística, de un modo que no crea un clima de exclusión ni intimidación. Debe enmarcarse de tal modo que reconozca que los medios de comunicación y otros medios involucrados en el periodismo, a fin de informar de forma imparcial sobre los acontecimientos actuales, pueden no siempre indicar la intención de "generar conciencia" y que esto puede tener que inferirse a partir de otras pistas contextuales.

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar alguno de los fines legítimos mencionados en el ICCPR, entre ellos, los "derechos de los demás". En varias decisiones, el Consejo determinó que la política sobre el lenguaje que incita al odio de Meta, incluida la prohibición de insultos, procura el fin legítimo de proteger los derechos de los demás, concretamente, a no ser discriminados (p. ej., consulta la decisión Armenios en Azerbaiyán).

El Consejo señaló que la actualización que Meta realizó en la definición de los insultos el 25 de mayo aclaró aún más este fin. En las referencias anteriores a los insultos como "inherentemente ofensivos", podía interpretarse que se implicaba un derecho de las personas a la protección contra el discurso ofensivo per se. Este no sería un fin legítimo, ya que no existe ningún derecho de protección contra los discursos ofensivos conforme a los derechos humanos internacionales. La nueva definición de Meta, que sustituye el concepto de carácter ofensivo por una definición más objetiva para los términos que "generan inherentemente un clima de exclusión e intimidación en contra de las personas sobre la base de una característica protegida", se alinea de forma más precisa con el fin legítimo de proteger los derechos de los demás.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34). El Consejo determinó que no era necesario eliminar el contenido de estos tres casos. Cuando se combina con fallas sistémicas al aplicar las excepciones pertinentes, la lista de insultos interna de Meta puede equivaler a una prohibición casi absoluta, lo que genera problemas en relación con la necesidad y la proporcionalidad en el contexto del reportaje periodístico.

En cuanto a la necesidad, la inclusión de "İngiliz uşağı" en la lista de insultos no era necesaria para proteger a las personas de lenguaje que incita al odio porque no se usa para atacar a las personas sobre la base de una característica protegida. La lista de insultos de Meta aparentemente también incluye términos que no cumplen con la definición de insultos propia de la empresa (anterior y posterior a las revisiones de la política del 25 de mayo). Al Consejo se le otorgó acceso total a las listas de insultos que se actualizaron por última vez en el primer trimestre de 2023, y hay muchos términos en las listas, en los distintos mercados, que son cuestionables en cuanto a si se trata de lenguaje que incita al odio o se los entendería mejor como insultos ofensivos que no son discriminatorios por naturaleza. Algunos miembros del Consejo también expresaron preocupación por el hecho de que la lista no incluye muchos términos de lenguaje que incita al odio que se esperaría que estuvieran en tales listas, pero que no lo están. Mientras que para algunos mercados o idiomas la lista de términos designados consta de varias páginas, para otros mercados, las listas son mucho más cortas.

En el momento en que Meta tomó las decisiones originales de estos casos, la definición previa de insultos de Meta, que dependía entonces del concepto de carácter ofensivo, era muy amplia y generó restricciones desproporcionadas sobre la libertad de expresión cuando tres organizaciones de medios informaron sobre acontecimientos de importancia política que involucraban el uso de insultos por parte de figuras pública. Incluso si la frase se hubiera designado adecuadamente como insulto, al informar sobre acontecimientos en que terceros la usaban de una forma en que no incitaba a la violencia ni a la discriminación, el contenido debería haber calificado como "reportaje" permitido. Las pautas sobre la política que Meta no divulgó respecto de cómo el reportaje que incluye insultos debe acompañarse con contexto adicional para considerarse una instancia de "concientización" interfirió en la discreción editorial de cada uno de los medios de comunicación y su intento de informar al público turco. Las entidades de medios de estos tres casos compartieron el video sin contexto adicional que indicara una intención de condenar o concientizar (consulta el análisis del Consejo sobre las excepciones de Meta en la sección 8.1).

En la decisión Mención de los talibanes en los informes de noticias, el Consejo examinó los desafíos de exigir una intención clara del usuario "incluso cuando hay pistas contextuales que dejan claro que la publicación es, de hecho, información periodística". Si bien ese caso involucraba la política sobre personas y organizaciones peligrosas (donde existe una excepción pública para informar sobre entidades designadas), las observaciones respecto de la intención aplican también a estos casos sobre el lenguaje que incita al odio. En el periodismo, se suele considerar una buena práctica informar sobre los hechos de forma neutral o imparcial, sin juicios de valor, una práctica que entra en conflicto con los requisitos de Meta para el reportaje que exigen una intención clara de condenar o concientizar. Estos casos aportan una faceta adicional a esa crítica. Si bien la excepción de Meta relacionada con la "concientización" aborda el reportaje sobre el uso de insultos, esa aplicación acotada no incluye todas las circunstancias, como aquellas de estos casos, en las que el uso de insultos fue ampliamente incidental al tema principal sobre el que se informaba. En estos casos, eliminar las tres publicaciones fue una restricción innecesaria y desproporcionada sobre la libertad de expresión de los derechos de las personas de los medios y sobre los derechos al acceso a la información de su público.

Al Consejo le preocupa que Meta aplique su política sobre lenguaje que incita al odio respecto de los insultos de forma mecánica y no tenga en cuenta cuando una figura pública está presente y es el blanco de la crítica. El Comité de Derechos Humanos observó que los funcionarios públicos pueden "ser objeto legítimo de críticas y oposición política" (observación general n.º 34, párrafo 38). El Consejo manifestó su preocupación antes en su decisión Manifestaciones en Colombia. En ese caso, el Consejo dijo que el contexto debía considerarse cuidadosamente, no solo el contexto político en el que se usa un insulto, sino también si el insulto se usa como parte de una crítica a líderes políticos. En la decisión Eslogan de protesta contra Irán del Consejo, se abordaron amenazas hipotéticas contra líderes políticos, y se hizo hincapié en la importancia de proteger el discurso político retórico sin dejar de proteger a todas las personas, incluidas las figuras públicas, contra las amenazas creíbles. La crítica de figuras públicas puede tomar varias formas, incluso formas que incluyen lenguaje ofensivo, pero el enfoque de aplicación de políticas actual de Meta no da el lugar necesario para equilibrar cuidadosamente estos factores opuestos, ya sea en virtud de las reglas no divulgadas relativas al reportaje o de la concesión de interés periodístico paralela y que puede aplicarse de forma más general. Una política que pudiera incluir mejor el reportaje periodístico permitiría una evaluación más cuidadosa del contexto durante la revisión a gran escala, sin requerir un escalamiento.

Como el Consejo remarcó antes (sección 8.1: Medidas para la prevención de errores y desafíos de la etapa de escalamiento) y en su decisión Manifestaciones en Colombia, las publicaciones de potencial interés periodístico que ameritan una evaluación contextual más exhaustiva parecieran no escalarse al equipo de políticas de Meta de forma tan sistemática o frecuente como se esperara. Mientras que Meta presenta la concesión de interés periodístico como algo infalible para proteger la expresión de interés público, los propios informes de transparencia de Meta revelan que la concesión solo se aplicó 68 veces en el año, desde junio de 2021 hasta mayo 2022. Como el Consejo previamente señaló en la decisión Manifestaciones en Colombia, la "excepción relacionada con el interés periodístico no debe interpretarse como un permiso general para conservar lenguaje que incita al odio". Sin embargo, es necesario que haya mecanismos más eficientes para proteger la expresión de interés público, que puede eliminarse por error de forma tan sencilla.

En dos de los casos, las faltas y los sistemas de penalización de Meta acrecentaron los problemas relacionados con la necesidad y la proporcionalidad, ya que las eliminaciones equivocadas generaron más limitaciones en la libertad de medios y expresión de los usuarios. Debido a estas medidas, a las organizaciones de medios les resultó todavía más difícil compartir libremente su reportaje mientras duraron las limitaciones de esas funciones. Dado el efecto paralizador del futuro probable, incluso sanciones más graves, esto tuvo un impacto real en un momento en que, debido a los terremotos y el período previo a las elecciones, poder acceder a noticias locales independientes era especialmente importante.

El Consejo también animó a Meta a experimentar con procedimientos internos proactivos para evitar casos de falso positivos y medios menos intrusivos de regulación del uso de insultos, aparte de la eliminación del contenido que puede ocasionar faltas y limitaciones de funciones. Dado que la libertad de expresión, reflejada en el valor fundamental de Meta de la "expresión", es la regla y la prohibición de Meta de los insultos es la excepción, las pautas internas que Meta proporciona a los moderadores deberían establecer una presunción que establezca que el reportaje periodístico (incluido el periodismo ciudadano) no debe eliminarse. Si bien el Consejo hizo hincapié en la decisión Manifestaciones en Colombia que la "excepción de interés periodístico no debía interpretarse como un permiso general para conservar lenguaje que incita el odio", las reglas internas de Meta deberían fomentar la consideración integral de las circunstancias específicas, a fin de garantizar que el reportaje de interés público (que no es lenguaje que incita el odio) no se elimine de forma incorrecta. El Consejo también evocó su decisión del caso Cinturón de abalorios, en la que enfatizó la importancia de que Meta evaluara el contenido como un todo, en lugar de hacer evaluaciones sobre la base de partes aisladas del contenido.

Asimismo, revisar las notificaciones que se envían a los usuarios e incluir estímulos de comportamiento (por ejemplo, informar a los usuarios cuando sus publicaciones parecieran contener insultos prohibidos e invitarlos a editarlas) puede aumentar el cumplimiento de las políticas de la empresa. Se necesitan más recursos para que las organizaciones de medios comprendan cómo deberían informar sobre las historias que incluyen el uso de insultos de formas que no conlleven la eliminación del contenido. Enseñar a los usuarios cómo editar los videos en vivo para ocultar el uso de insultos sin dejar de informar sobre los acontecimientos en curso también puede disminuir la cantidad de organizaciones de medios a las que se les restringe la cuenta como consecuencia de informar sobre asuntos de interés público.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar el contenido en cada uno de estos tres casos.

10. Recomendaciones

Política de contenido

1. Para garantizar que las organizaciones de medios puedan informar más libremente sobre temas de interés público, Meta debería revisar la norma comunitaria sobre lenguaje que incita al odio para proteger de forma explícita el reportaje periodístico sobre insultos, cuando tal reportaje, en especial, en contextos electorales, no crea un clima de exclusión ni intimidación. Esta excepción debería hacerse pública y estar separada de las excepciones relacionadas con la "concientización" y la "condena". Los moderadores deberían recibir una capacitación adecuada, en especial, en idiomas diferentes del inglés, para garantizar el respeto por el periodismo, incluidos los medios locales. La excepción de reportaje debería dejar claro a los usuarios, en particular, a quienes están en los medios, de qué modo debe contextualizarse tal contenido, y las pautas internas que se proporcionan a los revisores deberían ser coherentes con esto. El Consejo considerará que se implementó esta recomendación cuando se hayan actualizado las Normas comunitarias y las pautas internas que se proporcionan a los revisores de Meta para reflejar estos cambios.

2. Para garantizar una mayor precisión respecto de cuándo pueden usarse insultos, Meta debería asegurarse de que la norma comunitaria sobre lenguaje que incita al odio cuente con explicaciones más claras de cada excepción, con ejemplos ilustrativos. Se pueden proporcionar ejemplos de situaciones de forma abstracta, para evitar repetir términos de lenguaje que incita al odio. El Consejo considerará que se implementó esta recomendación cuando Meta haya reestructurado su norma comunitaria sobre lenguaje que incita al odio y agregado ejemplos ilustrativos.

Aplicación de políticas

3. Para asegurar que haya menos errores en la aplicación de su política sobre lenguaje que incita al odio, Meta debería acelerar las auditorías de sus listas de insultos en los países en que habrá elecciones en el segundo semestre de 2023 y a principios de 2024, con el objetivo de identificar y eliminar términos que se hayan agregado por error a las listas de insultos de la empresa. El Consejo considerará que se implementó esta recomendación cuando Meta haya proporcionado una lista actualizada de los insultos designados tras la auditoría y una lista de los términos cuya designación se haya revocado, por mercado, tras las nuevas auditorías.

* Nota procedimental:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Al Consejo lo asistió un instituto de investigación independiente con sede en la Universidad de Gotemburgo, que se apoya en un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo. El Consejo también recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.