Declaraciones sobre el primer ministro de Japón

Para leer la decisión en japonés, haz clic aquí.

決定内容の全文を日本語で読むには、 こちらをクリックしてください。

Resumen

Ante la respuesta de un usuario a una publicación de Threads sobre el primer ministro de Japón y un escándalo relacionado con fraude fiscal, no se consideró necesario ni coherente con las responsabilidades de Meta en materia de derechos humanos que se eliminara el contenido. En este caso, se aborda la forma en que Meta debería distinguir las amenazas de violencia figurativas de aquellas reales. En reiteradas ocasiones, el Consejo remarcó la sobreaplicación de políticas ejercida sobre las amenazas figurativas. Es preocupante que, en la política de violencia e incitación de Meta, aún no se distingan con claridad las amenazas literales de las figurativas. En este caso, la amenaza contra un líder político se planteó como una crítica política no literal en la que se hizo hincapié en la supuesta corrupción, usando lenguaje ofensivo, lo que es habitual en los medios sociales de Japón. Era poco probable que ocasionara algún tipo de daño. A pesar de que los dos moderadores involucrados hablaban japonés y entendían el contexto sociopolítico local, eliminaron el contenido por error. Por lo tanto, Meta debería proporcionar pautas adicionales a los revisores respecto de cómo evaluar el idioma y el contexto local, además de asegurar que las pautas internas sean coherentes con las bases de la política.

Información sobre el caso

En enero de 2024, se compartió una publicación de Threads en la que aparecía un artículo periodístico sobre el primer ministro japonés Fumio Kishida y su respuesta ante irregularidades en la recaudación de fondos que involucraban a su partido. En el texto de la publicación, se criticaba al Primer Ministro por evasión fiscal. Un usuario respondió de forma pública a esa publicación y pidió que se diera una explicación al órgano legislativo de Japón, seguido por la palabra "ja", y se refirió al Primer Ministro como evasor fiscal usando la frase "死ね", que puede traducirse como "púdrete/muere" en español. Esta frase se incluyó en varios hashtags, y la respuesta del usuario también incluyó lenguaje derogatorio sobre las personas que usan lentes.

La respuesta del usuario a la publicación de Threads no recibió ningún Me gusta y se reportó una vez conforme a las reglas sobre bullying y acoso de Meta. En cambio, tres semanas después, mediante revisión manual, se determinó que el contenido infringía las reglas sobre violencia e incitación. Tras la apelación del usuario, en otra instancia de revisión manual, se volvió a decidir que el contenido era infractor. El usuario entonces apeló al Consejo. Luego de que el Consejo seleccionara el caso, Meta determinó que su decisión original fue incorrecta y restauró la respuesta del usuario en Threads.

Cerca del momento en que se realizó la publicación original en Threads y el usuario la respondió, políticos japoneses del Partido Liberal Democrático habían sido imputados por no declarar completamente los ingresos obtenidos en recaudación de fondos, aunque esto no incluía al primer ministro Kishida. Desde 2022, cuando asesinaron al ex primer ministro Shinzo Abe, existe cierta preocupación en torno a la violencia política en Japón.

Fumio Kishida recientemente anunció que no irá por la reelección como líder del Partido Liberal Democrático de Japón el 27 de septiembre de 2024 y que renunciará al cargo de primer ministro.

Conclusiones principales

El Consejo determinó que la frase "púdrete/muere" (traducida del original "死ね") no constituía una amenaza creíble ni tampoco infringía la regla sobre violencia e incitación que prohíbe las "amenazas de violencia que podrían llevar a la muerte". Expertos confirmaron que la frase se usa de forma general en un sentido figurativo como una declaración de desprecio o desaprobación. En el contenido, también se indica este uso figurativo a través de la palabra "ja", que expresa diversión o ironía.

Sin embargo, la regla sobre violencia e incitación de Meta que prohíbe los deseos de muerte que usan la frase "muerte a" pronunciada contra personas en situación de riesgo alto no es lo suficientemente clara. En las bases de la política de Meta, se sugiere que el contexto es importante a la hora de evaluar las amenazas. Sin embargo, tal como el Consejo lo indicó en un caso anterior, en la revisión manual de Meta a gran escala, no se otorga facultad para evaluar la intención o credibilidad de una amenaza, por lo que si una publicación incluye afirmaciones intimidatorias como "muerte a" y una persona objetivo (es decir "incitación a la violencia contra un objetivo"), se elimina. Al igual que en una recomendación de 2022, el Consejo le solicita a Meta que incluya una explicación en el texto público de la política que aclare que las amenazas retóricas con la frase "muerte a", en general, están permitidas, salvo cuando se dirijan a personas en situación de riesgo alto, y que proporcione criterios para determinar cuándo las afirmaciones intimidatorias dirigidas a jefes de Estado se permiten para proteger el discurso político retórico.

También es confuso de qué modo, en esta política, se diferencia el trato otorgado a las "figuras públicas" y a las "personas en situación de riesgo alto". En la actualidad, las amenazas de violencia de gravedad intermedia contra figuras públicas solo se eliminan cuando son "creíbles", mientras que, en el caso de otras personas, el contenido se elimina "independientemente de la credibilidad". Es aún más confuso que hay otra parte en esta política que otorga "protecciones adicionales" a las personas en situación de riesgo alto. Las pautas internas sobre este asunto que se proporcionan a los revisores, y que no están disponibles de forma pública, indican específicamente que se debe eliminar el contenido que incluya "muerte a" dirigido contra tales personas en situación de riesgo alto. Cuando el Consejo le preguntó a Meta, la empresa afirmó que, en la política, se ofrece mayor protección al discurso de usuarios que incluya amenazas de gravedad intermedia dirigido contra figuras públicas porque las personas suelen usar lenguaje hiperbólico para expresar desprecio, sin la intención de incitar a la violencia. Sin embargo, las amenazas de violencia de gravedad alta, incluidos los deseos de muerte contra personas en situación de riesgo alto, conllevan un mayor riesgo de daño en la vida real. En este caso, según Meta, al primer ministro japonés le correspondían ambas categorías. Al Consejo le preocupa mucho que las definiciones de la política de "figuras públicas" y "personas en situación de riesgo alto" no sean lo suficientemente claras para los usuarios, en especial, cuando interactúan las dos categorías.

Como respuesta a recomendaciones anteriores del Consejo, Meta trabajó en las políticas para intentar lograr un mejor equilibrio entre la incitación a la violencia y la expresión política, pero aún no aclaró de forma pública a quiénes considera "personas en situación de riesgo alto". Según el Consejo, proporcionar una definición general con ejemplos ilustrativos en las Normas comunitarias ayudaría a los usuarios a entender que esta protección se basa en la ocupación de la persona, la actividad política o el servicio público. El Consejo ofreció una lista de tal índole en el caso Eslogan de protesta contra Irán de 2022.

La decisión del Consejo asesor de contenido

El Consejo anuló la decisión original de Meta de eliminar el contenido.

El Consejo le recomendó a Meta lo siguiente:

• Actualizar la política de violencia e incitación para proporcionar una definición general de "personas en situación de riesgo alto" aclarando que, entre ellas, se encuentran las personas, como los líderes políticos, que podrían correr mayor riesgo de ser asesinados o sufrir otra clase de violencia, y proporcionar ejemplos ilustrativos.
• Actualizar las pautas internas proporcionadas a los revisores a gran escala sobre los deseos de muerte que usan la frase "muerte a" pronunciada contra "personas en situación de riesgo alto", específicamente, para permitir las publicaciones que expresan desprecio o desacuerdo mediante formas de violencia intimidatoria sin intenciones serias y casuales. Se deberían tener en cuenta el contexto local y el idioma.
• Insertar un hipervínculo que dirija a la definición de figuras públicas de la política de bullying y acoso en la política de violencia e incitación, y en otras normas comunitarias pertinentes en las que se haga referencia a tales figuras.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Descripción y contexto del caso

En enero de 2024, un usuario respondió de forma pública una publicación de Threads que tenía una captura de pantalla de un artículo periodístico. El artículo incluía una declaración del primer ministro Fumio Kishida sobre ingresos no declarados obtenidos en recaudación de fondos que involucraban a miembros del Partido Liberal Democrático. En la declaración, Kishida dijo que el total "permanecía intacto y que no eran fondos ilícitos". La publicación principal de Threads incluía una imagen del Primer Ministro y texto en el que se lo criticaba por evasión fiscal. En su respuesta a la publicación, donde incluyó la interjección "ja", el usuario solicitaba que se diera una explicación al órgano legislativo de Japón. También incluyó varios hashtags con la frase "死ね" (que puede transcribirse como "shi-ne" y traducirse como "púdrete/muere") para referirse al Primer Ministro como evasor fiscal, además de lenguaje derogatorio referido a las personas que usan lentes, como #muerecuatroojosevasorfiscal y #muerecuatroojosdemierda (traducido del japonés). Todo el contenido está en japonés.

Tanto la publicación como la respuesta fueron próximas al momento de la declaración parlamentaria del Primer Ministro en la que abordó la supuesta declaración incompleta de estos ingresos. Fumio Kishida, quien ocupó el cargo de primer ministro de Japón desde octubre de 2021, recientemente anunció que no irá por la reelección en las elecciones de líderes del Partido Liberal Democrático que se realizarán el 27 de septiembre de 2024.

Nadie indicó que le gustaba la respuesta del usuario ni la respondió. Una sola vez se reportó conforme a la política de bullying y acoso por "deseos de muerte" contra una figura pública. Debido a una acumulación de revisiones pendientes, el contenido se sometió a revisión manual aproximadamente tres semanas después, y allí se determinó que infringía la política de violencia e incitación de Meta, por lo que se la eliminó de Threads. Luego el usuario presentó una apelación a Meta. En una segunda revisión manual, también se determinó que el contenido infringía la política de violencia e incitación. Finalmente, el usuario apeló al Consejo. Luego de que el Consejo seleccionara este caso, Meta determinó que su decisión original de eliminar el contenido era incorrecta y lo restauró en Threads.

El Consejo asesor de contenido consideró el siguiente contexto a la hora de tomar la decisión.

Cuando la respuesta a la publicación de Threads se difundió en enero de 2024, los fiscales recientemente habían imputado a los políticos japoneses pertenecientes al Partido Liberal Democrático por no declarar completamente ingresos obtenidos en recaudación de fondos. El primer ministro Kishida no fue imputado.

En una investigación encargada por el Consejo, se identificó una percepción general de desaprobación y crítica en Threads hacia el Primer Ministro en relación con las acusaciones de fraude fiscal. En otras publicaciones también se identificó la frase "死ね" (púdrete/muere). Los expertos a los que consultó el Consejo indicaron que los japoneses con frecuencia usan los medios sociales para publicar críticas políticas. En el pasado, paneles de discusión online sirvieron como plataformas anónimas para expresar descontento social sin miedo a las consecuencias (consulta también los comentarios del público PC-29594 y PC-29589).

De acuerdo con los expertos a los que consultó el Consejo, en las últimas décadas, no hubo muchos casos de violencia política en Japón. Por este motivo, el país entero quedó consternado cuando, en 2022, asesinaron al primer ministro Shinzo Abe mientras hacía campaña. La preocupación en torno a la violencia política aumentó en abril de 2023 cuando un hombre usó una bomba de tubo durante un discurso electoral pronunciado por el primer ministro Kishida. Dos espectadores resultaron heridos, pero el Primer Ministro no sufrió daños.

De acuerdo con expertos en lingüística consultados por el Consejo, las frases incluidas en la publicación son ofensivas y se usan mucho para transmitir desaprobación o frustración drásticas. Si bien la frase "死ね" (púdrete/muere) puede, en ciertas ocasiones, usarse de forma literal como una amenaza, por lo general, se usa en sentido figurativo para expresar enojo, sin ser estrictamente una amenaza (consulta también el comentario del público de Ayako Hatano, PC-29588).

En 2017, el Relator Especial de la ONU sobre la libertad de expresión manifestó preocupación por la libertad de expresión en Japón. Estas inquietudes se relacionaban con el uso de presión directa e indirecta por parte de funcionarios del Gobierno sobre los medios de comunicación, la capacidad limitada para debatir sobre acontecimientos históricos y la mayor restricción sobre el acceso a la información con base en afirmaciones sobre la seguridad nacional.

En su informe sobre expresión mundial correspondiente a 2024, la organización Article 19 colocó a Japón en el puesto 30 de un total de 161 países. Freedom House clasificó a Japón como "libre" en la evaluación Freedom on the Net correspondiente a 2023, pero planteó inquietudes sobre la intervención del Gobierno en el ámbito de los medios de comunicación online, la falta de organismos regulatorios independientes y la falta de definiciones claras en las modificaciones legislativas recientes que regulan el uso de insultos en internet. Sin embargo, en el informe Freedom in the World de la organización, el país obtuvo 96 puntos de un total de 100 en cuanto a las libertades políticas y civiles. Además, Japón recibe sistemáticamente puntuaciones altas en los índices relativos a la democracia y el estado de derecho. En 2023, en el Rule of Law Index de World Justice Project, Japón obtuvo el puesto 14 de un total de 142 países.

2. Respuestas de los usuarios

En su declaración ante el Consejo, el usuario que publicó la respuesta afirmó que se trataba de una mera crítica al Gobierno del Partido Liberal Democrático por los supuestos actos de consentir la evasión fiscal e instigar a ella. Indicó que la eliminación de su publicación por parte de Meta contribuyó a la obstrucción de la libertad de expresión en Japón al prohibir críticas dirigidas a una figura pública.

3. Respuestas y políticas de contenido de Meta

I. Políticas de contenido de Meta

El análisis del Consejo se basó en el compromiso de Meta con la expresión, que la empresa describe como "primordial", y en el valor de seguridad. Meta evalúo el contenido en cuanto a sus políticas de violencia e incitación, y bullying y acoso, e inicialmente lo eliminó conforme a la política de violencia e incitación. Luego de que el Consejo identificara este caso para revisión, la empresa determinó que el contenido no infringía ninguna de las políticas.

Norma comunitaria sobre violencia e incitación

En las bases de la política de la norma comunitaria sobre violencia e incitación, se explica que Meta procura "prevenir la posible violencia en la vida real que pueda estar relacionada con contenido en [sus] plataformas" y, a la vez, se reconoce que las "personas suelen expresar desprecio o desacuerdo mediante amenazas o apelaciones a la violencia sin intenciones serias y de forma casual". Se reconoce que "el contexto importa, por lo que [Meta] considera diversos factores, por ejemplo, si el contenido tiene como fin condenar las amenazas de violencia o generar conciencia al respecto, [...], o la visibilidad pública y la vulnerabilidad del blanco de las amenazas".

Esta política concede protección universal a todas las personas contra las "amenazas de violencia que podrían llevar a la muerte (u otras formas de violencia de gravedad alta)". Entre las amenazas, se encuentran las "frases o imágenes que representan una intención, aspiración o llamada a cometer actos de violencia contra un objetivo".

Antes de abril de 2024, en la política se prohibían las "amenazas que podrían ocasionar lesiones graves (violencia de gravedad media) y las declaraciones en las que se admitiera haber cometido actos violentos en el pasado" hacia ciertas personas o grupos, incluidas las personas en situación de riesgo alto. En abril de 2024, Meta actualizó esta política para conceder protección universal contra tales amenazas a todas las personas, independientemente de la credibilidad, excepto las amenazas contra "figuras públicas", que la política exige que sean "creíbles". La única mención de "personas en situación de riesgo alto" que permanece en la versión actual de la política se relaciona con amenazas de gravedad baja. Se indica que aún se otorgan "[p]rotecciones adicionales para adultos, niños, personas en situación de riesgo alto y personas o grupos con características protegidas […]".

En el texto público de la política, no se define el término "personas en situación de riesgo alto". No obstante, las pautas internas que Meta proporciona a los revisores contienen una lista de las personas en situación de riesgo alto. Esta incluye a jefes de Estado, ex jefes de Estado, candidatos y excandidatos a jefe de Estado, candidatos en elecciones nacionales y supranacionales durante hasta 30 días después de las elecciones si no resultan electos, personas con antecedentes de intentos de asesinato, activistas y periodistas (consulta la decisión del caso Eslogan de protesta contra Irán).

Norma comunitaria sobre bullying y acoso

En la norma comunitaria sobre bullying y acoso de Meta, se prohíben varias formas de abuso dirigido hacia las personas, como "amenazar", y se hace "una distinción entre las figuras públicas y las personas no públicas" para "dar lugar al diálogo, que a menudo incluye comentarios críticos de personas que aparecen en las noticias o tienen un público amplio". En la política, se prohíben los ataques "graves" a figuras públicas, así como ciertos ataques en los que la figura pública está "expuest[a] de forma deliberada", es decir, "en los que se [la] etiqueta directamente en la publicación o el comentario".

En la política, se define a las "figuras públicas" como "funcionarios del Gobierno nacional, candidatos políticos a dichos cargos, personas con más de un millón de fans o seguidores en los medios sociales y personas que reciben una cobertura de noticias considerable".

II. Respuestas de Meta

Meta le informó al Consejo que el término "死ね" (púdrete/muere) de los hashtags no infringía sus políticas en este caso. Meta consideró este uso como una declaración política que incluía lenguaje figurativo, en lugar de deseos de muerte creíbles. La empresa explicó que, a menudo, no puede distinguir en la revisión a gran escala las declaraciones que incluyen amenazas de muerte creíbles de aquellas con lenguaje figurativo cuya intención es mostrar una postura política, y por este motivo inicialmente eliminó el contenido.

Meta le indicó el Consejo que el primer ministro Kishida se considera figura pública conforme a la política de violencia e incitación y la política de bullying y acoso, mientras que el usuario que respondió a la publicación no se consideró figura pública. Meta también le informó al Consejo que el primer ministro Kishida se considera persona en situación de riesgo alto conforme a la norma comunitaria sobre violencia e incitación.

Norma comunitaria sobre violencia e incitación

En su política de violencia e incitación, Meta prohíbe las "amenazas de violencia que podrían llevar a la muerte (u otras formas de violencia de gravedad alta)". En las pautas no públicas que proporciona a los revisores, Meta indica que se deben eliminar los deseos de muerte dirigidos a personas en situación de riesgo alto si, en tales deseos, se usan las palabras "muerte a". Meta le indicó al Consejo que el concepto de persona en situación de riesgo alto se limita a esta política e incluye a los líderes políticos, quienes podrían correr mayor riesgo de ser asesinados o sufrir otro tipo de violencia.

Meta reconoció que es un desafío mantener la distinción entre las frases "muerte a" y "muere" en todos los casos, en particular, cuando los significados de las frases se superponen en el idioma original. En este caso, en el contenido se usó la frase "muere" y no "muerte a" en los hashtags, #muerecuatroojosevasorfiscal y #muerecuatroojosdemierda (traducido del japonés). Además, Meta destacó que, incluso si tratara "muere" y "muerte a" de forma similar (como un deseo de muerte), la empresa no eliminaría este contenido durante el proceso de escalamiento porque constituiría una amenaza no literal que no infringe el espíritu de la política. La concesión basada en el espíritu de la política permite el contenido en casos en que la interpretación estricta de una política genera un resultado que se contrapone con la intención de la política (consulta la decisión del caso Productos farmacéuticos en Sri Lanka). Meta consideró que la amenaza no era literal porque las demás palabras de los hashtags y de la respuesta en sí misma se referían a asumir la responsabilidad política compareciendo ante la legislatura de Japón. Por tanto, el pedido de que un líder político se hiciera responsable ante el órgano legislativo señalaba que la amenaza de muerte era figurativa y no literal. Por estos motivos, Meta determinó que el contenido no infringía la política de violencia e incitación.

Norma comunitaria sobre bullying y acoso

Meta le informó al Consejo que el contenido no infringía su política de bullying y acoso porque en el contenido no quedaba "expuest[a] de forma deliberada" una figura pública. El usuario no etiquetó al primer ministro Kishida ni respondió un comentario realizado por él, ni tampoco publicó el contenido en la página de Primer Ministro. Por lo tanto, Meta determinó que el contenido no exponía deliberadamente al primer ministro Kishida y no infringiría la política de bullying acoso ni siquiera si la amenaza fuera literal.

El Consejo le hizo 19 preguntas por escrito a Meta. Las preguntas se relacionaban con las prácticas y los recursos de aplicación de políticas que Meta usa en Japón, la capacitación proporcionada a los revisores que trabajan a gran escala y cómo se incorpora el contexto local a ella, el proceso para escalar partes de la política a gran escala, la viabilidad de la aplicación de la política que prohíbe las amenazas de muerte contra personas en situación de riesgo alto solo en el proceso de escalamiento, la acumulación de revisiones pendientes de Meta correspondientes a Threads y la capacidad de detección automática. Meta respondió 17 preguntas en su totalidad y dos preguntas de forma parcial. La empresa respondió de forma incompleta las preguntas relacionadas con la acumulación de revisiones pendientes y las solicitudes gubernamentales de eliminar contenido en Japón.

4. Comentarios del público

El Consejo asesor de contenido recibió 20 comentarios del público dentro de los plazos de presentación: Trece comentarios provenían de Asia-Pacífico y Oceanía; tres, de los Estados Unidos y Canadá; tres de Europa; y uno, de Asia central y meridional. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios enviados se referían a los siguientes temas: contexto sociopolítico de Japón; amenazas en internet de violencia contra políticos y limitación de la libertad de expresión; uso de amenazas retóricas o incitación a la violencia en el discurso político japonés; contexto lingüístico de la frase "púdrete/muere"; y decisión de Meta de no recomendar contenido político en Threads de páginas que los usuarios no siguen.

5. Análisis del Consejo asesor de contenido

El Consejo examinó si este contenido debía eliminarse a la luz de las políticas de contenido, las responsabilidades en materia de derechos humanos y los valores de Meta. Asimismo, el Consejo evaluó las implicaciones de este caso para el enfoque más general de Meta en cuanto a la gobernanza de contenido.

5.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

Norma comunitaria sobre violencia e incitación

El Consejo determinó que el contenido de este caso no infringe la política de violencia e incitación que prohíbe las "amenazas de violencia que podrían llevar a la muerte (u otras formas de violencia de gravedad alta)". La frase "死ね" (púdrete/muere) se usó con sentido no literal y no constituía una amenaza creíble.

Los expertos en lingüística a los que consultó el Consejo explicaron que, a pesar de que a veces esta frase puede usarse para amenazar la vida de alguien literalmente, por lo general, se usa en un sentido figurativo como una declaración de desprecio o desaprobación. Los expertos determinaron que el uso del término en este contenido pertenecía a la categoría de uso figurativo. Expertos en datos que examinaron la incidencia de la frase en Threads y otras plataformas concluyeron que el término se usa comúnmente de forma figurativa o irónica. Esto incluye ejemplos de usuarios que afirmaron que "morían" de dolor o que deseaban que otros usuarios "murieran" a causa de un comentario que habían hecho.

La respuesta en sí misma también insinuaba que la frase tenía un sentido figurativo. La respuesta del usuario a la publicación de Threads exigía que el director de la Agencia Nacional de Impuestos compareciera ante el órgano legislativo nacional y explicara las acusaciones de fraude. En la respuesta también se incluyó la interjección "ja". Desde la perspectiva del Consejo, la palabra "ja", que normalmente expresa diversión o ironía, sugiere un significado no literal del término "死ね" (púdrete/muere). De forma similar, el Consejo estuvo de acuerdo con la evaluación de Meta de que el recurso propuesto por el usuario (que Kishida asumiera la responsabilidad por mandato del órgano legislativo del país) sugería que el contenido era una crítica política, y no un deseo de muerte literal.

El Consejo reconoció que los acontecimientos recientes de Japón darían lugar a susceptibilidades ante cualquier deseo de muerte dirigido hacia un líder político. El asesinato del primer ministro Abe en 2022 y el uso de la bomba de tubo cerca del primer ministro Kishida en 2023 destacan la importancia sustancial de tomar en serio las amenazas de muerte creíbles. Sin embargo, en este caso, el deseo de muerte simplemente no era creíble.

Norma comunitaria sobre bullying y acoso

El Consejo determinó que el contenido de este caso no infringe la política de bullying y acoso. El Consejo estuvo de acuerdo con Meta en que, si bien el primer ministro Kishida cumple con los criterios de figura pública correspondientes a la política, en el contenido, no se lo "expuso deliberadamente". El usuario no publicó la respuesta directamente en la página del primer ministro Kishida ni lo etiquetó, por lo tanto, el contenido no abordó directamente al Primer Ministro.

5.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

El Consejo determinó que la eliminación del contenido de la plataforma no fue coherente con las responsabilidades de Meta en materia de derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

En el artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), se atribuye una protección "de gran importancia" al "debate público sobre figuras políticas y de las instituciones públicas" (observación general n.º 34, párrafo 38). Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo utiliza este marco para interpretar las responsabilidades de Meta en materia de derechos humanos, en línea con los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas, que Meta se comprometió a cumplir en su Política corporativa de derechos humanos. El Consejo lo hace tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de Meta en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41). El Consejo reconoció la importancia del discurso político contra jefes de Estado, incluso cuando son ofensivos, puesto que estos legítimamente pueden enfrentar críticas y voces opositoras en materia de política (consulta las decisiones de los casos Eslogan de protesta contra Irán y Manifestaciones en Colombia; observación general n.º 34, párrafos 11 y 38).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad exige que las reglas que limitan la expresión sean accesibles y claras, y estén formuladas con precisión suficiente para que una persona pueda regular su comportamiento de conformidad con ellas (observación general n.º 34, párrafo 25). Asimismo, estas reglas "no pueden conferir a los encargados de su aplicación una discrecionalidad sin trabas para restringir la libertad de expresión" y deben "proporcionar suficientes orientaciones a los encargados de su ejecución para que puedan distinguir cuáles expresiones pueden restringirse correctamente y cuáles no" (ibidem). El Relator Especial de la ONU sobre la libertad de expresión dijo que, cuando se aplican a la gobernanza del discurso online por parte de actores privados, las reglas deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo determinó que la prohibición sobre los deseos de muerte que usan la frase "muerte a" pronunciada contra personas en situación de riesgo alto no es lo suficientemente clara ni accesible para los usuarios.

En las bases de la política, se contempla el contexto al evaluar la credibilidad de una amenaza, por ejemplo, contenido que se publica para la condena del acto, para la generación de conciencia y como amenazas sin intenciones serias y de forma casual. Sin embargo, en las bases de la política no se especifica cómo distinguir las declaraciones no literales de las amenazas creíbles. Como el Consejo indicó en el caso Eslogan de protesta contra Irán, los revisores que trabajan a gran escala siguen pautas específicas basadas en indicios o criterios, por ejemplo, deseos de muerte contra una persona objetivo. No tienen facultad para evaluar la intención o la credibilidad de una amenaza, por lo que si una publicación incluye afirmaciones intimidatorias como "muerte a" o "púdrete" (como en este caso) y un objetivo, se elimina. En consecuencia, el Consejo reitera la recomendación número 1 del caso Eslogan de protesta contra Irán, en la que indicó que Meta debería incluir una explicación en el texto público de la política de violencia e incitación que aclarara que las amenazas retóricas que usan la frase "muerte a" por lo general se permiten, excepto cuando se dirigen a personas en situación de riesgo alto, además de proporcionar criterios respecto de cuándo las afirmaciones intimidatorias dirigidas a jefes de Estado se permiten para proteger discursos políticos que claramente son retóricos.

Asimismo, la política no es lo suficientemente clara respecto de su tratamiento de las "figuras públicas" y las "personas en situación de riesgo alto". Actualmente, en la política se concede menos protección a las figuras públicas y se señala que las amenazas de violencia de gravedad intermedia dirigidas a figuras públicas se eliminan solo cuando son "creíbles", mientras que, en el caso de otras figuras, se eliminan "independientemente de la credibilidad". Por el contrario, la política otorga mayor protección a las personas en situación de riesgo alto a través de una parte de la política en la que se citan "protecciones adicionales" para tales grupos. Como se mencionó anteriormente, en las pautas internas también se ofrece mayor protección a las personas en situación de riesgo alto, ya que se solicita la eliminación del contenido que incluye la frase "muerte a" cuando se dirige a personas en situación de riesgo alto. Como respuesta a la pregunta del Consejo, Meta explicó que la política ofrece mayor protección al discurso que incluye amenazas de gravedad intermedia dirigido a figuras públicas porque las personas suelen expresar desprecio o desacuerdo con figuras públicas adultas usando lenguaje hiperbólico, pero con frecuencia sin intenciones de incitar a la violencia. Por el contrario, las amenazas de violencia de gravedad alta conllevan un mayor riesgo de ocasionar daño en la vida real, incluidos los deseos de muerte contra personas en situación de riesgo alto. En este caso, Meta consideró que al primer ministro Kishida le correspondían las dos categorías. Al Consejo le preocupa que las definiciones de la política de violencia e incitación de "figuras públicas" y "personas en situación de riesgo alto" no proporcionen suficiente claridad para que los usuarios puedan entender cada una de las categorías y, mucho menos, qué sucede cuando interactúan las dos categorías.

En el caso Eslogan de protesta contra Irán, el Consejo le recomendó a Meta modificar la norma comunitaria sobre violencia e incitación para incluir una lista ilustrativa de personas en situación de riesgo alto y explicar que la categoría puede incluir a jefes de Estado. Desde la publicación de esa decisión, Meta comenzó un proceso de desarrollo de política para lograr un mejor equilibrio entre la incitación a la violencia y la expresión política. Sin embargo, la empresa aún no aclaró de forma pública a quiénes considera personas en situación de riesgo alto. Durante su trabajo en este caso, el Consejo tuvo una breve reunión con Meta en la que la empresa le explicó que publicar la definición interna de personas en situación de riesgo alto podría ocasionar que algunos usuarios eludieran las políticas actuales y las pautas de aplicación de políticas.

El Consejo reconoció la preocupación de Meta de que, al publicar las pautas detalladas, ciertos usuarios pudieran aprovechar la oportunidad para evadir las reglas de aplicación de políticas establecidas. Sin embargo, el Consejo cree que Meta no debería asumir un enfoque radical. En cambio, Meta debería publicar una definición general de las personas en situación de riesgo alto y una lista de ejemplos ilustrativa. Un enfoque semejante les permitiría a los usuarios comprender que la protección hacia estas personas se basa en su ocupación, la actividad política, el servicio público u otra actividad vinculada a riesgos. Según el Consejo, tal enfoque no impediría la eficiencia en la aplicación de políticas. De hecho, el Consejo ya proporcionó una lista similar con el consentimiento de Meta en el caso "Eslogan de protesta contra Irán", donde indicó: "Además de los jefes de Estado, otros ejemplos de personas en "situación de riesgo alto" son los siguientes: ex jefes de Estado, candidatos y excandidatos a jefe de Estado, candidatos en elecciones nacionales y supranacionales durante hasta 30 días después de la elección si no resultan electos, personas con historial de intentos de asesinato, activistas y periodistas". Dado que estos ejemplos ya se encuentran en el ámbito público, deberían verse reflejados en la norma comunitaria en sí misma.

Sobre la base de las conclusiones del Consejo en el caso "Eslogan de protesta contra Irán" y las actualizaciones que Meta ya implementó en la política de violencia e incitación, el Consejo le recomienda a Meta proporcionar una definición general de las personas en situación de riesgo alto, donde se aclare que las personas en situación de riesgo alto comprenden a las personas, como los líderes políticos, que pueden correr mayor riesgo de ser asesinadas o sufrir otros actos violentos, además de ofrecer ejemplos ilustrativos, como los mencionados en el caso "Eslogan de protesta contra Irán".

II. Fin legítimo

Cualquier restricción sobre la libertad de expresión debe procurar uno o más de los fines legítimos mencionados en el ICCPR. Por medio de la norma comunitaria sobre violencia e incitación, se pretende "evitar daños en el mundo real" eliminando el contenido que representa "un riesgo real de daños físicos o amenazas directas a la seguridad pública". Esta política ampara el fin legítimo de proteger el derecho a la vida y a la seguridad de la persona (artículo 6 del ICCPR; artículo 9 del ICCPR).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad previsto en el artículo 19(3) del ICCPR exige que las restricciones que se apliquen a la expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

El Consejo determinó que la decisión original de Meta de eliminar el contenido conforme a la política de violencia e incitación no fue necesaria, ya que no fue el instrumento menos perturbador para proteger la seguridad del primer ministro Kishida. Este análisis es el punto clave de este caso, ya que, nuevamente, aborda el desafío de cómo Meta debería distinguir entre las amenazas reales y las retóricas. En reiteradas ocasiones, el Consejo manifestó preocupación en torno a la sobreaplicación de políticas ejercida sobre las amenazas figurativas en los casos Eslogan de protesta contra Irán, Mujer iraní confrontada en la calle e Informe sobre el discurso en el Parlamento pakistaní. Estos casos se diferencian del caso en cuestión porque involucraban un eslogan, un movimiento de protesta coordinado y elecciones inminentes. Aun así el tema central es el mismo: la restricción del discurso político debido a una amenaza de violencia no creíble. El Consejo considera que Meta debería permitir tales debates y garantizar que los usuarios puedan expresar sus ideologías políticas, incluido el desprecio o la desaprobación de acciones o compartimientos de los políticos, sin crear obstáculos innecesarios.

Sin embargo, al Consejo le preocupa que, en la política de violencia e incitación de Meta, aún no se distingan con claridad las amenazas literales de las figurativas. Este problema se ve acentuado por el hecho de que dos moderadores humanos que, según Meta, hablaban japonés y estaban familiarizados con el contexto sociopolítico local marcaron el contenido de este caso como infractor.

Los seis factores descritos en el Plan de Acción de Rabat (contexto, hablante, intención, contenido del discurso, alcance del discurso y probabilidad de que ocurran daños inminentes) brindan pautas valiosas para evaluar la credibilidad de las amenazas. Si bien el marco de Rabat se creó para evaluar la incitación al odio nacional, racial o religioso, la prueba de los seis factores es útil para evaluar la incitación a la violencia en general (por ejemplo, consulta las decisiones de los casos Eslogan de protesta contra Irán y Convocatoria a protesta de mujeres en Cuba). A raíz de la suposición original de Meta de que eliminar el contenido era necesario para proteger la seguridad del primer ministro Kishida, el Consejo decidió usar los seis factores para evaluar la credibilidad de la supuesta amenaza de este caso.

El contenido se publicó durante el escándalo relacionado con fraude fiscal de 2023 que involucró al partido del primer ministro Kishida. Según expertos a quienes consultó el Consejo, si bien la crítica política en internet aumentó en Japón, no existe un vínculo claro entre las amenazas en internet y la reciente violencia contra los políticos japoneses. El usuario tenía menos de 1.000 seguidores y no era una figura pública. Además, el contenido no obtuvo visualizaciones ni nadie indicó que le gustaba, lo que refleja el poco interés en la respuesta. El usuario pareciera haber tenido la intención de plantear una crítica política al hacer hincapié en la corrupción política usando lenguaje ofensivo, lo que es habitual en los medios sociales japoneses (consulta los comentarios del público PC-29589 y PC-29594). Era muy poco probable que la respuesta ocasionara daños inminentes.

El Consejo reconoció que evaluar la credibilidad de las amenazas de violencia es un ejercicio muy difícil en el que el contexto es fundamental, en especial, a la hora de aplicar políticas en contenido de todo el mundo. El Consejo también interpretó que Meta puede llevar a cabo evaluaciones más precisas de la credibilidad de las amenazas en el proceso de escalamiento. El Consejo consideró recomendarle a Meta que aplicara la política que prohíbe las amenazas que usan la frase "muerte a" pronunciada contra personas en situación de riesgo alto solo en la etapa de escalamiento. Las políticas que pertenecen únicamente a la etapa de escalamiento requieren contexto adicional para su aplicación en cierto contenido, y las decisiones las toman expertos en la materia, a diferencia de los moderadores humanos que trabajan a gran escala y que inicialmente revisan el contenido. El Consejo entiende que la cantidad de expertos en la materia de Meta es significativamente menor que la cantidad de moderadores de la etapa de revisión manual a gran escala, por lo que la capacidad de los primeros es limitada. En consecuencia, la aplicación de esta política solo en la etapa de escalamiento puede dar lugar a que una cantidad significativa de contenido no se revise debido a la existencia de un menor número de expertos. Asimismo, las reglas que pertenecen solo a la etapa de escalamiento únicamente pueden aplicarse si, por algún otro medio, Meta nota la presencia del contenido, por ejemplo, a través de socios de confianza o contenido con gran cobertura de prensa (consulta la decisión del caso Cautivo en video de las Fuerzas de Apoyo Rápido de Sudán). Esto implica que Meta podrá revisar las amenazas de muerte que usan la frase "muerte a" solo cuando se reporten a través de ciertos canales.

En definitiva, el Consejo determinó que esto probablemente generaría una subaplicación de las políticas y que más amenazas de muerte permanecieran en las plataformas de Meta. Además, dado que Meta no pudo proporcionar datos validados sobre la prevalencia de dicho contenido en sus plataformas, el Consejo no pudo evaluar la magnitud de tal subaplicación de políticas.

Por lo tanto, el Consejo cree que, para proteger efectivamente el discurso político, Meta debería proporcionar pautas adicionales a los revisores para que evalúen el idioma y el contexto local, y garantizar que las pautas otorgadas a los moderadores sean coherentes con las bases de la política subyacente. En casos previos sobre temas similares (consulta los casos "Eslogan de protesta contra Irán", "Mujer iraní confrontada en la calle" e "Informe sobre el discurso en el Parlamento pakistaní"), el Consejo exploró soluciones relacionadas con las políticas y con la aplicación de estas, a menudo, soluciones urgentes y adaptadas estrictamente al contexto específico, incluidas elecciones, crisis y conflictos. Esto le permitió a Meta ajustar sus prácticas de aplicación de políticas al usar mecanismos como el protocolo de la política de crisis (CPP) y el centro de operaciones para la integridad de los productos (IPOC).

En este caso, Meta le informó al Consejo que no estableció ninguna medida de aplicación de políticas especial. Meta indicó que un incidente único, como el asesinato del ex primer ministro Shinzo Abe, si bien es trágico, en general, no es suficiente para que se activen tales mecanismos, a menos que haya otros indicios de un riesgo más amplio o de inestabilidad. En cambio, Meta designó el asesinato conforme a su protocolo de "hecho violento que infringe las normas" y limitó el contenido relacionado con esa instancia de violencia únicamente. En estas circunstancias, Meta solo puede basarse en su política general y en las prácticas de aplicación de políticas. Por lo tanto, desarrollar una solución escalable para distinguir las amenazas creíbles de las figurativas es el único modo de proteger de forma efectiva la expresión política.

Además, si Meta decide continuar aplicando esta política a gran escala, la precisión de sus sistemas automatizados seguirá viéndose afectada por la calidad de los datos de entrenamiento proporcionados por los moderadores humanos. El Consejo reiteró sus conclusiones de la decisión del caso Mujer iraní confrontada en la calle. Estas indicaban que, cuando moderadores humanos eliminan declaraciones figurativas sobre la base de la aplicación rigurosa de una regla, es probable que ese error se reproduzca y amplifique a través de la automatización y se genere una sobreaplicación de las políticas.

Sobre la base de las conclusiones del Consejo de que los deseos de muerte exigen una evaluación basada en el contexto de la probabilidad de que una amenaza dé lugar a daños en el mundo real, podría ser necesario que se proporcionen pautas de aplicación de políticas con más matices que las que están disponibles en la actualidad a los moderadores de la etapa de revisión manual. En las pautas internas de Meta, se instruye a los revisores a eliminar los deseos de muerte que usan la frase específica "muerte a" cuando se dirige a personas en situación de riesgo alto. Estas pautas no reflejan las bases de la política de violencia e incitación, que indican que "el contexto es importante" y que tienen en cuenta formas sin intenciones serias y casuales de amenazas o incitación a la violencia para expresar desprecio o desacuerdo. Por lo tanto, el Consejo determinó que Meta debería actualizar sus pautas internas e instrucciones específicas que proporciona a los revisores para permitir de forma explícita que consideren el contexto local y el idioma, y para que se tengan en cuenta las "formas sin intenciones serias y casuales" de amenazas o incitación a la violencia para expresar tal desprecio o desacuerdo.

Por último, al Consejo también le preocupa la capacidad de Meta para gestionar el contenido de Threads en el que el contexto es decisivo. Meta le informó al Consejo que la revisión del contenido de este caso se demoró aproximadamente tres semanas debido a una acumulación de revisiones pendientes. Meta explicó que, en el momento de la aplicación de las políticas, la moderación de contenido de Threads se basaba exclusivamente en revisión manual para los reportes de Threads, mientras que la empresa normalmente usa múltiples técnicas para evitar la acumulación de revisiones pendientes, como el cierre automático de reportes. El cierre automático de reportes luego de 48 horas implica que, a menos que haya mecanismos que los mantengan abiertos, los reportes se cerrarán sin revisión y los usuarios quedarán sin acceso a un recurso efectivo.

6. La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar el contenido.

7. Recomendaciones

Política de contenido

1. Meta debería actualizar la política sobre violencia e incitación para proporcionar una definición general de "personas en situación de riesgo alto" aclarando que, entre ellas, se encuentran las personas, como los líderes políticos, que podrían correr mayor riesgo de ser asesinados o sufrir otra clase de violencia, y proporcionar ejemplos ilustrativos.

El Consejo considerará implementada esta recomendación cuando el texto público de la política de violencia e incitación refleje el cambio propuesto.

Aplicación de políticas

2. Meta debería actualizar las pautas internas que proporciona a los revisores que trabajan a gran escala acerca de los deseos de muerte que usan la frase específica "muerte a" cuando se dirige a personas en situación de riesgo alto. Mediante esta modificación, se deberían permitir las publicaciones que, en el idioma y contexto local, expresen desprecio o desacuerdo a través de formas de violencia intimidatoria sin intenciones serias y casuales.

El Consejo considerará implementada esta recomendación cuando Meta comparta datos pertinentes sobre la disminución de los casos falsos positivos de identificación de contenido que incluye deseos de muerte usando la frase específica "muerte a" dirigida contra personas en situación de riesgo alto.

Política de contenido

3. Meta debería insertar un hipervínculo que dirija a la definición de figuras públicas de la política sobre bullying y acoso en la política de violencia e incitación, y en cualquier otra norma comunitaria en la que se haga referencia a tales figuras, para que los usuarios puedan diferenciarlas de las personas en situación de riesgo alto.

El Consejo considerará implementada esta recomendación cuando el texto público de la política de violencia e incitación, y de las Normas comunitarias de Meta en general, refleje el cambio propuesto.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones de todos los miembros.

En virtud de su acta constitutiva, el Consejo asesor de contenido tiene la facultad de revisar apelaciones de usuarios cuyo contenido fue eliminado por Meta, apelaciones de usuarios que reportaron contenido que Meta mantuvo publicado y decisiones que Meta le presente (artículo 2, sección 1, del acta constitutiva). El Consejo tiene autoridad vinculante para ratificar o anular las decisiones sobre contenido de Meta (artículo 3, sección 5 y artículo 4 del acta constitutiva). El Consejo podrá emitir recomendaciones no vinculantes a las que Meta deberá responder (artículo 3, sección 4 y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, un grupo de investigaciones digitales que brinda asesoría en materia de riesgos y servicios de inteligencia sobre amenazas para mitigar los riesgos online, también colaboró en la investigación. Lionbridge Technologies, LLC, con especialistas en más de 350 idiomas que trabajan en 5.000 ciudades diferentes, se encargó de las competencias en materia lingüística.

** Nota de traducción:

El proceso de traducción para el aviso del caso "Declaraciones sobre el primer ministro de Japón" generó el uso de una frase en la versión japonesa del aviso que tenía un significado similar, pero que difería de la frase original utilizada. En lugar de la frase original "死ね" (shi-ne), el aviso tenía el término "くたばれ" (kutabare) como traducción de "muérete".

Entendemos que esto puede haber causado confusión. Queremos brindar tranquilidad y aclarar que la deliberación y la decisión del Consejo se basaron en la frase original "死ね" (shi-ne) y que estamos comprometidos con garantizar la precisión de nuestros procesos de traducción.

Volver a Decisiones de casos y opiniones consultivas sobre políticas