Declarações sobre o primeiro-ministro japonês

Para ler a decisão em japonês, clique aqui.

決定内容の全文を日本語で読むには、 こちらをクリックしてください。

Resumo

No caso da resposta de um usuário a uma publicação do Threads sobre o primeiro-ministro japonês e um escândalo de sonegação fiscal, a remoção do conteúdo não foi necessária nem consistente com as responsabilidades de direitos humanos da Meta. Esse caso aborda a questão de como a Meta deve fazer a distinção entre ameaças de violência no sentido figurado e real. O Comitê destacou repetidamente a over-enforcement contra ameaças em sentido figurado. É preocupante que a Política sobre Violência e Incitação da Meta ainda não faça a distinção clara entre ameaças em sentido figurado e literal. Nesse caso, a ameaça contra um líder político tinha a intenção de ser uma crítica política não literal, chamando a atenção para uma suposta corrupção, usando linguagem forte, o que não é incomum nas redes sociais japonesas. Era improvável que causasse danos. Embora os dois moderadores envolvidos falassem japonês e entendessem o contexto sociopolítico local, o conteúdo ainda assim foi removido incorretamente. Portanto, a Meta deve fornecer orientação adicional aos seus analistas sobre como avaliar a linguagem e o contexto local, e garantir que suas diretrizes internas sejam consistentes com o fundamento da política.

Sobre o caso

Em janeiro de 2024, foi compartilhada uma publicação no Threads que mostra um artigo de notícias sobre o primeiro-ministro japonês Fumio Kishida e sua resposta às irregularidades de arrecadação de fundos envolvendo seu partido. A legenda da publicação critica o primeiro-ministro por sonegação fiscal. Um usuário respondeu publicamente a essa publicação, pedindo que uma explicação fosse dada ao órgão legislativo do Japão, seguida da palavra “hah”, e se referindo ao primeiro-ministro como um sonegador de impostos usando a frase “死ね”, que pode ser traduzida como “drop dead/die” (morra) em inglês. A frase está incluída em várias hashtags, e a resposta do usuário também inclui linguagem depreciativa sobre uma pessoa que usa óculos.

A resposta do usuário à publicação do Threads não recebeu nenhuma curtida e foi denunciada uma vez conforme as regras sobre bullying e assédio da Meta. Três semanas depois, um analista humano determinou que o conteúdo violava as regras sobre violência e incitação. Quando o usuário fez uma apelação, outro analista humano decidiu mais uma vez que o conteúdo era violador. Em seguida, o usuário fez uma apelação ao Comitê. Após o Comitê selecionar o caso, a Meta decidiu que sua decisão original estava incorreta e restaurou a resposta do usuário no Threads.

Na época da publicação original do Threads e da resposta do usuário, políticos japoneses do Partido Liberal Democrata foram acusados ​​de subnotificar receitas de arrecadação de fundos, embora isso não incluísse o primeiro-ministro Kishida. Desde 2022, quando o ex-primeiro-ministro Shinzo Abe foi assassinado, surgiram preocupações com a violência política no Japão.

Fumio Kishida anunciou recentemente que não buscará a reeleição como líder do Partido Liberal Democrata do Japão em 27 de setembro de 2024 e deixará o cargo de primeiro-ministro.

Principais conclusões

O Comitê conclui que a frase “drop dead/die” (morra), traduzida do original “死ね”, não era uma ameaça plausível e não violava a regra sobre violência e incitação que proíbe “ameaças de violência que possam levar à morte”. Especialistas confirmaram que a frase é amplamente usada em sentido figurado como uma declaração de desagrado e desaprovação. O conteúdo também aponta para esse uso em sentido figurado, com a inclusão da palavra “hah” expressando divertimento ou ironia.

No entanto, a regra sobre violência e incitação da Meta que proíbe incitações à morte usando a frase “morte a” contra pessoas de alto risco não é suficientemente clara. O fundamento da política da Meta sugere que o contexto importa ao avaliar ameaças, mas, como foi observado pelo Comitê em um caso anterior, os analistas humanos em escala da empresa não têm autoridade para avaliar a intenção ou credibilidade de uma ameaça. Assim, se uma publicação inclui declarações ameaçadoras como “morte a” e um alvo (ou seja, “uma incitação à violência contra um alvo”), ela é removida. Repetindo uma recomendação de 2022, o Comitê solicita que a Meta inclua uma explicação na linguagem pública da política de que ameaças retóricas usando a frase “morte a” são geralmente permitidas, exceto quando direcionadas a indivíduos de alto risco, e que forneça critérios sobre quando declarações ameaçadoras direcionadas a chefes de estado são permitidas para proteger o discurso político retórico.

Também é confuso como essa política difere no tratamento de “figuras públicas” e “pessoas de alto risco”. Atualmente, ameaças de violência de média gravidade contra figuras públicas são removidas somente quando são “plausíveis”, em comparação com a remoção de conteúdo “independentemente da credibilidade” para outros indivíduos. O que é ainda mais confuso: há outra linha nessa política que oferece “proteções adicionais” a pessoas de alto risco. Orientações internas sobre isso para analistas, que não estão disponíveis publicamente, indicam especificamente que o conteúdo com a frase “morte a” contra essas pessoas de alto risco deve ser removido. Quando questionada pelo Comitê, a Meta disse que sua política oferece maior proteção para a expressão dos usuários envolvendo ameaças de média gravidade a figuras públicas porque as pessoas geralmente usam linguagem hiperbólica para expressar seu desdém, sem intenção de cometer violência. No entanto, ameaças de violência de alta gravidade, incluindo incitações à morte de pessoas de alto risco, acarretam um risco maior de danos no meio físico. Nesse caso, a Meta identificou o primeiro-ministro japonês como estando em ambas as categorias. O Comitê tem preocupações reais sobre as definições da política de “figuras públicas” e “pessoas de alto risco” não serem claras o suficiente para os usuários, especialmente quando as duas categorias interagem.

Em resposta às recomendações anteriores do Comitê, a Meta concluiu alguns procedimentos envolvendo políticas para encontrar um melhor equilíbrio entre discurso violento e expressão política, mas ainda não esclareceu publicamente quem são as “pessoas de alto risco”. O Comitê acredita que fornecer uma definição geral com exemplos ilustrativos nos Padrões da Comunidade permitiria aos usuários entender que essa proteção é baseada na profissão, na atividade política ou no serviço público da pessoa. O Comitê ofereceu essa lista no caso Slogan de protesto no Irã de 2022.

Decisão do Comitê de Supervisão

O Comitê anula a decisão original da Meta de remover o conteúdo.

Ele recomenda que a Meta:

• Atualize a Política sobre Violência e Incitação para fornecer uma definição geral para “pessoas de alto risco”, esclarecendo que elas abrangem pessoas como líderes políticos, que podem correr um maior risco de assassinato ou outra violência, e fornecer exemplos ilustrativos.
• Atualize as diretrizes internas para analistas em escala sobre incitações à morte usando a frase “morte a” direcionados a “pessoas de alto risco”, especificamente para permitir publicações que expressem desdém ou desacordo por meio de ameaças de violência casuais e não sérias. O contexto e a linguagem locais devem ser levados em consideração.
• Inclua um hiperlink para sua definição de bullying e assédio de figuras públicas na Política sobre Violência e Incitação e outros Padrões da Comunidade relevantes, em que essas figuras são referenciadas.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Descrição do caso e histórico

Em janeiro de 2024, um usuário respondeu publicamente a uma publicação do Threads contendo uma captura de tela de um artigo de notícias. O artigo incluía uma declaração do primeiro-ministro Fumio Kishida sobre receitas de arrecadação de fundos não declaradas envolvendo membros de seu Partido Liberal Democrata. Na declaração, Kishida disse que o valor “remained intact and was not a slush fund” (permaneceu intacto e não era um caixa dois). A publicação principal do Threads incluía uma imagem do primeiro-ministro e uma legenda criticando-o por sonegação fiscal. A resposta do usuário à publicação exige que uma explicação seja dada ao órgão legislativo do Japão e inclui a interjeição “hah”. Ela também inclui várias hashtags usando a frase “死ね”, transliterada como “shi-ne” e traduzida como “drop dead/die” (morra), para se referir ao primeiro-ministro como um sonegador de impostos, incluindo linguagem depreciativa para uma pessoa que usa óculos, como as hashtags traduzidas do japonês #dietaxevasionglasses (#morraóculosdesonegaçãodeimpostos) e #diefilthshitglasses (#morraóculosdemerda). Todo o conteúdo está em japonês.

Tanto a publicação quanto a resposta foram escritas na época da declaração parlamentar do primeiro-ministro abordando a suposta subnotificação dessa receita por seu partido. Fumio Kishida, que atuou como primeiro-ministro do Japão desde outubro de 2021, recentemente anunciou que não buscará a reeleição na liderança do Partido Liberal Democrata, a ser realizada em 27 de setembro de 2024.

A resposta do usuário não recebeu nenhuma curtida ou resposta. Ela foi denunciada uma vez conforme a Política sobre Bullying e Assédio por “incitações à morte” contra uma figura pública. Devido a um acúmulo de análises, um moderador humano analisou o conteúdo aproximadamente três semanas depois, determinando que ele violava a Política sobre Violência e Incitação da Meta e removendo-o do Threads. O usuário então fez uma apelação à Meta. Um segundo analista humano também constatou que o conteúdo violava a Política sobre Violência e Incitação. Finalmente, o usuário fez uma apelação ao Comitê. Depois que o Comitê selecionou esse caso, a Meta determinou que sua decisão original de remover o conteúdo foi um erro e o restaurou no Threads.

O Comitê de Supervisão considerou o seguinte contexto para tomar sua decisão.

Quando a resposta à publicação do Threads foi divulgada em janeiro de 2024, os promotores haviam recentemente indiciado políticos japoneses pertencentes ao Partido Liberal Democrata por subnotificação de renda de arrecadação de fundos. O próprio primeiro-ministro Kishida não foi indiciado.

Uma pesquisa encomendada pelo Comitê identificou um sentimento geral de desaprovação e crítica no Threads em relação ao primeiro-ministro no que se refere às alegações de sonegação fiscal, com outras publicações contendo a frase “死ね” (drop dead/die), “morra” em português. Especialistas consultados pelo Comitê observaram que as pessoas no Japão usam as redes sociais com frequência para publicar críticas políticas. No passado, os fóruns de mensagens online serviam como plataformas anônimas para expressar descontentamento social sem medo de consequências (veja também comentários públicos, PC-29594 e PC-29589).

Segundo especialistas consultados pelo Comitê, nas últimas décadas, a violência política no Japão é rara. Por esse motivo, a nação ficou chocada em 2022 quando o primeiro-ministro Shinzo Abe foi assassinado durante sua campanha. Preocupações sobre violência política aumentaram em abril de 2023, quando um homem usou uma bomba caseira durante um discurso de campanha do primeiro-ministro Kishida, ferindo dois espectadores, mas não o primeiro-ministro.

De acordo com especialistas linguísticos consultados pelo Comitê, as frases usadas na publicação são ofensivas e amplamente utilizadas para transmitir grande desaprovação ou frustração. Embora a frase “死ね” (drop dead/die), “morra” em português, possa, em alguns casos, ser usada literalmente como uma ameaça, ela é geralmente usada no sentido figurado para expressar raiva sem ser uma ameaça genuína (veja também o comentário público de Ayako Hatano, PC-29588).

Em 2017, o Relator Especial da ONU sobre Liberdade de Expressão demonstrou preocupações sobre a liberdade de expressão no Japão. Essas preocupações estavam relacionadas ao uso de pressão direta e indireta por parte de representantes do governo sobre a mídia, à capacidade limitada de debater eventos históricos e às crescentes restrições ao acesso à informação com base em afirmações de segurança nacional.

Em seu Relatório de Expressão Global de 2024, o Artigo 19 colocou o Japão em 30º lugar entre 161 países. A Freedom House classificou o Japão como “Livre” em sua avaliação Freedom on the Net de 2023, mas levantou preocupações sobre a intervenção do governo no ambiente de mídia online, a falta de órgãos reguladores independentes e a falta de definições claras nas recentes emendas legislativas que regulam a questão de insultos online. No entanto, o relatório da organização Freedom in the World deu ao país 96 de 100 pontos para liberdades políticas e civis. O Japão também recebe consistentemente altas classificações em índices de democracia e estado de direito. Em 2023, o Índice de Estado de Direito do World Justice Project classificou o Japão em 14º lugar entre 142 países.

2. Envios de usuários

Em sua declaração ao Comitê, o usuário que publicou a resposta alegou que estava apenas criticando o governo do Partido Liberal Democrata por seus supostos atos de tolerância e cumplicidade com a sonegação fiscal. Ele afirmou que a remoção de sua publicação pela Meta contribuiu para a obstrução da liberdade de expressão no Japão proibindo críticas a uma figura pública.

3. Políticas de conteúdo e envios da Meta

I. Políticas de conteúdo da Meta

A análise do Comitê foi fundamentada pelo compromisso da Meta com o valor Voz, que a empresa descreve como “fundamental”, incluindo o valor Segurança. A Meta avaliou o conteúdo de acordo com suas Políticas sobre Violência e Incitação e Bullying e Assédio e inicialmente o removeu de acordo com a Política sobre Violência e Incitação. Depois que o Comitê identificou esse caso para análise, a empresa determinou que o conteúdo não violava nenhuma das políticas.

Padrões da Comunidade sobre Violência e Incitação

O fundamento da política para os Padrões da Comunidade sobre Violência e Incitação explica que a Meta pretende “prevenir potenciais danos no meio físico que podem estar relacionados ao conteúdo em [suas] plataformas”, ao mesmo tempo em que reconhece que “as pessoas geralmente expressam desdém ou desacordo ameaçando ou incitando violência de maneiras casuais e não sérias”. Ele reconhece o seguinte: “O contexto é importante, portanto, [a Meta] considera diversos fatores, como a condenação de ameaças violentas ou a conscientização sobre elas, ... ou a visibilidade pública e vulnerabilidade dos alvos das ameaças.”

Essa política prevê proteção universal para todos contra “ameaças de violência que podem levar à morte (ou outras formas de violência de alta gravidade)”. Ameaças incluem “declarações ou imagens que representam uma intenção, aspiração ou incitação à violência contra um alvo”.

Antes de abril de 2024, a política proibia “ameaças que pudessem causar ferimentos graves (violência de média gravidade) e admissão de violência no passado” contra pessoas e grupos específicos, incluindo pessoas de alto risco. Em abril de 2024, a Meta atualizou essa política para fornecer proteção universal contra essas ameaças para todas as pessoas, independentemente da credibilidade, exceto para ameaças “contra figuras públicas”, que a política exige que sejam “plausíveis”. A única menção de “pessoas de alto risco” que permanece na versão atual da política diz respeito a ameaças de baixa gravidade que ainda permitem “[a]s proteções adicionais para pessoas físicas adultas, todas as crianças, pessoas de alto risco e pessoas ou grupos com base em suas características protegidas...”

A linguagem pública da política não define o termo “pessoas de alto risco”. No entanto, as diretrizes internas da Meta para analistas contêm uma lista de pessoas de alto risco que inclui chefes de estado; ex-chefes de estado; candidatos e ex-candidatos a chefe de estado; candidatos em eleições nacionais e supranacionais por até 30 dias após a eleição, se não forem eleitos; pessoas com histórico de tentativas de assassinato; ativistas e jornalistas (consulte a decisão Slogan de protesto no Irã).

Padrões da Comunidade sobre Bullying e Assédio

Os Padrões da Comunidade sobre Bullying e Assédio da Meta proíbem várias formas de abuso direcionadas a indivíduos, incluindo “fazer ameaças” e “distingue figuras públicas de pessoas físicas” para “permitir a discussão, que geralmente inclui comentários críticos de pessoas que aparecem em notícias ou que têm um grande público”. Essa política proíbe ataques “graves” a figuras públicas e determinados ataques em que a figura pública é “propositalmente exposta”, definida como “mar[car] diretamente [uma figura pública] na publicação ou no comentário”.

A política define uma “figura pública” para incluir “representantes do governo em nível estadual e nacional, candidatos políticos para esses cargos, pessoas com mais de um milhão de fãs ou seguidores nas redes sociais e pessoas que recebem grande cobertura de notícias”.

II. Envios da Meta

A Meta informou ao Comitê que o termo “死ね” (drop dead/die), “morra” em português, nas hashtags não violava suas políticas nesse caso. A Meta considera esse uso como uma declaração política que contém linguagem em sentido figurado, em vez de uma incitação plausível à morte. A empresa explicou que muitas vezes não consegue distinguir em escala declarações contendo ameaças plausíveis de morte ​​de linguagem em sentido figurado com a intenção de fazer uma observação política, razão pela qual inicialmente removeu o conteúdo.

A Meta disse ao Comitê que o primeiro-ministro Kishida é considerado uma figura pública segundo as Políticas sobre Violência e Incitação e Bullying e Assédio da empresa, enquanto o usuário que respondeu à publicação não foi considerado uma figura pública. Ela também informou ao Comitê que o primeiro-ministro Kishida é considerado uma “pessoa de alto risco” segundo os Padrões da Comunidade sobre Violência e Incitação.

Padrões da Comunidade sobre Violência e Incitação

De acordo com sua Política sobre Violência e Incitação, a Meta proíbe: “Ameaças de violência que possam levar à morte (ou outras formas de violência de alta gravidade).” Em suas diretrizes não públicas para analistas humanos, a Meta observa que remove incitações à morte de uma pessoa de alto risco se elas tiverem as palavras “morte a”. A Meta disse ao Comitê que o conceito de pessoa de alto risco se limita a essa política e inclui líderes políticos, que podem sofrer maior risco de assassinato ou outro tipo de violência.

Ela reconheceu que é desafiador manter uma distinção entre as frases “morte a” e “morra” em todos os casos, especialmente quando o significado das frases pode se sobrepor no idioma original. Nesse caso, o conteúdo usa as frases “die” (morra) e não “death to” (morte a) nas hashtags traduzidas do japonês dietaxevasionglasses (#morraóculosdesonegaçãodeimpostos) e #diefilthshitglasses (#morraóculosdemerda). Além disso, a Meta observou que, mesmo que tratasse os termos “morra” e “morte a” de forma semelhante (como uma incitação à morte), a empresa não removeria esse conteúdo em escalation porque seria uma ameaça não literal que não viola o espírito da política. O espírito da política permite conteúdo quando uma interpretação rígida de uma política produz um resultado que está em desacordo com a intenção dela (ver decisão Produtos farmacêuticos do Sri Lanka). A Meta considerou que a ameaça não era literal porque as outras palavras das hashtags e da resposta em si são sobre responsabilização política por meio de audiências perante a legislatura do Japão. Dessa forma, o apelo para que um líder político seja responsabilizado perante um órgão legislativo indicou que a ameaça de morte era em sentido figurado e não literal. Por essas razões, a Meta determinou que o conteúdo não viola a Política sobre Violência e Incitação.

Padrões da Comunidade sobre Bullying e Assédio

A Meta informou ao Comitê que o conteúdo não violava sua Política sobre Bullying e Assédio porque o conteúdo não “expôs propositalmente” uma figura pública. O usuário não marcou ou respondeu a um comentário do primeiro-ministro Kishida e não publicou o conteúdo na página do primeiro-ministro. Portanto, a Meta determinou que o conteúdo não expôs propositalmente o primeiro-ministro Kishida e não violaria a Política sobre Bullying e Assédio, mesmo que a ameaça fosse literal.

O Comitê fez 19 perguntas à Meta por escrito. As perguntas relacionadas às práticas e aos recursos de monitoramento da Meta no Japão, o treinamento fornecido para analistas humanos em escala e como ele incorpora o contexto local, o processo para escalonar linhas de políticas em escala, a viabilidade de aplicar a política que proíbe ameaças de morte contra pessoas de alto risco somente em escalation, o acúmulo de análises da Meta no Threads e as capacidades de detecção automatizadas. A Meta respondeu a 17 perguntas na íntegra e a duas perguntas parcialmente. A empresa respondeu, em partes, às perguntas relacionadas ao acúmulo de análises e às solicitações governamentais para remover conteúdo no Japão.

4. Comentários públicos

O Comitê de Supervisão recebeu 20 comentários públicos que cumpriam os termos para envio: 13 da Ásia-Pacífico e Oceania, três dos Estados Unidos e do Canadá, três da Europa e um da Ásia Central e Meridional. Para ler comentários públicos enviados com consentimento de publicação, clique aqui.

Os envios cobriram os seguintes temas: o contexto sociopolítico no Japão; ameaças online de violência contra políticos e limitações à liberdade de expressão; o uso de ameaças retóricas ou incitações à violência no discurso político japonês; o contexto linguístico da frase “drop dead/die” (morra); e a escolha da Meta de não recomendar conteúdo político no Threads para páginas não seguidas por usuários.

5. Análise do Comitê de Supervisão

O Comitê examinou se esse conteúdo deveria ser removido analisando as políticas de conteúdo, as responsabilidades e os valores de direitos humanos da Meta. Também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo.

5.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

Padrões da Comunidade sobre Violência e Incitação

O Comitê conclui que o conteúdo desse caso não viola a Política sobre Violência e Incitação que proíbe “ameaças de violência que possam levar à morte (ou outras formas de violência de alta gravidade)”. A frase “死ね” (drop dead/die), “morra” em português, foi usada de forma não literal e não era uma ameaça plausível.

Especialistas linguísticos consultados pelo Comitê explicaram que, embora às vezes essa frase possa ser usada para ameaçar a vida de alguém literalmente, ela é amplamente usada em um sentido figurado como uma declaração de desagrado e desaprovação. Os especialistas constataram que o uso do termo nesse conteúdo se enquadra na categoria de sentido figurado. Especialistas em dados, que examinaram a incidência da frase no Threads e em outras plataformas, concluíram que o termo é comumente usado de forma figurada ou irônica. Isso inclui exemplos de usuários relatando que estão “dying” (morrendo) de dor ou desejando que outros usuários “die” (morram) por causa de um comentário feito por esses usuários.

A própria resposta também sugere que a frase foi usada em sentido figurado. A resposta do usuário à publicação do Threads solicitou que o chefe da Agência Nacional de Impostos comparecesse perante o órgão legislativo nacional e explicasse as alegações de fraude. A resposta também incluiu a interjeição “hah”. Na opinião do Comitê, a palavra “hah”, que geralmente expressa divertimento ou ironia, sugere um significado não literal do termo “死ね” (drop dead/die), “morra” em português. Da mesma forma, o Comitê concorda com a avaliação da Meta de que a solução proposta pelo usuário – que Kishida seja responsabilizado pelo órgão legislativo do país – sugere que o conteúdo era uma crítica política, em vez de uma incitação literal à morte.

O Comitê reconhece que os eventos recentes no Japão podem gerar sensibilidades sobre qualquer incitação à morte de um líder político. O assassinato do primeiro-ministro Abe em 2022 e o uso de uma bomba caseira perto do primeiro-ministro Kishida em 2023 ressaltam a importância crítica de levar a sério ameaças de morte plausíveis. Nesse caso, porém, a incitação à morte simplesmente não foi plausível.

Padrões da Comunidade sobre Bullying e Assédio

O Comitê considera que o conteúdo nesse caso não viola a Política sobre Bullying e Assédio O Comitê concorda com a Meta com o fato de que, embora o primeiro-ministro Kishida cumpra os critérios de política para figuras públicas, ele não foi “propositalmente exposto” pelo conteúdo. O usuário não publicou a resposta diretamente na página do primeiro-ministro Kishida e não o marcou, portanto, o conteúdo não se dirigia diretamente ao primeiro-ministro.

5.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que remover o conteúdo da plataforma não foi coerente com as responsabilidades da Meta com os direitos humanos.

Liberdade de expressão (Artigo 19 do PIDCP)

O artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) prevê uma proteção “particularmente elevada” para o “debate público relativo a figuras públicas no domínio político e em instituições públicas” (Comentário Geral n.º 34, parágrafo 38). Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de “teste tripartite”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta de acordo com os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, com os quais a própria Meta se comprometeu em sua Política Corporativa sobre Direitos Humanos. O Comitê faz isso tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão,” (A/74/486, parágrafo 41). O Comitê reconheceu a importância do discurso político contra um chefe de Estado, mesmo quando ofensivo, uma vez que esses líderes estão legitimamente sujeitos a críticas e oposição política (ver decisões sobre os casos Slogan de protesto no Irã e Protesto na Colômbia; Comentário geral n.º 34, parágrafos 11 e 38).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que as regras que limitam a expressão sejam acessíveis e claras, formuladas com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com elas (Comentário Geral n.º 34, parágrafo 25). Além disso, essas regras “podem não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e devem “fornecer instrução suficiente aos encarregados de sua execução para permitir que eles determinem quais tipos de expressão são propriamente restritas e quais tipos não são,” (Ibid.). O Relator Especial da ONU sobre a liberdade de expressão declarou que, quando aplicadas à governação do discurso online por parte de intervenientes privados, as regras devem ser claras e específicas (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os moderadores de conteúdo devem ter orientações claras sobre sua aplicação.

O Comitê considera que a proibição de incitações à morte usando a frase “morte a” contra pessoas de alto risco não é suficientemente clara e acessível aos usuários.

O fundamento da política permite contexto ao avaliar a credibilidade de uma ameaça, como conteúdo publicado para condenação, conscientização e ameaças casuais ou não sérias. No entanto, o fundamento da política não especifica como declarações não literais devem ser distinguidas de ameaças plausíveis. Conforme observado pelo Comitê no caso Slogan de protesto no Irã, analistas humanos em escala seguem diretrizes específicas com base em sinais ou critérios, como incitações à morte de um alvo. Eles não têm autoridade para avaliar a intenção ou a credibilidade de uma ameaça, então, se uma publicação inclui declarações ameaçadoras como “death to” ou “drop dead” (morte a ou morra), como nesse caso, incluindo um alvo, ela é removida. Portanto, o Comitê reitera a recomendação n.º 1 do caso Slogan de protesto no Irã, que afirma que a Meta deve incluir uma explicação na linguagem pública da Política sobre Violência e Incitação de que ameaças retóricas usando a frase “morte a” são geralmente permitidas, exceto quando direcionadas a indivíduos de alto risco, e fornecer critérios para quando declarações ameaçadoras direcionadas a chefes de estado são permitidas para proteger o discurso político claramente retórico.

A política também não é suficientemente clara sobre o tratamento que dá a “figuras públicas” e “pessoas de alto risco”. A política atualmente oferece menos proteção a figuras públicas, observando que ameaças de violência de média gravidade contra figuras públicas são removidas apenas quando “plausíveis”, enquanto essas ameaças são removidas “independentemente da credibilidade” no caso de outras pessoas. Em contraste, a política dá mais proteção a pessoas de alto risco, por meio de uma linha de política que cita “proteções adicionais” para esses grupos. Conforme observado acima, a orientação interna também oferece mais proteção a pessoas de alto risco, solicitando a remoção de “morte a” quando direcionado a pessoas de alto risco. Em resposta à pergunta do Comitê, a Meta explicou que a política oferece maior proteção para discursos que contenham ameaças de média gravidade direcionadas a figuras públicas porque as pessoas frequentemente expressam desdém ou desacordo com figuras públicas adultas usando linguagem hiperbólica, mas muitas vezes não pretendem incitar a violência. Em contraste, ameaças de violência de alta gravidade acarretam um risco maior de danos potenciais no meio físico, incluindo incitações à morte contra pessoas de alto risco. Nesse caso, a Meta considerou que o primeiro-ministro Kishida se enquadrava em ambas as categorias. O Comitê está preocupado com a possibilidade de que as definições da Política sobre Violência e Incitação de “figuras públicas” e “pessoas de alto risco” não forneçam clareza suficiente para que os usuários entendam qualquer uma das categorias, muito menos o que acontece quando as duas interagem.

No caso do Slogan de protesto no Irã, o Comitê recomendou que a Meta alterasse os Padrões da Comunidade sobre Violência e Incitação para incluir uma lista ilustrativa de pessoas de alto risco, explicando que a categoria pode incluir chefes de estado. Desde a publicação dessa decisão, a Meta iniciou um processo de desenvolvimento de políticas para encontrar um melhor equilíbrio entre discurso violento e expressão política. No entanto, a empresa ainda não esclareceu publicamente quem é uma pessoa de alto risco. Durante seu trabalho nesse caso, o Comitê realizou uma sessão informativa com a Meta, na qual a empresa explicou que publicar sua definição interna de pessoas de alto risco poderia levar alguns usuários a contornar políticas e diretrizes de monitoramento existentes.

O Comitê reconhece a preocupação da Meta de que a publicação de diretrizes detalhadas poderia permitir que determinados usuários escapassem das regras de monitoramento estabelecidas. No entanto, o Comitê acredita que a Meta não deve adotar uma abordagem “tudo ou nada”. Em vez disso, ela deveria publicar uma definição geral de pessoas de alto risco e uma lista ilustrativa de exemplos. Essa abordagem permitiria aos usuários entender que a proteção dessas pessoas se baseia em sua profissão, sua atividade política, seu serviço público ou outra atividade relacionada a risco. O Comitê acredita que essa abordagem não impediria a eficiência do monitoramento. Na verdade, o Comitê já ofereceu essa lista com o acordo da Meta no caso Slogan de protesto no Irã, observando o seguinte: “Além dos chefes de Estado, outros exemplos de pessoas de alto risco incluem: ex-chefes de Estado; candidatos e ex-candidatos ao cargo; candidatos em eleições nacionais e supranacionais até 30 dias após a eleição se não eleitos; pessoas com histórico de tentativas de assassinato; ativistas e jornalistas.” Considerando que esses exemplos já são de domínio público, eles devem ser refletidos nos próprios Padrões da Comunidade.

Com base nas conclusões do Comitê no caso Slogan de protesto no Irã e nas atualizações que a Meta já implementou na Política sobre Violência e Incitação, o Comitê recomenda que a Meta forneça uma definição geral para pessoas de alto risco, esclarecendo que elas abrangem pessoas, como líderes políticos, que podem estar em maior risco de assassinato ou outra violência e forneça exemplos ilustrativos, como aqueles discutidos no caso Slogan de protesto no Irã.

II. Objetivo legítimo

Qualquer restrição à liberdade de expressão também deve perseguir um ou mais dos objetivos legítimos listados no PIDCP. Os Padrões da Comunidade sobre Violência e Incitação visam “evitar possíveis danos no meio físico” ao remover conteúdo que represente “um risco genuíno de danos físicos ou ameaças diretas à segurança pública”. Essa política atende ao objetivo legítimo de proteger o direito à vida e à segurança pessoal (Artigos 6 e 9 do PIDCP);

III. Necessidade e proporcionalidade

Nos termos do artigo 19(3) do PIDCP, a necessidade e a proporcionalidade exigem que as restrições à expressão “devem ser adequadas para atingir sua função de proteção; devem ser o instrumento menos intrusivo entre aqueles que podem atingir sua função de proteção; devem ser proporcionais ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

O Comitê conclui que a decisão original da Meta de remover o conteúdo conforme sua Política sobre Violência e Incitação não foi necessária, pois não era a medida menos intrusiva para proteger a segurança do primeiro-ministro Kishida. Essa análise é o ponto crucial desse caso, pois novamente aborda a questão desafiadora de como a Meta deve distinguir ameaças retóricas de reais. O Comitê expressou repetidamente preocupação sobre a over-enforcement de medidas contra ameaças em sentido figurado nos casos Slogan de protesto no Irã, Mulher iraniana confrontada na rua e Reportagem sobre um discurso no parlamento do Paquistão. Esses casos podem ser diferenciados do caso em questão porque dizem respeito a um slogan, um movimento de protesto coordenado ou uma eleição iminente. Mas a questão central é a mesma: a restrição do discurso político devido a uma ameaça não plausível de violência. O Comitê acredita que a Meta deve permitir essas discussões e garantir que os usuários possam expressar suas opiniões políticas, incluindo desaprovação ou desagrado pelas ações e pelos comportamentos de políticos, sem criar barreiras desnecessárias.

No entanto, o Comitê está preocupado com o fato da Política sobre Violência e Incitação da Meta ainda não distinguir claramente ameaças no sentido literal das ameaças no sentido figurado. Esse problema é ainda mais enfatizado pelo fato de que o conteúdo nesse caso foi marcado como violador por dois moderadores humanos que, segundo a Meta, falavam japonês e estavam familiarizados com o contexto sociopolítico local.

Os seis fatores descritos no Plano de ação de Rabat (contexto, autor, intenção, conteúdo do discurso, extensão do discurso e probabilidade de dano iminente) fornecem orientação valiosa na avaliação da credibilidade das ameaças. Embora a estrutura de Rabat tenha sido criada para avaliar a incitação ao ódio nacional, racial ou religioso, o teste de seis fatores é útil para avaliar a incitação à violência em geral (veja, por exemplo, as decisões dos casos Slogan de protesto no Irã e Convocação das mulheres para protesto em Cuba). Dada a suposição original da Meta de que a remoção do conteúdo era necessária para proteger a segurança do primeiro-ministro Kishida, o Comitê usou os seis fatores para avaliar a credibilidade da suposta ameaça nesse caso.

O conteúdo foi publicado durante o escândalo de sonegação fiscal de 2023 envolvendo o partido do primeiro-ministro Kishida. Especialistas consultados pelo Comitê explicaram que, embora as críticas políticas online tenham aumentado no Japão, não há uma ligação clara entre ameaças online e a violência recente contra políticos japoneses. O usuário tinha menos de mil seguidores e não era uma figura pública, enquanto o conteúdo não recebeu visualizações ou curtidas, refletindo o baixo interesse na resposta. A intenção do usuário parecia ser fazer críticas políticas, chamando a atenção para a corrupção no meio político, usando linguagem forte, o que não é incomum nas redes sociais japonesas (veja os comentários públicos PC-29589 e PC-29594), e era improvável que causasse danos iminentes.

O Comitê reconhece que avaliar a credibilidade de ameaças de violência é um exercício muito difícil e específico do contexto, especialmente quando relacionado a conteúdo em escala global. Ele também entende que a Meta pode conduzir uma avaliação mais precisa da credibilidade das ameaças em escalation. O Comitê considerou recomendar que a Meta aplicasse a política que proíbe ameaças usando a frase “morte a” contra pessoas de alto risco apenas em escalation. Políticas apenas em escalation exigem contexto adicional para serem aplicadas ao conteúdo, com decisões tomadas por especialistas no assunto, em vez de moderadores humanos em escala que inicialmente analisam o conteúdo. O Comitê entende que o número de especialistas no assunto da Meta é significativamente menor do que o número de analistas humanos em escala, portanto, a capacidade do primeiro é limitada. Dessa forma, a aplicação dessa política apenas em escalation pode fazer com que uma quantidade significativa de conteúdo não seja analisada devido à menor capacidade de especialistas. Além disso, as regras de apenas em escalation podem ser aplicadas se forem levadas ao conhecimento da Meta por outros meios, por exemplo, Parceiros de Confiança ou conteúdo com cobertura significativa da imprensa (veja a decisão Vídeo de prisioneiro das Forças de Apoio Rápido do Sudão). Isso significa que a Meta poderá analisar ameaças de morte usando a frase “morte a” somente quando sinalizadas por determinados canais.

O Comitê finalmente determinou que isso provavelmente resultaria em uma under-enforcement insuficiente e mais ameaças de morte permanecendo nas plataformas da Meta. Além disso, como a Meta não conseguiu fornecer dados validados sobre a prevalência desse conteúdo em suas plataformas, o Comitê não pôde avaliar a magnitude dessa under-enforcement.

Portanto, o Comitê considera que, para proteger efetivamente o discurso político, a Meta deve fornecer orientação adicional aos seus analistas para avaliar a linguagem e o contexto local, garantindo que as diretrizes emitidas para os moderadores sejam consistentes com o fundamento da política subjacente. Em seus casos anteriores sobre questões semelhantes (veja os casos Slogan de protesto no Irã, Mulher iraniana confrontada na rua e Reportagem sobre um discurso no parlamento do Paquistão), o Comitê explorou soluções de política e aplicação, muitas vezes urgentes e estritamente adaptadas ao contexto específico, incluindo eleições, crises e conflitos. Isso permitiu que a Meta ajustasse suas práticas de aplicação e levasse em conta contextos específicos usando mecanismos como o Protocolo de Política de Crise e o Centro de Operações de Produtos de Integridade (CPP e IPOC, respectivamente na sigla em inglês).

Nesse caso, a Meta informou ao Comitê que não estabeleceu nenhuma medida especial de aplicação. A Meta afirmou que um único incidente como o assassinato do ex-primeiro-ministro Shinzo Abe, embora trágico, geralmente não é suficiente para acionar esses mecanismos, a menos que haja sinais adicionais de risco ou instabilidade mais amplos. Em vez disso, a Meta designou o assassinato de acordo com seu protocolo “Evento violador violento”, limitado ao conteúdo relacionado apenas àquela instância de violência. Nessas circunstâncias, a Meta só pode recorrer à sua política geral e às práticas de aplicação. Portanto, desenvolver uma solução escalável para distinguir ameaças plausíveis de ameaças em sentido figurado é a única maneira de proteger efetivamente a expressão política.

Além disso, se a Meta decidir continuar aplicando essa política em escala, a precisão de seus sistemas automatizados continuará sendo impactada pela qualidade dos dados de treinamento fornecidos por moderadores humanos. O Comitê reitera suas conclusões da decisão do caso Mulher iraniana confrontada na rua, de que quando moderadores humanos removem declarações no sentido figurado com base na aplicação rígida de uma regra, esse erro provavelmente será reproduzido e amplificado por meio da automação, levando à over-enforcement.

Com base nas conclusões do Comitê de que as incitações à morte exigem uma avaliação contextualizada da probabilidade de uma ameaça resultar em danos no mundo real, isso pode exigir diretrizes de aplicação mais detalhadas para analistas humanos em escala do que as atualmente disponíveis. As diretrizes internas da Meta instruem os analistas a remover incitações à morte usando a frase específica “morte a” quando direcionadas a indivíduos de alto risco. Essas diretrizes não refletem o fundamento da Política sobre Violência e Incitação, que afirma que “o contexto importa” e que isso representa formas casuais e pouco sérias de ameaçar ou incitar a violência para expressar desdém ou desacordo. O Comitê, portanto, considera que a Meta deve atualizar suas diretrizes internas e instruções específicas aos analistas para permitir explicitamente a consideração do contexto e da linguagem local, e para levar em conta “maneiras não sérias e casuais” de ameaçar ou incitar a violência para expressar esse desdém ou desacordo.

Por fim, o Comitê também está preocupado com a capacidade da Meta de lidar com conteúdo sensível ao contexto no Threads. A Meta informou ao Comitê que a análise do conteúdo nesse caso foi adiada por cerca de três semanas devido a um acúmulo de análises. A Meta explicou que, no momento da aplicação, a moderação de conteúdo do Threads dependia exclusivamente de analistas humanos no caso de denúncias do Threads, enquanto a empresa normalmente usa diversas técnicas para evitar o acúmulo de análises, como o fechamento automático de denúncias. O fechamento automático de denúncias após 48 horas significa que, a menos que haja mecanismos para mantê-las abertas, elas são fechadas sem análise, deixando os usuários sem uma solução eficaz.

6. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de remover o conteúdo.

7. Recomendações

Política de Conteúdo

1. A Meta deve atualizar a Política sobre Violência e Incitação para fornecer uma definição geral para “pessoas de alto risco”, esclarecendo que pessoas de alto risco abrangem pessoas, como líderes políticos, que podem sofrer maior risco de assassinato ou outra violência e fornecer exemplos ilustrativos.

O Comitê considerará essa recomendação implementada quando a linguagem pública da Política sobre Violência e Incitação refletir a mudança proposta.

Aplicação

2. A Meta deve atualizar suas diretrizes internas para analistas em escala sobre incitações à morte usando a frase específica “morte a” quando direcionados a pessoas de alto risco. Essa atualização deve permitir publicações que, no contexto e no idioma local, expressem desdém ou desacordo por meio de ameaças de violência casuais e pouco sérias.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar dados relevantes sobre a redução de identificação de falsos positivos de conteúdo que contenha incitações à morte usando a frase específica “morte a” quando direcionado a pessoas de alto risco.

Política de Conteúdo

3. A Meta deve incluir um hiperlink para sua definição de bullying e assédio de figuras públicas na Política sobre Violência e Incitação e em quaisquer outros Padrões da Comunidade em que figuras públicas são referenciadas, para permitir que os usuários as diferenciem de pessoas de alto risco.

O Comitê considerará essa recomendação implementada quando a linguagem pública da Política sobre Violência e Incitação, e dos Padrões da Comunidade da Meta de forma mais ampla, refletir a mudança proposta.

*Nota processual:

As decisões do Comitê de Supervisão são tomadas por painéis de cinco membros e aprovadas por maioria de votos do Comitê inteiro. As decisões dele não representam, necessariamente, as opiniões de todos os membros.

De acordo com seu Estatuto, o Comitê de Supervisão pode analisar apelações de usuários cujo conteúdo foi removido pela Meta, apelações de usuários que denunciaram conteúdo que a Meta manteve ativo e decisões que a Meta encaminha a ele (Seção 1 do Artigo 2 do Estatuto). O Comitê tem autoridade vinculativa para manter ou anular as decisões de conteúdo da Meta (Seção 5 do Artigo 3 e 4 do Estatuto). O Comitê pode emitir recomendações não vinculativas às quais a Meta é obrigada a responder (Seção 4 do Artigo 3 e 4 do Estatuto). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. O Comitê recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, um grupo de investigações digitais que fornece serviços de consultoria de risco e inteligência contra ameaças para mitigar danos online, também forneceu pesquisas. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5 mil cidades pelo mundo, forneceu a consultoria linguística.

**Nota de tradução:

O processo de tradução do comunicado sobre o caso das Declarações sobre o primeiro-ministro japonês levou ao uso de uma frase na versão japonesa do comunicado que tinha um significado semelhante, mas diferente da frase original. Em vez de usar a expressão “死ね” (shi-ne), o comunicado usou o termo “くたばれ” (kutabare) como tradução para “drop dead” (morra).

Entendemos que isso pode ter causado confusão. Garantimos que a deliberação e a decisão do Comitê foram baseadas na redação original de “死ね” (shi-ne) e reafirmamos nosso compromisso com a precisão em nossos processos de tradução.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas