Alegações criminais com base em nacionalidade

25 de Setembro de 2024

O Comitê analisou três casos em conjunto, todos contendo alegações criminais feitas contra pessoas com base em nacionalidade. Ao anular uma das decisões da Meta de remover uma publicação do Facebook, o Comitê considerou como esses casos levantam a questão mais ampla sobre como distinguir conteúdo que critica ações e políticas estatais de ataques contra pessoas com base em sua nacionalidade. Ao fazer recomendações para alterar a Política sobre Discurso de Ódio da Meta e abordar os desafios de aplicação, o Comitê optou por uma abordagem diversificada, que se aplica à moderação em escala, com proteções para evitar consequências negativas. Como parte da regra relevante sobre discurso de ódio, a Meta deve desenvolver uma exceção para subcategorias mais restritas que usam sinais objetivos, a fim de determinar se o alvo desse conteúdo é um Estado ou suas políticas, ou um grupo de pessoas.

Sobre os casos

No primeiro caso, uma publicação do Facebook descreveu russos e americanos como “criminals” (criminosos). O usuário chama os americanos de mais “honorable” (honrados) porque admitem seus crimes em comparação aos russos, que “want to benefit from the crimes” (querem se beneficiar dos crimes) dos americanos. Essa publicação foi enviada para análise humana pelos sistemas automatizados da Meta, mas a denúncia foi encerrada automaticamente. Sendo assim, o conteúdo permaneceu no Facebook. Três meses depois, quando a Meta selecionou esse caso para ser encaminhado ao Comitê, os especialistas em política da Meta decidiram que a publicação violava os Padrões da Comunidade sobre Discurso de Ódio e a removeram. Embora o usuário tenha feito uma apelação, a Meta decidiu que a remoção do conteúdo foi correta após uma análise humana mais aprofundada.

No segundo caso, um usuário respondeu a um comentário feito em uma publicação do Threads. A publicação era um vídeo sobre o conflito entre Israel e Gaza e incluía o seguinte comentário: “genocide of terror tunnels?” (genocídio de túneis terroristas?). A resposta do usuário declarou: “Genocide … all Israelis are criminals.” (Genocídio… todos os israelenses são criminosos.). Esse conteúdo foi enviado para análise humana pelos sistemas automatizados da Meta e depois removido por infringir as regras de discurso de ódio.

O terceiro caso diz respeito ao comentário de um usuário em uma publicação do Instagram na qual ele descreveu “all Indians” (todos os indianos) como “rapists” (estupradores). A publicação original do Instagram mostra um vídeo em que uma mulher está cercada por homens que parecem estar olhando para ela. A Meta removeu o comentário de acordo com suas regras sobre discurso de ódio.

Todos os três casos foram encaminhados ao Comitê por ela. Os desafios de lidar com alegações criminais direcionadas a pessoas com base em nacionalidade são particularmente relevantes durante crises e conflitos, quando elas “podem ser interpretadas como um ataque às políticas de uma nação, ao seu governo ou às suas forças armadas, em vez de ao seu povo”, de acordo com a empresa.

Principais conclusões

O Comitê conclui que a Meta errou ao remover a publicação do Facebook no primeiro caso, que menciona russos e americanos, porque há sinais indicando que o conteúdo tem como alvo países, e não cidadãos. A empresa não permite “discurso desumanizante direcionado a uma pessoa ou um grupo de pessoas” com base em nacionalidade, comparando-os a “criminosos”, de acordo com suas regras sobre discurso de ódio. No entanto, as referências dessa publicação a crimes cometidos por russos e americanos provavelmente têm como alvo os respectivos Estados ou suas políticas, uma conclusão confirmada por um relatório especializado encomendado pelo Comitê.

No segundo e terceiro casos, a maioria do Comitê concorda com a análise da Meta de que o conteúdo violou as regras, pois direcionou o discurso a pessoas com base em nacionalidade, com as referências a “all Israelis” (todos os israelenses) e “all Indians” (todos os indianos), indicando que as pessoas são o alvo. Não há indícios contextuais de que as ações do Estado israelense ou as políticas do governo indiano, respectivamente, estivessem sendo criticadas no conteúdo. Portanto, o conteúdo deveria ter sido removido em ambos os casos. No entanto, uma minoria do Comitê discorda, observando que a remoção de conteúdo nesses casos não foi o meio menos intrusivo disponível para a Meta lidar com os danos potenciais. Esses membros do Comitê observam que a Meta não satisfez os princípios de necessidade e proporcionalidade ao remover o conteúdo.

Sobre a questão mais ampla das alterações nas políticas, o Comitê acredita que uma abordagem diversificada e escalável é necessária para proteger o discurso político relevante sem aumentar o risco de danos contra grupos-alvo. Primeiro, a Meta deve encontrar sinais específicos e objetivos que reduzam tanto as remoções indevidas quanto o conteúdo prejudicial deixado ativo.

Sem fornecer uma lista exaustiva de sinais, o Comitê determina que a Meta deve permitir alegações criminais quando direcionadas a um grupo específico que provavelmente servirá como um representante do Estado, como policiais, militares, forças armadas, soldados, governo e outros servidores públicos. Outro sinal objetivo estaria relacionado à natureza do crime alegado, como crimes de atrocidade ou graves violações de direitos humanos, que podem ser mais tipicamente associados a Estados. Isso significaria que publicações em que determinados tipos de crimes são vinculados à nacionalidade seriam tratadas como discurso político que critica ações estatais e permaneceriam na plataforma.

Além disso, a Meta poderia considerar sinais linguísticos que pudessem distinguir declarações políticas de ataques contra pessoas com base em nacionalidade. Embora essas distinções variem entre os idiomas, tornando o contexto das publicações ainda mais crítico, o Comitê sugere que a presença ou ausência do artigo definido pode ser um sinal disso. Por exemplo, palavras como “all” (todos), “all Americans commit crimes” (todos os americanos cometem crimes) ou “the” ([os] americanos cometem crimes) podem indicar que o usuário faz uma generalização sobre um grupo inteiro de pessoas, em vez de se referir a seu Estado-nação.

Ter uma abordagem política diversificada apresentará desafios de aplicação, como a Meta destacou e o Comitê reconhece. Ele observa que a Meta poderia criar listas de indivíduos e crimes com grande probabilidade de fazer referência a políticas ou agentes estatais. Uma dessas listas poderia incluir policiais, militares, forças armadas, soldados, governo e outros servidores públicos. No caso de fotos e vídeos, os analistas podem procurar indícios visuais no conteúdo, como pessoas vestindo uniforme militar. Quando esse indício é combinado com uma generalização sobre criminalidade, isso pode indicar que o usuário se refere a ações ou agentes estatais, em vez de comparar pessoas a criminosos.

O Comitê pede que a Meta busque medidas de monitoramento voltadas à conscientização e ao empoderamento dos usuários ao limitar a liberdade de expressão. Em resposta a uma das recomendações anteriores do Comitê, a Meta já se comprometeu a enviar notificações aos usuários sobre possíveis violações dos Padrões da Comunidade. O Comitê considera essa implementação um passo importante para a conscientização e o empoderamento dos usuários nas plataformas da Meta.

Decisão do Comitê de Supervisão

O Comitê de Supervisão anula a decisão da Meta de remover o conteúdo no primeiro caso, exigindo que a publicação seja restaurada. Em relação ao segundo e terceiro casos, o Comitê mantém as decisões da Meta de remover o conteúdo.

Ele recomenda que a Meta:

• Altere os Padrões da Comunidade sobre Discurso de Ódio, especificamente a regra que não permite “discurso desumanizante na forma de comparações ou generalizações sobre criminosos” direcionado a pessoas com base em nacionalidade, para incluir uma exceção nos seguintes termos: “Exceto quando os indivíduos (por exemplo, policiais, militares, forças armadas, soldados, governo, servidores públicos) e/ou crimes (por exemplo, crimes de atrocidade ou graves violações de direitos humanos, como aqueles especificados no Estatuto de Roma do Tribunal Penal Internacional) implicam uma referência a um Estado, e não a pessoas com base em nacionalidade.”
• Publique os resultados das auditorias internas que realiza para avaliar a precisão da análise humana e o desempenho de sistemas automatizados na aplicação de sua Política sobre Discurso de Ódio. Os resultados devem ser fornecidos de uma forma que permita que essas avaliações sejam comparadas entre idiomas e/ou regiões.

Note:

In July 2024, as part of its update on a policy forum about speech using the term “Zionist,” Meta stated it had referred cases to the Board to seek guidance on “how to treat comparisons between proxy terms for nationality (including Zionists) and criminals (e.g. ‘Zionists are war criminals’).” The Board takes this opportunity to clarify that none of the three cases that have been reviewed as part of this decision includes the term “Zionists” and neither does the decision discuss use of the term.

Para obter mais informações

To read public comments for this case, click here.

Voltar às Notícias