Comitê de Supervisão anula a decisão da Meta no caso Mulher iraniana confrontada na rua
7 de Março de 2024
OComitê de Supervisão anulou a decisão original da Meta de remover um vídeo que mostrava um homem confrontando uma mulher nas ruas do Irã por não usar o hijab. A publicação não violou as regras de violência e incitação porque contém uma declaração figurada, em vez de literal, e não é uma ameaça crível de violência. Compartilhado durante um período de turbulência, repressão crescente e violência contra pessoas que protestam, o acesso a redes sociais no Irã é crucial, com a internet representando o novo campo de batalha na luta pelos direitos das mulheres. Como o Instagram é uma das poucas plataformas remanescentes que não foram banidas no país, seu papel no movimento "Woman, Life, Freedom" (Mulher, Vida, Liberdade) contra o regime tem sido imensurável, apesar dos esforços do regime para incutir medo e silenciar as mulheres online. O Comitê conclui que os esforços da Meta para garantir o respeito à liberdade de expressão e de reunião no contexto da repressão sistemática do Estado foram insuficientes e recomenda uma mudança no Protocolo de Política de Crise da empresa.
Sobre o Caso
Em julho de 2023, um usuário publicou um vídeo no Instagram no qual um homem confronta uma mulher em público por não usar o hijab. No vídeo, que está em persa com legendas em inglês, a mulher responde dizendo que está defendendo seus direitos. A legenda que acompanha a foto expressa apoio à mulher e às mulheres iranianas que enfrentam o regime. Parte da legenda, que também critica o regime, inclui uma frase que se traduz como "it is not far to make you into pieces" (vamos esquartejar você, e não vai demorar), de acordo com a Meta.
O Código Penal do Irã penalizava as mulheres que aparecessem em público sem o "hijab adequado" com prisão, multa ou chicotadas. Em setembro de 2023, o regime do país aprovou um novo projeto de lei sobre hijab e castidade, segundo o qual as mulheres podem pegar até dez anos de prisão se continuarem a desafiar as regras obrigatórias do hijab. A legenda desta publicação deixa claro que a mulher do vídeo já foi presa.
Sinalizada primeiro pelos sistemas automatizados da Meta por potencialmente não seguir as Diretrizes da Comunidade do Instagram, a publicação foi enviada para análise humana. Embora vários analistas tenham avaliado o conteúdo de acordo com a Política sobre Violência e Incitação da Meta, eles não chegaram à mesma conclusão, o que, combinado com um erro técnico, fez com que a publicação permanecesse ativa. Em seguida, um usuário denunciou a publicação, o que levou a uma rodada adicional de análise, desta vez pela equipe regional da Meta com experiência em idiomas. Nessa etapa, determinou-se que a publicação violava a Política sobre Violência e Incitação, e ela foi removida do Instagram. O usuário que publicou o conteúdo recorreu então ao Comitê. A Meta afirmou que sua decisão de remover o conteúdo estava correta até que o Comitê selecionou este caso, momento em que a empresa reverteu sua decisão, restaurando a publicação.
Principais Descobertas
O Comitê considera que a publicação não violou os Padrões da Comunidade sobre Violência e Incitação porque contém discurso figurado, em vez de literal, e não é uma ameaça crível de violência capaz de incitar danos no meio físico. Embora a Meta tenha originalmente removido a publicação em parte porque avaliou a frase "it is not far to make you into pieces" (vamos esquartejar você, e não vai demorar) como uma declaração de intenção de cometer violência de alta gravidade, direcionada ao homem no vídeo, ela não deve ser interpretada literalmente. Considerando o contexto dos protestos generalizados no Irã e a legenda e o vídeo como um todo, a frase tem sentido figurado e expressa raiva e consternação com o regime. Especialistas em linguística consultados pelo Comitê observaram uma tradução um pouco diferente da frase ("we will tear you to pieces sometime soon" ou "vamos destruir você em breve"), explicando que ela transmite raiva, decepção e ressentimento em relação ao regime. Em vez de desencadear danos contra o regime, o dano mais provável que resultaria dessa publicação seria a violência retaliatória do regime.
Embora o fundamento da política da Meta sugira que a "linguagem" e o "contexto" possam ser considerados na avaliação de uma "ameaça crível", a orientação interna da Meta para os moderadores não permite isso na prática. Os moderadores são instruídos a identificar critérios específicos (uma ameaça e um alvo) e, quando esses critérios forem atendidos, remover o conteúdo. O Comitê já havia demonstrado preocupação com esse desalinhamento no caso Slogan de protesto no Irã, no qual recomendou que a Meta fornecesse uma orientação diferenciada sobre como considerar o contexto, aconselhando os moderadores a interromper as remoções padrão de "linguagem retórica" que expresse dissidência. Continua a ser preocupante que ainda haja espaço para a aplicação inconsistente de discurso figurado em contextos como o do Irã. Além disso, como a precisão da automação é afetada pela qualidade dos dados de treinamento fornecidos por humanos, é provável que o erro de remover a fala figurada seja ampliado.
Essa publicação também foi considerada de acordo com os Padrões da Comunidade sobre coordenação de atos danosos e incentivo à prática de atividades criminosas porque há uma regra que proíbe "conteúdo que coloque mulheres sem véu em risco ao revelar suas imagens sem véu contra sua vontade ou sem permissão". Desde então, a linha da política foi editada para proibir: "Exposição pública [mulheres sem véu]: expondo a identidade de uma pessoa e colocando-a em risco de dano." Nesse aspecto, o Comitê concorda com a Meta que o conteúdo não "expõe" a mulher no vídeo e que o risco de dano foi reduzido porque sua identidade era amplamente conhecida e ela já havia sido presa. Na verdade, a publicação foi compartilhada para chamar a atenção para sua prisão e poderia ajudar a pressionar as autoridades a libertá-la.
Como o Irã é designado como um país de risco de acordo com as políticas de crise da Meta, incluindo o Protocolo de Política de Crise, a empresa pode aplicar mudanças temporárias nas políticas ("alavancas") para lidar com uma situação específica. Embora o Comitê reconheça os esforços da Meta em relação ao Irã, eles têm sido insuficientes para garantir o respeito à liberdade de expressão e de reunião das pessoas em ambientes de repressão sistemática.
A Decisão do Comitê de Supervisão
O Comitê de Supervisão revogou a decisão original da Meta de remover a publicação.
O Comitê recomenda que a Meta faça o seguinte:
- Acrescente uma alavanca ao Protocolo de Política de Crise para deixar claro que declarações figuradas (ou seja, não literais) que não tenham a intenção e a probabilidade de incitar a violência não violam a linha da Política sobre Violência e Incitação que proíbe ameaças de violência em contextos relevantes. Isso deve incluir o desenvolvimento de critérios para moderadores em escala sobre como identificar essas declarações no contexto relevante.
Mais Informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique aqui.
