Mulher iraniana confrontada na rua

Resumo

O Comitê de Supervisão anulou a decisão original da Meta de remover um vídeo que mostrava um homem confrontando uma mulher nas ruas do Irã por não usar o hijab. A publicação não violou as regras de violência e incitação porque contém uma declaração figurada, em vez de literal, e não é uma ameaça crível de violência. Compartilhado durante um período de turbulência, repressão crescente e violência contra pessoas que protestam, o acesso a redes sociais no Irã é crucial, com a internet representando o novo campo de batalha na luta pelos direitos das mulheres. Como o Instagram é uma das poucas plataformas remanescentes que não foram banidas no país, seu papel no movimento "Woman, Life, Freedom" (Mulher, Vida, Liberdade) contra o regime tem sido imensurável, apesar dos esforços do regime para incutir medo e silenciar as mulheres online. O Comitê conclui que os esforços da Meta para garantir o respeito à liberdade de expressão e de reunião no contexto da repressão sistemática do Estado foram insuficientes e recomenda uma mudança no Protocolo de Política de Crise da empresa.

Sobre o caso

Em julho de 2023, um usuário publicou um vídeo no Instagram no qual um homem confronta uma mulher em público por não usar o hijab. No vídeo, que está em persa com legendas em inglês, a mulher responde dizendo que está defendendo seus direitos. A legenda que acompanha a foto expressa apoio à mulher e às mulheres iranianas que enfrentam o regime. Parte da legenda, que também critica o regime, inclui uma frase que se traduz como "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar), de acordo com a Meta.

O Código Penal do Irã penalizava as mulheres que aparecessem em público sem o "hijab adequado" com prisão, multa ou chicotadas. Em setembro de 2023, o regime do país aprovou um novo projeto de lei sobre hijab e castidade, segundo o qual as mulheres podem pegar até dez anos de prisão se continuarem a desafiar as regras obrigatórias do hijab. A legenda desta publicação deixa claro que a mulher do vídeo já foi presa.

Sinalizada primeiro pelos sistemas automatizados da Meta por potencialmente não seguir as Diretrizes da Comunidade do Instagram, a publicação foi enviada para análise humana. Embora vários analistas tenham avaliado o conteúdo de acordo com a Política sobre Violência e Incitação da Meta, eles não chegaram à mesma conclusão, o que, combinado com um erro técnico, fez com que a publicação permanecesse ativa. Em seguida, um usuário denunciou a publicação, o que levou a uma rodada adicional de análise, desta vez pela equipe regional da Meta com experiência em idiomas. Nessa etapa, determinou-se que a publicação violava a Política sobre Violência e Incitação, e ela foi removida do Instagram. O usuário que publicou o conteúdo recorreu então ao Comitê. A Meta afirmou que sua decisão de remover o conteúdo estava correta até que o Comitê selecionou este caso, momento em que a empresa reverteu sua decisão, restaurando a publicação.

Principais conclusões

O Comitê considera que a publicação não violou os Padrões da Comunidade sobre Violência e Incitação porque contém discurso figurado, em vez de literal, e não é uma ameaça crível de violência capaz de incitar danos no meio físico. Embora a Meta tenha originalmente removido a publicação em parte porque avaliou a frase "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar) como uma declaração de intenção de cometer violência de alta gravidade, direcionada ao homem no vídeo, ela não deve ser interpretada literalmente. Considerando o contexto dos protestos generalizados no Irã e a legenda e o vídeo como um todo, a frase tem sentido figurado e expressa raiva e consternação com o regime. Especialistas em linguística consultados pelo Comitê observaram uma tradução um pouco diferente da frase ("we will tear you to pieces sometime soon" ou "vamos destruir você em breve"), explicando que ela transmite raiva, decepção e ressentimento em relação ao regime. Em vez de desencadear danos contra o regime, o dano mais provável que resultaria dessa publicação seria a violência retaliatória do regime.

Embora o fundamento da política da Meta sugira que a "linguagem" e o "contexto" possam ser considerados na avaliação de uma "ameaça crível", a orientação interna da Meta para os moderadores não permite isso na prática. Os moderadores são instruídos a identificar critérios específicos (uma ameaça e um alvo) e, quando esses critérios forem atendidos, remover o conteúdo. O Comitê já havia demonstrado preocupação com esse desalinhamento no caso Slogan de protesto no Irã, no qual recomendou que a Meta fornecesse uma orientação diferenciada sobre como considerar o contexto, aconselhando os moderadores a interromper as remoções padrão de "linguagem retórica" que expresse dissidência. Continua a ser preocupante que ainda haja espaço para a aplicação inconsistente de discurso figurado em contextos como o do Irã. Além disso, como a precisão da automação é afetada pela qualidade dos dados de treinamento fornecidos por humanos, é provável que o erro de remover a fala figurada seja ampliado.

Essa publicação também foi considerada de acordo com os Padrões da Comunidade sobre coordenação de atos danosos e incentivo à prática de atividades criminosas porque há uma regra que proíbe "conteúdo que coloque mulheres sem véu em risco ao revelar suas imagens sem véu contra sua vontade ou sem permissão". Desde então, a linha da política foi editada para proibir: "Exposição pública [mulheres sem véu]: expondo a identidade de uma pessoa e colocando-a em risco de dano." Neste aspecto, o Comitê concorda com a Meta que o conteúdo não "expõe" a mulher no vídeo e que o risco de dano foi reduzido porque sua identidade era amplamente conhecida e ela já havia sido presa. Na verdade, a publicação foi compartilhada para chamar a atenção para sua prisão e poderia ajudar a pressionar as autoridades a libertá-la.

Como o Irã é designado como um país de risco de acordo com as políticas de crise da Meta, incluindo o Protocolo de Política de Crise, a empresa pode aplicar mudanças temporárias nas políticas ("alavancas") para lidar com uma situação específica. Embora o Comitê reconheça os esforços da Meta em relação ao Irã, eles têm sido insuficientes para garantir o respeito à liberdade de expressão e de reunião das pessoas em ambientes de repressão sistemática.

Decisão do Comitê de Supervisão

O Comitê de Supervisão revogou a decisão original da Meta de remover a publicação.

O Comitê recomenda que a Meta:

• Acrescente uma alavanca ao Protocolo de Política de Crise para deixar claro que declarações figuradas (ou seja, não literais) que não tenham a intenção e a probabilidade de incitar a violência não violam a linha da Política sobre Violência e Incitação que proíbe ameaças de violência em contextos relevantes. Isso deve incluir o desenvolvimento de critérios para moderadores em escala sobre como identificar essas declarações no contexto relevante.

*Os resumos de casos fornecem uma visão geral dos casos e não têm valor de precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão anula a decisão original da Meta de remover um vídeo que mostra um homem confrontando uma mulher nas ruas do Irã por não usar o hijab. A Meta removeu a publicação do Instagram por causa da frase na legenda "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar), que a empresa interpretou como uma ameaça, direcionada ao homem no vídeo que abordou a mulher por não estar usando um hijab. O Comitê considera que a publicação não violou a Política sobre Violência e Incitação porque a declaração relevante é figurada, e não literal, e, dado o contexto, não constitui uma ameaça crível de violência. Depois que o Comitê selecionou o caso, a Meta inicialmente manteve sua decisão de remover a publicação. No entanto, antes de apresentar sua justificativa ao Comitê, a Meta determinou que sua decisão original de remover o conteúdo estava errada e restaurou a publicação na plataforma. O Comitê conclui que os esforços da Meta para garantir o respeito à liberdade de expressão e de reunião no contexto da repressão sistemática do Estado à liberdade de expressão foram insuficientes e recomenda uma mudança no Protocolo de Política de Crise da empresa.

2. Descrição do caso e histórico

Em julho de 2023, um usuário do Instagram publicou um vídeo em persa com legendas em inglês mostrando um homem confrontando uma mulher em público por não usar o hijab, com a mulher respondendo que estava defendendo seus direitos. O homem não pode ser identificado no vídeo, enquanto a mulher está totalmente visível. O vídeo parece ser uma republicação de uma gravação inicialmente compartilhada por alguém afiliado ao regime iraniano ou que o apoia. O vídeo continha uma legenda, também em persa, expressando apoio à mulher e às mulheres iranianas que enfrentam o regime, e criticando o regime e seus apoiadores. A legenda incluía a frase traduzida pela Meta "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar) e afirmava que a mulher foi presa após o incidente. A publicação teve cerca de 47 mil visualizações, 2 mil curtidas, 100 comentários e 50 compartilhamentos.

Esse conteúdo foi primeiramente sinalizado por um classificador automático, um algoritmo que a Meta usa para identificar possíveis violações de suas políticas, como potencialmente violador das Diretrizes da Comunidade do Instagram e enviado para análise humana. Vários analistas avaliaram o conteúdo, mas, devido a um erro técnico e ao fato de os analistas não terem chegado à mesma conclusão sobre se a publicação era uma violação da Política sobre Violência e Incitação, ela não foi removida inicialmente. Em seguida, um usuário denunciou o conteúdo, em resposta ao qual um classificador automatizado determinou novamente que o conteúdo potencialmente violava as políticas da Meta e o enviou para outra análise. O conteúdo foi denunciado por um usuário e apenas uma vez. Após essa outra análise feita pela equipe da Meta com especialistas regionais e em linguística, a Meta removeu a publicação do Instagram de acordo com a Política sobre Violência e Incitação. A decisão da Meta de remover a publicação foi baseada na seguinte linha da legenda: "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar). A empresa interpretou essa frase como uma ameaça, direcionada ao homem no vídeo que abordou a mulher por não estar usando um hijab. O usuário que criou a publicação fez uma apelação da decisão de remover a publicação para a Meta. Um analista confirmou a decisão de remoção.

O usuário que publicou o conteúdo recorreu da remoção ao Comitê. Quando o Comitê encaminhou o caso para análise jurídica, a Meta manteve sua decisão de remover o conteúdo. Nesse estágio da análise, a Meta também considerou os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas, que proíbe a "divulgação" de imagens de mulheres sem véu quando isso coloca a mulher em risco. No momento em que o conteúdo foi publicado, a mulher já havia sido presa pelo regime. Depois que o Comitê selecionou o caso, a empresa posteriormente mudou sua decisão e restaurou o conteúdo com base em informações adicionais de sua equipe regional e na decisão do Comitê no caso Convocação das mulheres para protesto em Cuba.

Como o Comitê observou em sua decisão Slogan de protesto no Irã, as pessoas no Irã têm protestado contra o governo e por direitos civis e políticos e igualdade de gênero, pelo menos desde a revolução de 1979. Em 2023, o Prêmio Nobel da Paz foi concedido a Narges Mohammadi, uma defensora dos direitos humanos presa, por "mais de 20 anos de luta pelos direitos das mulheres [que a] tornaram um símbolo de liberdade e representante da luta contra a teocracia iraniana". O Código Penal do Irã penaliza as mulheres que aparecem em público sem o "hijab adequado" com prisão, multa ou chicotadas. As mulheres no Irã também são proibidas de realizar determinados estudos e frequentar muitos lugares públicos, e as pessoas são proibidas de dançar com membros do sexo oposto, entre outras coisas. Os homens são considerados chefes de família, e as mulheres precisam da permissão do pai ou marido para trabalhar, casar ou viajar. O testemunho de uma mulher no tribunal é considerado como tendo metade do peso de um homem, o que limita o acesso à justiça para as mulheres.

Depois que as autoridades iranianas intensificaram e expandiram as medidas obrigatórias de aplicação do hijab em 2022, as mulheres enfrentaram um maior escrutínio, muitas vezes levando a assédio verbal e físico e prisões. Em setembro de 2022, Jina Mahsa Amini, de 22 anos, morreu sob custódia policial três dias após sua prisão por supostamente não ter cumprido as regras do país sobre o uso de um "hijab adequado". Sua morte provocou indignação nacional e ondas de protestos em todo o país, além de um movimento antirregime que ficou conhecido como: "Zan, Zendegi, Azadi" ("Woman, Life, Freedom" ou "Mulher, Vida e Liberdade"). Isso levou a uma repressão violenta por parte das autoridades, com mais de 500 mortes confirmadas até o final de 2022 e cerca de 14 mil pessoas presas, incluindo manifestantes, bem como jornalistas, advogados, ativistas, artistas e atletas que expressaram apoio ao movimento.

Em setembro de 2023, o parlamento do Irã aprovou um novo projeto de lei sobre hijab e castidade, segundo o qual as mulheres podem pegar até dez anos de prisão se continuarem a desafiar as regras obrigatórias do hijab do país. As empresas que atendem mulheres sem o hijab também sofreriam sanções e correriam o risco de serem fechadas.

As redes sociais têm sido fundamentais para o movimento de protesto das mulheres no Irã, desempenhando um papel crítico na mobilização de protestos e na transmissão de informações vitais (consulte os comentários públicos PC 21007, PC-21011) e na documentação e preservação pública de evidências sobre abusos e violações de direitos humanos (PC-21008, anexo).

Entretanto, as campanhas online também expõem as mulheres a riscos de maior repressão por parte do regime, incluindo ameaças, campanhas de difamação, detenções e prisões. Especialistas consultados pelo Comitê observaram uma extensa rede de entidades associadas ao Corpo da Guarda Revolucionária Islâmica e ao governo iraniano que operam no Instagram e no Telegram, sendo que o último é frequentemente usado para atingir e acusar diretamente manifestantes e dissidentes.

Vários comentários públicos enviados ao Comitê também destacaram a tática do regime de denunciar em massa o conteúdo de protestos no Instagram usando o sistema de denúncias de usuários para "pressionar as empresas de redes sociais a remover o conteúdo relacionado a dissidentes ou enquadrá-lo em proibições obscuras" (consulte os comentários públicos PC-21011, PC-21009). Também houve denúncias de funcionários da inteligência iraniana oferecendo dinheiro aos moderadores de conteúdo para remover conteúdo compartilhado por críticos do regime.

Em fevereiro de 2023, o Relator Especial da ONU sobre o Irã relatou preocupações sobre a repressão contínua e o direcionamento de ativistas da sociedade civil, defensores dos direitos humanos, ativistas dos direitos das mulheres, advogados e jornalistas, à medida que as autoridades reprimem as vias de expressão da dissidência, incluindo a forte interrupção da internet e a censura das plataformas de redes sociais.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

De acordo com o Artigo 3 da Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, e a decisão é vinculante para a empresa, nos termos do Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, de acordo com o artigo 4 do Estatuto. As decisões do Comitê podem incluir sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4). Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

Quando o Comitê seleciona casos como esse, em que a Meta subsequentemente reconhece que cometeu um erro, ele analisa a decisão original para aumentar a compreensão do processo de moderação de conteúdo e para fazer recomendações a fim de reduzir erros e reforçar a equidade para as pessoas que usam o Facebook e o Instagram.

4. Fontes de autoridade e orientação

Os seguintes padrões e as decisões precedentes fundamentaram a análise do Comitê nesse caso:

I. Decisões do Comitê de Supervisão

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• Convocação das mulheres para protesto em Cuba
• Declaração metafórica contra o presidente do Peru
• Slogan de protesto no Irã
• Isolamento de Öcalan
• Sintomas de câncer de mama e nudez

II. Políticas de Conteúdo da Meta

A análise do Comitê foi fundamentada pelo compromisso da Meta com o valor "Voz", que a empresa descreve como "primordial", e seus valores de "Segurança", "Privacidade" e "Dignidade".

Diretrizes da Comunidade do Instagram

As Diretrizes da Comunidade do Instagram afirmam que a empresa "removerá conteúdo que contenha ameaças confiáveis" e links para os Padrões da Comunidade sobre Violência e Incitação. As Diretrizes da Comunidade não estão diretamente vinculadas aos Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas. O Relatório de Aplicação de Padrões da Comunidade do Primeiro Trimestre de 2023 afirma que "O Facebook e o Instagram compartilham políticas de conteúdo. Isso significa que, se um conteúdo é considerado como uma violação no Facebook, ele também é considerado como uma violação no Instagram".

O conteúdo foi removido de acordo com a Política sobre Violência e Incitação. Depois que o Comitê selecionou o caso, a Meta também analisou o conteúdo de acordo com sua Política sobre Coordenação Atos Danosos e Incentivo à Prática de Atividades Criminosas.

Padrões da Comunidade sobre Violência e Incitação

De acordo com o fundamento da política, os Padrões da Comunidade sobre Violência e Incitação da Meta tem como objetivo "evitar possível violência no meio físico que possa estar relacionada ao conteúdo" nas plataformas da Meta. Ao mesmo tempo, a Meta reconhece que "as pessoas comumente expressam desdém ou desacordo por meio de ameaças ou incitação à violência de maneira cômica e casual". Portanto, a Meta remove trechos de conteúdo quando a empresa acredita que eles contêm "ameaças de violência que podem levar à morte", incluindo conteúdo direcionado a qualquer pessoa com "declarações de intenção" de cometer "violência de alta gravidade". Ela afirma que considera o contexto da declaração ao avaliar se uma ameaça é confiável, o que pode ser qualquer informação adicional, como a "visibilidade pública e a vulnerabilidade do alvo" da pessoa.

A seção "Não publicar" da política proíbe especificamente "ameaças de violência que possam levar à morte (e outras formas de violência de alta gravidade)". A palavra "ameaça" inclui "declarações de intenção de cometer violência de alta gravidade".

Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas

De acordo com o fundamento da política, os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas visam "combater danos no meio físico e comportamentos com efeito copycat" proibindo as pessoas de "facilitar, organizar, promover ou aceitar determinadas atividades prejudiciais ou criminosas direcionadas a pessoas, empresas, propriedade ou animais". Isso inclui exposição pública, que a Meta define como conteúdo que expõe a identidade ou locais afiliados a qualquer pessoa que supostamente, entre outras coisas, "seja membro de um grupo que corre risco de sofrer exposição pública". Essa linha da política é aplicada pelos moderadores em escala em relação a determinados grupos específicos. Em uma escalada, com contexto adicional, a política da Meta na época em que o conteúdo foi publicado afirmava que também poderia remover: "conteúdo que coloca mulheres sem véu em risco ao revelar suas imagens sem véu contra sua vontade ou sem permissão". Essa passagem foi editada para proibir: "Exposição pública [mulheres sem véu]: expor a identidade de uma pessoa e colocá-la em risco de dano."

III. Responsabilidades da Meta com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. A Corporate Human Rights Policy (Política Corporativa de Direitos Humanos), da Meta, anunciada em 16 de março de 2021, reafirma o compromisso da empresa de respeitar os direitos de acordo com os UNGPs.

Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, as seguintes normas internacionais podem ser relevantes:

• O direito à liberdade de expressão: Artigo 19, Pacto Internacional dos Direitos Civis e Políticos (PIDCP), Comentário Geral 34, Comitê de Direitos Humanos (2011); Relatórios do Relator Especial da ONU sobre a liberdade de opinião e expressão: A/HRC/38/35 (2018) e A/74/486 (2019); e Plano de Ação de Rabat, Alto Comissariado das Nações Unidas para os Direitos Humanos, relatório: A/HRC/22/17/Add.4 (2013).
• O direito à liberdade de reunião pacífica: Artigo 21 do PIDCP. Comentário geral 37, Comitê de Direitos Humanos, 2020.
• O direito à vida: Artigo 6 do PIDCP.
• Direito à liberdade e à segurança pessoal: Artigo 9 do PIDCP.
• Direito à não discriminação: Artigos 2(1), 3 e 26, PIDCP; Artigo 1 e Artigo 7 (não discriminação na participação na vida política e pública do país), Convenção sobre a Eliminação de Todas as Formas de Discriminação contra as Mulheres ( CEDAW). Veja também a Declaração dos Defensores de Direitos Humanos, Artigo 8, direito de acesso efetivo, em uma base não discriminatória, à participação na condução de assuntos públicos.
• O direito à privacidade: Artigo 17 do PIDCP.

5. Envios de usuários

O usuário que publicou o conteúdo recorreu da remoção ao Comitê. Em sua declaração, o usuário explicou que a publicação mostrava um representante do governo iraniano confrontando uma mulher por não usar o hijab. O usuário afirmou que o vídeo mostra a coragem da mulher iraniana em defender seus direitos. O usuário afirmou que outras pessoas haviam compartilhado vídeos semelhantes nas redes sociais e que o conteúdo não era prejudicial ou perigoso e não violava nenhuma política do Instagram.

6. Envios da Meta

Padrões da Comunidade sobre Violência e Incitação

A Meta afirmou ao Comitê que sua decisão inicial de remover o conteúdo nesse caso foi baseada na Política sobre Violência e Incitação. Ela explicou que sua decisão se baseou em parte da legenda da publicação, que a empresa traduziu como: "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar). A empresa interpretou essa frase como uma ameaça ao homem no vídeo que abordou a mulher por não estar usando um hijab. Sua equipe regional determinou que a frase "make you into pieces" (esquartejar você) constituía uma ameaça de dano físico no contexto iraniano. Com base nessa interpretação, a Meta inicialmente manteve a decisão de remover o conteúdo de acordo com sua Política sobre Violência e Incitação.

Embora a Meta tenha mantido sua decisão de remover o conteúdo quando o Comitê identificou pela primeira vez o caso para análise jurídica, a empresa posteriormente mudou sua decisão depois que o Comitê selecionou esse caso e restaurou o conteúdo com base em informações adicionais da equipe regional. Com base nessa informação, a Meta concluiu que a interpretação mais provável da linguagem na legenda era uma referência a derrubar o regime iraniano ou aqueles que apoiam o hijab obrigatório, em vez de uma ameaça literal contra o homem no vídeo.

Nessa análise final, a Meta concluiu que o conteúdo tinha como objetivo aumentar a conscientização e chamar a atenção para os abusos cometidos contra as mulheres, como a mulher confrontada pelo homem no vídeo por não usar um hijab. O usuário faz referência à força das mulheres iranianas e critica o que é chamado de "bastardness" (covardia), referindo-se ao homem que filma o vídeo ou ao regime como um todo, e conscientiza sobre a prisão da mulher no vídeo. A Meta explicou que a linguagem potencialmente ameaçadora deve ser lida e compreendida à luz desse contexto geral. Esse tipo de conscientização, observou a Meta em sua justificativa, citando a decisão do Comitê no caso Slogan de protesto no Irã, é particularmente importante no Irã, onde há poucos meios de expressão livre.

A Meta também informou ao Comitê que, após pesquisas adicionais, as equipes regionais sugeriram que a interpretação mais razoável da frase "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar) não era uma ameaça verdadeira, mas sim uma crítica política dirigida ao regime como um todo ou às pessoas que apoiam a exigência do hijab de forma mais geral. Embora "make you into pieces" (vamos esquartejar você) geralmente se refira a matar uma pessoa cortando seu corpo em pedaços, aqui poderia ser entendido como desmantelar o regime (semelhante à linguagem metafórica usada na decisão sumária Declaração metafórica contra o presidente do Peru).

A Meta disse ao Comitê que outro fator que contribuiu para que a empresa acabasse restaurando o conteúdo foi a recente decisão do Comitê no caso Convocação das mulheres para protesto em Cuba, no qual o Comitê enfatizou que uma leitura contextual da publicação deveria levar em conta a onda de repressão estatal e o significativo interesse público nos protestos históricos que foram objeto da publicação. Além disso, a empresa considerou o caso Slogan de protesto no Irã, no qual o Comitê analisou o movimento político em torno dos direitos das mulheres no Irã. Na ocasião, o Comitê enfatizou a importância de proteger a voz no contexto do movimento de protesto, especialmente à luz da repressão sistemática do governo iraniano à liberdade de expressão e à importância dos espaços digitais como um fórum para expressar discordância. A empresa também observou que havia considerado a recente decisão sumária do Comitê no caso Declaração metafórica contra o presidente do Peru, que enfatizou novamente a "importância de projetar sistemas de moderação sensíveis ao contexto com consciência da ironia, sátira ou discurso retórico, especialmente para proteger o discurso político".

Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas

A Meta afirmou ao Comitê que também considerou a remoção do conteúdo de acordo com os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas por divulgar involuntariamente a mulher mostrada no vídeo sem véu. A Meta aplica essa linha da política somente em caso de escalonamento e se for fornecido um contexto adicional. A aplicação requer a contribuição de partes interessadas relevantes e se concentra em determinar se o conteúdo retrata uma mulher sem véu, expondo sua identidade sem permissão, e se é provável que a coloque em risco, em vez de termos específicos usados ou do tom do conteúdo ou da legenda. A Meta observa que uma pessoa não pode "se expor", ou seja, a exposição deve ser involuntária para violar a política.

Nesse caso, a Meta determinou que o conteúdo não deveria ser removido por divulgação involuntária, pois a identidade da mulher era amplamente conhecida e estava disponível online, e ela já havia sido presa no momento em que o conteúdo do caso foi publicado. Esse contexto reduziu significativamente o risco de danos associados ao fato de deixar o conteúdo na plataforma.

O Comitê fez 11 perguntas à Meta e duas perguntas de acompanhamento por escrito. Perguntas relacionadas a procedimentos e recursos de fiscalização para o Irã, avaliação de risco da Meta para o Irã em geral e para a mulher no vídeo em particular, processos de análise humana e automatizada, fiscalização de conteúdo que retrata mulheres sem véu e a divulgação de um grupo de risco, em escala e em escalonamento. Todas foram respondidas.

7. Comentários públicos

O Comitê de Supervisão recebeu 12 comentários públicos relacionados ao caso. Sete comentários foram enviados dos Estados Unidos e do Canadá, dois do Sul da Ásia e da Ásia Central; dois, da Europa; um, do Oriente Médio e do Norte da África.

Os envios abordaram os seguintes temas: o papel das redes sociais nos protestos no Irã, incluindo o movimento "Woman, Life, Freedom" (Mulher, Vida, Liberdade), e o papel que as imagens de mulheres sem véu desempenham nas campanhas digitais; os riscos da circulação de imagens de mulheres sem véu no Irã nas redes sociais; o uso das redes sociais pelas autoridades iranianas; a aplicação pela Meta de suas políticas de moderação de conteúdo para expressões em persa relacionadas à situação política no Irã; liberdade de expressão, direitos humanos, direitos das mulheres, repressão governamental e proibições de redes sociais no Irã.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê examinou a decisão original da Meta de remover o conteúdo de acordo com as políticas de conteúdo, as responsabilidades associadas aos direitos humanos e os valores da empresa.

O Comitê selecionou esse caso porque ele ofereceu a oportunidade de explorar as Políticas sobre Violência e Incitação e Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas da Meta, bem como os processos de aplicação relacionados no contexto de protestos em massa pelos direitos das mulheres e pela participação das mulheres na vida pública no Irã desde setembro de 2022. Em particular, ele aborda a importância das plataformas de redes sociais para as pessoas que protestam contra as regras obrigatórias do hijab.

Além disso, o caso oferece ao Comitê a oportunidade de discutir os procedimentos internos da Meta que determinam quando e por que o discurso figurado, que, se entendido literalmente, pode ser interpretado como ameaçador, mas que, dado o contexto, não deve ser interpretado como uma ameaça crível. O caso enquadra-se principalmente nas eleições do Comitê e na prioridade do espaço cívico, mas também aborda as prioridades do Comitê quanto a gênero, uso das plataformas da Meta por órgãos públicos e situações de crise e conflito.

8.1 Conformidade com as Políticas de Conteúdo da Meta

Padrões da Comunidade sobre Violência e Incitação

O Comitê considera que o conteúdo deste caso não viola os Padrões da Comunidade sobre Violência e Incitação, pois contém um discurso figurado que expressa raiva contra a repressão do governo, em vez de uma ameaça literal e, portanto, real de violência.

A Meta explicou que originalmente removeu o conteúdo desse caso porque ele continha "uma declaração de intenção de cometer violência de alta gravidade". A empresa define violência de alta gravidade como uma ameaça que pode levar à morte ou que tem probabilidade de ser letal.

Com base na avaliação de sua equipe regional, a Meta interpretou a frase "it is not far to make you into pieces" (vamos esquartejar você e não vai demorar) da legenda da publicação como uma ameaça de dano físico no contexto iraniano, violando a Política sobre Violência e Incitação.

Especialistas em linguística consultados pelo Comitê explicaram que a parte relevante da legenda pode ser traduzida como "we will tear you to pieces sometime soon!"(vamos despedaçar você em breve) ou "it is not far away, we will rip you into shreds" (não vai demorar para triturarmos você). Os especialistas observaram que, no contexto iraniano, a frase transmite raiva, decepção e ressentimento em relação aos opressores e sugere a ideia de que a situação pode acabar mudando, pois o poder dos opressores não será eterno. Essa frase não deve ser interpretada literalmente como uma intenção de causar danos físicos; em vez disso, ela serve como uma "declaração retórica" com o objetivo de atrair a atenção, enfatizada por uma linguagem emocionalmente carregada com verbos fortes, como "tear" (rasgar) ou "rip into pieces/shreds" (cortar em pedaços/triturar). Esses especialistas destacaram que esse tipo de discurso figurado reflete a profunda raiva compartilhada tanto pelo usuário que publica o conteúdo quanto pelo seu público. Portanto, não implica em ameaças reais de violência física.

Embora a Meta tenha afirmado ao Comitê que também considera o contexto da declaração ao avaliar se uma ameaça é confiável, sua orientação aos moderadores não indica que eles podem considerar o contexto ao avaliar se há uma "declaração de intenção [de cometer] violência de alta gravidade". Desde que os elementos da regra sejam satisfeitos, especificamente quando o conteúdo inclui uma ameaça e um alvo, a publicação é considerada violadora, como foi o caso aqui. Nesse caso, a Meta interpretou a declaração como sendo direcionada ao homem que estava seguindo a mulher. A regra não exige que o alvo seja visível ou identificável. As regras fornecem apenas um exemplo de discurso ameaçador que é isento ou considerado como não sendo uma ameaça crível como regra: "ameaças dirigidas contra certos agentes violentos, como grupos terroristas".

A frase "make you into pieces" (esquartejar você) aqui não constitui uma ameaça crível. Dado o contexto de um período de turbulência, repressão crescente e violência contra pessoas que protestavam contra o regime no Irã, e considerando a legenda e o vídeo como um todo, o Comitê considera que a frase tem sentido figurado, não literal, expressando raiva e consternação contra o regime, e não constitui uma "declaração de intenção [de cometer] violência de alta gravidade". Essa interpretação é consistente com o compromisso da empresa com a voz e a importância de proteger a expressão do descontentamento político.

Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas

O Comitê considera que o conteúdo nesse caso não viola os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas.

A Meta considerou remover a publicação porque há uma regra que proíbe "conteúdo que coloque mulheres sem véu em risco ao revelar suas imagens sem véu contra sua vontade ou sem permissão". A linha da política foi editada para proibir: "Exposição pública [mulheres sem véu]: expondo a identidade de uma pessoa e colocando-a em risco de dano." A empresa entende que a "divulgação" inclui conteúdo que compartilha a imagem de uma mulher sem véu, expõe sua identidade sem permissão e a coloca em risco de sofrer danos. Essa linha da política é aplicada apenas no escalonamento e requer a contribuição de várias partes interessadas para a aplicação (consulte a Seção 4 acima).

Neste aspecto, o Comitê concorda com a Meta que o conteúdo não "expõe" a mulher no vídeo, já que sua identidade era amplamente conhecida e o risco de dano causado pelo conteúdo tinha diminuído porque ela já havia sido presa no momento da publicação. Portanto, a permanência do vídeo na plataforma não aumentaria significativamente o nível de risco para a mulher e poderia, de fato, protegê-la ao aumentar a conscientização sobre o caso. Determinar se uma publicação "expõe" uma mulher e a coloca em risco depende especialmente do contexto; a aplicação da política apenas em caso de escalonamento pode garantir que a equipe que a aplica tenha tempo e recursos para identificar e considerar efetivamente o contexto relevante.

8.2 Conformidade com as responsabilidades da Meta relativas aos direitos humanos

O Comitê considera que remover o conteúdo da plataforma era coerente com as responsabilidades da Meta com os direitos humanos.

Liberdade de expressão (Artigo 19 PIDCP)

O Artigo 19 do PIDCP prevê ampla proteção à expressão, incluindo a "liberdade de procurar, receber e difundir informações e ideias de qualquer natureza, independentemente de considerações de fronteiras, verbalmente ou por escrito, em forma impressa ou artística, ou por qualquer outro meio de sua escolha". Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. O Comitê usa essa estrutura para interpretar os compromissos voluntários de direitos humanos da Meta, tanto em relação à decisão de conteúdo individual sob análise quanto ao que isso diz sobre a abordagem mais ampla da empresa à governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora "as empresas não tenham obrigações governamentais, seu impacto é do tipo que exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão" (A/74/486, parágrafo 41).

O acesso às redes sociais é crucial em uma sociedade fechada como a do Irã. Como "guardiãs digitais", as plataformas de redes sociais têm um "impacto profundo" no acesso público à informação (A/HRC/50/29, parágrafo 90). Nesse caso, a publicação faz parte de um movimento de protesto mais amplo que depende de espaços cívicos digitais para sobreviver. As leis que determinam como as mulheres devem se vestir afetam sua liberdade e dignidade ( A/68/290, parágrafo 38), quer a lei busque proibir o uso de véu ou proibir que elas saiam em público sem ele (veja, por exemplo, Yaker v France, CCPR/C/123/D/2747/2016). Nesse sentido, “the Internet has become the new battleground in the struggle for women’s rights, amplifying opportunities for women to express themselves” (a Internet se tornou o novo campo de batalha na luta pelos direitos da mulher, amplificando as oportunidades para as mulheres se expressarem) (A/76/258, parágrafo 4). O fortalecimento da liberdade de expressão das mulheres permite sua participação política e a concretização de seus direitos humanos (A/HRC/Res/23/2, parágrafos 1-2; ( A/76/258, parágrafo 5).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade exige que qualquer restrição à liberdade de expressão esteja de acordo com uma regra estabelecida, que seja acessível e clara para os usuários. A regra deve ser "formulated with sufficient precision to enable an individual to regulate his or her conduct accordingly and it must be accessible to the public" ("formulada com precisão suficiente para permitir que um indivíduo regule sua conduta de acordo com ela e deve ser acessível ao público") (Comentário geral 34, parágrafo 25). Além disso, as regras que restringem a expressão "may not confer unfettered discretion for the restriction of freedom of expression on those charged with [their] execution" ("podem não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução") e devem "provide sufficient guidance to those charged with their execution to enable them to ascertain what sorts of expression are properly restricted and what sorts are not" ("fornecer instrução suficiente para aqueles encarregados de sua execução para permitir que possam determinar quais tipos de expressão são devidamente restritas e quais tipos não são") (Comentário geral 34, parágrafo 25; A/HRC/38/35 (undocs.org), parágrafo 46). A falta de clareza ou precisão pode levar a uma aplicação incoerente e arbitrária das regras. No que diz respeito à Meta, os usuários devem ser capazes de prever as consequências da publicação de conteúdo no Facebook e no Instagram, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

Padrões da Comunidade sobre Violência e Incitação

O Comitê considera que, embora a justificativa da política — que expressa os objetivos dos Padrões da Comunidade, mas não faz parte da regra em si — dos Padrões da Comunidade sobre Violência e Incitação sugira que "context matters" (o contexto é importante) e pode ser considerado ao avaliar uma "credible threat" (ameaça fundada), as diretrizes internas e a abordagem de moderação da Meta não permitem isso na prática. Como o Comitê observou no caso Slogan de protesto no Irã, um moderador de conteúdo em escala é instruído a procurar critérios ou elementos específicos na publicação e, quando esses elementos são encontrados, os moderadores devem remover a publicação. Em outras palavras, se a publicação contiver uma ameaça (por exemplo, "matar" ou "esquartejar") e um alvo, o resultado será a remoção. Os moderadores de conteúdo não têm capacidade para avaliar se a ameaça é fundada. Como a Meta também explicou nesse caso, a abordagem rotineira ou estereotipada é justificável porque "avaliar se [a frase] constitui um discurso retórico em oposição a uma ameaça real é um desafio, principalmente em grande escala". A consideração da credibilidade das ameaças é levada em conta na criação da regra, não em sua aplicação. Como o Comitê observou no caso Slogan de protesto no Irã, enquanto o "fundamento da política parece acomodar o discurso retórico que pode ser esperado em contextos de protesto, as regras escritas e as orientações correspondentes aos analistas não o consideram. Na prática, a aplicação, particularmente em grande escala, é mais estereotipada do que as regras implicam, e isso pode criar percepções errôneas para os usuários sobre como elas serão aplicadas. A orientação aos analistas, conforme o texto atual, exclui a possibilidade de análise contextual, mesmo quando há indícios claros no próprio conteúdo de que a linguagem ameaçadora é retórica." Esse desalinhamento entre o fundamento da política declarada pela empresa e sua prática real de aplicação é contínuo e não satisfaz adequadamente o princípio da legalidade.

O Comitê reitera suas conclusões do caso Slogan de protesto no Irã de que a Meta deve fornecer orientação diferenciada sobre como levar em conta o contexto, direcionando os moderadores a evitar a remoção padrão de linguagem "retórica" ou não literal que expresse dissidência, especialmente em ambientes políticos sensíveis, como o Irã.

Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas

O Comitê considera que a proibição da Meta em relação a "conteúdo que coloque mulheres sem véu em risco ao revelar suas imagens sem véu contra sua vontade ou sem permissão" é suficientemente clara, conforme aplicado nesse caso. Isso deixa claro que o conteúdo que "expõe" mulheres sem véu e que pode causar danos é proibido nas plataformas da Meta. No entanto, o Comitê observa com preocupação que as Diretrizes da Comunidade não estão diretamente vinculadas aos Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas. Isso prejudica a acessibilidade das regras para os usuários do Instagram. Em casos anteriores ( Sintomas de câncer de mama e nudez, Isolamento de Öcalan), o Comitê recomendou que a Meta esclarecesse publicamente aos usuários como os Padrões da Comunidade do Facebook se aplicam ao Instagram. Em resposta, a Meta levou a cabo um processo para unificar os Padrões da Comunidade com as Diretrizes da Comunidade do Instagram e especificar onde as políticas diferem ligeiramente entre as plataformas. Nos relatórios trimestrais de transparência que se seguiram, a Meta assegurou ao Comitê que esse esforço continua sendo uma prioridade, observando que considerações legais e regulatórias afetaram seus cronogramas. O Comitê reitera a importância de agir rapidamente para concluir esse processo e garantir a clareza das regras aplicáveis.

II. Objetivo legítimo

De acordo com o Artigo 19, parágrafo 3, do PIDCP, a expressão pode ser restringida por uma lista definida e limitada de motivos, inclusive com o objetivo de proteger os direitos de terceiros. Nesse caso, o Comitê considera que o Padrão da Comunidade sobre violência e incitação visa "evitar possíveis danos no meio físico" ao remover conteúdo que represente "um risco genuíno de lesões corporais ou ameaças diretas à segurança pública". Esta política, portanto, atende ao objetivo legítimo de proteger o direito à vida (Artigos 6, PIDCP) e à segurança física (Artigo 9, PIDCP; Comentário Geral 35, parágrafo 9).

A Política sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas serve ao objetivo legítimo de proteger os direitos das mulheres no Irã à não discriminação (Artigos 2, 3 e 26, PIDCP); Artigos 1 e 7, CEDAW), inclusive no gozo de seus direitos à liberdade de expressão e reunião (Artigos 19 e 21, PIDCP), o direito de participar da vida pública (Artigos 1 e 7, CEDAW), o direito à privacidade (Artigo 17, PIDCP) e seus direitos à vida (Artigos 6, PIDCP) e à liberdade e segurança pessoal (Artigo 9, PIDCP).

III. Necessidade e proporcionalidade

Qualquer restrição à liberdade de expressão "deve ser apropriada para cumprir sua função protetora; deve ser o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; deve ser proporcional ao interesse a ser protegido"( Comentário geral 34, parágrafo 34). As empresas de redes sociais devem considerar uma série de possíveis respostas a conteúdo problemático além da sua exclusão, para garantir que as restrições sejam ajustadas de forma restrita (A/74/486, parágrafo 51).

Padrões da Comunidade sobre Violência e Incitação

O Comitê considera que a decisão inicial da Meta de remover o conteúdo neste caso não era necessária. Não era necessário proteger a segurança da pessoa que estava gravando o vídeo ou de outras pessoas, pois a ameaça mencionada na legenda da publicação não é literal. O Comitê está preocupado com o fato de que, mesmo após sua orientação no caso Slogan de Protesto no Irã, os Padrões da Comunidade da empresa e a orientação fornecida aos moderadores ainda deixam espaço para a aplicação inconsistente de ameaças figuradas (não literais), apesar da situação no Irã, com protestos contínuos há mais de um ano. Esse caso, assim como este, envolveu uma frase que a Meta não conseguiu identificar como uma declaração não literal de uma ameaça. A contínua falta de orientação adequada é ainda mais destacada pelo fato de que o conteúdo desse caso foi analisado por vários moderadores e equipes da Meta, e repetidamente considerado uma violação.

Como parte da análise, o Comitê explorou seis fatores do Plano de ação de Rabat para avaliar se o discurso poderia criar um risco grave de incitação de discriminação, atos de violência ou outra ação ilegal neste caso. O Comitê observa que, embora os fatores de Rabat tenham sido desenvolvidos para a defesa do ódio nacional, racial ou religioso que constitui incitação, e não para a incitação em geral, o teste de seis fatores é útil para avaliar a incitação em termos gerais, e o Comitê já o utilizou dessa forma anteriormente (veja, por exemplo, Slogan de Protesto no Irã e Convocação das mulheres para protesto em Cuba):

• Contexto: o conteúdo foi publicado em julho de 2023, durante um período de turbulência, repressão crescente e violência contra pessoas que protestavam contra o regime. Existem locais limitados para protestos dentro do país, devido às interrupções maciças da internet e à proibição das principais plataformas de redes sociais, como Facebook, Telegram e X. Como o Instagram é uma das poucas plataformas restantes, seu papel no movimento "Woman, Life, Freedom" (Mulher, Vida, Liberdade) tem sido imensurável. Os especialistas consultados pelo Comitê observaram que o movimento tem como objetivo a normalização do protesto e o desafio contra quatro décadas de leis discriminatórias contra as mulheres. Os especialistas observaram que, desde o início do movimento, propagar o medo e silenciar as mulheres para que não se expressem online têm sido as principais tendências. As novas leis e as prisões de grandes personalidades têm o objetivo de coibir essas expressões de protesto e interromper a tendência de normalizar o desafio às leis do hijab.
• Identidade do discursista: a Meta disse ao Comitê que a empresa não considerava o usuário que publicou o conteúdo como uma figura pública. Com base na legenda do vídeo, o usuário parece ser um apoiador ou parte do movimento "Woman, Life, Freedom" (Mulher, Vida, Liberdade). Portanto, o discursista aqui não está em uma posição de autoridade e também está potencialmente arriscando sua própria segurança ao expressar seu apoio e publicar esse conteúdo.
• Intenção: embora a avaliação da intenção ao moderar o conteúdo em grande escala represente um desafio significativo, uma leitura objetiva e comum de toda a publicação indica apoio à mulher retratada e conscientização sobre sua prisão. De acordo com os especialistas consultados pelo Comitê, é comum no Irã que os manifestantes divulguem a imagem de uma mulher sem véu e seu nome após sua prisão, para pressionar as autoridades a mantê-la em segurança. Os manifestantes constataram que, ao divulgar esses indivíduos, é possível evitar outros assédios às vítimas.
• Conteúdo e forma de expressão: de acordo com os especialistas em linguística consultados pelo Comitê, a frase "make you into pieces" (esquartejar você) nesse contexto seria entendida pelos falantes de persa como expressão de uma emoção profunda, como raiva e decepção, mas não uma ameaça literal de violência. O movimento tem usado regularmente uma linguagem enérgica e aparentemente ameaçadora para se manifestar contra o regime. No caso Slogan de protesto no Irã, o Comitê considerou que o slogan "Death to Khamenei" (Morte a Khamenei) constituía uma "ameaça retórica" e observou que a Meta havia emitido uma "tolerância à política" para a frase "I will kill whoever kills my sister/brother" (Eu matarei quem matar minha irmã/irmão) por motivos semelhantes. A frase, nesse caso, aparece no meio de uma legenda que elogia uma mulher que está defendendo seus direitos. Considerada em sua totalidade, a legenda expressa apoio às mulheres iranianas que protestam contra leis discriminatórias e práticas abusivas do regime.
• Extensão e alcance: a publicação teve cerca de 47 mil visualizações, 2 mil curtidas, 100 comentários e 50 compartilhamentos. Como esse discurso não parece constituir incitação, considerando os outros fatores da análise de Rabat, o alto alcance do conteúdo em si não é um fator que indique a necessidade de remoção.
• Probabilidade e iminência: esse fator avalia se o discurso oferece a probabilidade de provocar danos iminentes contra o alvo em potencial do discurso, que, nesse caso, era o regime. O movimento de protesto e seus apoiadores estão se posicionando contra um regime que está constantemente usando repressão violenta e represálias contra os manifestantes. A forma mais provável de dano que pode resultar do discurso nesse caso é a violência retaliatória do regime contra o usuário da publicação ou a mulher mostrada no vídeo, em vez de violência contra o regime ou seus apoiadores. Os especialistas enfatizaram os perigos enfrentados pelas pessoas que participam desses protestos e como o movimento resiste apesar da ameaça iminente de violência. Eles também afirmaram que o objetivo da circulação das imagens de mulheres sem véu que foram presas é chamar a atenção para a prisão delas e pressionar as autoridades para que as mantenham seguras.

Com base na análise dos fatores acima, o Comitê considera que o conteúdo não constituía uma ameaça fundada e não era capaz de incitar danos no meio físico. Quando o discurso figurado é usado no contexto de protestos generalizados que sofreram repressão violenta, a Meta deve permitir que seus analistas avaliem a linguagem e o contexto local, alinhando a orientação para os moderadores com o fundamento da política subjacente. Garantir uma avaliação precisa para saber se uma publicação representa "discurso figurado" ou se pode incitar a violência é vital para melhorar a moderação em crises de forma mais ampla. A precisão da automação será afetada pela qualidade dos dados de treinamento fornecidos pelos moderadores humanos. Quando moderadores humanos removem declarações "figuradas" devido à aplicação rígida de uma regra, é provável que esse erro seja reproduzido e ampliado por meio da automação.

O Comitê observa que a Meta tem vários mecanismos disponíveis para ajustar suas políticas e sua aplicação durante situações de crise, incluindo o sistema de classificação de países "em risco" e seu Protocolo de Política de Crise. O sistema de classificação de países "em risco" é usado para identificar países em risco de "danos e violência offline" a fim de determinar como a empresa deve priorizar o desenvolvimento de seus produtos ou como investir seus recursos. A avaliação também pode ser levada em conta em outros processos (por exemplo, se é necessário formar uma equipe de operações especiais ou acionar o uso do Protocolo de Política de Crise). A Meta informou ao Comitê que, para o segundo semestre de 2023, o Irã foi designado como um "país em risco". O Irã também recebeu e mantém essa classificação segundo o Protocolo de Política de Crise desde 21 de setembro de 2022. O Protocolo de Política de Crise permite que a Meta faça determinadas alterações temporárias em políticas, conhecidas como "alavancas políticas", para lidar com uma situação específica. A Meta forneceu alguns exemplos das alavancas políticas já usadas no Irã, incluindo "uma permissão para conteúdo que inclua o slogan 'Eu matarei quem matar minha irmã/irmão' ou seus derivados, na ausência de outras violações de nossas políticas". (Para mais exemplos de alavancas políticas, veja Atos do Fórum de Políticas, 25 de janeiro de 2022, Protocolo de Política de Crise.)

Embora o Comitê reconheça o compromisso da empresa com a segurança e seus esforços para atenuar os possíveis riscos de moderação de conteúdo ativando o Protocolo de Política de Crise para o Irã, esses esforços têm sido insuficientes para garantir o respeito à liberdade de expressão e de reunião das pessoas em um ambiente de repressão sistemática à dissidência e às tensões sociais. Uma pesquisa encomendada pelo Comitê indica que a maioria esmagadora do conteúdo que retrata mulheres sem véu no contexto da discussão sobre o uso do hijab no Irã, nas plataformas da Meta, é compartilhada por ou em apoio ao movimento de protesto. Aqui, o processo de aplicação da Meta falhou repetidamente em distinguir declarações figuradas, ou não literais, em um contexto relevante, de ameaças reais e incitação à violência, que têm o potencial de causar mais danos no meio físico.

O Comitê recomenda que a Meta adicione uma alavanca política ao Protocolo de Política de Crise e, consequentemente, forneça critérios internos aos moderadores em escala sobre como identificar declarações usando linguagem ameaçadora de forma figurada, ou não literal, no contexto relevante para ser considerado não violador da linha da Política sobre Violência e Incitação que proíbe ameaças de violência. Ao desenvolver os critérios específicos da crise sobre como determinar se uma ameaça é figurada e não literal, a Meta pode considerar os fatores do Plano Rabat (por exemplo, contexto de protestos generalizados contra a repressão do Estado, se o discursista tem a capacidade de incitar ou apresenta o risco de incitar as pessoas a se envolverem em danos, contexto linguístico e social relevante que indique o uso comum de linguagem forte/emocional para obter poder retórico, probabilidade de danos considerando o conhecimento local etc.). A empresa também pode contar com seus parceiros de confiança para ajudar a elaborar ou avaliar os critérios de moderação. A próprio Meta enfatizou a importância prática do Plano de Ação de Rabat para a moderação de conteúdo, tendo apoiado as Nações Unidas na tradução do Plano de Ação para 32 idiomas. Essa alavanca política deve permitir o "discurso figurado" no contexto de protestos contra o regime, desde que eles não tenham a intenção e a probabilidade de incitar a violência.

Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas

Neste caso, o Comitê considera que a remoção de acordo com os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas não foi necessária, pois a identidade da mulher retratada era amplamente conhecida e o conteúdo foi claramente publicado para chamar a atenção para sua prisão, na esperança de conseguir sua libertação. Além disso, vários comentaristas públicos destacaram que as mulheres que tiram o hijab em público o fazem propositalmente, como forma de protesto, e estão cientes das possíveis consequências, escolhendo "a rebeldia como uma oposição estratégica à autoridade" (veja o comentário público Tech Global Institute, PC-21009). A mulher do vídeo já havia sido identificada e presa pelo regime. Esta publicação foi compartilhada para chamar a atenção para essa prisão. Manifestantes e dissidentes detidos pelo regime foram torturados, submetidos à violência de gênero ou desapareceram. Os especialistas consultados pelo Comitê e vários comentaristas públicos observaram especificamente que essa prática, que chama a atenção para as prisões e pede a libertação de uma pessoa detida, é usada regularmente pelo movimento e pelos defensores dos direitos humanos no Irã e pode ajudar a proteger os indivíduos detidos pelo regime.

Equilibrar a necessidade de proteger as identidades de usuários vulneráveis e, ao mesmo tempo, evitar a censura para aqueles que desejam se expor é uma questão delicada e requer análise contextual, revisão oportuna e ação rápida.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de remover o conteúdo.

10. Recomendações

1. Aplicação

Para garantir o respeito à liberdade de expressão e de reunião dos usuários em um ambiente de repressão sistemática do Estado, a Meta deve adicionar uma alavanca política ao Protocolo de Política de Crise, que estabeleça que as declarações figuradas (ou não literais), sem intenção e sem probabilidade de incitar a violência, não violam a linha da Política sobre Violência e Incitação que proíbe ameaças de violência em contextos relevantes. Isso deve incluir o desenvolvimento de critérios para moderadores em escala sobre como identificar essas declarações no contexto relevante.

O Comitê considerará essa recomendação implementada quando a Meta compartilhar com ele métodos para implementar a alavanca política e os critérios resultantes para moderação no Irã.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em questão, uma pesquisa independente foi encomendada em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de seis continentes, e mais de 3.200 especialistas do mundo inteiro auxiliaram o Comitê. O Comitê também recebeu assistência da Duco Advisors, uma empresa de consultoria especializada na intercessão entre as áreas de geopolítica, confiança e segurança, e tecnologia. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 (trezentos e cinquenta) idiomas e trabalham de 5.000 (cinco mil) cidades pelo mundo, forneceu a consultoria linguística.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas