Slogan de protesto no Irã

Resumo do caso

O Comitê de Supervisão anulou a decisão original da Meta de remover uma publicação do Facebook protestando contra o governo iraniano, que contém o slogan "marg bar... Khamenei”. Isso se traduz literalmente como "morte a Khamenei", mas é frequentemente usado como retórica política para significar "abaixo Khamenei". O Comitê fez recomendações para proteger melhor o discurso político em situações críticas, como no Irã, onde protestos históricos e generalizados estão sendo violentamente reprimidos. Isso inclui permitir o uso geral de "marg bar Khamenei" durante protestos no Irã.

Sobre o caso

Em julho de 2022, um usuário do Facebook publicou conteúdo em um grupo público descrito como apoiador da liberdade no Irã. A publicação contém uma caricatura do líder supremo do Irã, o Aiatolá Khamenei, na qual sua barba forma um punho segurando uma mulher acorrentada e vendada usando um hijab. Uma legenda abaixo em farsi afirma "marg bar" ao "governo islâmico misógino" e "marg bar" ao seu "repugnante líder Khamenei”.

A tradução literal de "marg bar" é "morte a [alguém ou algo]". No entanto, também é usado retoricamente para significar "abaixo [alguém ou algo]". O slogan "marg bar Khamenei" foi usado com frequência durante os protestos no Irã nos últimos cinco anos, incluindo aqueles de 2022. O conteúdo neste caso foi publicado dias antes do "Dia Nacional do Hijab e da Castidade" do Irã, em torno do qual os críticos frequentemente organizam protestos contra o governo, inclusive contra as leis de uso obrigatório do hijab no Irã. Em setembro de 2022, Jina Mahsa Amini morreu sob custódia policial no Irã após sua prisão por "hijab impróprio". Sua morte provocou protestos generalizados que foram violentamente reprimidos pelo Estado. Esta situação estava em curso enquanto o Comitê deliberava sobre o caso.

Depois que a publicação foi denunciada por um usuário, um moderador concluiu que ela violava o Padrão da Comunidade de violência e incitação da Meta e a removeu, aplicando uma “advertência” e duas “restrições de recursos” à conta do autor. As restrições de recursos limitaram a criação de conteúdo e o envolvimento com grupos por 7 e 30 dias, respectivamente. O autor da publicação fez uma apelação à Meta, mas os sistemas automatizados da empresa encerraram o caso sem revisão. O usuário, então, fez uma apelação ao Comitê.

Depois que o Comitê selecionou o caso, a Meta revisou a decisão. Ela defendeu que o conteúdo violava o Padrão da Comunidade sobre violência e incitação, mas aplicou uma tolerância a conteúdo de interesse jornalístico e restaurou a publicação. Esse tipo de tolerância permite uma violação de conteúdo se a utilidade pública superar o risco de danos.

Principais conclusões

O Comitê conclui que a remoção da publicação não é compatível com os Padrões da Comunidade, os valores e as responsabilidades da Meta com relação aos direitos humanos.

O Comitê considera que essa publicação não violou o Padrão da Comunidade sobre violência e incitação, que proíbe ameaças que possam levar à morte ou violência de alta gravidade. Portanto, a aplicação de uma tolerância a conteúdo de interesse jornalístico era desnecessária. No contexto da publicação e da situação social, política e linguística mais ampla no Irã, "marg bar Khamenei" deve ser entendido como "abaixo Khamenei". É um slogan retórico e político, não uma ameaça real.

O Comitê enfatiza a importância do contexto na avaliação de slogans que pedem "morte a [alguém ou algo]" e considera impossível adotar uma regra universal sobre seu uso. Por exemplo, "marg bar Salman Rushdie" não pode ser equiparado a "marg bar Khamenei", dada a fatwa (decreto) contra Rushdie e os recentes atentados contra sua vida. As declarações de "morte a [alguém ou algo]" usadas durante eventos, como os tumultos de 6 de janeiro em Washington DC, também não seriam comparáveis, pois os políticos estavam claramente em risco, e as declarações de "morte a [alguém ou algo]" geralmente não são usadas como retórica política em inglês, como em outros idiomas.

A centralidade da linguagem e do contexto deve ser refletida nas políticas e orientações da Meta para moderadores. Isso é particularmente importante ao avaliar ameaças a chefes de Estado, que estão legitimamente sujeitos a críticas e oposição.

No contexto iraniano, o Comitê considera que a Meta deve fazer mais para respeitar a liberdade de expressão e permitir o uso de ameaças retóricas. O governo iraniano reprime sistematicamente a liberdade de expressão, e os espaços digitais se tornaram um fórum importante para dissidência. Em tais situações, é vital que a Meta suporte a voz dos usuários. Dado que o "Dia Nacional do Hijab e da Castidade" estava se aproximando, a Meta deveria ter antecipado questões envolvendo a remoção excessiva do conteúdo de protesto iraniano e preparado uma resposta adequada. Por exemplo, instruindo analistas "em grande escala" a não remover conteúdo que contivesse o slogan "marg bar Khamenei".

Como mostra este caso, não fazer isso levou ao silenciamento do discurso político destinado a proteger os direitos das mulheres, inclusive por meio de restrições de recursos, que podem excluir as pessoas dos movimentos sociais e do debate político. Comentários públicos enviados ao Comitê indicam que "marg bar Khamenei" foi amplamente usado durante os recentes protestos no Irã. Isso é apoiado por uma pesquisa independente encomendada pelo Comitê. Muitas dessas publicações teriam sido removidas sem o benefício da tolerância a conteúdo de interesse jornalístico, que a Meta raramente aplica (até junho de 2022, foi usada apenas 68 vezes globalmente).

O Comitê está preocupado porque a Meta está encerrando apelações automaticamente e o sistema usado para fazer isso não consegue identificar casos importantes. Ele recomenda que a empresa tome medidas para respeitar mais a liberdade de expressão durante protestos e em outros contextos políticos críticos.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de remover a publicação.

O Comitê recomenda que a Meta faça o seguinte:

• Altere o Padrão da Comunidade sobre violência e incitação para que ele reflita suas políticas com mais precisão. Isso deve incluir o fornecimento dos critérios usados ​​para determinar quando as ameaças retóricas contra chefes de Estado são permitidas. Esses critérios devem proteger o discurso político claramente retórico, usado em contextos de protesto, que não incita à violência e deve considerar a linguagem e o contexto.
• Ao aguardar as mudanças no Padrão da Comunidade sobre violência e incitação, emita orientações para seus analistas de que, no contexto de protestos no Irã, as declarações "marg bar Khamenei" não violam a política.
• É melhor errar por excesso de cautela emitindo tolerâncias escalonadas quando conteúdo potencialmente violador for usado durante protestos, for de utilidade pública e for improvável que resulte em violência.
• Analise os indicadores que usa para classificar as apelações para análise e para encerrá-las automaticamente sem análise para ajudar a identificar a manifestação de utilidade pública, particularmente aquela relacionada ao protesto.
• Anuncie todas as tolerâncias “amplas”, sua duração e aviso de vencimento.
• Explique "tolerância a conteúdo de interesse jornalístico" com mais detalhes na central de transparência, incluindo os critérios usados ​​para decidir se deve "escalar" uma tolerância.
• Explique publicamente seu processo de priorização automática e encerramento de apelações, incluindo os critérios que usa para isso.

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão revoga a decisão original da Meta de remover uma publicação no Facebook que protestava contra o histórico de direitos humanos do governo iraniano e suas leis sobre o hijab obrigatório (proteção para cabeça). A publicação contém uma caricatura do líder supremo do país, o Aiatolá Ali Khamenei, e a frase "marg bar [...] Khamenei", um coro de protesto que significa literalmente "morte a... Khamenei”, mas tem sido frequentemente usado como uma forma de expressão política no Irã, que também pode ser entendida como "abaixo [...] Khamenei". O Comitê concluiu que o conteúdo não violava a política sobre violência e incitação. Protestos em todo o país no Irã, desencadeados pelo assassinato de Jina Mahsa Amini, estavam sendo violentamente reprimidos pelo governo iraniano no momento da deliberação do Comitê.

A Meta reverteu sua decisão após ser informada de que o Comitê havia selecionado esse caso. A empresa defendeu que o conteúdo violava o Padrão da Comunidade sobre violência e incitação, mas restaurou o conteúdo usando a "tolerância a conteúdo de interesse jornalístico".

O caso levanta preocupações importantes sobre a política sobre violência e incitação da Meta e sua “tolerância a conteúdo de interesse jornalístico”. Também levanta preocupações sobre como as políticas da empresa podem impactar a liberdade de expressão e os direitos das mulheres no Irã e em outros lugares. O Comitê considera que a Meta não cumpriu suas responsabilidades de direitos humanos neste caso, em particular, para evitar erros que afetam negativamente a liberdade de expressão em contextos de protesto. O Comitê recomenda que a empresa analise seu Padrão da Comunidade sobre violência e incitação, suas diretrizes internas de implementação para moderadores e sua abordagem relacionada a conteúdo de tolerância a conteúdo de interesse jornalístico, a fim de respeitar a liberdade de expressão no contexto de protestos.

2. Descrição do caso e histórico

Em meados de julho de 2022, uma pessoa publicou em um grupo público do Facebook que é descrito como apoiador da liberdade do Irã, criticando o governo iraniano e o líder supremo do Irã, o Aiatolá Khamenei, particularmente o tratamento dispensado às mulheres e as rigorosas leis obrigatórias do hijab do Irã. A publicação foi feita dias antes o "Dia Nacional do Hijab e da Castidade" no país. O governo pretende que este dia seja uma celebração do hijab obrigatório, mas os críticos o usaram para protestar contra o hijab obrigatório e os abusos mais amplos do governo no Irã, inclusive online.

A publicação contém uma caricatura do Aiatolá Khamenei, na qual sua barba forma um punho segurando uma mulher de hijab, que está vendada com grilhões nos tornozelos. Um balão de texto ao lado da caricatura diz que ser mulher é proibido. Uma legenda abaixo em farsi diz: “marg bar hukumat-e zed-e zan-e eslami va rahbar-e kasifesh Khamenei”. O termo "marg bar" é traduzido literalmente como "morte a [alguém ou algo]". A legenda clama pela morte ao “anti-women Islamic government” (governo islâmico misógino) e ao seu “filthy leader Khamenei” (repugnante líder Khamenei). No entanto, em alguns contextos, "marg bar" é entendido como tendo um significado mais retórico equivalente a "abaixo". A publicação chama a República Islâmica de “the worst dictatorship in history” (a pior ditadura da história), em parte devido às restrições sobre as vestimentas das mulheres e pede para que elas não colaborem com a opressão.

No dia em que o conteúdo foi publicado, outra pessoa no Facebook o denunciou como discurso de ódio. Um dos analistas em grande escala da Meta avaliou a publicação como uma violação do Padrão da Comunidade sobre violência e incitação, que proíbe ameaças que possam levar à morte ou violência de alta gravidade contra outras pessoas. A Meta removeu o conteúdo, fazendo com que o autor recebesse uma advertência, que levou à imposição automática de restrições de 30 e de 7 dias à conta, conhecidas como "restrições de recursos”. Embora elas variem em natureza e duração, podem ser entendidas como medidas punitivas e preventivas que negam aos indivíduos o uso regular da plataforma para se expressar. A restrição de recursos de 30 dias impedia que o autor do conteúdo publicasse ou comentasse em grupos, convidasse novos membros para grupos ou criasse novos grupos, enquanto aquela de 7 dias impedia a criação de qualquer novo conteúdo em qualquer plataforma do Facebook, exceto o app Messenger. Quando seu conteúdo foi removido, o autor foi informado sobre a restrição de recursos de 7 dias por meio de notificações, mas não sobre a restrição de recursos de 30 dias relacionada ao grupo.

Horas após a Meta remover o conteúdo, o autor da publicação fez uma apelação da decisão. Os sistemas automatizados da Meta não priorizaram a apelação, que foi encerrado sem análise. O usuário recebeu uma notificação de que sua apelação não foi analisada devido a uma redução temporária na capacidade de análise devido à COVID-19. Depois, ele fez uma apelação da decisão de remoção da Meta ao Comitê de Supervisão.

Após ser informada de que o Comitê havia selecionado este caso, a Meta determinou que a decisão anterior de remover o conteúdo estava incorreta. Ela decidiu restaurar o conteúdo com base na tolerância a conteúdo de interesse jornalístico, embora a publicação violasse o Padrão da Comunidade sobre violência e incitação. Essa tolerância permite conteúdo que, de outra forma, violaria as políticas da Meta se a utilidade pública no conteúdo superar o risco de danos. O conteúdo foi restaurado em agosto, mais de um mês após ter sido publicado pela primeira vez, mas depois que o "Dia Nacional do Hijab e da Castidade" já havia passado. A Meta reverteu a advertência na conta da pessoa, mas as restrições que haviam sido aplicadas não puderam ser revertidas, pois já haviam expirado sua duração total.

Em setembro, a polícia de moralidade do governo iraniano prendeu Jina Mahsa Amini, de 22 anos, por usar um hijab "impróprio". Amini entrou em coma logo após desmaiar no centro de detenção e morreu três dias depois, enquanto estava sob custódia. Sua morte nas mãos do Estado provocou protestos pacíficos generalizados, que foram recebidos com extrema violência por parte do governo iraniano. Essa situação estava em curso enquanto o Comitê deliberava sobre o caso.

As Nações Unidaslevantaram preocupações sobre as forças de segurança iranianas usarem força ilegítima contra manifestantes pacíficos, matando e ferindo muitos, incluindo crianças, bem como detendo arbitrariamente manifestantes e impondo desligamentos da internet. As Nações Unidas reiteraram os apelos para a libertação dos manifestantes detidos, e o Conselho de Direitos Humanos da ONU convocou uma Sessão Especial em 24 de novembro para tratar da situação. A resolução adotada naquela sessão (A/HRC/Res/S-35/1) expressou “profunda preocupação” com “relatos de restrições nas comunicações [...] incluindo desligamentos da internet e bloqueio de plataformas de redes sociais, que prejudicam o exercício dos direitos humanos”. Ela pediu ao governo iraniano que parasse com todas as formas de discriminação e violência contra mulheres e meninas na vida pública e privada, que defendesse a liberdade de expressão e restaurasse totalmente o acesso à internet. O Conselho de Direitos Humanos da ONU também estabeleceu uma missão internacional independente de apuração dos fatos para investigar supostas violações de direitos humanos no Irã relacionadas aos protestos que começaram em 16 de setembro.

Comentários públicos e especialistas consultados pelo Comitê confirmaram que o slogan "marg bar Khamanei" estava sendo amplamente usado nesses protestos e online e havia sido utilizado em protestos no Irã em 2017, 2018, 2019 e 2021. Os comentários públicos geralmente incluíam percepções de que a Meta reforça suas políticas contra o conteúdo do idioma farsi durante os protestos, inclusive nos protestos mais recentes que foram liderados principalmente por mulheres e meninas. Essas percepções também se refletem na pesquisa da Memetica sobre dados da plataforma encomendada pelo Comitê, que descobriu que, de 1º de julho a 31 de outubro, 400 publicações públicas no Facebook e 1.046 publicações públicas no Instagram usaram a hashtag #MetaBlocksIranProtests.

As pessoas no Irã protestam pela igualdade de gênero e contra o hijab obrigatório desde pelo menos a revolução de 1979. O Código Penal Islâmico do Irã penaliza as mulheres que aparecem em público sem o “hijab adequado” com prisão ou multa. Elas são proibidas de frequentar certas áreas de estudo, muitos locais públicos, cantar e dançar, entre outras coisas. Os homens são considerados chefes de família, e as mulheres precisam da permissão do pai ou marido para trabalhar, casar ou viajar. O testemunho de uma mulher no tribunal é considerado como tendo metade do peso de um homem, limitando o acesso à justiça para as mulheres.

O governo iraniano reprime sistematicamente a liberdade de expressão. Embora os espaços online tenham se tornado um fórum importante para a dissidência, o governo também tomou medidas extremas para silenciar o debate. A defesa dos direitos humanos é um alvo comum, em particular a defesa dos direitos das mulheres, dissidência política, expressão artística e pedidos para que o governo seja responsabilizado pelas violações dos direitos humanos. O Facebook, Twitter e Telegram são proibidos no Irã desde 2009. O governo iraniano também bloqueou o acesso ao Instagram e ao WhatsApp em setembro de 2022 em meio a protestos pela morte de Amini. O Open Observatory of Network Interference documentou novas formas de censura e desligamentos da internet em várias partes do Irã durante os protestos. O uso de redes privadas virtuais (VPN) (ferramentas que criptografam as comunicações e podem ser usadas para contornar a censura) supostamente aumentou mais de 2.000% em setembro de 2022. Os comentários públicos recebidos pelo Comitê enfatizaram que as plataformas de redes sociais são uma das únicas ferramentas para as pessoas se expressarem livremente, dado o rígido controle do estado iraniano sobre a mídia tradicional. Os recursos avançados do estado para restringir a expressão online tornam o suporte às redes sociais particularmente precário. As redes sociais desempenham um papel crucial para garantir que as pessoas no Irã possam exercer seus direitos, principalmente em tempos de protesto.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário cujo conteúdo foi removido (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos). De acordo com o Artigo 3, Seção 5 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o Artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, segundo o Artigo 4 do Estatuto. As decisões do Comitê podem incluir pareceres consultivos sobre política, além de sugestões não vinculantes às quais a Meta deve responder, de acordo como Artigo 3, Seção 4 e o Artigo 4 do Estatuto. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

Quando o Comitê seleciona casos como este, em que a Meta posteriormente revisa sua decisão inicial, o Comitê concentra sua análise na decisão que recebeu uma apelação. Nesse caso, embora a Meta tenha reconhecido que o resultado da sua decisão inicial estava incorreto, posteriormente a revertendo, o Comitê observa que essa reversão se baseou na tolerância a conteúdo de interesse jornalístico, que está disponível apenas para as equipes de políticas internas da Meta, e não para moderadores de conteúdo trabalhando em grande escala. O caso não foi um "erro de monitoramento", já que o analista em grande escala removeu o conteúdo de acordo com as diretrizes internas que recebeu, embora, conforme observado abaixo, elas difiram de forma relevante dos Padrões da Comunidade voltados ao público.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e decisões precedentes fundamentaram a análise do Comitê neste caso:

I. Decisões do Comitê de Supervisão

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• Caso “Poema russo” (2022-008-FB-UA): Nesse caso, o Comitê recomendou que os detalhes das diretrizes internas de monitoramento sejam refletidos nas regras voltadas ao público nos Padrões da Comunidade.
• Caso “Menção do Talibã na divulgação de notícias” (2022-005-FB-UA): Nesse caso, o Comitê recomendou que a Meta divulgasse mais informações sobre seu sistema de advertências e abordou as preocupações sobre os efeitos das "restrições de recursos" sobre as pessoas em tempos de crise.
• Caso Cinto Wampum (2021-012-FB-UA): Nesse caso, o Comitê enfatizou a importância de examinar todo o conteúdo em busca de dicas contextuais e não remover publicações com base em uma frase descontextualizada.
• Caso “Protestos na Colômbia” (2021-010-FB-UA). Neste caso, que dizia respeito a protestos antigovernamentais, o Comitê reiterou que a Meta notificasse os usuários quando seu conteúdo fosse restaurado por uma tolerância de interesse jornalístico e recomendou ainda que ela desenvolvesse e publicasse critérios claros de encaminhamento e um processo para analisar conteúdo de potencial utilidade pública.

II. Políticas de conteúdo da Meta

O fundamento da política para o Padrão da Comunidade sobre violência e incitação explica que ele pretende “evitar possíveis danos no meio físico que possam estar relacionados ao conteúdo do Facebook”, embora reconheça que “as pessoas geralmente expressam desdém ou desacordo ameaçando ou pedindo violência de maneiras jocosas”. De acordo com essa política, a Meta não permite “ameaças que possam levar à morte (e outras formas de violência de alta gravidade", em que "ameaças" são definidas como incluindo “apelo à violência de alta gravidade” e “declarações que defendem a violência de alta gravidade”.

A análise do Comitê sobre as políticas de conteúdo foi fundamentada pelo compromisso com a voz da Meta, que a empresa descreve como "primordial", e seus valores de segurança e dignidade. Ao explicar seu compromisso com a voz, a Meta diz que “em alguns casos, permitimos conteúdo que de outra forma iria contra nossos padrões de interesse jornalístico e de utilidade pública”. Isso é conhecido como tolerância a conteúdo de interesse jornalístico, que está vinculado ao compromisso da Meta com a voz. A tolerância a conteúdo de interesse jornalístico é uma exceção à política geral aplicável a todos os Padrões da Comunidade. Para emitir a tolerância, a Meta realiza um teste de ponderação, avaliando a utilidade pública no conteúdo em relação ao risco de dano. A Meta diz que avalia se o conteúdo “gera uma ameaça iminente à saúde ou segurança pública, ou dá voz às perspectivas que estão sendo debatidas atualmente como parte de um processo político”. Tanto a avaliação da utilidade pública quanto a do dano levam em consideração as circunstâncias do país, como se uma eleição ou conflito está em andamento, se há imprensa livre e se os produtos da Meta são proibidos. A Meta afirma que não há presunção de que o conteúdo seja inerentemente de utilidade pública apenas com base na identidade do locutor, por exemplo, sua identidade como político. A empresa diz remover o conteúdo “mesmo que tenha algum grau de interesse jornalístico, quando ele apresenta risco de danos, como danos físicos, emocionais e financeiros, ou uma ameaça direta à segurança pública”.

III. Responsabilidades que a Meta tem com os direitos humanos

Os UN Guiding Principles on Business and Human Rights (Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, UNGPs, pelas iniciais em inglês), que contam com o apoio do Conselho de Direitos Humanos da ONU desde 2011, estabelecem uma estrutura voluntária de responsabilidades sobre direitos humanos das empresas privadas. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou seu compromisso com relação aos direitos humanos de acordo com os UNGPs. Ao analisar as responsabilidades da Meta com os direitos humanos no caso em questão, o Comitê levou em consideração as seguintes normas internacionais:

• Liberdade de expressão: Artigo 19 do Pacto Internacional dos Direitos Civis e Políticos, (PIDCP); Comentário geral n.º 34, Comitê de Direitos Humanos (2011). Resolução do Conselho de Direitos Humanos da ONU A/HRC/Res/23/2 sobre liberdade de expressão e empoderamento das mulheres (2013) e A/HRC/Res/S-35/1 (2022) sobre a deterioração da situação dos direitos humanos no Irã; Relatórios do relator especial da ONU sobre a liberdade de opinião e expressão: A/76/258 (2021), A/74/486 (2019), A/HRC/38/35 (2018) e A/HRC/44/49/Add.2 (2020).
• Proibição de incitação: Artigo 20, parágrafo 2 do PIDCP; Plano de Ação de Rabat, Alto Comissariado das Nações Unidas para os Direitos Humanos, relatório: A/HRC/22/17/Add.4 (2013).
• Igualdade e não discriminação com base em sexo e gênero para participação na vida política e pública: Artigo 2, parágrafo 1, e Artigos 25 e 26 do PIDCP; Artigos 2, 7 e 15 da Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher (CEDAW, pelas iniciais em inglês); Recomendação geral n.º 23 sobre a vida política e pública, Comitê do CEDAW, 1997.
• Direito de reunião pacífica: Artigo 21 do PIDCP; Comentário geral n.º 37, Comitê de Direitos Humanos, 2020.
• Liberdade de religião ou crença: Artigo 18 do PIDCP; Relator Especial da ONU sobre liberdade de religião ou crença, relatório: A/68/290, 2013.
• Direito à segurança das pessoas: Artigo 9 do PIDCP;
• Direito à vida: Artigo 6 do PIDCP.
• Direito ao recurso: Parágrafo 3 do artigo 2 do PIDCP;

5. Envios de usuário

Em seu apelo ao Comitê, a pessoa que escreveu a publicação compartilhou que pretendia aumentar a conscientização sobre como as pessoas no Irã estão sendo “abusadas” pela “ditadura” iraniana e que as pessoas “precisam saber sobre esse abuso” Para ela, a “decisão do Facebook é injusta e vai contra os direitos humanos”.

6. Envios da Meta

A Meta explicou que avaliar se a frase “death to” (morte a) um chefe de Estado constitui um discurso retórico em oposição a uma ameaça real é um desafio, principalmente em grande escala. Ela disse que tem havido muito debate interno e externo sobre este ponto e que acolheu a opinião do Comitê sobre onde determinar limites. A Meta também disse que gostaria de receber orientações sobre a elaboração de uma política que possa ser aplicada em grande escala.

Ela explicou ao Comitê que a frase “death to Khamenei” (morte a Khamenei) violava o Padrão da Comunidade sobre violência e incitação e esse foi o motivo pelo qual o conteúdo foi inicialmente removido. Os Padrões da Comunidade estão disponíveis em farsi desde fevereiro de 2022.

De acordo com a Meta, a política proíbe “apelos de morte de um chefe de Estado” Atualmente, ela distingue apelos de violência letal em que o locutor expressa a intenção de agir (por exemplo, “vou matar X”), que é um conteúdo violador, do conteúdo que expressa desejo ou esperança de que alguém morra sem expressar intenção de agir (por exemplo, "espero que X morra" ou "morte a X"). Este último geralmente não é uma violação, porque a Meta considera que a palavra "morte" “não é em si um método de violência”. A Meta geralmente considera isso uma “linguagem hiperbólica”, em que o falante não pretende incitar a violência.

No entanto, a diretriz interna instrui os moderadores a remover as declarações de “morte a” quando o alvo é uma “pessoa de alto risco”. A diretriz é chamada de “Perguntas conhecidas” e inclui uma lista confidencial de categorias de pessoas (e não indivíduos nomeados) que a Meta considera de alto risco. Essencialmente, as remoções da Meta em grande escala são estereotipadas: a combinação de [“morte para”] com [alvo de alto risco] resultará em remoção, mesmo que outro contexto indique que a expressão é hiperbólica ou retórica e, portanto, semelhante ao discurso permitido contra outros alvos. Chefes de Estado são listados como pessoas de alto risco, e a empresa explicou que isso se deve ao “risco potencial de segurança” contra eles.

A Meta disse ainda que desenvolveu uma lista (em expansão) de pessoas de alto risco com base no feedback das suas equipes de políticas, bem como de especialistas externos. Ela forneceu a lista completa ao Comitê. Além dos chefes de Estado, outros exemplos de pessoas de “alto risco” incluem: ex-chefes de Estado; candidatos e ex-candidatos ao cargo; candidatos em eleições nacionais e supranacionais até 30 dias após a eleição se não eleitos; pessoas com histórico de tentativas de assassinato; ativistas e jornalistas.

Depois de ser informada de que o caso foi escolhido pelo Comitê, a Meta reconsiderou sua decisão e decidiu restaurar o cargo com base na tolerância a conteúdo de interesse jornalístico. Embora a empresa afirmasse que o conteúdo violava suas políticas, restaurá-lo era o certo a se fazer porque “o valor de utilidade pública superava qualquer risco de contribuir para danos no meio físico”. A Meta informou anteriormente ao Comitê que o tipo de análise contextual que suas equipes de políticas podem realizar para chegar a decisões em grande escala não está amplamente disponível para moderadores, os quais devem seguir diretrizes internas.

Nesse caso, a empresa determinou que o nível da utilidade pública era alto, pois a publicação estava relacionada ao discurso público sobre as leis obrigatórias do hijab e criticava o tratamento dado pelo governo às mulheres. Ela considerou que a charge é de natureza política e que as imagens poderiam ser uma crítica ao uso da religião para controlar e oprimir as mulheres, dado o significado religioso das barbas para alguns praticantes do Islã. O contexto político e o momento da publicação foram importantes, na véspera do “Dia Nacional do Hijab e da Castidade”, em meados de julho, uma vez que a Meta notou que muitas pessoas estavam usando hashtags nas redes sociais para organizar protestos. A empresa citou o caso “Protestos na Colômbia” do Comitê em apoio à sua avaliação de utilidade pública e apontou para o histórico do governo iraniano de suprimir a liberdade de expressão e a interrupção da internet,

bem como determinou que a utilidade pública superava o risco de danos no meio físico, que era baixo. Ficou claro para Meta que o autor do conteúdo não pretendia convocar uma ação violenta contra o Aiatolá Khamenei, mas sim criticar as políticas misóginas do governo. Nessa situação, a empresa deu mais peso ao significado retórico de “marg bar” como “abaixo”, observando seu uso frequente como forma de expressão política no Irã. Restaurar o conteúdo foi, para a Meta, coerente com os seus valores de voz e segurança.

Ela explicou ao Comitê que possui duas categorias de tolerância a conteúdo de interesse jornalístico: “limitada” e “ampla”. Nesse caso, a empresa aplicou uma tolerância limitada, que apenas restaura parte do conteúdo e não tem efeito sobre outros conteúdos, mesmo que sejam idênticos. Uma tolerância “ampla”, por outro lado, aplica-se a todos os usos de uma frase que, de outra forma, violaria a política, independentemente da identidade do autor. Tolerâncias amplas são normalmente de duração limitada. Ambos os tipos de tolerâncias só podem ser emitidos pelas equipes internas de política da Meta; um moderador de conteúdo que analisa as publicações em grande escala não pode emitir tais tolerâncias, mas pode encaminhar o conteúdo para as equipes internas da empresa.

A Meta explicou que concedeu três vezes a tolerância a conteúdo de interesse jornalístico ampla para a frase “morte a Khamenei”, primeiro durante os protestos contra o preço do combustível em 2019 no Irã, segundo no contexto da eleição iraniana de 2021 e terceiro relacionado a protestos contra a escassez de água em 2021. No entanto, nenhuma tolerância ampla foi emitida para permitir essas declarações desde o início dos protestos contra os hijabs obrigatórios em 2022.

A Meta divulgou ao Comitê que ficou mais hesitante em conceder tolerâncias amplas e prefere aplicar tolerâncias limitadas caso a caso. Isso se deve a “críticas públicas” da empresa por permitir temporariamente declarações de “morte a” em uma situação de crise anterior. Em resposta aos questionamentos do Comitê, a Meta esclareceu que não publica as tolerâncias a conteúdo de interesse jornalístico que emite, e também divulgou o número de vezes que emitiu tolerâncias a conteúdo de interesse jornalístico amplas globalmente para conteúdo que, de outra forma, violaria a política sobre violência e incitação nos 12 meses até 5 de outubro de 2022, mas solicitou que esses dados fossem mantidos em sigilo, pois não poderiam ser validados para divulgação no tempo disponível.

O Comitê perguntou à Meta quanto conteúdo teria sido impactado se a empresa tivesse emitido uma tolerância a conteúdo de interesse jornalístico ampla para permitir declarações de “morte a Khamenei”. A Meta disse que isso não pode ser determinado com precisão sem avaliar cada publicação em busca de outras violações. Embora a empresa tenha fornecido ao Comitê dados sobre o uso de hashtags “morte a Khamenei” entre meados de julho e início de outubro de 2022, ela solicitou que os dados fossem mantidos em sigilo, pois não poderiam ser validados para divulgação no tempo disponível.

Ainda que a Meta não tenha emitido uma tolerância a conteúdo de interesse jornalístico ampla para declarações “marg bar Khamenei”, a empresa divulgou que, em 23 de setembro de 2022, dez dias após o assassinato de Jina Mahsa Amini, emitiu uma tolerância a conteúdo de “espírito de política” para a frase “I will kill whoever kills my sister/brother” (Vou matar qualquer um que matar minha irmã/meu irmão). Essa tolerância ampla ainda estava em vigor quando o Comitê estava deliberando sobre este caso.

Nesse caso, o autor da publicação recebeu uma “advertência” pelo conteúdo dele ter sido avaliado como infrator. A Meta divulgou que, em maio de 2022, emitiu orientação de que os slogans “marg bar Khamenei” deveriam ser removidos por violar o Padrão da Comunidade sobre violência e incitação, mas não deveriam resultar em advertência. Ela explicou que isso visava mitigar o impacto da remoção de conteúdo com algum valor de utilidade pública, embora não o suficiente para compensar o risco de danos e garantir uma tolerância a conteúdo de interesse jornalístico. A orientação ainda estava em vigor quando o Comitê finalizou sua decisão. A Meta explicou que essa orientação é diferente de uma tolerância a conteúdo de interesse jornalístico, pois não afeta a decisão de remover o conteúdo e se aplica apenas à penalidade aplicada. Em resposta às perguntas do Comitê, ela disse que o autor do conteúdo nesse caso não se beneficiou da isenção de penalidade porque está disponível apenas para decisões de conteúdo feitas pelas equipes internas “em grande escala”. Como a publicação nesse caso foi avaliada como violadora por um moderador de conteúdo em grande escala, uma advertência foi emitida automaticamente, e, levando em consideração as diversas advertências anteriores, foram aplicadas "restrições de recursos" correspondentes. Em resposta às publicações do Comitê, a Meta divulgou que o usuário foi notificado sobre a restrição de recursos de 7 dias, mas não sobre aquela de 30 dias relacionada ao grupo. Dessa forma, o usuário só descobriria sobre a restrição de recursos de 30 dias se acessasse a seção de status da sua conta ou se tentasse realizar uma ação restrita relacionada a um grupo. Em resposta às recomendações anteriores do Comitê de Supervisão, a Meta forneceu mais informações publicamente sobre a operação do seu sistema de advertências e as penalidades de conta resultantes. Na finalização dessa decisão, a Meta também informou ao Comitê que, em resposta às recomendações no caso "Menção do Talibã na divulgação de notícias", aumentaria o limite de advertências para a imposição de penalidades “somente leitura” e atualizaria a central de transparência com essas informações.

Ela explicou que a apelação da decisão inicial de remoção feita pelo autor não atendeu aos critérios de priorização e foi automaticamente encerrada sem análise. Em resposta às perguntas do Comitê, a Meta forneceu mais explicações sobre suas capacidades de análise de conteúdo farsi. Ela explicou que os Padrões da Comunidade estão disponíveis no site da empresa em farsi desde fevereiro de 2022. A Meta compartilhou que, para mercados de “maior risco”, como o persa, que são caracterizados, por exemplo, por picos de volume recorrentes devido a eventos do mundo real, ou mercados com “longos prazos de entrega necessários para aumentar a capacidade”, ela aloca mais recursos de moderação de conteúdo para que possa lidar com qualquer situação de crise que surja.

A empresa citou os direitos humanos à liberdade de expressão (Artigo 19 do PIDCP), direito de reunião (Artigo 21 do PIDCP) e o direito de participar de assuntos públicos (Artigo 25 do PIDCP) em apoio à sua decisão revisada. Ao mesmo tempo, ela reconheceu que precisa de regras claras para cumprir, em grande escala, o objetivo legítimo da política de violência e incitação de proteger os direitos de outras pessoas contra ameaças de violência. A Meta disse ao Comitê que a “aplicação dessas regras claras às vezes resulta na remoção do discurso que, em grande escala, podemos concluir (como fizemos neste caso) não conter uma ameaça real”. Ela explicou que monitora continuamente as tendências nas suas plataformas para proteger o discurso político que, de outra forma, poderia violar as políticas e que, no passado, fez mais uso de tolerâncias amplas. A empresa solicitou a opinião do Comitê sobre quando conceder esses tipos de tolerâncias e quais critérios deveria considerar ao fazê-lo.

O Comitê fez 29 perguntas à Meta por escrito. Questões relacionadas a: critérios e processo para emissão de exceções de política em grande escala; encerramento automático de apelações; medidas tomadas pela Meta para proteger os direitos dos usuários durante os protestos; capacidade de análise de conteúdo da empresa em países onde seus produtos são proibidos; e processos ou critérios alternativos que a Meta considerou para permitir efetivamente a expressão de política retórica não ameaçadora em grande escala. 26 perguntas foram respondidas totalmente e três, parcialmente. Respostas parciais foram emitidas para perguntas sobre: ​comparação de ​dados de encerramento automático de apelações para conteúdo nos idiomas farsi e inglês; prevalência de diversas variações do slogan "morte a Khamenei" nas plataformas da Meta e taxas de precisão na aplicação da política sobre violência e incitação em farsi.

7. Comentários públicos

O Comitê de Supervisão recebeu 162 comentários públicos relacionados a esse caso. 13 deles foram enviados da Ásia-Pacífico e Oceania, 6 da Ásia Central e Meridional, 42 da Europa e 36 do Oriente Médio e Norte da África. 65 comentários foram enviados dos Estados Unidos e Canadá. Os envios abordaram os seguintes temas: distinção entre retórica política e incitação; importância do contexto, em particular para linguagem e imagens ao moderar conteúdo; limitações da tolerância a conteúdo de interesse jornalístico em lidar com violações de direitos humanos e excesso de confiança na tomada de decisão automatizada; e liberdade de expressão, direitos humanos, direitos das mulheres, repressão governamental e proibições das redes sociais no Irã.

Para ler os comentários públicos enviados sobre este caso, clique aqui.

8. Análise do Comitê de Supervisão

O Comitê examinou se esse conteúdo deveria ser restaurado analisando as políticas de conteúdo, responsabilidades e valores de direitos humanos da Meta.

O Comitê selecionou esse caso porque oferecia potencial para explorar como a Meta avalia as críticas às autoridades governamentais e se os chefes de Estado em certos países recebem proteção ou tratamento especial, bem como questões importantes sobre a defesa dos direitos das mulheres e a participação das mulheres na vida pública. Além disso, esse conteúdo levanta questões sobre críticas a figuras políticas por meio de discurso retórico que também pode ser interpretado como ameaçador, além do uso da tolerância a conteúdo de interesse jornalístico. O caso oferece ao Comitê a oportunidade de discutir os procedimentos internos da Meta, que determinam quando e por que as exceções de política devem ser concedidas, e como as políticas e suas exceções devem ser aplicadas. O caso enquadra-se principalmente nas eleições do Comitê e na prioridade do espaço cívico, mas também aborda as prioridades do Comitê quanto a gênero, relação entre a Meta e governos, situações de crise e conflito, e tratamento justo dos usuários.

8.1 Conformidade com as políticas de conteúdo da Meta

I. Regras sobre conteúdo

a. Violência e incitação

O Comitê considera que o conteúdo nesse caso não viola o Padrão da Comunidade sobre violência e incitação. Portanto, não foi necessário que a Meta aplicasse a tolerância a conteúdo de interesse jornalístico à publicação.

Essa conclusão é corroborada pela análise que a empresa realizou ao revisar sua decisão depois que o Comitê selecionou o caso. O fundamento da política explica que a Meta pretende “evitar possíveis danos no meio físico” e “remove a linguagem que incita ou facilita a violência grave” Sob o título “Não publique”, o Padrão da Comunidade proíbe ameaças “que podem levar à morte ou violência de alta gravidade”. No entanto, a diretriz interna indica que, geralmente, declarações de “morte a” contra quaisquer alvos, incluindo indivíduos nomeados, são permitidas nas plataformas da Meta e não constituem violação dessa regra, exceto quando o alvo da declaração de “morte a” é uma “pessoa de alto risco”. Ela instrui os analistas a tratar declarações de “morte a” contra “pessoas de alto risco” como violação, independentemente de outras dicas contextuais. Além disso, as regras em “Não publique” voltadas ao público no Padrão da Comunidade sobre violência e incitação não refletem essa diretriz interna e, portanto, não proíbem expressamente declarações de “morte a” direcionadas a indivíduos de alto risco, incluindo chefes de Estado.

A análise do conteúdo pela Meta descobriu que ele apresentava um baixo risco de danos no meio físico; que não pretendia pedir a morte do Aiatolá Khamenei e que o slogan “morte a Khamenei” tem sido frequentemente usado como uma forma de expressão política no Irã, que é mais bem entendida como “abaixo Khamenei”. Isso deveria ter sido suficiente para a Meta considerar o conteúdo não violador e permitir que a publicação e outros conteúdos semelhantes permanecessem na plataforma. O Comitê está preocupado com o fato de a empresa não ter tomado medidas para permitir o uso de “marg bar Khamenei” em grande escala durante os atuais protestos no Irã, apesar de sua avaliação de que o slogan não representava risco de dano.

Especialistas linguísticos consultados pelo Comitê confirmaram que o slogan “marg bar Khamenei” é comumente usado no país, especialmente durante protestos, como uma crítica ao regime político e ao Líder Supremo do Irã, e não como uma ameaça à segurança do Aiatolá Khamenei. A publicação precedeu por vários dias o “Dia Nacional do Hijab e da Castidade”, durante o qual Meta observou um aumento no uso das redes sociais no Irã para organizar protestos.

Nesse contexto, o slogan deveria ter sido interpretado como uma expressão retórica, significando “abaixo” Khamenei e o governo iraniano. Não se enquadrava, portanto, na regra sobre “ameaças que poderiam levar à morte” e não defendia ou pretendia causar violência de alta gravidade contra o alvo. O Comitê observa que declarações “abaixo” contra um alvo são permitidas pelas políticas da Meta, independentemente da identidade desse alvo. Isso é consistente com o compromisso da empresa com a voz e a importância de proteger o descontentamento político. Não há “risco genuíno de lesões corporais” ou “ameaças diretas à segurança pública”, que é o que a política pretende evitar. Em vez disso, o conteúdo cai diretamente na categoria de declarações por meio das quais as pessoas “comumente expressam desdém ou desacordo, ameaçando ou pedindo violência de maneiras jocosas”.

A diretriz interna da Meta para moderadores favorece a remoção de declarações de “morte a” dirigidas a “pessoas de alto risco”. Isso se aplicaria ao Aiatolá Khamenei, como chefe de Estado. Essa regra, embora não seja pública, é consistente com o fundamento da política que coloca essas pessoas em maior risco. No entanto, sua aplicação nesse caso não é. O fundamento da política do Padrão da Comunidade sobre violência e incitação afirma que a linguagem e o contexto de uma declaração específica devem ser considerados para determinar se uma ameaça é real. Isso não ocorreu no presente caso, pois a presunção declarada foi aplicada independentemente do idioma e do contexto, embora o Comitê observe que o analista agiu de maneira consistente com a diretriz interna. Como a Meta reconheceu mais tarde, vários elementos da publicação e o contexto mais amplo em que foi publicada deixam claro que não era uma ameaça real, mas que empregava uma retórica política. A decisão do Comitê no caso “Cinto Wampum” é relevante aqui. Nessa decisão, o Comitê considerou que uma frase aparentemente infratora “kill the Indian” (matar o índio) não deveria ser lida isoladamente, mas no contexto da publicação completa, que deixou claro que não era uma ameaça de violência, mas uma oposição a ela. Da mesma forma, no caso “Poema russo”, o Comitê concluiu que vários trechos de um poema (por exemplo, “kill a fascist” [mate um fascista]) não constituíam uma violação, pois a publicação usava discurso retórico para chamar a atenção para um ciclo de violência, e não incitá-la.

Na presente redação da diretriz interna, o Comitê entende por que o moderador de conteúdo tomou aquela decisão. No entanto, a Meta deve atualizá-la para que seja mais consistente com o fundamento da política declarado. O Comitê concorda que "morte a" ou declarações ameaçadoras semelhantes dirigidas a pessoas de alto risco devem ser removidas devido ao risco potencial à segurança delas. Embora o Comitê também concorde que os chefes de Estado podem ser considerados pessoas de alto risco, essa presunção deve ser analisada segundo a diretriz interna da Meta. Por esses motivos, ele também considera que a remoção do conteúdo não era consistente com o compromisso da empresa com a voz e não era necessária para promover a segurança. A Meta deveria ter emitido uma diretriz em grande escala que instruía os moderadores a não remover esse slogan de protesto por padrão e, portanto, não remover essa publicação durante a análise em grande escala.

b. Tolerância a conteúdo de interesse jornalístico

A avaliação do Comitê confirmou que o Padrão da Comunidade sobre violência e incitação não foi violado e que a tolerância a conteúdo de interesse jornalístico não era necessária. Não obstante essa conclusão, o Comitê considera que, quando a Meta optou por aplicar uma tolerância a conteúdo de interesse jornalístico a essa publicação, ela deveria ter sido escalada para se aplicar a todos os slogans “marg bar Khamenei”, independentemente do orador. Isso foi feito em resposta a vários protestos generalizados anteriores semelhantes no Irã. Na visão do Comitê, essas ações eram mais consistentes com o compromisso da Meta de dar voz do que com a ação que a empresa tomou ao analisar sua decisão nesse caso. Muitas outras pessoas estão na mesma situação que o usuário, então a tolerância a conteúdo de interesse jornalístico não deveria ter sido limitada a uma publicação individual. Encaminhar a decisão foi necessário dada a importância das redes sociais para protestar no Irã, a situação dos direitos humanos no país e o fato de que a Meta deveria razoavelmente ter antecipado que o mesmo problema se repetiria muitas vezes. A não aplicação de uma tolerância ampla teve o efeito de silenciar o discurso político destinado a proteger os direitos das mulheres, removendo o que o Comitê concluiu ser um discurso não violador.

As críticas ao uso de tolerâncias pela empresa para permitir declarações de “morte a” violadoras em relação à invasão russa da Ucrânia não deveriam, na opinião do Comitê, ter levado a Meta a reduzir o uso de tolerâncias amplas em contextos de protesto. A situação no Irã diz respeito a um governo que viola os direitos humanos dos seus próprios cidadãos, enquanto reprime protestos e limita severamente o fluxo livre de informações. Teria havido muitos milhares de usos do slogan “marg bar Khamenei” nos últimos meses nas plataformas da Meta. Pouquíssimas publicações, além do conteúdo nesse caso, teriam se beneficiado de uma tolerância a conteúdo de interesse jornalístico, que, embora seja frequentemente enquadrada como um mecanismo para proteger o discurso de utilidade pública, tem uso relativamente raro considerando o escopo global das operações da Meta. De acordo com a Meta, apenas 68 tolerâncias a conteúdo de interesse jornalístico foram emitidas em todas as políticas globalmente entre 1º de junho de 2021 e 1º de junho de 2022.

Na opinião do Comitê, em contextos de protestos generalizados, a empresa deveria ser menos relutante em aumentar as tolerâncias. Isso ajudaria a proteger a voz em casos em que há riscos mínimos para a segurança. Isso é particularmente importante onde violações sistemáticas dos direitos humanos foram documentadas e as possibilidades de exercício do direito à liberdade de expressão são limitadas, como no Irã.

II. Ação de monitoramento

O impacto das “restrições de recursos” nos indivíduos durante os períodos de protesto é especialmente grave. Elas dificultam a capacidade das pessoas de usar a plataforma para expressar a voz quase inteiramente. Eles podem excluir as pessoas dos movimentos sociais e do discurso político em momentos críticos, potencialmente prejudicando os apelos à ação que ganham força por meio dos produtos da Meta. A empresa pareceu reconhecer isso parcialmente em maio de 2022, emitindo instruções para suas equipes de encaminhamento de não emitir advertências por declarações de “marg bar Khamenei”. No entanto, essa medida não se destinava a ser aplicada a decisões tomadas por moderadores em grande escala. Quando o mesmo conteúdo é avaliado como violador em grande escala (ou seja, pelos moderadores terceirizados da Meta), as advertências resultam automaticamente na conta do autor da publicação. Um analista em grande escala normalmente não tem poder de suspender uma advertência ou penalidades resultantes; isso não mudou quando a Meta emitiu a exceção limitada em maio. Somente as decisões de conteúdo que chegassem às equipes de encaminhamento poderiam ter uma advertência por violação de conteúdo suspensa. Isso pode ter se aplicado a conteúdo ou contas que passaram por programas como verificação cruzada, que permitem que o conteúdo dos usuários seja revisado antes da remoção. Contas de alto nível podem ter se beneficiado dessa exceção, mas não o autor da publicação deste caso.

O Comitê também se preocupa com o fato de o autor não ter sido suficientemente notificado de que as restrições de recursos foram aplicadas, principalmente nos recursos relacionados ao grupo. Ele só se tornou ciente disso na primeira vez que tentou usar os recursos relevantes. Isso agrava as frustrações dos usuários por serem colocados na “geladeira do Facebook”, em que a natureza da punição e as razões para isso muitas vezes são desconhecidas. No caso “Menção do Talibã na divulgação de notícias”, o Comitê expressou preocupações semelhantes quando um usuário foi impedido de usar totalmente sua conta em um momento político crucial. Segundo a Meta, esse problema já é conhecido pela empresa e, seguindo as recomendações anteriores do Comitê, as equipes internas relevantes estão trabalhando para melhorar sua infraestrutura de comunicação com o usuário sobre esse assunto.

O Comitê parabeniza o fato de a Meta ter progredido na implementação de outras recomendações no caso "Menção do Talibã na divulgação de notícias" e que o limite de advertências para a imposição de algumas restrições de recursos aumentará. Consideramos refletir essas mudanças na explicação sobre as práticas de aplicação da Meta na Central de Transparência uma boa prática.

O Comitê observa que o autor da publicação neste caso não teve sua apelação analisada e recebeu notificações enganosas sobre os motivos disso. Isso é preocupante. A Meta anunciou publicamente que a empresa está adotando a automação para priorizar o conteúdo para análise. As apelações são encerradas automaticamente sem análise se não atenderem a um limite definido em relação a vários sinais, incluindo o tipo e o efeito viral do conteúdo, se não for uma violação de gravidade extremamente alta, como conteúdo suicida, e o tempo decorrido desde que o conteúdo foi publicado. O Comitê está preocupado com o encerramento automático de apelações da Meta e com o fato de que os sinais de priorização que a empresa está aplicando podem não ser suficientes para expressar a utilidade pública, principalmente quando se trata de protestos. Os sinais devem incluir apelações como sensibilidade ao tópico e probabilidade de falso positivo para ajudar a identificar conteúdos dessa natureza para evitar que apelações contra decisões errôneas sejam encerradas automaticamente. Isso é especialmente importante quando, como resultado da aplicação incorreta das suas políticas, os usuários são impedidos de usar os principais recursos dos produtos da Meta em momentos políticos cruciais.

III. Transparência

O Comitê parabeniza o aumento de dados e exemplos que a Meta está fornecendo exceções de tolerância a conteúdo de interesse jornalístico limitada na Central de Transparência. Essas divulgações seriam aprimoradas ainda mais com a distinção entre as tolerâncias “ampla” e “limitada” que a empresa concede anualmente nos seus relatórios de transparência. Fornecer exemplos de tolerâncias a conteúdo de interesse jornalístico “em grande escala” também ajudaria a Meta a entender as etapas que deve tomar para proteger a voz do usuário. Em momentos-chave, como os protestos no Irã, a Meta deve divulgar quando as tolerâncias a conteúdo de interesse jornalístico amplas são emitidas no momento, para que as pessoas entendam que seu discurso será protegido.

8.2 Conformidade com as responsabilidades que a Meta tem com os direitos humanos

O Comitê conclui que a decisão inicial da Meta de remover o conteúdo não está de acordo com suas responsabilidades de direitos humanos como empresa.

Liberdade de expressão (Artigo 19 do PIDCP)

O Artigo 19 do PIDCP fornece proteção “particularly high” (particularmente alta) para “public debate concerning public figures in the political domain and public institutions” (debate público sobre figuras públicas no domínio político e instituições públicas) (Comentário Geral n.º 34, parágrafo 38). Restrições extremas à liberdade de expressão e reunião no Irã tornam especialmente crucial que a Meta respeite esses direitos, em particular em momentos de protesto (decisão do caso “Protestos na Colômbia”; Comentário geral n.º 37, parágrafo 31. A expressão neste caso foi artística e um protesto político. Estava relacionada ao discurso sobre os direitos das mulheres, a participação delas na vida política e pública, e liberdade de religião ou crença. O Comitê reconheceu a importância do discurso de protesto contra um chefe de Estado, mesmo quando é ofensivo, já que está “legitimamente sujeito a críticas e oposição política”, conforme o caso “Protestos na Colômbia”); Comentário geral n.º 34, parágrafos 11 e 38. A liberdade de expressão na forma de arte protege “charges que esclarecem posições políticas” e “memes que zombam de figuras públicas”, parágrafo 5 do A/HRC/44/49/Add.2.

Quando um Estado restringe a expressão, isso deve atender aos requisitos de legalidade, objetivo legítimo, necessidade e proporcionalidade (Artigo 19 do PIDCP, parágrafo 3). O Comitê usa esse teste de três partes para interpretar os compromissos voluntários de direitos humanos da Meta, tanto para a decisão de conteúdo individual quanto para o que isso diz sobre a abordagem mais ampla da empresa quanto a governança de conteúdo. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora "as empresas não tenham obrigações governamentais, seu impacto exige a avaliação do mesmo tipo de questões sobre a proteção do direito dos usuários à liberdade de expressão” (A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade conforme a legislação internacional sobre direitos humanos exige que as regras usadas para limitar a expressão sejam claras e acessíveis (Comentário Geral n.º 34, parágrafo 25). Isso também exige que as regras que restringem a expressão “possam não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e “forneçam instrução suficiente aos encarregados de sua execução para permiti-lhes determinar quais tipos de expressão são propriamente restritas e quais tipos não são” (Ibid). Quanto aos Padrões da Comunidade, o Relator Especial da ONU sobre liberdade de expressão disse que eles deveriam ser claros e específicos (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

A empresa foi elogiada por garantir que suas políticas de conteúdo fossem traduzidas para mais idiomas, incluindo farsi, de acordo com as decisões anteriores do Comitê.

As diretrizes internas da Meta (as “Perguntas Conhecidas”) quanto à sua política sobre violência e incitação contêm presunções de risco que não estão atualmente na política voltada para o público. O Padrão da Comunidade não contém a explicação contida nas diretrizes internas de que uma declaração de “morte a X” é geralmente permitida, exceto quando o “alvo” é uma “pessoa de alto risco”. Também é uma grande preocupação que essa presunção oculta também tenha uma exceção não pública, em particular no que se refere à expressão que pode ser uma crítica política legítima de agentes estatais. O Comitê observa ainda que não há exemplos de "pessoas de alto risco" no Padrão da Comunidade voltado para o público, portanto, não se sabe se os chefes de Estado recebem essa proteção específica. De fato, o fundamento para incluir alguns funcionários públicos de alto escalão na lista interna e não outros, como membros do legislativo e do judiciário, não é claro. Ao mesmo tempo, o Comitê reconhece que pode haver boas razões para não divulgar publicamente a lista completa de alvos de alto risco, em particular para indivíduos que não contam com a proteção do aparato de segurança do Estado. No fundamento da política para o Padrão da Comunidade sobre violência e incitação, que é público, a Meta afirma que considera “a linguagem e o contexto” para diferenciar o conteúdo que contém uma “ameaça real à segurança pública ou pessoal e “declarações casuais”. No entanto, a seção “Não publique” da política não explica como a linguagem e o contexto influenciam na avaliação de ameaças e apelos à morte ou violência de alta gravidade. Enquanto o fundamento da política parece acomodar o discurso retórico que pode ser esperado em contextos de protesto, as regras escritas e as orientações correspondentes aos analistas não o consideram. Na prática, a aplicação, particularmente em grande escala, é mais estereotipada do que as regras implicam, e isso pode criar percepções errôneas para os usuários sobre como elas serão aplicadas. A orientação aos analistas, conforme o texto atual, exclui a possibilidade de análise contextual, mesmo quando há indícios claros no próprio conteúdo de que a linguagem ameaçadora é retórica.

A política sobre violência e incitação requer análise, assim como as diretrizes internas da Meta. Ela deve incluir uma explicação de como a empresa modera ameaças retóricas, incluindo declarações de “morte a” contra “pessoas de alto risco” e como a linguagem e o contexto são levados em consideração nas avaliações de se uma ameaça contra um chefe de Estado é real segundo a política sobre violência e incitação. A orientação interna deve considerar especialmente contextos de protesto em que a proteção do discurso político é crucial. As presunções descritas nas diretrizes internas devem ser diferenciadas e seguir essa regra.

Embora a Meta tenha fornecido mais explicações públicas sobre a tolerância a conteúdo de interesse jornalístico, a falta de explicação pública sobre as tolerâncias “amplas” gera dúvidas. A Meta deve fazer um comunicado público quando emitir uma tolerância ampla em eventos como os protestos no Irã, especificando sua duração ou anunciando quando essas exceções forem suspensas. Isso ajudaria as pessoas que usam as plataformas a entender qual expressão é permitida. Esses comunicados são momentos oportunos para lembrar os usuários das plataformas da Meta da existência das regras, e conscientizá-los e entendê-los. Isso é especialmente importante quando as alterações têm impactos materiais na capacidade dos usuários de se expressarem na plataforma.

II. Objetivo legítimo

As restrições à liberdade de expressão devem ter um objetivo legítimo. O Padrão da Comunidade sobre violência e incitação visa “evitar possíveis danos no meio físico” ao remover conteúdo que represente “um risco genuíno de lesões corporais ou ameaças diretas à segurança pública”. Esta política, portanto, atende ao objetivo legítimo de proteger o direito à vida e à segurança pessoal (Artigos 6 e 9 do PIDCP);

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade diz que qualquer restrição à liberdade de expressão “seja apropriada para cumprir sua função protetora; seja o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora; [e] seja proporcional ao interesse a ser protegido” ( Comentário Geral n.º 34 ,parágrafo 34).

O Comitê considera que a remoção desse conteúdo não era necessária para proteger o Aiatolá Khamenei da violência ou de ameaças. A Meta tem razão em se preocupar com ameaças de violência, incluindo aquelas dirigidas a funcionários públicos de alto escalão em muitos contextos. No entanto, a decisão de não interpretar a política sobre violência e incitação de forma a permitir esse conteúdo retórico e outros semelhantes é uma preocupação séria. Não emitir uma tolerância ampla para declarações “marg bar Khamenei” agravou o problema da política da Meta de não proteger esse discurso, falhando em mitigar os danos à liberdade de expressão.

A Meta sabia em meados de julho, quando essa publicação foi feita, que o “Dia Nacional do Hijab e da Castidade” estava se aproximando. Em maio de 2022, a empresa já havia pedido a remoção da declaração “marg bar Khamenei” conforme decisões tomadas no encaminhamento sem impor uma advertência. A Meta também sabia que suas plataformas foram cruciais em momentos semelhantes no passado recente para organizar protestos no Irã, tendo anteriormente emitido tolerâncias amplas para declarações “marg bar Khamenei” relacionadas a protestos. Portanto, a empresa deveria ter antecipado questões relacionadas à remoção excessiva de conteúdo de protesto no Irã e ter desenvolvido uma resposta além da isenção de advertência muito limitada para decisões após encaminhamento. Como mostra este caso, o insucesso da Meta em proteger a voz dos usuários levou a uma restrição desnecessária da liberdade de expressão dos manifestantes. Quando as restrições de recursos foram aplicadas, os impactos das decisões errôneas foram mais severos, pois impediram que os usuários se organizassem nas plataformas da Meta. O fato de Meta ter emitido uma tolerância em 23 de setembro de 2022 para a frase “I will kill whoever kills my sister/brother” (Vou matar qualquer um que matar minha irmã/meu irmão) no Irã indica que também deveria ter permitido slogans de protesto conhecidos nesse momento crítico. Declarações de “morte a” não são tão diretamente ameaçadoras quanto declarações “Vou matar”. Embora a frase “morte a” nesse caso seja direcionada a um indivíduo específico, esse alvo é o Aiatolá Khamenei, um chefe de Estado, que usa rotineiramente toda a força coercitiva do governo, tanto por meios judiciais quanto extrajudiciais, para reprimir a dissidência. É crucial que a Meta priorize seu valor de voz em apoio aos direitos de liberdade de expressão dos indivíduos em situações como esta.

Os fatores identificados acima pesam fortemente a premissa de que as declarações “marg bar Khamenei” feitas no contexto de protestos são slogans políticos e não são ameaças reais. O teste de seis fatores descrito no Plano de Ação para o Rabat apoia essa conclusão. O orador não era uma figura pública, e, como sua retórica não parecia ser intencional, não seria interpretada pelos outros como um apelo à ação violenta. Como a própria Meta determinou, o contexto do protesto no Irã deixou claro especificamente que declarações retóricas desse tipo eram esperadas e a probabilidade de violência resultante delas era baixa. O Comitê considera o conteúdo inequivocamente político e de intenção não violenta, que criticava diretamente um governo e seus líderes por graves violações dos direitos humanos e chamava a atenção para o abuso da religião como justificativa para a discriminação. Na opinião dele, esse conteúdo apresentava muito pouco risco de incitar a violência. Assim, tanto a remoção quanto as penalidades adicionais que resultaram dessa decisão não eram necessárias ou foram desproporcionais.

Em outros contextos, as declarações de “morte a” contra figuras públicas e funcionários do governo devem ser levadas a sério, conforme indica as diretrizes internas atualmente em vigor. Por exemplo, conteúdo com o slogan “marg bar Salman Rushdie” representaria um risco muito maior. A fatwa (decreto) contra Rushdie, o recente atentado contra sua vida e as constantes preocupações com sua segurança o colocaram em uma posição diferente daquela do Aiatolá Khamenei. Em outros contextos linguísticos e culturais, as declarações de “morte a” também podem não ter o mesmo significado retórico que o termo “marg bar” e não devem ser tratadas da mesma forma que o conteúdo neste caso. Por exemplo, durante eventos semelhantes aos tumultos de 6 de janeiro em Washington D.C., declarações de “morte a” contra políticos precisariam ser rapidamente removidas segundo a política sobre violência e incitação. Naquele caso, os políticos estavam claramente em risco, e declarações de “morte a” são menos propensas a serem entendidas como retóricas ou não ameaçadoras em inglês.

Além disso, o Comitê ressalta que o fundamento para a lista de pessoas de “alto risco” parece excessivamente vaga em alguns aspectos quanto à presunção de remoção que cria, mas inexplicavelmente rígida em outros aspectos. No caso de chefes de Estado, embora o Comitê concorde que essas pessoas podem ser consideradas de alto risco, as diretrizes internas devem refletir que é necessário proteger o discurso político retórico relacionado a protestos que não incite a violência e tenha como objetivo criticar essas pessoas, seus governos, seu regime político ou suas políticas, mesmo que contenha declarações ameaçadoras que seriam consideradas uma violação em relação a outros indivíduos de alto risco.

Quando ameaças retóricas contra chefes de Estado são usadas no contexto de protestos em andamento, os analistas devem considerar a linguagem e o contexto, aplicando o fundamento da política às diretrizes para moderadores. Assim, seriam permitidas ameaças retóricas direcionadas a chefes de Estado, incluindo “morte a”, quando, por exemplo, o uso histórico e atual de frases em várias plataformas evidencia discurso político retórico que não tenha a intenção e não seja provável que incite a violência; o conteúdo como um todo está voltado para a crítica a governos, regimes políticos, suas políticas e/ou seus líderes; a declaração é usada em contextos de protesto ou outras situações de crise em que o papel do governo é um tema de debate político; é usado em contextos em que são aplicadas restrições sistemáticas à liberdade de expressão e reunião ou em que a dissidência está sendo reprimida.

O Comitê reconhece que essa questão não é tão direta quanto pode parecer à primeira vista e que não é possível adotar uma regra global sobre o uso de certos termos que exclua a necessidade de consideração de fatores contextuais, incluindo sinais no próprio conteúdo que possam ser considerados em grande escala, conforme a decisão do Comitê no caso “Cinto Wampum”. A posição atual da Meta está levando à remoção excessiva de expressão política no Irã em um momento histórico, potencialmente criando mais riscos aos direitos humanos em vez de mitigá-los. Na visão do Comitê, a frequência com que a empresa precisou aplicar tolerâncias nessa situação indica que é necessária uma solução mais permanente para o problema. O uso de tolerâncias depende do caso e garante que os direitos de expressão das pessoas serão respeitados. A Meta precisa proteger a voz em grande escala no Irã e em outros contextos e situações políticas críticas.

As preocupações quanto à proporcionalidade da remoção de conteúdo são ainda maiores quando “restrições de recursos” são aplicadas como resultado de uma decisão incorreta. A natureza e a duração das penalidades foram desproporcionais. A abordagem da Meta quanto às penalidades deve considerar se as pessoas vão se sentir desmotivadas em se envolver futuramente em questões políticas na plataforma. Um ponto positivo é que a empresa adicionou mais transparência e coerência nessa área como resultado da implementação de recomendações anteriores do Comitê de Supervisão, avançando para uma abordagem mais proporcional e transparente com limites mais altos para a transformação de advertência em penalidade. Os planos da Meta de emitir notificações de penalidades mais abrangentes devem garantir que os usuários entendam melhor os motivos por terem recebido advertências e restrições de recursos no futuro.

Direito ao recurso

O acesso a soluções efetivas é um componente central dos UN Guiding Principles on Business and Human Rights (Princípios Orientadores da ONU sobre Empresas e Direitos Humanos, UNGPs, pelas iniciais em inglês). Em agosto de 2020, a Meta anunciou publicamente que confiaria mais na análise automatizada de conteúdo e “as equipes teriam menos probabilidade de analisar denúncias de menor gravidade que não estão sendo amplamente vistas ou compartilhadas nas nossas plataformas”. O Comitê explica que o encerramento automático de apelações da Meta impede que os usuários tenham acesso adequado a medidas corretivas. Além disso, o fato de o sistema automatizado atual não considerar sinais como a sensibilidade do tópico e a probabilidade de erro de aplicação aumenta as chances de reclamações importantes não serem analisadas. O Comitê considera que isso pode afetar particularmente o direito dos manifestantes online de buscar ações corretivas porque o conteúdo removido indevidamente é restaurado tardiamente ou não é restaurado, alienando-os dos movimentos sociais e do discurso político em momentos políticos críticos.

8.3 Conteúdo idêntico com contexto paralelo

O Comitê expressa preocupação com o provável número de remoções indevidas de conteúdo sobre o protesto do Irã, incluindo a frase “marg bar Khamanei”. É importante que a Meta tome medidas para restaurar conteúdo idêntico com contexto paralelo que tenha sido removido incorretamente e reverta quaisquer advertências ou penalidades no nível da conta que tenham sido aplicadas como resultado.

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de remover o conteúdo por violar o Padrão da Comunidade sobre violência e incitação.

10. Declaração de parecer consultivo

Política de conteúdo

1. Os Padrões da Comunidade da Meta devem refletir com precisão suas políticas. Para melhor informar os usuários sobre os tipos de declarações que são proibidas, a Meta deve alterar o Padrão da Comunidade sobre violência e incitação para (i) explicar que ameaças retóricas como declarações de “morte a X” são geralmente permitidas, exceto quando o alvo da ameaça é uma pessoa de alto risco; (ii) incluir uma lista ilustrativa de pessoas de alto risco, explicando que podem incluir chefes de Estado; (iii) estabelecer critérios para quando declarações ameaçadoras dirigidas a chefes de Estado são permitidas a fim de proteger o discurso político claramente retórico em contextos de protesto que não incite a violência, levando em consideração a linguagem e o contexto, de acordo com os princípios descritos nesta decisão. O Comitê considerará esta recomendação implementada quando o texto voltado ao público do Padrão da Comunidade sobre violência e incitação refletir a mudança proposta e quando a Meta compartilhar com o Comitê diretrizes internas que sejam consistentes com a política voltada ao público.

Monitoramento

2. A Meta deve emitir tolerâncias quando o conteúdo (i) não incitar a violência; (ii) for usado em contextos de protesto; e (iii) for de utilidade pública. A empresa deve garantir um processo interno eficaz para identificar e analisar tendências de conteúdo referentes a protestos que possam exigir orientação específica ao contexto para mitigar danos à liberdade de expressão, como permissões ou isenções. O Comitê considerará esta recomendação implementada quando a Meta compartilhar o processo interno com ele e demonstrar, por meio do compartilhamento de dados, que minimizou as remoções incorretas de slogans de protesto.

3. Enquanto aguarda mudanças na política sobre violência e incitação, a Meta deve emitir orientações para seus analistas que as declarações “marg bar Khamenei” no contexto de protestos no Irã não violam o Padrão da Comunidade. Ela deve reverter quaisquer advertências e restrições de recursos em conteúdos removidos indevidamente que usavam o slogan “marg bar Khamenei”. O Comitê considerará esta recomendação implementada quando a Meta divulgar dados sobre o volume de conteúdo restaurado e o número de contas afetadas.

4. A Meta deve analisar os indicadores que usa para classificar as apelações nas suas filas de análise e encerrar automaticamente as apelações sem análise. A fórmula de priorização de apelações deve incluir, assim como faz para o classificador de verificação cruzada, os fatores de sensibilidade do tópico e probabilidade de falso positivo. O Comitê considerará esta recomendação implementada quando a Meta compartilhar sua fórmula de priorização de apelações e dados que mostrem que está garantindo a análise de apelações contra remoção incorreta de expressão política em contextos de protesto.

Transparência

5. A Meta deve anunciar todas as tolerâncias amplas que emite, além da duração e expiração delas, a fim de avisar aos usuários das plataformas sobre mudanças de política que permitem certa expressão, divulgando também dados abrangentes sobre o número de tolerâncias “amplas” e “limitadas”. O Comitê considerará esta recomendação implementada quando a Meta demonstrar divulgações regulares e abrangentes ao Comitê.

6. A explicação pública da tolerância a conteúdo de interesse jornalístico na Central de Transparência deve (i) explicar que as tolerâncias a conteúdo de interesse jornalístico podem ser amplas e limitadas; e (ii) divulgar os critérios da Meta para determinar quando usar a tolerância a conteúdo de interesse jornalístico ampla. O Comitê considerará esta recomendação implementada quando a Meta atualizar a explicação disponível publicamente sobre a tolerância e emitir Relatórios de Transparência que incluam informações suficientemente detalhadas sobre todas as tolerâncias aplicadas.

7. A Meta deve fornecer uma explicação pública sobre a priorização e o encerramento automáticos de apelações, incluindo os critérios de priorização e encerramento. A Diretoria considerará esta recomendação implementada quando a Meta publicar esta informação na Central de Transparência.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, contratou-se uma pesquisa independente em nome do Comitê. Um instituto de pesquisa independente com sede na Universidade de Gotemburgo e com uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de países do mundo todo. A Duco Advisors, empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia, também ajudou. A Memetica, um grupo de investigações digitais que fornece serviços de consultoria de risco e inteligência contra ameaças para mitigar danos online, também forneceu pesquisas. A empresa Lionbridge Technologies, LLC, cujos especialistas são fluentes em mais de 350 idiomas e trabalham de 5.000 cidades pelo mundo, forneceu a consultoria linguística.