Vídeo de prisioneiros de guerra armênios

Esta decisão também está disponível em Armênio e Azerbaijano.

Այս որոշումը հայերեն կարդալու համար սեղմեք այստեղ:

Bu qərarı azərbaycan dilində oxumaq üçün buraya klikləyin.

Resumo do caso

O Comitê de Supervisão manteve a decisão da Meta de deixar ativa uma publicação do Facebook de um vídeo que retratava prisioneiros de guerra que podiam ser identificados e uma tela de aviso com “marcar como perturbador”. O Comitê constatou que a Meta aplicou corretamente a permissão de conteúdo de valor jornalístico à publicação, que, caso contrário, teria sido removida por violar os Padrões da Comunidade contra coordenação de danos e incitação ao crime. No entanto, o Comitê recomenda que a Meta reforce a orientação interna sobre a análise desse tipo de conteúdo e desenvolva um protocolo para preservar e compartilhar evidências de violação de direitos humanos junto às autoridades competentes.

Sobre o caso

Em outubro de 2022, um usuário do Facebook publicou um vídeo em uma página que se identifica como documentação de supostos crimes de guerra cometidos pelo Azerbaijão contra armênios no contexto do conflito de Nagorno-Karabakh. Este conflito recomeçou em setembro de 2020 e chegou até a Armênia em setembro de 2022, deixando milhares de mortos e centenas de pessoas desaparecidas.

O vídeo começa com um aviso de classificação etária inserido pelo usuário de que é adequado apenas para maiores de 18 anos e um texto em inglês que diz “Stop Azerbaijani terror. The world must stop the aggressors” (Parem o terror azeri. O mundo deve impedir os agressores.). O vídeo parece retratar uma cena em que prisioneiros de guerra estão sendo capturados.

O vídeo mostra várias pessoas que parecem ser soldados do Azerbaijão vasculhando escombros, com os rostos digitalmente obscurecidos por quadrados pretos. Nos escombros, eles encontram pessoas que a legenda afirma serem soldados armênios, cujos rostos não são obscurecidos e podem ser identificados. Alguns parecem estar feridos, outros, mortos. O vídeo termina com uma pessoa que não aparece, provavelmente a pessoa que está filmando, e que grita palavrões continuamente e usa linguagem abusiva em russo e turco para um soldado ferido e sentado no chão.

Na legenda, que está em inglês e turco, o usuário afirma que o vídeo retrata soldados azeris torturando prisioneiros de guerra armênios. A legenda também destaca o acordo de fornecimento de gás entre a União Europeia e o Azerbaijão em julho de 2022 que dobraram as importações de gás do Azerbaijão até 2027.

Principais conclusões

O Comitê constatou que, embora o conteúdo, nesse caso, viole os Padrões da Comunidade contra coordenação de danos e incitação ao crime, a Meta aplicou corretamente a permissão de conteúdo de valor jornalístico e deixou o conteúdo ativo no Facebook. O conteúdo do vídeo tinha uma tela de aviso com “marcar como perturbador” conforme os Padrões da Comunidade sobre violência e conteúdo explícito. Essas decisões estão de acordo com os valores e responsabilidades de direitos humanos da Meta.

O caso mostra questões importantes sobre a abordagem da Meta para a moderação de conteúdo em situações de conflito, em que expor a identidade e localização de prisioneiros de guerra pode afetar a dignidade ou gerar danos imediatos. As questões relacionadas à dignidade humana são graves nos casos em que os prisioneiros aparecem em circunstâncias degradantes ou desumanas. Ao mesmo tempo, essa exposição pode gerar debate público e aumentar a conscientização sobre possíveis maus-tratos, inclusive violações dos direitos humanos internacionais e do direito humanitário internacional. Também pode ganhar força para a ação que protege os direitos e garante a responsabilidade. A Meta está em uma posição única para auxiliar na proteção de evidências que podem ser relevantes para o processo de crimes internacionais e apoio a litígios de direitos humanos.

A escala e a velocidade com que as imagens dos prisioneiros de guerra podem ser compartilhadas nas mídias sociais dificultam a tarefa de resolver esses interesses conflitantes. Em razão dos graves danos e riscos enfrentados pelos prisioneiros de guerra, o Comitê considera que a regra padrão da Meta que proíbe a publicação de informações que possam mostrar a identidade ou a localização dos prisioneiros de guerra está de acordo com as responsabilidades de direitos humanos da empresa nos Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês, comentário para o Princípio 12). Essas responsabilidades são maiores durante conflitos armados e devem ser divulgadas pelas regras do direito humanitário internacional. O Comitê concorda com a Meta que o valor de utilidade pública em manter o conteúdo da plataforma com uma tela de aviso superou o risco à segurança e à dignidade dos prisioneiros de guerra.

Decisão do Comitê de Supervisão

O Comitê de Supervisão manteve a decisão da Meta de deixar ativa a publicação no Facebook com a tela de aviso “marcar como perturbador”.

O Comitê recomenda que a Meta faça o seguinte:

• Desenvolva um protocolo para proteger e, se apropriado, compartilhar informações com as autoridades competentes para auxiliar nas investigações e processos legais para remediar ou processar crimes de atrocidade ou graves violações de direitos humanos.
• Forneça mais orientações aos analistas e equipes de encaminhamento para aumentar a relevância do encaminhamento e a avaliação do conteúdo que mostra a identidade ou a localização dos prisioneiros de guerra.
• Adicione um exemplo de conteúdo que mostre a identidade ou a localização de prisioneiros de guerra, mas que tenha ficado ativo por utilidade pública, para a explicação pública sobre a permissão de conteúdo de valor jornalístico na Central de Transparência, a fim de um maior esclarecimento para os usuários.
• Compartilhe publicamente o protocolo sobre proteção de evidências relacionadas a crimes de atrocidade e graves violações de direitos humanos.

* Os resumos de caso dão uma visão geral da ocorrência e não têm valor precedente.

Decisão completa sobre o caso

1. Resumo da decisão

O Comitê de Supervisão manteve a decisão da Meta de deixar ativa uma publicação do Facebook que incluía um vídeo mostrando prisioneiros de guerra e uma tela de aviso identificada como “marcar como perturbador”. O Comitê concluiu que a Meta aplicou corretamente a permissão de valor jornalístico ao conteúdo, que poderia ter sido removido por violar os Padrões da Comunidade contra coordenação de danos e incitação ao crime por expor a identidade de prisioneiros de guerra no contexto de um conflito armado. A tela de aviso “marcar como perturbador” foi uma exigência dos Padrões da Comunidade sobre conteúdo violento e explícito. Essas decisões estão de acordo com os valores e responsabilidades de direitos humanos da Meta.

O caso encaminhado pela Meta ao Comitê mostra questões importantes sobre a abordagem da Meta para a moderação de conteúdo em situações de conflito, em que expor a identidade e a localização de prisioneiros de guerra pode afetar a dignidade ou gerar danos imediatos. As questões de dignidade humana podem ser graves em situações em que os prisioneiros são mostrados como indefesos ou em circunstâncias humilhantes, comprometendo seu direito à vida, segurança e privacidade, e o direito de estar livre de tortura, tratamento desumano e degradante, bem como os direitos de suas famílias à privacidade e segurança. Ao mesmo tempo, essa exposição também pode gerar debate público e aumentar a conscientização sobre possíveis maus-tratos, inclusive violações dos direitos humanos e do direito humanitário internacional. Também pode ganhar força para a ação que protege os direitos e garante a responsabilidade. A Meta também está em uma posição única para auxiliar na proteção de evidências que podem ser úteis na acusação de crimes internacionais e no apoio a litígios de direitos humanos, independentemente de o conteúdo ter sido removido ou deixado ativo.

A escala e a velocidade com que as imagens dos prisioneiros de guerra podem ser compartilhadas nas mídias sociais dificultam a tarefa de resolver esses interesses conflitantes. Devido aos graves danos e riscos enfrentados pelos prisioneiros de guerra, o Comitê considera que a regra padrão da Meta que proíbe a publicação de informações que possam mostrar a identidade ou a localização dos prisioneiros de guerra está de acordo com as responsabilidades de direitos humanos da empresa nos Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês, comentário para o Princípio 12), que são maiores durante conflitos armados e devem ser informadas pelas regras do direito humanitário internacional. O Comitê concorda com a avaliação da Meta que o valor de utilidade pública em manter o conteúdo da plataforma com uma tela de aviso superou o risco à segurança e à dignidade dos prisioneiros de guerra. Era necessário manter o conteúdo na plataforma para garantir o direito do público de saber sobre infrações graves e, nesse contexto específico, prevenir, mitigar e remediar graves danos aos direitos humanos por meio da divulgação pública desses atos ilícitos.

O Comitê recomenda que a Meta forneça orientações adicionais aos analistas e equipes de encaminhamento para garantir que o conteúdo que revela a identidade ou a localização dos prisioneiros de guerra possa ser analisado a cada caso por aqueles com conhecimento necessário. Nesses casos, a Meta deve desenvolver critérios mais amplos para orientar as avaliações de conteúdo de valor jornalístico, que devem ser compartilhados de forma transparente. O Comitê solicita que a Meta proteja e, se apropriado, compartilhe informações com as autoridades competentes para auxiliar nas investigações e processos legais para remediar ou processar graves violações de crimes internacionais, direitos humanos e direitos humanitários.

2. Descrição do caso e histórico

Em outubro de 2022, um usuário do Facebook publicou um vídeo em uma página que se identifica como documentação de supostos crimes de guerra cometidos pelo Azerbaijão contra armênios no contexto do conflito de Nagorno-Karabakh. Esse conflito recomeçou em setembro de 2020 durante a segunda guerra de Nagorno-Karabakh que durou 44 dias e chegou até a luta na Armênia em setembro de 2022, deixando milhares de mortos e centenas de pessoas desaparecidas.

Na legenda, que está em inglês e turco, o usuário afirma que o vídeo retrata soldados azeris torturando prisioneiros de guerra armênios. A legenda também destaca o acordo de fornecimento de gás entre a União Europeia e o Azerbaijão em julho de 2022 que dobraram as importações de gás do Azerbaijão até 2027 para reduzir a dependência europeia em relação ao gás russo.

O vídeo começa com um aviso de classificação etária inserido pelo usuário de que é adequado apenas para maiores de 18 anos e um texto em inglês que diz “Stop Azerbaijani terror. The world must stop the aggressors” (Parem o terror azeri. O mundo deve impedir os agressores.). O vídeo mostra soldados sendo detidos como prisioneiros de guerra. O vídeo exibe várias pessoas que parecem ser soldados do Azerbaijão vasculhando escombros, com os rostos digitalmente obscurecidos por quadrados pretos. Nos escombros, eles localizam pessoas que a legenda afirma serem soldados armênios. Os rostos não são obscurecidos e podem ser identificados. Alguns parecem estar feridos, outros, mortos. Eles retiram um soldado dos escombros, que grita de dor. Seu rosto podia ser identificado e ele parecia estar ferido. O vídeo termina com uma pessoa que não aparece, provavelmente a pessoa que está filmando, gritando palavrões continuamente e usando linguagem abusiva em russo e turco para um soldado ferido e sentado no chão e que o mandava ficar em pé. A pessoa tentava ficar em pé. A página em que o conteúdo foi publicado tem menos de 1.000 seguidores. O conteúdo foi visualizado menos de 100 vezes e recebeu menos de 10 reações. Não foi compartilhado ou relatado como violador por nenhum usuário.

A Meta informou ao Comitê que estava monitorando a situação enquanto o conflito estava em curso. A equipe de Operações Globais da Meta coordenou junto com a equipe de segurança da Meta o monitoramento de riscos que envolvia o monitoramento de sinais externos (como notícias e tendências de mídia social) relacionados à questão. Durante o monitoramento, a equipe de segurança encontrou publicações no Twitter que mostravam um vídeo de soldados do Azerbaijão torturando prisioneiros de guerra armênios e, depois identificou o mesmo vídeo no Facebook. A equipe de segurança enviou a publicação no Facebook para análise adicional, um processo que a Meta descreve como “escalation”. Quando ocorre o escalation, o conteúdo é enviado para outras equipes dentro da Meta para análise da política e segurança. Nesse caso, a equipe de Operações Globais da Meta decidiu encaminhar o conteúdo para as equipes de políticas da Meta para análise do conteúdo de valor jornalístico.

Após a análise, dois dias depois da publicação do conteúdo, a Meta emitiu uma permissão de conteúdo de valor jornalístico, que autoriza o conteúdo nas plataformas da Meta que, de outra forma, poderia violar suas políticas se a utilidade pública no conteúdo fosse maior que o risco de danos. A permissão de conteúdo de valor jornalístico somente pode ser aplicada por equipes especializadas da Meta após o conteúdo ser encaminhado para outras etapas de análise.

Como parte da análise encaminhada pelas equipes de política da Meta, foi aplicada uma tela de aviso “marcado como perturbador” de acordo com a política de conteúdo violento e explícito, e o conteúdo foi adicionado aos bancos de serviços de Media Matching Service (MMS), que coloca, de forma automática, uma tela de aviso sobre o vídeo e vídeos idênticos identificados na plataforma. No entanto, devido a uma combinação de erros técnicos e humanos, o aviso não funcionou e precisou ser aplicado manualmente cerca de um mês depois.

A Meta encaminhou esse caso ao Comitê, afirmando que mostra o desafio necessário “para equilibrar o valor da conscientização sobre essas questões com o possível dano causado pela exposição da identidade dos prisioneiros de guerra”. A Meta solicitou que o Comitê levasse em consideração se a sua decisão de deixar o conteúdo representa um equilíbrio adequado dos valores “Segurança”, “Dignidade” e “Voz” e se está de acordo com os princípios internacionais dos direitos humanos.

3. Escopo e autoridade do Comitê de Supervisão

O Comitê tem autoridade para analisar decisões que a Meta envia para análise, segundo a seção 1 do artigo 2 do Estatuto e a seção 2.1.1 do artigo 2 dos Regulamentos Internos.

De acordo com a seção 5 do artigo 3 do Estatuto, o Comitê pode manter ou revogar a decisão da Meta, decisão essa que é vinculante para a empresa, segundo o artigo 4 do Estatuto. A Meta também deve avaliar a viabilidade de aplicar sua decisão no que diz respeito a conteúdo idêntico em contexto paralelo, de acordo com o Artigo 4 do Estatuto. As decisões do Comitê podem incluir declarações de alerta da política, além de sugestões não vinculantes às quais a Meta deve responder, de acordo com o Artigo 3 do Estatuto, Seção 4; Artigo 4. Quando a Meta se compromete a agir de acordo com as recomendações, o Comitê monitora sua implementação.

4. Fontes de autoridade e diretrizes

Os seguintes padrões e decisões precedentes fundamentaram a análise do Comitê nesse caso:

I. Decisões do Comitê de Supervisão:

As decisões anteriores mais pertinentes do Comitê de Supervisão incluem as seguintes:

• “Vídeo de assédio sexual na Índia” ( 2022-012-IG-MR)
• “Vídeo após ataque à igreja na Nigéria” ( 2022-011-IG-UA)
• “Poema russo” ( 2022-008-FB-UA)
• “Vídeo explícito do Sudão” (2022-002-FB-MR)
• “Protestos na Colômbia” ( 2021-010-FB-UA)
• “Suspensão do ex-presidente Trump” (2021-001-FB-FBR)

II. Políticas de Conteúdo da Meta:

Os Padrões da Comunidade contra coordenação de danos e incitação ao crime definem sob o título “fundamento da política” que “para evitar e combater danos no meio físico e comportamentos com efeito copycat, é proibido facilitar, organizar, promover ou aceitar determinadas atividades prejudiciais ou criminosas direcionadas a pessoas, empresas, propriedade ou animais”. Além disso, “permitimos que as pessoas [...] chamem a atenção para atividades nocivas testemunhadas ou experimentadas, que possam ter presenciado ou vivenciado, desde que não haja defesa ou coordenação de danos ”. De acordo com uma regra adicionada em 4 de maio de 2022, sob o título “informações adicionais e/ou contexto a ser aplicado”, a Meta proíbe especificamente “conteúdo que exponha a identidade ou a localização de um prisioneiro de guerra no contexto de um conflito armado, compartilhando nome, número de identidade e/ou imagem” e não lista nenhuma exceção específica a esta regra.

Os Padrões da Comunidade sobre violência e conteúdo explícito definem sob o título “fundamento da política” que existe para “proteger os usuários de imagens impróprias”. A política especifica ainda que “imagens que mostram a morte violenta de uma pessoa ou pessoas por acidente ou assassinato” e “imagens que mostram atos de tortura cometidos contra uma pessoa ou pessoas” ficam atrás de uma tela de aviso para que “as pessoas tenham consciência de que se trata de um conteúdo que pode ser perturbador” e somente adultos com mais de 18 anos podem visualizar o conteúdo. A seção “Não publique” das regras explica que os usuários não podem publicar observações sádicas sobre imagens que requerem uma tela de aviso de acordo com a política.

A análise do Comitê foi fundamentada pelo compromisso com o valor “Voz” da Meta, que a empresa descreve como “primordial”, e seus valores de “Segurança” e “Privacidade” e “Dignidade”.

A permissão de conteúdo de valor jornalístico é uma exceção de política geral que pode ser aplicada em todas as áreas de política dentro dos Padrões da Comunidade, inclusive a regra sobre prisioneiros de guerra. A permissão de conteúdo de valor jornalístico é explicada no “compromisso com a voz” da Meta. Dessa forma, o conteúdo violador pode ser mantido na plataforma se o valor de utilidade pública for maior que o risco de danos. De acordo com a abordagem de conteúdo de valor jornalístico da Meta, vinculada à introdução dos Padrões da Comunidade, essas avaliações são feitas apenas em “casos raros”, após encaminhamento para a Equipe de Política de Conteúdo. A equipe avalia se o conteúdo gera uma ameaça iminente à saúde ou segurança pública, ou dá voz às perspectivas que estão sendo debatidas atualmente como parte de um processo político. Esta avaliação considera as circunstâncias específicas do país, inclusive se o país estiver em guerra. Embora a identidade do autor seja um ponto relevante, a permissão não se limita ao conteúdo publicado pelos meios de comunicação.

III. Responsabilidades que a Meta tem com os direitos humanos

Os Princípios Orientadores da ONU sobre Empresas e Direitos Humanos (UNGPs, na sigla em inglês), endossados pelo Conselho de Direitos Humanos da ONU em 2011, estabelecem uma estrutura voluntária de responsabilidades das empresas privadas em relação aos direitos humanos. Em 2021, a Meta anunciou sua Política Corporativa de Direitos Humanos, em que reafirmou o seu compromisso com relação aos direitos humanos de acordo com os UNGPs. É significativo o fato de que os UNGPs impõem uma responsabilidade maior às empresas que operam em um contexto de conflito (“Empresas, direitos humanos e regiões afetadas por conflitos: em direção a uma maior ação”, A/75/212). Nesse caso, a análise do Comitê sobre as responsabilidades de direitos humanos da Meta foi informada pelos seguintes padrões internacionais, inclusive no campo do direito internacional humanitário (também conhecido como “direito de conflito armado”):

• O direito à liberdade de expressão: Article 19, International Covenant on Civil and Political Rights (Artigo 19 do Pacto Internacional sobre Direitos Civis e Políticos, PIDCP, na sigla em inglês); General comment No. 34, Human Rights Committee, de 2011 (Comentário geral n.º 34, do Comitê de Direitos Humanos, de 2011); Relator Especial da ONU para a promoção e proteção do direito à liberdade de opinião e expressão, A/HRC/68/362 (2013); A/HRC/38/35 (2018); A/74/486, (2019); A/77/288 (2022).
• O direito à vida: Artigo 6 do PIDCP.
• O direito de não ser submetido a tortura, tratamento desumano ou degradante: Artigo 7 do PIDCP.
• O direito à privacidade: Artigo 17 do PIDCP.
• Proteção dos prisioneiros de guerra contra insultos e curiosidade pública: Artigo 13, parágrafo 2 Convenção III em relação ao Tratamento de Prisioneiros de Guerra ( Convenção de Genebra III), Comentário da Convenção de Genebra (III), Comitê Internacional da Cruz Vermelha (ICRC), 2020 ( Comentário da Convenção de Genebra III).

5. Envios de usuário

Após o encaminhamento da Meta e a decisão do Comitê de aceitar o caso, o usuário recebeu uma notificação sobre a análise do Comitê e uma oportunidade para enviar uma declaração a ele. No entanto, o usuário não a enviou.

6. Envios da Meta

A Meta encaminhou esse caso ao Comitê “porque destaca os desafios que a [Meta] enfrenta ao determinar se o valor do conteúdo de valor jornalístico é maior que o risco de danos no contexto de guerra e violência”. Apesar do conteúdo violar a política de coordenação de atos danosos e incitação ao crime da Meta, a permissão de conteúdo de valor jornalístico foi aplicada “a fim de aumentar a conscientização sobre a violência contra os prisioneiros de guerra” no conflito entre o Azerbaijão e a Armênia. A Meta informou que o caso era “importante” devido à sua relação com um conflito militar em andamento e “difícil” porque exigia “ponderar o valor de maior conscientização sobre essas questões com o possível dano causado pela exposição da identidade dos prisioneiros de guerra”.

A Meta explica que proíbe a “exposição pública” de prisioneiros de guerra, mas suas equipes de encaminhamento exigem “contexto adicional” para fazer cumprir essa regra. A Meta acrescentou essa regra para mostrar que levam a sério a segurança e a dignidade dos prisioneiros de guerra, já que os riscos de suas plataformas podem ser usados para exposição de curiosidade pública, de acordo com os princípios de liberdade de expressão do Artigo 19 do PIDCP e as instruções da Convenção de Genebra. O Comitê entende que, para que esse conteúdo seja removido, as equipes internas de investigação precisariam incluir um rótulo para análise pelas equipes internas da Meta ou os analistas precisariam encaminhar o conteúdo para essas equipes. Essas equipes podem considerar os fatores contextuais fora do conteúdo para decidir uma ação de aplicação. O conteúdo somente seria removido pela automação se for idêntico ou quase idêntico ao conteúdo que as equipes internas da Meta já avaliaram como violador e adicionados aos bancos de correspondência de mídia.

Em resposta às perguntas do Comitê, a Meta confirmou que o contexto adicional considerado para identificar o conteúdo como violador nesse caso incluía (i) os uniformes que confirmavam que os prisioneiros eram soldados armênios e (ii) o conhecimento do conflito em andamento entre o Azerbaijão e a Armênia. “Prisioneiro de guerra” é definido na instrução interna para analistas chamada Perguntas Conhecidas como “um membro das forças armadas que foi capturado ou que caiu nas mãos da oposição durante ou imediatamente após um conflito armado”. Nos Padrões de Implementação Interna que acompanham essa regra, a Meta explica que o conteúdo expõe a identidade ou a localização de um prisioneiro de guerra compartilhando o nome, sobrenome, número de identidade e/ou imagem que identifica seu rosto, mesmo que seja compartilhado para “condenar ou conscientizar” deve ser removido.

Em resposta às perguntas do Comitê, a Meta observou que o Protocolo de Política de Crise, não foi usado durante a segunda guerra de Nagorno-Karabakh ou os contínuos confrontos fronteiriços entre o Azerbaijão e a Armênia. O Protocolo de Política de Crise oferece uma oportunidade extra às equipes de análise da Meta de aplicar as políticas somente de encaminhamento e foi criado em resposta à recomendação do Comitê no caso da “Suspensão do ex-presidente Trump”. A Meta explicou que, como existe uma política permanente para remover conteúdo de prisioneiros de guerra, o processo padrão da equipe de encaminhamento interno para remover esse conteúdo não teria mudado se o protocolo tivesse sido ativado.

Ao aplicar a permissão de conteúdo de valor jornalístico, a Meta informa que fez uma análise que mede a utilidade pública em relação ao risco de dados, levando em consideração os seguintes fatores: (i) se o conteúdo representa uma ameaça iminente à saúde ou segurança pública; (ii) se o conteúdo dá voz a perspectivas atualmente debatidas como parte de um processo político; (iii) a natureza do discurso, incluindo se ele se relaciona com governança ou política; (iv) a estrutura política do país, incluindo se tem imprensa livre e (v) outras circunstâncias específicas do país (por exemplo, se há uma eleição em andamento ou o país está em guerra).

A Meta reconheceu a natureza explícita desse vídeo e os riscos que os prisioneiros de guerra podem enfrentar quando são expostos nas redes sociais. Em resposta às perguntas do Comitê, a Meta reconheceu que familiares e amigos podem ser alvo de ostracismo, suspeita ou mesmo violência quando os prisioneiros de guerra são identificados ou expostos. A Meta também observou que esse tipo de imagem pode ter diversos impactos em civis e militares, inclusive reforçando o antagonismo em relação ao outro lado e intensificando o preconceito. A Meta observou que um prisioneiro de guerra gravado criticando sua própria nação ou a conduta de seu exército pode correr maior risco de sofrer ostracismo e represálias ao retornar para seu país do que prisioneiros que são maltratados pelo inimigo. No contexto desse conflito, a Meta não tinha evidências de que vídeos desse tipo pudessem causar esses impactos negativos, mas observou evidências de que as organizações internacionais estavam usando esses vídeos para aumentar a pressão sobre o Azerbaijão para acabar com os maus-tratos aos prisioneiros de guerra. Devido ao potencial valor de utilidade pública desse conteúdo para aumentar a conscientização e servir como evidência de possíveis crimes de guerra, a Meta concluiu que, devido ao valor jornalístico, remover esse conteúdo não seria uma ação adequada.

A Meta também acrescentou que o conteúdo que identifica testemunhas, informantes, reféns ou outras pessoas detidas pode ser removido de acordo com os Padrões da Comunidade contra coordenação de danos e incitação ao crime, se o conhecimento público da detenção aumentar os riscos para sua segurança. O conteúdo que identifica ou expõe indivíduos também pode ser removido de acordo com a política de violações de privacidade quando as informações de identificação pessoal são compartilhadas nas plataformas da Meta. Por fim, a política de conteúdo violento e explícito seria aplicada mesmo se as vítimas não fossem prisioneiros de guerra, já que de acordo com essa política, a Meta considera a dignidade e a segurança das vítimas de violência, além do fato de que as pessoas podem não querer ver esse conteúdo.

Em resposta às perguntas do Comitê, a Meta também forneceu exemplos de como aplica a permissão de conteúdo de valor jornalístico ao conteúdo que expõe os prisioneiros de guerra de forma mais ampla. Por exemplo, a Meta informou ao Comitê que geralmente remove conteúdo que mostra a identidade de prisioneiros de guerra na Etiópia, mas é uma determinação de conteúdo de valor jornalístico que depende de cada caso para alguns conteúdos. Os fatores considerados na aplicação da permissão de conteúdo de valor jornalístico em casos anteriores incluem se o conteúdo (i) relata a captura de combatentes sêniores, como oficiais de alta patente ou líderes de grupos armados; (ii) mostra a identidade de um preso quando for de seu interesse (por exemplo, quando forem dados como desaparecidos); ou (iii) aumenta a conscientização sobre possíveis abusos dos direitos humanos. A Meta também afirmou que concedeu permissões de conteúdo de valor jornalístico para “deixar ativo alguns conteúdos que mostrem [prisioneiros de guerra] russos na Ucrânia”.

A Meta também observou que avalia o conteúdo pelo valor principal, a menos que a autenticidade esteja em questão ou haja indicadores de mídia manipulada ou contexto de que a informação é falsa. Nesse caso, a Meta não encontrou indícios de que suas políticas de desinformação estavam envolvidas.

O Comitê fez 16 perguntas à Meta. Questões relacionadas com a aplicação da permissão de conteúdo de valor jornalístico, fatores na avaliação do contexto na decisão da Meta e a aplicação do Protocolo de Política de Crise. A Meta respondeu às 16 perguntas.

7. Comentários públicos

O Comitê de Supervisão recebeu 39 comentários públicos relacionados a esse caso. Um comentário foi enviado da Ásia-Pacífico e Oceania, três da Ásia Central e do Sul, 23 da Europa, quatro do Oriente Médio e Norte da África e oito dos Estados Unidos e Canadá.

Os envios incluíam os seguintes temas: histórico do conflito de Nagorno-Karabakh e encaminhamentos recentes; aplicação do direito humanitário internacional à moderação de conteúdo que expõe a identidade ou a localização de prisioneiros de guerra; preocupação com o conteúdo nas redes sociais que mostram os rostos dos prisioneiros de guerra; possíveis impactos adversos e positivos que podem resultar na exclusão ou remoção de conteúdo que retrata prisioneiros de guerra; mecanismos independentes que preservam possíveis evidências de crimes internacionais; cooperação entre empresas de mídia social, organizações da sociedade civil e mecanismos de justiça internacional; preocupação com a verificação do conteúdo do vídeo; sugestões operacionais/técnicas sobre como manter o conteúdo nas plataformas de mídia social e proteger a segurança e a dignidade dos prisioneiros de guerra; potencial de tal conteúdo para auxiliar na prevenção de novas atrocidades e o direito do público de ter conhecimento sobre maus tratos a prisioneiros de guerra.

Para ler os comentários públicos enviados sobre esse caso, clique aqui.

Em abril de 2023, como parte do engajamento contínuo das partes interessadas, o Comitê consultou representantes de organizações de defesa de interesses sociais, acadêmicos, organizações intergovernamentais e outros especialistas sobre a questão da moderação de conteúdo que mostra os prisioneiros de guerra. Uma mesa redonda foi realizada de acordo com a Regra de Chatham House. A mesa redonda focou nas motivações, possíveis fatores de risco e vantagens de publicar o conteúdo que mostre a identificação de prisioneiros de guerra e as formas de equilibrar os benefícios para aumentar a conscientização sobre a violência contra prisioneiros de guerra e os possíveis danos causados pela divulgação de sua identidade. Os insights fornecidos nessa reunião foram valiosos, e o Comitê agradece a todos os participantes.

8. Análise do Comitê de Supervisão

O Comitê analisou as políticas de conteúdo, responsabilidades e valores de direitos humanos da Meta para determinar se esse conteúdo deve ser mantido ativo com uma tela de aviso. O Comitê também avaliou as implicações desse caso quanto à abordagem mais ampla da Meta em relação à governança de conteúdo, particularmente em situações de conflito e crise.

O Comitê selecionou esse caso como uma oportunidade de avaliar as práticas e as políticas da Meta a respeito da moderação de conteúdo que expõe a identidade de prisioneiros de guerra. Além disso, o caso permite que o Comitê analise a conformidade da Meta com suas responsabilidades de direitos humanos em situações de crise e conflito em geral.

8.1 Conformidade com as políticas de conteúdo da Meta

O Comitê constatou que, embora o conteúdo viole os Padrões da Comunidade contra coordenação de danos e incitação ao crime, a Meta aplicou corretamente a permissão de conteúdo de valor jornalístico deixando o conteúdo ativo no Facebook, e o conteúdo do vídeo tinha uma tela de aviso “marcar como perturbador” conforme os Padrões da Comunidade sobre violência e conteúdo explícito.

I. Regras sobre conteúdo

Coordenação de atos danosos e incitação ao crime

O Comitê considera que o conteúdo desse caso expôs a identidade dos prisioneiros de guerra, por meio de imagens no vídeo que mostravam os rostos dos soldados armênios detidos. Portanto, violou claramente a regra que proíbe tal conteúdo nos Padrões da Comunidade contra coordenação de danos e incitação ao crime.

Mas sabendo que essa regra requer informações e/ou contexto adicional para ser aplicada, o Comitê concorda com a Meta que os uniformes dos soldados indicavam que os indivíduos com os rostos visíveis eram membros das forças armadas armênias. O contexto da guerra indicava que esses soldados estavam sendo detidos pelas forças armadas da oposição do Azerbaijão, atendendo à definição de “prisioneiro de guerra” contida nas orientações internas da Meta para analistas. Essas informações foram suficientes para concluir que o conteúdo era contrário à regra que proíbe conteúdo que mostre a identidade de prisioneiros de guerra por meio do compartilhamento de imagens.

Permissão de conteúdo de valor jornalístico

O Comitê considera que a utilidade pública do vídeo era maior que os possíveis riscos de danos e que as equipes de encaminhamento com acesso a especialistas e informações contextuais adicionais, incluindo tendências entre plataformas, deveriam aplicar a permissão de conteúdo de valor jornalístico para manter o conteúdo na plataforma. Embora não seja possível prever que o discurso de alguém seja inerentemente um conteúdo de valor jornalístico, a avaliação da permissão de conteúdo de valor jornalístico leva em conta vários fatores, inclusive as circunstâncias específicas do país e a natureza do discurso e do autor. Nesses casos, a Meta deve realizar uma análise completa que avalie a utilidade pública, incluindo o direito do público de saber sobre infrações graves e o potencial de prevenir, mitigar e remediar graves danos aos direitos humanos por meio da divulgação pública de atos ilícitos, contra os riscos de danos à privacidade, dignidade, segurança e voz, de acordo com os padrões internacionais de direitos humanos, conforme mostrado na Política Corporativa de Direitos Humanos da Meta.

A aplicação da permissão de conteúdo de valor jornalístico em uma situação tão complexa e dinâmica como um conflito armado requer uma avaliação contextual em cada caso para mitigar riscos e garantir o acesso do público a informações importantes. Os fatores identificados pela Meta em sua avaliação, detalhados na Seção 6, são todos pertinentes para avaliar o potencial de danos graves resultantes da exibição do vídeo em relação a impactos adversos que poderiam resultar na supressão desse tipo de conteúdo. A ausência de evidências de vídeos como esse sendo usados nesse conflito específico para promover maus-tratos a detentos, juntamente com tendências claras de conteúdo semelhante disponível principalmente por meio de mídia social e altamente relevante para campanhas e procedimentos judiciais para responsabilização de crimes graves, militados em favor de manter o conteúdo na plataforma.

O Comitê enfatiza que é importante que a Meta tenha sistemas implementados para obter o tipo de insights específicos do contexto necessários para uma avaliação rápida em cada caso de possíveis danos, levando em consideração as responsabilidades da Meta em relação aos direitos humanos.

Conteúdo violento e explícito

Após a decisão de que o conteúdo deveria ficar ativo conforme a permissão de conteúdo de valor jornalístico, o Comitê considera que a natureza violenta e explícita do vídeo justificava a imposição de uma tela de aviso “marcar como perturbador”, que tem uma função dupla de alertar os usuários sobre a natureza explícita do conteúdo e restringir a capacidade de visualizar o conteúdo para adultos com mais de 18 anos. Embora a Meta não tenha especificado a linha de política em que se baseou para impor essa tela, o Comitê considera que duas regras foram adotadas.

Primeiro, o vídeo mostra o que parecem ser cadáveres de soldados armênios caídos nos escombros. Enquanto as orientações internas para moderadores excluem a violência cometida por um ou mais funcionários uniformizados que desempenham uma função policial, caso em que uma tela de aviso “marcar como sensível” seria aplicada, as orientações internas definem ainda a “função policial” como “manter a ordem pública para realizar o controle de multidões e/ou deter pessoas” e esclarece que “a guerra não se qualifica como uma função policial”. Como o conteúdo diz respeito a uma situação de conflito armado, o Comitê considera que estava de acordo com as políticas da Meta de adicionar uma tela de aviso “marcar como perturbador”.

O Comitê observa que o vídeo envolveu ainda mais uma segunda linha política, pois mostrou atos que atendem à definição da Meta sobre tortura contra pessoas. Para fins de aplicação da política da Meta, as diretrizes internas para moderadores definem tais imagens de “tortura” como (i) imagens de uma pessoa em uma posição dominada ou contida à força e qualquer um dos seguintes: (a) há uma arma apontada para a pessoa; (b) há evidência de lesão na pessoa; ou (c) a pessoa está sendo submetida à violência; ou (ii) imagens de uma pessoa submetida a atos humilhantes. A Meta ainda define “posição dominada” como “qualquer posição, inclusive quando a vítima está ajoelhada, encurralada ou incapaz de se defender” e “contida à força” como “estar fisicamente amarrada, presa, enterrada viva ou mantida contra a sua própria vontade”. Levando em consideração que a definição de “tortura” da Meta é muito mais ampla do que o termo conforme entendido pela lei internacional, o Comitê considera que estava de acordo com as regras da Meta para aplicar a tela de “marcar como perturbador” e as restrições de idade correspondentes. De acordo com a orientação interna, há indicadores suficientes no conteúdo de que os indivíduos estão sendo mantidos contra sua vontade como detentos e são incapazes de se defender. Além disso, vários detidos pareciam estar feridos, enquanto outros pareciam estar mortos.

8.2 Conformidade com as responsabilidades da Meta em relação aos direitos humanos

O Comitê considera que a decisão da Meta de deixar ativo o conteúdo está de acordo com as responsabilidades da Meta em relação aos direitos humanos, que são maiores em uma situação de conflito armado.

Liberdade de expressão (artigo 19 do PIDCP)

O Artigo 19, parágrafo 2 do PIDCP oferece ampla proteção à expressão, inclusive o direito de acessar as informações. Essas proteções permanecem durante conflitos armados e devem continuar informando as responsabilidades de direitos humanos da Meta, juntamente com o reforço mútuo e regras complementares do direito humanitário internacional que se aplicam em tais conflitos, inclusive para proteger os prisioneiros de guerra ( Comentário Geral 31, Comitê de Direitos Humanos, 2004, parágrafo 11; Comentário à UNGPs, Princípio 12; consulte também o relatório do Relator Especial da ONU sobre Desinformação e liberdade de opinião e expressão durante conflitos armados, Relatório A/77/288, parágrafos 33-35 (2022); e relatório OHCHR sobre a proteção legal internacional dos direitos humanos em conflitos armados (2011) na página 59).

O Direito Internacional Humanitário oferece garantias específicas para o tratamento de prisioneiros de guerra, especialmente proibindo atos de violência ou intimidação contra prisioneiros de guerra, bem como expô-los a insultos e curiosidade pública (Artigo 13, parágrafo 2 da Convenção de Genebra (III)). Em uma situação de conflito armado, a análise da liberdade de expressão do Comitê é informada pelas regras mais precisas do direito internacional humanitário. O comentário do ICRC ao Artigo 13 explica que “ser exposto à 'curiosidade pública' como prisioneiro de guerra, mesmo quando tal exposição não é acompanhada de comentários ou ações insultuosas, é humilhante em si e, portanto, especificamente proibido [...] qual canal de comunicação pública é usado, incluindo a internet” e fornece exceções restritas a essa proibição que são discutidas abaixo (Comentário do ICRC, em 1624).

O Relator Especial da ONU declarou que “[d]urante um conflito armado, as pessoas estão em seu estado mais vulnerável e com maior necessidade de informações precisas e confiáveis para garantir sua própria segurança e bem-estar. No entanto, é precisamente nessas situações que sua liberdade de opinião e expressão, que inclui “a liberdade de buscar, receber e transmitir informações e ideias de todos os tipos, é mais limitada pelas circunstâncias da guerra e pelas ações das partes no conflito e outros agentes para manipular e restringir informações para objetivos políticos, militares e estratégicos” (Relatório A/77/288, parágrafo 1).

A conexão entre o direito de acesso à informação, inclusive para vítimas de violações de direitos humanos, também foi ressaltada pelo titular do mandato (Relatório A/68/362, parágrafo 92 (2013)). Algumas das atividades jornalísticas mais importantes em situações de conflito incluíam o compartilhamento de informações e imagens de prisioneiros de guerra. Relatos de testemunhas oculares de detidos após a libertação dos campos de concentração nazistas em 1945, bem como no campo de Omarska na Bósnia em 1992, foram cruciais para engajar a opinião global sobre os horrores dessas guerras e as atrocidades cometidas. Da mesma forma, imagens amplamente divulgadas de abuso de detentos na prisão de Abu Ghraib, no Iraque, em 2004, levaram à condenação pública e a vários processos por esses abusos.

Quando um Estado aplica restrições à expressão, elas devem atender aos requisitos de legalidade, objetivo legítimo e necessidade e proporcionalidade, segundo o parágrafo 3 do Artigo 19 do PIDCP. Esses requisitos costumam ser chamados de “teste de três partes”. O Comitê usa essa estrutura para interpretar as responsabilidades de direitos humanos da Meta, que incluem a responsabilidade de respeitar a liberdade de expressão. Como afirmou o Relator Especial da ONU sobre liberdade de expressão, embora “as empresas não tenham obrigações governamentais, seu impacto exige que avaliem o mesmo tipo de questões sobre a proteção do direito de seus usuários à liberdade de expressão” (companies do not have the obligations of Governments, their impact is of a sort that requires them to assess the same kind of questions about protecting their users' right to freedom of expression) (relatório A/74/486, parágrafo 41).

I. Legalidade (clareza e acessibilidade das regras)

O princípio da legalidade conforme a legislação internacional sobre direitos humanos exige que as regras usadas para limitar a expressão sejam claras e acessíveis (Comentário Geral n.º 34, parágrafo 25). As regras que restringem a expressão “possam não conceder liberdade de ação irrestrita para a restrição da liberdade de expressão aos encarregados de [sua] execução” e “forneçam instrução suficiente aos encarregados de sua execução para permiti-lhes determinar quais tipos de expressão são propriamente restritas e quais tipos não são” (Ibid). Aplicada às regras que regem o discurso online, o Relator Especial da ONU sobre liberdade de expressão disse que eles deveriam ser claros e específicos (A/HRC/38/35, parágrafo 46). As pessoas que usam as plataformas da Meta devem ser capazes de acessar e entender as regras, e os analistas de conteúdo devem ter orientações claras sobre sua aplicação.

O Comitê considera que a regra da Meta que proíbe conteúdo que mostre a identidade de prisioneiros de guerra é suficientemente clara para governar o conteúdo nesse caso, assim como o potencial para a Equipe de Política de Conteúdo da Meta deixar ativo excepcionalmente o conteúdo que de outra forma violaria essa regra onde a utilidade pública exigisse. As linhas de política para aplicar uma tela de “marcar como perturbador” ao conteúdo violento e explícito são suficientemente claras para reger o conteúdo nesse caso.

Ao mesmo tempo, as explicações públicas da Meta sobre a permissão de conteúdo de valor jornalístico poderiam fornecer mais detalhes sobre como pode ser aplicada ao conteúdo que mostra a identidade de prisioneiros de guerra. Dos três exemplos de conteúdo em que foi aplicada a permissão de conteúdo de valor jornalístico, ilustrando a abordagem da Meta para o conteúdo de valor jornalístico, nenhum deles está relacionado aos Padrões da Comunidade contra coordenação de danos e incitação ao crime. Embora um exemplo se refira a uma situação de conflito, os critérios ou fatores específicos do conflito podem ser divulgados de forma mais abrangente como parte das explicações das regras políticas subjacentes. Em resposta às recomendações anteriores do Comitê, a Meta mostrou mais clareza sobre a permissão de conteúdo de valor jornalístico, inclusive adicionando informações à sua explicação pública sobre a permissão de conteúdo de valor jornalístico de quando aplicará uma tela de aviso (“Vídeo explícito do Sudão”, recomendação nº 2 ), e vinculando a explicação pública à página de destino dos Padrões da Comunidade e adicionando exemplos à página de conteúdo de valor jornalístico, inclusive sobre protestos (“Protestos da Colômbia,” recomendação nº. 2). O Comitê enfatiza a importância de maior transparência e instrução aos usuários, especialmente em situações de crise e conflito.

II. Objetivo legítimo

a. Padrões da Comunidade que proíbem representações da identidade de prisioneiros de guerra

O respeito aos direitos dos outros, incluindo o direito à vida, privacidade e proteção contra tortura ou tratamento cruel, desumano ou degradante é um objetivo legítimo para restrições ao direito à liberdade de expressão (Artigo 19, parágrafo 3, PIDCP). Nesse caso, a avaliação da legitimidade do objetivo relacionado à proibição de retratar prisioneiros de guerra identificáveis é dada pela situação de conflito armado e pelas regras mais específicas do direito internacional humanitário que apelam à proteção da vida, privacidade e dignidade de prisioneiros de guerra, quando o conteúdo expõe prisioneiros de guerra a “insulto” e “curiosidade pública” (Artigo 13, parágrafo 2 da Convenção de Genebra (III)).

No contexto de um conflito armado, o Artigo 13 da Convenção de Genebra III oferece proteção para o tratamento humano dos prisioneiros de guerra, e a regra geral da Meta, juntamente com a disponibilidade da permissão de conteúdo de valor jornalístico, suporta essa função. Além da possível violência offline, o compartilhamento das próprias imagens pode ser humilhante e violar o direito à privacidade dos detidos, especialmente porque eles podem não consentir que tais imagens sejam tiradas ou compartilhadas. A experiência de compartilhar essas imagens pode gerar a revitimização e mostrar como a mídia social pode ser usada para violar diretamente as leis da guerra. Dessa forma, não se aplica apenas aos prisioneiros de guerra retratados, mas também serve como uma função protetora para os prisioneiros de guerra de forma mais ampla, bem como para familiares e outras pessoas que possam ser alvo. A proteção desses direitos está diretamente relacionada aos valores de privacidade, segurança e dignidade da Meta. O Comitê considera legítima a proibição de representações de prisioneiros de guerra identificáveis de acordo com os Padrões da Comunidade da Meta.

b. Regras da Meta sobre as telas de aviso

O Comitê afirmou que as regras da Meta sobre conteúdo violento e explícito buscam objetivos legítimos no caso do “vídeo explícito do Sudão” e em vários casos posteriores. No contexto desse caso e de outros conteúdos semelhantes, as regras que preveem uma tela de aviso “marcar como perturbador” buscam capacitar os usuários com mais opções sobre o que visualizam online.

III. Necessidade e proporcionalidade

O princípio da necessidade e da proporcionalidade mostra que qualquer restrição à liberdade de expressão “seja apropriada para cumprir sua função protetora; seja o instrumento menos intrusivo entre aqueles que podem cumprir sua função protetora” e “seja proporcional ao interesse a ser protegido” (Comentário Geral n.º 34, parágrafo 34).

A análise de necessidade e proporcionalidade do Comitê é definida pelas regras mais específicas do direito humanitário internacional. De acordo com o CICV, a Convenção de Genebra III, Artigo 13 parágrafo 2 exige um “equilíbrio adequado” a ser alcançado entre os benefícios da divulgação pública de materiais que retratam prisioneiros de guerra, devido ao alto valor de tais materiais quando usados como evidência para processar crimes de guerra, promover a responsabilização e aumentar a conscientização pública sobre abusos, e a potencial humilhação e até danos físicos que podem ser causados às pessoas nos materiais compartilhados. Além disso, o CICV observa em sua instrução para a mídia que tais materiais podem ser divulgados excepcionalmente, se houver uma “utilidade pública convincente” em mostrar a identidade do prisioneiro ou se for de “interesse vital” do prisioneiro ( Comentário CICV no Artigo 13 a (1627)).

A regra padrão da Meta está de acordo com os objetivos incorporados no direito humanitário internacional. Determinar se uma pessoa retratada é um prisioneiro de guerra identificável no contexto de um conflito armado requer análise especializada. Portanto, é necessária a regra que exige “contexto adicional para aplicação” e, portanto, requer encaminhamento para equipes internas antes de ser aplicada. Quando o conteúdo mostrar a identidade ou a localização dos prisioneiros de guerra, em geral, a remoção é adequada considerando a gravidade dos danos que podem resultar de tal conteúdo. Muitos comentários públicos compartilharam exemplos desses danos. As dúvidas são apresentadas sobre o uso de conteúdo que retrata prisioneiros de guerra para fins de propaganda (consulte, por exemplo, PC-11137 da Digital Rights Foundation e PC-11144 de Igor Mirzakhanyan), especialmente quando essas imagens são disseminadas pelo poder detentor.

Os prisioneiros de guerra podem enfrentar muitos danos quando suas identidades são reveladas (consulte, por exemplo, PC-11096 do Artigo 19). Assim, pode incluir a humilhação do prisioneiro e o ostracismo dele ou de sua família depois de ser solto. Podem ocorrer ainda danos graves mesmo quando o usuário compartilha o conteúdo de forma bem-intencionada para aumentar a conscientização ou condenar maus-tratos. Nesse caso, os rostos dos supostos prisioneiros de guerra ficam visíveis e são mostrados enquanto capturados. Esse processo é acompanhado por gritos contínuos de linguagem abusiva e palavrões dirigidos aos prisioneiros, alguns dos quais parecem estar feridos, enquanto outros parecem mortos.

No entanto, nesse caso, o potencial de conteúdo de valor jornalístico foi identificado corretamente, levando ao encaminhamento para a equipe de política de conteúdo. É importante garantir que o encaminhamento desse tipo chegue a equipes com o conhecimento necessário para avaliar as implicações complexas de direitos humanos, em que o dano potencial é iminente. A gravidade desses riscos no contexto de um conflito armado distingue esse caso de decisões anteriores em que o Comitê demonstrou preocupação sobre o encaminhamento da permissão de conteúdo de valor jornalístico (consulte, por exemplo, “Vídeo explícito do Sudão” ou “Vídeo de assédio sexual na Índia”).

Nesse caso, o vídeo mostra supostas violações do direito humanitário internacional. Embora o vídeo possa ter sido feito pelo detentor, parece que a publicação do usuário pretendia aumentar a conscientização sobre possíveis violações. Isso é importante para o direito do público à informação sobre o fato da captura dos detidos, prova de que eles estão vivos e condições físicas de detenção, bem como esclarecer possíveis atos ilícitos.

É verdade que a permissão de conteúdo de valor jornalístico da Meta pode ser aplicada a conteúdo que não é compartilhado pela mídia profissional. No entanto, as instruções disponíveis para os jornalistas sobre relatórios responsáveis em situações de conflito indicam uma suspeita contra a divulgação de imagens que identificam prisioneiros de guerra e que, mesmo onde haja utilidade pública convincente, devem ser envidados esforços para salvaguardar a dignidade dos detidos.

É importante que as empresas de mídia social preservem conteúdo que retrata graves violações dos direitos humanos ou crimes atrozes, como os crimes especificados no Estatuto de Roma do Tribunal Penal Internacional, inclusive contra prisioneiros de guerra. Os comentários públicos destacaram a necessidade de mais clareza da Meta sobre suas práticas nessa área, especialmente para cooperação com mecanismos internacionais (consulte: PC-11128 da Trial International, PC-11136 do Institute for International Law of Peace and Armed Conflict, Universidade de Ruhr, Bochum e PC-11140 do Syria Justice and Accountability Centre). Eles enfatizavam que manter esse conteúdo é importante para identificar não apenas os autores, mas também as vítimas (consulte, por exemplo, PC-11133 do Center for International and Comparative Law, PC-11139 do Digital Security Lab Ukraine e PC-11145 da Protection of Rights Without Borders NGO). Na visão do Comitê, esse conteúdo, devidamente avaliado em seu contexto particular, não apenas mostrou ao público, mas contribuiu para pressionar o poder detentor em tempo real para proteger os direitos dos detentos. De acordo com a Convenção de Genebra III, o CICV facilita a troca de correspondência entre os prisioneiros de guerra e seus familiares para “prevenir casos de desaparecimento e manter os laços familiares sem comprometer a dignidade ou a segurança dos prisioneiros de guerra” (these rules prevent missing cases and maintain family links without compromising the dignity or safety of the POWs).

A decisão de aplicar uma tela de aviso ao conteúdo era necessária e adequada, demonstrando respeito aos direitos dos presos e seus familiares, que poderiam sofrer danos morais em decorrência da exposição involuntária a tal conteúdo. Da mesma forma que a decisão do Comitê sobre o “vídeo após ataque a uma igreja na Nigéria”, o conteúdo, nesse caso, incluía um vídeo que mostrava cadáveres e pessoas feridas bem de perto, com seus rostos visíveis, e áudio de prisioneiros de guerra com grande desconforto ao serem abusados verbalmente por seus captores. O conteúdo do caso contrasta com o conteúdo do caso “Poema russo”, que também envolvia uma situação de conflito, em que o Comitê decidiu que o conteúdo não deveria ter sido colocado em uma tela “marcada como perturbadora”. O conteúdo desse caso era uma imagem estática de um corpo caído no chão a longa distância, onde o rosto da vítima não poderia ser visto. O Comitê concluiu que “a imagem fotográfica não tem indicadores visuais claros de violência, conforme descrito nas diretrizes internas da Meta aos moderadores de conteúdo, o que justificaria o uso da tela de aviso”. Nesse caso, apesar da tela de aviso ter provavelmente reduzido o alcance do conteúdo e, portanto, seu impacto no discurso público, é uma importante medida fornecer aos usuários a opção de ver ou não o conteúdo perturbador. Muitos comentários públicos, inclusive de pessoas em regiões em conflito, favoreceram o uso das telas de aviso devido à natureza explícita do vídeo e ao grande interesse do público em manter o conteúdo (consulte, por exemplo, PC-11139 do Digital Security Lab Ukraine, PC-11144 de Igor Mirzakhanyan e PC-11145 do Protection of Rights without Borders NGO).

9. Decisão do Comitê de Supervisão

O Comitê de Supervisão manteve a decisão da Meta de deixar ativo o conteúdo com a tela de aviso “marcar como perturbador”.

10. Recomendações

A. Política de Conteúdo

1. De acordo com a recomendação nº. 14 no caso da “Suspensão do ex-presidente Trump”, a Meta deve se comprometer a preservar e, se apropriado, compartilhar com as autoridades competentes evidências de crimes de atrocidade ou graves violações de direitos humanos, como aqueles especificados no Estatuto de Roma do Tribunal Penal Internacional, atualizando suas políticas internas para deixar claro os protocolos que possui a esse respeito. O protocolo deve ficar atento a situações de conflito. O protocolo deve explicar os critérios, processos e salvaguardas para (1) iniciar e encerrar a manutenção, incluindo períodos de retenção de dados, (2) aceitar solicitações de preservação, (3) e compartilhar dados com autoridades competentes, incluindo mecanismos e tribunais internacionais de responsabilidade. Deve haver proteções para os direitos dos usuários para processo e privacidade de acordo com os padrões internacionais e as leis de proteção de dados aplicáveis. A sociedade civil, a academia e outros especialistas na área devem fazer parte do desenvolvimento desse protocolo. O Comitê considerará que essa recomendação foi implementada quando a Meta compartilhar seus documentos internos atualizados com o Comitê.

B. Monitoramento

2. Para garantir a aplicação consistente, a Meta deve atualizar os Padrões de Implementação Interna para fornecer instruções mais específicas sobre a aplicação da permissão de valor jornalístico ao conteúdo que identifica ou revela a localização de prisioneiros de guerra, de acordo com os fatores descritos na Seção 8 desta decisão, para direcionar o encaminhamento e a avaliação desse conteúdo como conteúdo de valor jornalístico. O Comitê considerará essa recomendação implementada quando a Meta incorporar essa análise e compartilhar as instruções atualizadas com o Comitê.

C. Transparência

3. Para trazer mais clareza para os usuários, a Meta deve adicionar uma explicação pública sobre a permissão de conteúdo de valor jornalístico na Central de Transparência ao exemplo de conteúdo que mostre a identidade ou a localização de prisioneiros de guerra, mas que tenha ficado ativo por utilidade pública. O Comitê considerará esta recomendação implementada quando a Meta atualizar sua página de conteúdo de valor jornalístico com um exemplo que trata de prisioneiros de guerra.

4. De acordo com o desenvolvimento do protocolo sobre preservação de evidências relacionadas a crimes atrozes e graves violações de direitos humanos, a Meta deve divulgar publicamente esse protocolo na Central de Transparência. O protocolo deve incluir os critérios para iniciar e encerrar a preservação, períodos de retenção de dados, além do processo e proteções para aceitar solicitações de preservação e compartilhamento de dados com autoridades competentes, incluindo mecanismos e tribunais internacionais de responsabilidade. Deve haver proteções para os direitos dos usuários para processo e privacidade de acordo com os padrões internacionais e as leis de proteção de dados aplicáveis. O Comitê considerará que essa recomendação foi implementada quando a Meta compartilhar publicamente esse protocolo.

*Nota processual:

As decisões do Comitê de Supervisão são preparadas por grupos com cinco membros e aprovadas pela maioria do Comitê. As decisões do Comitê não representam, necessariamente, as opiniões pessoais de todos os membros.

Para a decisão sobre o caso em apreço, uma pesquisa independente foi contratada em nome do Comitê. O Comitê foi auxiliado por um instituto de pesquisa independente com sede na Universidade de Gotemburgo, que tem uma equipe de mais de 50 cientistas sociais de seis continentes, bem como mais de 3.200 especialistas de países do mundo todo. A Duco Advisors, empresa de consultoria especializada na intercessão entre as áreas de geopolítica, de confiança e segurança e de tecnologia, também ajudou. A Memetica, uma organização dedicada à pesquisa de código aberto sobre tendências de redes sociais, também forneceu análises.