Comitê de Supervisão anula decisão da Meta no caso vídeo de prisioneiro das Forças de Apoio Rápido do Sudão
11 de Abril de 2024
O Comitê de Supervisão anulou a decisão original da Meta de deixar ativo um vídeo que mostra homens armados no Sudão, das Forças de Apoio Rápido (RSF na sigla em inglês), detendo alguém na traseira de um veículo militar. O vídeo viola os Padrões da Comunidade sobre Organizações e Indivíduos Perigosos e sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas. O Comitê está preocupado com o fato de a Meta não ter removido, com rapidez suficiente, o conteúdo que mostra um prisioneiro de guerra e inclui apoio a um grupo designado pela empresa como perigoso. Isso indica questões mais amplas relacionadas ao monitoramento eficaz de conteúdos durante conflitos armados e à forma como o conteúdo que revela a identidade (“exposição pública”) de um prisioneiro de guerra é analisado. O Comitê pede que a Meta desenvolva uma solução escalável para identificar proativamente conteúdos que expõem prisioneiros de guerra durante um conflito armado.
Sobre o caso
Em 27 de agosto de 2023, um usuário do Facebook publicou um vídeo de homens armados no Sudão detendo uma pessoa na traseira de um veículo militar. Um homem falando árabe identifica-se como membro das RSF e afirma que o grupo capturou um cidadão estrangeiro, provavelmente um combatente associado às Forças Armadas Sudanesas (SAF na sigla em inglês). O homem prossegue dizendo que o entregarão à liderança das RSF e que pretendem encontrar e capturar os líderes das SAF, inclusive qualquer um dos associados estrangeiros das SAF no Sudão. O vídeo inclui comentários depreciativos sobre cidadãos estrangeiros e líderes de outras nações que apoiam as SAF, enquanto a legenda que o acompanha afirma em árabe: “we know that there are foreigners fighting side by side with the devilish Brotherhood brigades.” (sabemos que há estrangeiros lutando lado a lado com as diabólicas brigadas da Irmandade).
Em abril de 2023, eclodiu um conflito armado no Sudão entre o grupo paramilitar das RSF e das SAF, que é a força militar oficial do governo. Aproximadamente 7,3 milhões de pessoas foram deslocadas devido ao conflito, com mais de 25 milhões enfrentando grave insegurança alimentar. Organizações sudanesas de direitos humanos relataram que as RSF detiveram mais de 5 mil pessoas, mantendo-as em condições desumanas. Há relatos de que ambos os lados cometeram crimes de guerra e crimes contra a humanidade. A Meta designou as RSF conforme seu Padrão da Comunidade sobre Organizações e Indivíduos Perigosos.
Pouco depois da publicação do vídeo, três usuários do Facebook denunciaram o conteúdo, mas, devido à baixa pontuação de gravidade (probabilidade de violar os Padrões da Comunidade) e de efeito viral (número de visualizações), eles não foram priorizados para análise humana, e o conteúdo foi deixado ativo. Um dos usuários apelou, mas essa denúncia foi encerrada devido às políticas de automação sobre COVID-19 da Meta. O mesmo usuário então fez uma apelação ao Comitê de Supervisão. Depois que o Comitê levou o caso à atenção da Meta, a empresa removeu a publicação do Facebook de acordo com seu Padrão da Comunidade sobre Organizações e Indivíduos Perigosos, aplicando também uma advertência padrão e grave ao perfil da pessoa que publicou o vídeo.
Principais descobertas
O conteúdo viola o Padrão da Comunidade sobre Organizações e Indivíduos Perigosos da Meta porque contém apoio a um grupo designado pela empresa como uma organização perigosa de Nível 1, especificamente por “canalizar informações ou recursos, incluindo comunicações oficiais” em nome da organização. O homem visto falando no vídeo identifica-se como parte das RSF, descreve suas atividades, fala das ações que o grupo está tomando e nomeia diretamente o comandante das RSF, Mohamed Hamdan Dagalo. O Comitê considera que a remoção desse conteúdo, que inclui ameaças a qualquer pessoa que se oponha ou desafie as RSF, é necessária e proporcional.
Em decisões anteriores, o Comitê enfatizou a sua preocupação com a falta de transparência da lista de organizações e indivíduos designados da Meta. Considerando a situação no Sudão, onde as RSF têm influência ou controle de fato sobre partes do país, os civis que recorrem ao Facebook, incluindo os canais de comunicação das RSF, para obter informações críticas de segurança e humanitárias, podem correr maior risco devido às restrições impostas a esses canais de comunicação.
Além disso, o Comitê considera que esse conteúdo viola a Política sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas porque mostra um homem capturado que é totalmente visível e descrito no vídeo como um “prisioneiro estrangeiro” associado às SAF. A política da Meta não permite que a identidade de um prisioneiro de guerra seja exposta durante um conflito armado. A remoção do vídeo é necessária considerando as regras específicas do direito humanitário internacional para proteger os detidos em conflitos armados. O Comitê está preocupado com o fato de esse conteúdo não ter sido identificado e removido por violar a regra da Meta contra a exposição pública de prisioneiros de guerra. Essa falta de monitoramento ocorre provavelmente porque essa regra é atualmente aplicada apenas em escalation, o que significa que os analistas humanos que moderam o conteúdo em grande escala não podem tomar medidas por conta própria. Na verdade, a regra só pode ser aplicada se for levada ao conhecimento das equipes exclusivas de escalation da Meta por outros meios, por exemplo, os Parceiros de Confiança ou o conteúdo com cobertura significativa da imprensa.
Por fim, o Comitê também está preocupado com o fato de a Meta não ter conseguido remover esse conteúdo imediatamente ou logo após sua publicação. Os sistemas automatizados da Meta não conseguiram identificar corretamente uma violação nesse vídeo, indicando um problema maior de monitoramento. O Comitê acredita que é necessário fazer alterações para permitir que mais conteúdos que apoiam organizações perigosas sejam enviados para análise humana quando se trata de conflitos armados.
A decisão do Comitê de Supervisão
O Comitê de Supervisão anulou a decisão original da Meta de deixar o vídeo ativo.
O Comitê recomenda que a Meta faça o seguinte:
- Desenvolva uma solução escalável para aplicar a Política sobre Coordenação de Atos Danosos e sobre Incentivo à Prática de Atividades Criminosas, que proíbe a exposição pública de prisioneiros de guerra no contexto de conflito armado. Haja uma equipe especializada para priorizar e identificar proativamente o conteúdo que expõe prisioneiros de guerra durante um conflito.
- Audite os dados de formação utilizados no seu classificador de compreensão de conteúdo de vídeo para avaliar se possui exemplos suficientemente diversos de conteúdo que apoiam organizações designadas no contexto de conflitos armados, incluindo diferentes línguas, dialetos, regiões e conflitos.
- Inclua um hiperlink para as listas de Organizações Terroristas Estrangeiras dos EUA e Terroristas Globais Especialmente Designados em seus Padrões da Comunidade, em que essas listas são mencionadas.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique aqui.
