Comitê de Supervisão mantém decisão da Meta em publicação exibindo armas ligada ao caso Conflito no Sudão
13 de Fevereiro de 2024
O Comitê de Supervisão manteve a decisão da Meta de remover uma publicação que continha uma ilustração de um cartucho de arma, cuja legenda fornecia instruções sobre como fazer e lançar um coquetel molotov. O Comitê considera que a publicação não seguiu o Padrão da Comunidade do Facebook sobre Violência e Incitação ao apresentar um risco iminente de danos que poderia exacerbar a violência em curso no Sudão. Esse caso gerou mais preocupações sobre as responsabilidades da Meta com os direitos humanos relativos ao compartilhamento de conteúdos com instruções sobre o uso de armas durante conflitos armados. Para cumprir essas responsabilidades, a Meta deve garantir que as exceções às regras sobre violência e incitação sejam mais claras. Além disso, ela deve desenvolver ferramentas para corrigir os próprios erros quando enviar a notificação errada aos usuários sobre o Padrão da Comunidade que não foi seguido.
Sobre o caso
Em junho de 2023, um usuário do Facebook publicou uma ilustração de um cartucho de arma, com os componentes identificados em árabe. A legenda da publicação fornece instruções sobre como fazer um coquetel molotov usando os componentes e aconselha o uso de um capacete ao lançar a arma incendiária. A publicação termina com um grito à vitória do povo sudanês e das Forças Armadas do Sudão (SAF, pela sigla em inglês).
Dois meses antes da publicação do conteúdo, eclodiram combates no Sudão entre a SAF e as Forças de Apoio Rápido (RSF, pela sigla em inglês), um grupo paramilitar designado como perigoso pela Meta em agosto de 2023. O conflito armado no Sudão está em curso e se espalhou pelo país, e ambas as partes usam armas explosivas em áreas densamente povoadas por civis.
Os sistemas automatizados da Meta detectaram o conteúdo, determinando que ele não seguia o Padrão da Comunidade do Facebook sobre Violência e Incitação. A Meta removeu a publicação, aplicando uma restrição padrão ao perfil do usuário. O usuário fez uma apelação imediatamente. Em seguida, um dos analistas humanos da Meta constatou que a publicação não seguia a Política sobre Produtos e Serviços Restritos. O usuário fez uma apelação ao Comitê e, depois disso, a Meta determinou que o conteúdo deveria ter sido removido, mas conforme a decisão original, com base no Padrão da Comunidade sobre Violência e Incitação.
Principais descobertas
O Comitê conclui que a publicação não seguiu a Política sobre Violência e Incitação de duas formas. Em primeiro lugar, o efeito combinado da imagem e da legenda não seguiu a regra que proíbe "instruções sobre como fabricar ou usar armas quando a linguagem manifesta explicitamente o objetivo de ferir pessoas gravemente ou de matá-las". Independentemente da intenção da pessoa que criou a publicação, as instruções passo a passo sobre como fazer um coquetel molotov e a recomendação de "usar um capacete" indicam que o conteúdo está convidando as pessoas a agir de acordo com as instruções. Em segundo lugar, recorrer à violência em apoio à SAF durante o conflito armado em curso não está relacionado a uma finalidade não violenta. A Política sobre Violência e Incitação proíbe instruções sobre como fabricar armas, a menos que haja um "contexto que deixe claro que o conteúdo se destina a uma finalidade não violenta".
A regra que proíbe instruções sobre a fabricação e o uso de armas inclui uma exceção para o conteúdo compartilhado com vistas à "autodefesa recreativa, treinamento militar, videogames comerciais ou cobertura jornalística." As partes interessadas consultadas pelo Comitê, bem como reportagens jornalísticas, afirmaram que a Meta permite essas instruções no exercício da autodefesa para alguns conflitos armados. A Meta nega a veracidade disso. O Comitê não está em posição de determinar a veracidade dessas alegações concorrentes.
Não obstante, é essencial que as regras da Meta sobre uma questão de semelhante importância sejam claras e aplicadas de forma consistente. Dado o uso das plataformas da empresa por combatentes e civis durante conflitos para compartilhar informações sobre o uso de armas ou conteúdo violento para autodefesa, a Meta deve esclarecer o que significam as exceções de "autodefesa recreativa" e "treinamento militar". O Comitê não concorda com a Meta que esses termos têm "um significado claro" na linguagem pública do Padrão da Comunidade sobre Violência e Incitação. A fim de melhorar a clareza, a Meta deve esclarecer quais indivíduos podem se beneficiar da "autodefesa recreativa" e em quais situações essa exceção se aplica. Ademais, a linguagem pública da política sobre instruções para fabricar ou usar armas ou explosivos não declara expressamente que os contextos de autodefesa não são considerados durante conflitos armados.
Esse caso também destaca outra exceção pouco clara ao Padrão da Comunidade sobre Violência e Incitação, que permite ameaças dirigidas a terroristas e outros indivíduos violentos. Isso não está suficientemente claro porque a Meta não esclarece se essa exceção se aplica a todas as organizações e indivíduos designados na Política sobre Organizações e Indivíduos Perigosos. Isso é relevante para esse caso, pois a RSF recebeu a designação por um período relevante em 2023. No entanto, é impossível que os usuários saibam se suas publicações podem ser removidas ou não com base nisso, pois a lista de organizações e indivíduos designados não está disponível ao público. O Comitê já expressou suas preocupações sobre essa falta de clareza na decisão do caso Vídeo em uma delegacia do Haiti.
Ele também se preocupa com o fato de que o sistema de notificação da Meta não permite que a empresa corrija os próprios erros quando não comunica corretamente qual Padrão da Comunidade o usuário não seguiu. Para garantir um processo justo, é fundamental poder informar corretamente os usuários sobre a violação. Notificações incorretas prejudicam a capacidade de o usuário fazer apelações e acessar a solução. Nesse caso, o usuário foi informado erroneamente de que sua publicação havia sido removida por discurso de ódio. Entretanto, ela havia sido removida por não seguir o Padrão da Comunidade sobre Violência e Incitação. Portanto, o Comitê incentiva a Meta a explorar formas tecnicamente viáveis de fazer correções nas notificações aos usuários.
A decisão do Comitê de Supervisão
O Comitê de Supervisão manteve a decisão da Meta de remover a publicação.
O Comitê recomenda que a Meta faça o seguinte:
- Altere a Política sobre Violência e Incitação incluindo uma definição de "autodefesa recreativa" e "treinamento militar" como exceções às regras que proíbem os usuários de fornecer instruções sobre como fabricar ou usar armas e esclareça que não permite nenhuma exceção de autodefesa a tais instruções em situações de conflitos armados.
- Desenvolva ferramentas para corrigir os próprios erros ao enviar para os usuários mensagens que os notifiquem sobre o Padrão da Comunidade que não foi seguido, a fim de que os usuários possam entender corretamente quais políticas o conteúdo violou.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique aqui.
