Racismo com Planeta dos Macacos

Esta é uma decisão sumária. As decisões sumárias examinam os casos em que a Meta reverteu a decisão original dela sobre um conteúdo depois que o Comitê o levou à atenção da empresa. Essas decisões incluem informações sobre os erros reconhecidos da Meta e são aprovadas por um painel de Membros do Comitê, não pelo Comitê completo. Elas não consideram comentários públicos e não têm valor precedente para o Comitê. As decisões sumárias dão transparência às correções da Meta e destacam áreas em que a empresa poderia melhorar a aplicação de suas políticas.

Resumo do caso

Um usuário apelou da decisão da Meta de deixar ativa uma publicação no Facebook que compara um grupo de indivíduos negros envolvidos em um motim na França ao filme “Planeta dos Macacos”. Depois que o Comitê levou a apelação à atenção da Meta, a empresa reverteu a decisão original e removeu a publicação.

Descrição do caso e histórico

Em janeiro de 2023, um usuário do Facebook publicou um vídeo que parece ter sido feito de um carro em movimento à noite. O vídeo mostra o carro passando por bairros até que um grupo de homens negros aparece e é visto perseguindo o carro no final da filmagem. A legenda afirma o seguinte: “France has fell like planet of the friggin apes over there rioting in the streets running amok savages” (a França se tornou o planeta dos malditos macacos, que se revoltam nas ruas correndo descontroladamente) e fala sobre como “the ones” (aqueles) que chegam às “our shores” (nossas costas litorâneas) recebem moradia, a qual o usuário acredita ter um custo significativo. A publicação teve menos de 500 visualizações. Um usuário do Facebook denunciou o conteúdo.

De acordo com a Política sobre Discurso de Ódio da Meta, a empresa remove conteúdo que desumaniza pessoas pertencentes a um grupo de características protegidas designado, comparando-as a “insetos” ou “animais em geral ou tipos específicos de animais que são culturalmente percebidos como intelectualmente ou fisicamente inferior (incluindo, mas não limitado a: pessoas negras e macacos ou seres semelhantes a macacos; judeus e ratos; muçulmanos e porcos; mexicanos e vermes).”

Inicialmente, a empresa manteve o conteúdo no Facebook. Depois que o Comitê levou o caso à atenção da Meta, a empresa determinou que o conteúdo violava o Padrão da Comunidade sobre Discurso de Ódio e sua decisão original de deixar o conteúdo ativo estava incorreta. A Meta explicou ao Comitê que a legenda do vídeo violava sua Política sobre Discurso de Ódio ao comparar os homens a macacos e deveria ter sido removida. A empresa então removeu o conteúdo do Facebook.

Autoridade e escopo do Comitê

O Comitê tem autoridade para analisar a decisão da Meta após uma apelação do usuário que denunciou que o conteúdo estava ativo (Artigo 2, Seção 1 do Estatuto; e Artigo 3, Seção 1 dos Regulamentos Internos).

Quando a Meta reconhece que cometeu um erro e reverte a decisão em um caso sob consideração para análise do Comitê, o Comitê pode selecionar esse caso para uma decisão sumária (Artigo 2, Seção 2.1.3 dos Regulamentos Internos). O Comitê analisa a decisão original para aumentar a compreensão do processo de moderação de conteúdo, reduzir erros e aumentar a justiça para as pessoas que usam o Facebook e o Instagram.

Significância do caso

Esse caso destaca dificuldades na aplicação consistente de suas políticas de conteúdo pela Meta. A empresa tem uma disposição específica em sua Política sobre Discurso de Ódio que proíbe comparações de pessoas negras com macacos, mas ainda assim não conseguiu remover o conteúdo nesse caso. Outros casos analisados pelo Comitê examinaram as políticas sobre discurso de ódio da Meta e os fatores contextuais para determinar se esse discurso envolvia declarações comportamentais qualificadas ou não qualificadas sobre um grupo protegido para comentários sociais legítimos. O conteúdo nesse caso, no entanto, utiliza inequivocamente discurso de ódio desumano com o propósito expresso de difamar um grupo de indivíduos com base na sua raça e deveria ter sido removido. O caso também destaca como os problemas com a aplicação podem resultar na permanência de conteúdo nas plataformas da Meta, que discrimina um grupo de pessoas com base na sua raça ou etnia. O Comitê observa que este tipo de conteúdo, em grande escala, contribui para uma maior marginalização de grupos minoritários visíveis e até potencialmente gera danos no meio físico, especialmente em regiões onde existe hostilidade em relação a imigrantes.

Anteriormente, o Comitê emitiu uma recomendação que enfatizava a importância de os moderadores reconhecerem as nuances na Política sobre Discurso de Ódio da Meta. Especificamente, o Comitê recomendou que “a Meta deveria esclarecer o Padrão da Comunidade sobre Discurso de Ódio e a orientação fornecida aos analistas, explicando que até mesmo referências implícitas a grupos protegidos são proibidas pela política quando a referência seria razoavelmente compreendida” ( Decisão do desenho animado Knin, recomendação n.º 1). A implementação parcial dessa recomendação da Meta foi demonstrada por meio de informações publicadas. O Comitê destaca a necessidade de a Meta abordar essas preocupações para reduzir a taxa de erro na moderação de conteúdos com discurso de ódio.

Decisão

O Comitê revoga a decisão original da Meta de manter o conteúdo. Além disso, após levar o caso ao conhecimento da empresa, reconhece que ela corrigiu o erro inicial.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas