Comitê de Supervisão anuncia caso da negação do Holocausto
31 de Agosto de 2023
Hoje, o Comitê anuncia um novo caso para consideração. Por esse motivo, convidamos pessoas e organizações a enviar comentários públicos.
Seleção dos casos
Como não podemos analisar todas as apelações, o Comitê prioriza os casos que têm potencial de afetar vários usuários no mundo inteiro, apresentam grande importância para o debate público ou suscitam questões relevantes sobre as políticas da Meta.
O caso que estamos anunciando hoje é o seguinte:
Negação do Holocausto
2023-022-IG-UA
Apelação de um usuário para remover conteúdo do Instagram
Envie comentários públicos aqui.
Para ler este comunicado em hebraico, clique aqui.
לקריאת הודעה זו בעברית, יש ללחוץ כאן.
Em setembro de 2020, um usuário do Instagram com cerca de 9 mil seguidores publicou uma imagem do Lula Molusco, um personagem de desenho animado da série de televisão Bob Esponja, que incluía um balão de diálogo com o título: “Fun Facts About The Holocaust” (Fatos curiosos sobre o Holocausto). O balão continha alegações sobre o Holocausto que não são verdadeiras. A legenda abaixo da imagem incluía várias tags relacionadas a memes, alguns deles talvez direcionados a públicos de regiões específicas. Nos comentários da própria publicação, o usuário reitera que as alegações são “real history” (história real). A publicação foi visualizada cerca de mil vezes e teve menos de mil curtidas.
Em 12 de outubro de 2020, várias semanas depois da publicação original do conteúdo, a Meta anunciou revisões em suas políticas de conteúdo para proibir a negação do Holocausto. “Negar ou distorcer informações sobre o Holocausto” foi adicionado a uma lista de “declarações comportamentais, generalizações ou comparações desumanizantes designadas” dentro do Padrão da Comunidade sobre discurso de ódio (Nível 1). Em 23 de novembro de 2022, a Meta reorganizou o Padrão da Comunidade sobre discurso de ódio, e agora a “negação do Holocausto” está listada no Nível 1 como um exemplo de “estereótipos prejudiciais historicamente vinculados a intimidação, exclusão ou violência baseadas em uma característica protegida”, os quais são proibidos pela política.
Desde que o conteúdo foi publicado em setembro de 2020, os usuários o denunciaram seis vezes por discurso de ódio. Quatro dessas denúncias foram feitas antes da alteração na política da Meta, e duas ocorreram depois. Em algumas denúncias, o conteúdo foi avaliado automaticamente como não violador das políticas da Meta. Já outras denúncias foram encerradas de forma automática como resultado do que a Meta descreveu como suas “políticas de automação relacionadas à COVID-19”. Essa política, implementada no início da pandemia em 2020, encerrou automaticamente trabalhos de análise com base em vários critérios para reduzir o volume de denúncias para análise humana, mantendo abertas aquelas com um “alto risco” potencial. Como houve o encerramento automático de algumas denúncias, o conteúdo foi mantido no Instagram.
Duas denúncias foram encaminhadas para análise humana, uma antes da alteração na política e outra depois. As duas análises consideraram o conteúdo como não violador. Em maio de 2023, outro usuário que denunciou o conteúdo fez uma apelação da decisão, mas ela foi encerrada automaticamente devido às políticas de automação da Meta relacionadas à COVID-19. Com isso, o mesmo usuário fez uma apelação ao Comitê, expressando grande preocupação com a falha da Meta por não remover conteúdo sobre a negação do Holocausto.
O Comitê de Supervisão selecionou esse caso em função de sua relevância para as prioridades estratégicas do órgão e do volume de apelações de usuários questionando a forma como a Meta aplica a proibição de conteúdo que nega o Holocausto.
Esse caso se enquadra na prioridade do Comitê relacionada a discurso de ódio contra grupos marginalizados. Como resultado da seleção do caso pelo Comitê, a Meta determinou que a decisão original de manter o conteúdo no Instagram foi um erro e, por fim, removeu a publicação.
O Comitê gostaria de receber comentários públicos que abordassem o seguinte:
- Pesquisas sobre tendências online relacionadas a conteúdo que nega a veracidade do Holocausto e os danos associados nos meios físico e virtual.
- As responsabilidades de direitos humanos da Meta em relação a conteúdo que nega a veracidade do Holocausto, incluindo as relacionadas a dignidade, segurança e liberdade de expressão.
- Os desafios e as boas práticas em relação ao uso da automação para detectar e combater com precisão o discurso de ódio que promove narrativas falsas sobre grupos com características protegidas, assim como o discurso de ódio na forma de memes ou outras imagens/vídeos com sobreposição de texto (ou seja, como reduzir falsos negativos no monitoramento).
- Os desafios e as boas práticas na prevenção da remoção equivocada (falsos positivos) de conteúdo que combate o discurso de ódio, incluindo sátiras ou qualquer outra forma de discurso.
- O uso da automação feito pela Meta na moderação de conteúdo desde o início da pandemia de COVID-19 e as implicações para a capacidade dos usuários de fazer apelações e retificar erros.
- A utilidade dos relatórios de transparência da Meta sobre a dimensão e a precisão de seu monitoramento contra o discurso de ódio, especialmente para as pessoas que estudam e/ou trabalham para combater o discurso de ódio online.
Como parte de suas decisões, o Comitê pode emitir recomendações de política à Meta. Embora elas não sejam vinculantes, a empresa deve enviar uma resposta dentro de 60 dias. Dessa forma, o Comitê aceita comentários públicos com recomendações relevantes para o caso em questão.
Comentários públicos
Se você ou sua organização acham que podem contribuir com perspectivas valiosas para ajudar na deliberação do caso anunciado hoje, clique no link acima. O período para deixar comentários públicos ficará aberto durante 14 dias e será fechado às 23h59, horário local, de quinta-feira, 14 de setembro.
Próximos passos
Durante as próximas semanas, os membros do Comitê deliberarão sobre esse caso. Quando eles chegarem à decisão final, nós a publicaremos no site do Comitê de Supervisão. Para receber atualizações quando o Comitê anunciar novos casos ou publicar decisões, cadastre-se aqui.
