Comitê de Supervisão revoga decisão da Meta no caso “Gênero musical drill do Reino Unido”
22 de Novembro de 2022
O Comitê de Supervisão revogou a decisão da Meta de remover do Instagram um videoclipe do gênero musical drill do Reino Unido. A Meta removeu originalmente o conteúdo após uma solicitação da Polícia Metropolitana. Esse caso gera preocupações sobre as relações da Meta com a polícia, que tem o potencial de amplificar o viés. O Comitê faz recomendações para melhorar o cumprimento do devido processo e da transparência nessas relações.
ATUALIZAÇÃO EM JANEIRO DE 2023
No caso em apreço, o Comitê de Supervisão enviou uma solicitação de liberdade de informação à Polícia Metropolitana de Londres (MET), com perguntas sobre a natureza e o volume de solicitações que a MET fez a empresas de redes sociais, incluindo a Meta, para analisar ou remover conteúdo do gênero musical drill ao longo de um período de um ano. Em 7 de outubro de 2022 , a MET respondeu informando quantas solicitações foram enviadas e quantas resultaram em remoções. A resposta foi publicada na íntegra com a decisão. Além disso, os números presentes na resposta foram incluídos na decisão do Comitê, publicada em 22 de novembro de 2022. Em 4 de janeiro de 2023, a MET entrou em contato com o Comitê para informar que tinha identificado erros na resposta e que os tinha corrigido. Especificamente, ela corrigiu os números de todas as 992 solicitações (que antes eram 286) que a Polícia Metropolitana fez a empresas de redes sociais e serviços de streaming entre junho de 2021 e maio de 2022 para analisar ou remover conteúdo que envolvia o gênero musical drill. Essas solicitações geraram 879 remoções (que antes eram 255). Houve 28 solicitações relacionadas às plataformas da Meta (que eram 21) e 24 remoções (que eram 14). A decisão apresenta os números originais antes das correções da MET. Essa atualização não muda a análise do Comitê de Supervisão, tampouco a decisão sobre o caso. É possível acessar a resposta de liberdade de informação atualizada aqui.
Sobre o caso
Em janeiro de 2022, uma conta do Instagram que se identifica como divulgadora da música britânica publicou um conteúdo que destacava o lançamento da faixa do gênero musical drill do Reino Unido intitulada “Secrets Not Safe”, de autoria de Chinx (OS), incluindo um clipe do vídeo musical da faixa.
Pouco tempo depois, a Polícia Metropolitana, que é responsável pela aplicação da lei na Grande Londres, enviou um email para a Meta solicitando que a empresa analisasse todos os conteúdos que contivessem “Secrets Not Safe”. A Meta também recebeu contexto adicional da Polícia Metropolitana. Segundo a Meta, isso incluía informações sobre violência praticada por gangues, incluindo assassinatos, em Londres, e a preocupação da polícia de que a faixa pudesse causar mais violência retaliativa.
As equipes especializadas da Meta analisaram o conteúdo. Com base no contexto fornecido pela Polícia Metropolitana, eles concluíram que ele continha uma “ameaça velada” ao fazer referência a um tiroteio de 2017, o que poderia potencialmente causar mais violência. A empresa removeu o conteúdo da conta sob análise por violar sua política sobre violência e incitação. Ela também removeu 52 itens de conteúdo que continham a faixa “Secrets Not Safe” de outras contas, incluindo a de Chinx (OS). Subsequentemente, os sistemas automatizados da Meta removeram o conteúdo outras 112 vezes.
A Meta indicou este caso ao Comitê. O Comitê solicitou que a Meta indicasse também a publicação do conteúdo por Chinx (OS). No entanto, a Meta afirmou que isso era impossível, porque a remoção do vídeo de “Secrets Not Safe” da conta de Chinx (OS) causou a exclusão da conta, e o conteúdo dela não foi preservado.
Principais conclusões
O Comitê conclui que a remoção desse conteúdo não é compatível com os Padrões da Comunidade, os valores e as responsabilidades da Meta com relação aos direitos humanos.
A Meta não tinha provas suficientes para concluir que o conteúdo contivesse uma ameaça plausível, e a análise do Comitê não revelou nenhuma prova para corroborar tal conclusão. Na ausência de provas, a Meta deveria ter dado mais peso à natureza artística do conteúdo.
Este caso gera preocupações sobre as relações da Meta com órgãos públicos, especialmente quando as solicitações da polícia fazem com que um conteúdo legal seja analisado com relação aos Padrões da Comunidade e removido. Embora a polícia às vezes possa fornecer contexto e know-how, nem todo conteúdo que a polícia preferiria que fosse removido deveria ser removido. Portanto, é essencial que a Meta avalie essas solicitações de forma independente, especialmente quando elas estão relacionadas à expressão artística de indivíduos pertencentes a grupos minoritários ou marginalizados para os quais o risco de viés cultural contra os respectivos conteúdos é alto.
Os canais que a polícia usa para fazer solicitações à Meta são aleatórios e não transparentes. Os órgãos policiais não são solicitados a cumprir critérios mínimos para justificar suas solicitações, portanto, as interações com eles carecem de uniformidade. Os dados que a Meta publica sobre as solicitações de órgãos públicos também são incompletos.
A falta de transparência sobre a relação da Meta com a polícia cria o potencial de que a empresa amplifique o viés. Uma solicitação feita pelo Comitê baseada na lei de liberdade de informação revelou que todas as 286 solicitações da Polícia Metropolitana feitas junto a empresas de redes sociais e serviços de streaming para analisar ou remover conteúdos musicais de junho de 2021 a maio de 2022 envolviam o gênero musical drill, que é particularmente popular entre jovens negros britânicos. 255 dessas solicitações resultaram em remoção de conteúdo pelas plataformas. 21 solicitações estavam relacionadas com plataformas da Meta e resultaram em 14 remoções de conteúdo. O Comitê considera que, para honrar seus valores e suas responsabilidades com relação aos direitos humanos, as respostas da Meta às solicitações da polícia devem respeitar o devido processo e ser mais transparentes.
Este caso também gera preocupações sobre o acesso à reparação. Como parte deste caso, a Meta informou ao Comitê que, quando a empresa toma decisões relacionadas com conteúdo “sob escalonamento”, os usuários não podem fazer apelação junto ao Comitê. Uma decisão “sob escalonamento” é tomada pelas equipes especializadas internas da Meta. Segundo a Meta, todas as decisões relacionadas com solicitações da polícia são tomadas “sob escalonamento” (a não ser que a solicitação seja feita por meio de uma “ferramenta de denúncia no produto” disponível publicamente), assim como ocorre com determinadas políticas que só podem ser aplicadas pelas equipes internas da Meta. Essa situação soma-se às preocupações geradas ao se preparar o parecer consultivo do Comitê sobre políticas a respeito da verificação cruzada, quando a Meta revelou que, entre maio e junho de 2022, cerca de um terço do conteúdo do sistema de verificação cruzada não pôde ser escalonado para o Comitê.
A Meta indicou conteúdos escalonados ao Comitê em várias ocasiões, incluindo esta. No entanto, o Comitê está preocupado com o fato de que tenha sido negado o acesso à reparação a usuários quando a Meta tomou algumas de suas decisões sobre conteúdo mais ricas em consequências. A empresa deve resolver esse problema urgentemente.
A decisão do Comitê de Supervisão
O Comitê de Supervisão revoga a decisão da Meta de remover o conteúdo.
O Comitê recomenda que a Meta:
- Crie um sistema padronizado para receber solicitações de remoção de conteúdo por parte de órgãos públicos. Isso deve incluir a exigência de critérios como, por exemplo, de que maneira a política foi violada, e provas da violação.
- Publique dados sobre a análise de conteúdo e as solicitações de remoção por parte de órgãos públicos por violações dos Padrões da Comunidade.
- Revise regularmente seus dados sobre decisões de moderação de conteúdo acionadas por solicitações de órgãos públicos, para avaliar a presença de eventuais vieses sistêmicos, e crie um mecanismo para lidar com qualquer viés identificado.
- Dê aos usuários a oportunidade de fazer apelação ao Comitê de Supervisão quando ela tomar decisões sobre conteúdo “sob escalonamento”.
- Preserve contas e conteúdos penalizados ou desabilitados por publicar conteúdo sujeito a uma investigação em aberto pelo Comitê.
- Atualize seu valor de “Voz” para refletir a importância da expressão artística.
- Esclareça, nos Padrões da Comunidade, que, para que um conteúdo seja removido como “ameaça velada”, é necessário um sinal primário e um sinal secundário, e esclareça qual é qual.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos do caso em questão ou a resposta da MET à solicitação de liberdade de informação que o Comitê fez, clique nos anexos abaixo.
