Violência homofóbica na África Ocidental

15 de Outubro de 2024

O Comitê de Supervisão está seriamente preocupado com a falha da Meta em remover um vídeo que mostra dois homens sangrando que parecem ter sido espancados por serem supostamente gays. O conteúdo foi publicado na Nigéria, país que criminaliza relacionamentos entre pessoas do mesmo sexo. Ao anular a decisão original da empresa, o Comitê observa que, ao manter o vídeo no Facebook por cinco meses, havia um risco de dano imediato aos homens ao expor suas identidades, considerando o ambiente hostil para pessoas LGBTQIA+ no país. Esse dano é imediato e impossível de ser desfeito. O conteúdo, que compartilhava e debochava da violência e da discriminação, não seguia quatro Padrões da Comunidade diferentes, foi denunciado diversas vezes e analisado por três moderadores humanos. Esse caso revela falhas sistêmicas no monitoramento. As recomendações do Comitê incluem um apelo para que a Meta avalie a aplicação da regra relevante conforme os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas. Elas também abordam as falhas que provavelmente surgiram quando a Meta identificou erroneamente o idioma no vídeo e como a empresa lida com idiomas sem suporte para análise de conteúdo em escala.

Sobre o caso

Um usuário do Facebook na Nigéria publicou um vídeo que mostra dois homens sangrando, que pareciam ter sido amarrados e espancados. As pessoas ao redor dos homens assustados fazem perguntas em um dos principais idiomas da Nigéria, o igbo. Em resposta, um dos homens fala seu próprio nome e explica, aparentemente sob coerção, que foi espancado por fazer sexo com outro homem. O usuário que publicou esse conteúdo incluiu uma legenda em inglês debochando dos homens, afirmando que eles foram pegos fazendo sexo e que isso é “funny” (engraçado) porque eles são casados.

O vídeo foi visto mais de 3,6 milhões de vezes. Entre dezembro de 2023, quando foi publicado, e fevereiro de 2024, 92 usuários denunciaram o conteúdo, a maioria por violência e incitação ou discurso de ódio. Dois analistas humanos decidiram que a publicação não seguia nenhum dos Padrões da Comunidade e, portanto, deveria permanecer no Facebook. Um usuário apelou da decisão da Meta, mas, após outra análise humana, a empresa decidiu novamente que não houve violações. Em seguida, o usuário fez uma apelação ao Comitê. Depois que o Comitê levou o caso à atenção da Meta, a empresa removeu a publicação de acordo com sua Política sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas.

A Nigéria criminaliza relacionamentos entre pessoas do mesmo sexo, com pessoas LGBTQIA+ enfrentando discriminação e graves restrições aos seus direitos humanos.

Principais conclusões

O Comitê considera que o conteúdo não seguiu quatro Padrões da Comunidade distintos, incluindo a regra sobre coordenação de atos danosos e incentivo à prática de atividades criminosas, que não permite que indivíduos supostamente membros de um grupo sujeito a risco de exposição pública sejam identificados. A confissão do homem no vídeo sobre ter feito sexo com outro homem é forçada, enquanto a legenda alega explicitamente que os homens são gays. O conteúdo também não seguia regras sobre discurso de ódio, bullying e assédio, além de conteúdo violento e explícito.

Há duas regras sobre exposição pública conforme a Política sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas. A primeiro é relevante aqui e aplicada em escala. Ela proíbe a “exposição pública: exposição da identidade ou de locais afiliados a qualquer pessoa que supostamente seja membro de um grupo sujeito a risco de exposição pública”. Há uma regra semelhante aplicada somente quando o conteúdo é encaminhado aos especialistas da Meta. O Comitê está preocupado que a Meta não explique adequadamente as diferenças entre as duas regras sobre “exposição pública” e que a regra aplicada em escala não declare publicamente que “exposição pública” se aplica à identificação de pessoas como LGBTQIA+ em países onde há maior risco de danos no meio físico, como a Nigéria. Atualmente, essas informações estão disponíveis apenas em orientações internas. Essa ambiguidade poderia gerar confusão, impedindo que os usuários cumpram as regras e dificultando que pessoas alvos desse conteúdo abusivo tenham essas publicações removidas. A Meta precisa atualizar sua regra pública e fornecer exemplos de grupos sujeitos a risco de exposição pública.

Esse conteúdo ficou ativo por cerca de cinco meses, apesar de não seguir quatro regras diferentes e apresentar violência e discriminação. Moderadores humanos analisaram o conteúdo e não conseguiram identificar que ele não seguia as regras. Com o vídeo mantido ativo, as chances de alguém identificar os homens e de a publicação encorajar os usuários a prejudicar outras pessoas LGBTQIA+ na Nigéria aumentaram. O vídeo acabou sendo removido, mas a essa altura já havia se tornado viral. Mesmo depois de ter sido removido, a pesquisa do Comitê mostra que ainda havia sequências do mesmo vídeo no Facebook.

Quando o Comitê questionou a Meta sobre suas medidas de aplicação, a empresa admitiu dois erros. Primeiro, seus sistemas automatizados que detectam o idioma identificaram o conteúdo como estando em inglês, antes de enviá-lo para análise humana, enquanto as equipes da Meta identificaram erroneamente o idioma falado no vídeo como suaíli. O idioma correto é igbo, falado por milhões de pessoas na Nigéria, mas ele não tem suporte oferecido pela Meta para moderação de conteúdo em escala. Se o idioma não tem suporte, como nesse caso, o conteúdo é enviado para analistas humanos que trabalham com vários idiomas e recorrem a traduções fornecidas pelas tecnologias da Meta. Isso levanta preocupações sobre como o conteúdo em idiomas sem suporte é tratado, a escolha de idiomas que a empresa oferece suporte para análise em escala e a precisão das traduções fornecidas aos analistas que trabalham com vários idiomas.

Decisão do Comitê de Supervisão

O Comitê de Supervisão revoga a decisão original da Meta de manter o conteúdo.

Ele recomenda que a Meta:

• Atualize a proibição em escala da Política sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas em relação à “exposição pública” para incluir exemplos ilustrativos de “grupos sujeitos a risco de exposição pública”, incluindo pessoas LGBTQIA+ em países onde relacionamentos entre pessoas do mesmo sexo são proibidos e/ou essas exposições criam riscos significativos à segurança.
• Realize uma avaliação da precisão da aplicação da proibição em escala de exposição de identidade ou a localização de qualquer pessoa supostamente membro de um grupo sujeito a risco de exposição pública, de acordo com os Padrões da Comunidade sobre Coordenação de Atos Danosos e Incentivo à Prática de Atividades Criminosas.
• Garanta que seus sistemas de detecção de idioma identifiquem com precisão o conteúdo em idiomas sem suporte e forneçam traduções precisas desse conteúdo para analistas independentes de idiomas.
• Garanta que o conteúdo que contenha um idioma sem suporte, mesmo que combinado com idiomas com suporte, seja direcionado para análise independente. Isso inclui fornecer aos analistas a opção de redirecionar conteúdo que contenha um idioma sem suporte para uma análise independente.

Para obter mais informações

To read public comments for this case, click here.

Voltar às Notícias