Comitê de Supervisão mantém decisão da Meta no caso do “vídeo de assédio sexual na Índia”
14 de Dezembro de 2022
O Comitê de Supervisão manteve a decisão da Meta de restaurar um vídeo publicado no Instagram de um grupo de homens agredindo uma mulher sexualmente. Ele concluiu que a “tolerância da Meta a conteúdo de interesse jornalístico” é inadequada para resolver casos como esse em grande escala e que a empresa deveria incluir uma exceção na sua política sobre Exploração sexual de adultos.
Sobre o caso
Em março de 2022, uma conta do Instagram que se descreve como uma plataforma para os dalits publicou um vídeo da Índia que mostra um grupo de homens atacando uma mulher. Os “dalits” já foram chamados de “intocáveis” e enfrentaram a opressão sob o sistema de castas. Não é possível ver o rosto da mulher no vídeo, e não há nudez. O texto que acompanha o vídeo afirma que uma “tribal woman” (mulher tribal) foi vítima de agressão sexual em público e que o vídeo viralizou. “Tribal” é uma referência aos povos indígenas da Índia, também conhecidos como adivasis.
Após um usuário denunciar a publicação, a Meta a removeu por violar a política sobre Exploração sexual de adultos, que proíbe conteúdo que “representa, ameaça ou promove violência sexual, agressão sexual ou exploração sexual”.
Um funcionário da Meta sinalizou a remoção do conteúdo por meio de um canal de denúncia interno ao se inteirar dele no Instagram. As equipes internas da empresa analisaram o conteúdo e aplicaram uma “tolerância a conteúdo de interesse jornalístico”. Isso permite que o conteúdo que seria violador continue nas plataformas da Meta caso seja de interesse jornalístico e utilidade pública. A Meta restaurou o conteúdo e colocou uma tela de aviso que impede que menores de 18 anos vejam o vídeo. Mais tarde, a empresa indicou o caso ao Comitê.
Principais conclusões
O Comitê considera que manter esse conteúdo na plataforma, com a tela de aviso, está de acordo com os valores e as responsabilidades de direitos humanos da Meta.
O Comitê reconhece que conteúdo que representa contato sexual sem consentimento pode levar a um risco significativo de danos, tanto para as vítimas quanto para o público em geral, por exemplo, incentivando os criminosos e aumentando a aceitação da violência.
Na Índia, os dalits e os adivasis, especialmente as mulheres, sofrem muita discriminação, e o crime contra eles vem aumentando. As redes sociais são um meio importante de documentar essa violência e discriminação, e o conteúdo nesse caso parece ter sido publicado para aumentar a conscientização. A publicação, portanto, tem um valor de utilidade pública significativo e conta com um alto grau de proteção conforme as normas internacionais de direitos humanos.
Como o vídeo não inclui conteúdo explícito nem nudez e a maioria do Comitê considera que a vítima não é identificável, considerou-se que os benefícios de permitir que o vídeo continue na plataforma, com uma tela de aviso, superam o risco de danos. Quando uma vítima não é identificável, o risco de dano é reduzido significativamente. A tela de aviso, que impede que menores de 18 anos assistam ao vídeo, ajuda a proteger a dignidade da vítima e protege crianças e vítimas de assédio sexual contra a exposição a conteúdo perturbador ou traumatizante.
O Comitê concorda que o conteúdo viola a política da Meta sobre Exploração sexual de adultos e que a tolerância a conteúdo de interesse jornalístico pode ser aplicada. No entanto, ecoando as preocupações que o Comitê levantou no caso do “Vídeo explícito do Sudão”, ele considera que a tolerância a conteúdo de interesse jornalístico é inadequada para lidar com casos como esse em grande escala.
A tolerância a conteúdo de interesse jornalístico é raramente usada. No ano encerrado em 1º de junho de 2022, a Meta a aplicou apenas 68 vezes no mundo todo, número divulgado por recomendação do Comitê. Apenas uma pequena parte teve relação com os Padrões da Comunidade sobre Exploração sexual de adultos. A tolerância a conteúdo de interesse jornalístico só pode ser aplicada pelas equipes internas da Meta. No entanto, esse caso mostra que o processo de encaminhar conteúdo relevante para essas equipes não é confiável. Um funcionário da Meta sinalizou a remoção do conteúdo por meio de um canal de denúncia interno ao se inteirar dele no Instagram.
A tolerância a conteúdo de interesse jornalístico é vaga, fica a critério de quem a aplica e não pode garantir uma aplicação consistente em grande escala. Além disso, não inclui critérios claros para avaliar o dano potencial causado pelo conteúdo que viola a política sobre Exploração sexual de adultos. O Comitê considera que as responsabilidades de direitos humanos da Meta exigem que ela forneça padrões mais claros e processos de monitoramento mais eficazes para casos como esse. É necessário criar uma exceção que possa ser aplicada em grande escala e que seja adaptada à política sobre Exploração sexual de adultos. Isso deve proporcionar orientações mais claras para distinguir as publicações compartilhadas com o intuito de aumentar a conscientização daquelas destinadas a perpetuar a violência ou a discriminação. Também deve ajudar a Meta a equilibrar os direitos conflitantes em grande escala.
A decisão do Comitê de Supervisão
O Comitê de Supervisão mantém a decisão da Meta de restaurar a publicação com uma tela de aviso.
O Comitê recomenda que a Meta faça o seguinte:
- Inclua uma exceção aos Padrões da Comunidade sobre exploração sexual de adultos para representações de contato sexual sem consentimento. Somente as equipes internas da Meta aplicariam essa exceção, que permitiria conteúdo em que a vítima não fosse identificável e que, segundo o entendimento da empresa, tivesse fins de conscientização, não envolvesse nudez e não fosse compartilhado de forma sensacionalista.
- Atualize suas orientações internas para analistas em grande escala sobre quando encaminhar o conteúdo avaliado de acordo com os Padrões da Comunidade sobre Exploração sexual de adultos que pode ser elegível para a exceção de política mencionada acima.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique no anexo abaixo.
