Comitê de Supervisão revoga as decisões da Meta nos casos de violência contra as mulheres

12 de Julho de 2023

O Comitê de Supervisão anulou as decisões da Meta de remover duas publicações do Instagram que condenavam a violência baseada em gênero. O Comitê recomenda que a Meta a inclua a exceção de permitir conteúdo que condene ou gere conscientização sobre violência baseada em gênero no texto público da política sobre discurso de ódio e que atualize sua orientação interna para analistas, a fim de assegurar que essas publicações não sejam erroneamente removidas.

Sobre os casos

Nessa decisão, o Comitê considera conjuntamente duas publicações de um usuário do Instagram da Suécia. A Meta removeu ambas as publicações por violarem o Padrão da Comunidade sobre discurso de ódio. Depois que o Comitê identificou os casos, a Meta decidiu que a primeira publicação tinha sido removida erroneamente, mas manteve sua decisão sobre a segunda publicação.

A primeira publicação contém um vídeo com uma gravação de áudio e a respectiva transcrição, ambas em sueco, de uma mulher descrevendo sua experiência em um relacionamento íntimo violento, inclusive como se sentia incapaz de discutir a situação com a família. A legenda observa que a mulher na gravação do áudio consentiu com a publicação e que a voz foi modificada. O texto afirma que existe uma cultura de culpabilização das vítimas de violência de gênero e pouca compreensão de como é difícil para as mulheres deixar um ambiente violento. A legenda diz o seguinte: “men murder, rape and abuse women mentally and physically — all the time, every day” (homens não só matam e estupram mulheres, mas também abusam delas mental e fisicamente o tempo todo, todos os dias). Ela também compartilha informações sobre organizações de apoio às vítimas de violência de parceiros íntimos, menciona o Dia Internacional para a Eliminação da Violência contra as Mulheres e diz esperar que as mulheres que lerem a publicação percebam que não estão sozinhas.

Depois que um dos classificadores da Meta identificou o conteúdo como potencialmente violador das regras da Meta sobre discurso de ódio, dois analistas examinaram a publicação e a removeram. Em seguida, essa decisão foi mantida pelos mesmos dois analistas em diferentes níveis de análise. Como resultado da escolha do caso pelo Comitê, a Meta determinou que havia removido o conteúdo por engano e restaurou a publicação.

Ao começar a avaliar a primeira publicação, o Comitê recebeu outra apelação do mesmo usuário. A segunda publicação, também compartilhada no Instagram, contém um vídeo de uma mulher falando em sueco e apontando para certas palavras escritas no idioma em um caderno. No vídeo, a narradora afirma que odeia os homens, mas não todos. Ela também afirma que odeia os homens porque condena a misoginia, e que o ódio por eles tem origem no medo da violência. A Meta removeu o conteúdo por violar suas regras sobre discurso de ódio. O usuário recorreu junto à Meta contra a remoção, mas a empresa manteve sua decisão original após uma análise humana. Após ser informada de que o Comitê tinha selecionado esse caso, a Meta não alterou seu posicionamento.

Desde pelo menos 2017, campanhas digitais destacam que as políticas do Facebook sobre discurso de ódio resultam na remoção de expressões associadas à conscientização sobre violência e o assédio baseados em gênero. Por exemplo, mulheres e ativistas coordenaram a publicação de expressões como “men are trash” (os homens são um lixo) e “men are scum” (os homens são uma escória) e protestaram contra sua subsequente remoção pelo motivo alegado de constituírem discurso de ódio contra os homens.

Principais conclusões

O Comitê considera que nenhuma das duas publicações viola as regras da Meta sobre discurso de ódio.

Na primeira publicação, o Comitê considera que a afirmação “Men murder, rape and abuse women mentally and physically — all the time, every day” (Homens matam, estupram e abusam de mulheres mental e fisicamente — o tempo todo, todos os dias) é uma afirmação com ressalvas que não viola a política da Meta sobre discurso de ódio. Considerando que a publicação se refere a campanhas internacionais contra a violência contra as mulheres e fornece recursos locais para organizações que trabalham para ajudar mulheres que são vítimas de violência, é evidente que o texto descreve homens que cometem violência contra mulheres.

Além disso, o Comitê considera que a segunda publicação não é uma expressão de desprezo com relação aos homens, mas condena a violência contra as mulheres e discute as raízes do ódio baseado em gênero. Embora a Meta argumente que a afirmação da usuária de que ela não odeia todos os homens não afeta a avaliação de outras partes da publicação, o Comitê discorda e avalia a publicação como um todo. O Comitê considera que os outros aspectos da publicação que a Meta citou como potencialmente violadores não são violadores quando interpretados no contexto da publicação. Alguns membros do Comitê discordaram da ideia de que as publicações em questão não violaram as regras da Meta sobre discurso de ódio.

O Comitê está preocupado com a possibilidade da abordagem da Meta em aplicar as regras sobre discurso de ódio baseado em gênero resultar na remoção desproporcional de conteúdo que gera conscientização e que condena a violência baseada em gênero. A Meta afirma, por exemplo, que a primeira publicação deveria ser permitida em suas plataformas e que a política sobre discurso de ódio foi “elaborada de maneira a deixar espaço para conscientização sobre violência baseada em gênero”. Porém, nem a política voltada para o público nem seus documentos de diretrizes internas para moderadores contêm uma orientação clara para assegurar que publicações como essas não sejam erroneamente removidas. A orientação confusa da empresa torna praticamente impossível que os moderadores cheguem à conclusão correta. Embora a Meta tenha se baseado em indícios contextuais para determinar que a primeira publicação não era violadora após ser identificada pelo Comitê, a orientação da empresa para moderadores limita significativamente a possibilidade de análise contextual.

O Comitê considera que, nesse contexto, é essencial que as afirmações que condenam e geram conscientização sobre violência baseada em gênero não sejam erroneamente removidas. A preocupação do Comitê de que isso esteja acontecendo é particularmente notável, considerando que uma permissão para esse tipo de conteúdo, embora seja destacada pela Meta, não é comunicada claramente ao público e que a orientação fornecida aos moderadores é confusa. Para abordar essa questão, a Meta deveria esclarecer suas regras públicas e fornecer uma orientação adequada aos moderadores que reflita essa permissão.

A decisão do Comitê de Supervisão

O Comitê de Supervisão revoga as decisões da Meta de remover ambas as publicações. O Comitê recomenda que a Meta faça o seguinte:

• Inclua a exceção de permitir conteúdo que condene ou gere conscientização sobre violência baseada em gênero no texto público da política sobre discurso de ódio.
• Atualize a orientação para seus moderadores em escala, com atenção específica às regras relacionadas com a qualificação, para assegurar que os conteúdos que condenam e geram conscientização sobre violência baseada em gênero não sejam erroneamente removidos.
• Atualize a Central de Transparência com informações sobre quais penalidades são associadas à acumulação de advertências no Instagram. O Comitê aprecia o fato de que a Meta tenha fornecido informações adicionais sobre advertências para usuários do Facebook em resposta a recomendações do Comitê. Ele acredita que isso deva ser feito também para usuários do Instagram.
• Avalie como o seu protocolo de roteamento de análise afeta a precisão. O Comitê acredita que a Meta deva melhorar a precisão da moderação de conteúdo ajustando esse protocolo de modo a priorizar o envio de tarefas de análise secundária para analistas diferentes daqueles que tenham avaliado o conteúdo anteriormente.

Mais informações

Para ler a decisão na íntegra, clique aqui.

Para ler um resumo dos comentários públicos sobre os casos, clique no anexo abaixo.

Voltar às Notícias