O Comitê de Supervisão revoga as decisões originais da Meta em casos de publicações discutindo sobre o aborto nos Estados Unidos
6 de Setembro de 2023
O Comitê de Supervisão revogou as decisões originais da Meta de remover três publicações discutindo o aborto e contendo o uso retórico de vocabulário agressivo como figura de linguagem. Enquanto a Meta reconhece que as suas decisões originais estavam erradas e nenhuma das publicações violava sua política sobre Violência e incitação, esses casos expõem preocupações sobre se a análise da Meta acerca do uso de retórica agressiva está afetando, de forma desproporcional, os debates sobre aborto e a expressão política. A Meta deveria fornecer regularmente ao Comitê os dados que usa para avaliar a precisão da aplicação de sua política sobre Violência e incitação, a fim de que o Comitê possa realizar a sua própria análise.
Sobre os casos
Os três itens de conteúdo relacionados a aborto considerados na presente decisão foram publicados por usuários nos Estados Unidos em março de 2023.
No primeiro caso, um usuário publicou uma imagem de mãos estendidas, sobrepostas pelo texto “Pro-Abortion Logic” (Lógica pró-aborto) em um grupo público do Facebook. A publicação continua, “We don’t want you to be poor, starved or unwanted. So we’ll just kill you instead” (Não queremos que vocês sejam pobres, passem fome nem se sintam indesejados. Por isso, vamos só matar vocês). O grupo descreve a si próprio como defendendo a “sanctity of human life” (santidade da vida humana).
Nos outros dois casos, ambas as publicações dos usuários estavam relacionadas a notícias sobre uma proposta de lei na Carolina do Sul que aplicaria as leis de homicídio a casos de aborto, o que significa que a aplicação de pena de morte seria permitida para pessoas que fizessem abortos. Em uma dessas publicações, no Instagram, a imagem no título da notícia estava acompanhada de uma legenda se referindo aos legisladores da Carolina do Sul como “so pro-life we’ll kill you dead if you get an abortion” (tão pró-vida que vão matar você se fizer um aborto). A outra publicação, no Facebook, continha uma legenda pedindo para os congressistas esclarecerem se a posição deles é que “it’s wrong to kill so we are going to kill you” (é errado matar, por isso vamos matar você).
Depois de os sistemas automatizados da Meta, especificamente um classificador de discurso hostil, identificarem o conteúdo como potencialmente prejudicial, todas as três publicações foram enviadas para análise humana. Para os três casos, seis de sete analistas de conteúdo humanos determinaram que as publicações violavam os Padrões da Comunidade sobre Violência e incitação da Meta, porque continham ameaças de morte. Os três usuários apelaram da remoção de seus respectivos conteúdos. Quando o Comitê selecionou esses casos, a Meta determinou que as suas decisões originais estavam erradas e restaurou as publicações.
Principais descobertas
O Comitê conclui que nenhuma das três publicações pode ser razoavelmente interpretada como ameaçadora ou incitando à violência. Apesar de cada uma delas usar alguma variação de “we will kill you” (nós vamos matar você), exprimida de forma jocosa em primeira pessoa para enfatizar pontos de vista opostos, nenhuma das publicações expressa uma ameaça ou intenção de cometer violência. Nesses três casos, seis de sete moderadores humanos cometeram erros na aplicação das políticas da Meta. O Comitê considerou diferentes explicações para os erros nesses casos, que podem representar, conforme as reações da Meta sugerem, um pequeno e possivelmente inevitável subconjunto de decisões erradas. Também é possível que os analistas, que não eram da região onde o conteúdo foi publicado, não tenham sido capazes de entender o contexto linguístico ou político e, portanto, de reconhecer um conteúdo não violador que usava palavras agressivas. A orientação da Meta também pode ter sido insuficiente, dado que a empresa afirmou ao Comitê não fornecer nenhum tipo específico de orientação aos seus moderadores sobre como abordar conteúdo relacionado a aborto como parte de sua política sobre Violência e Incitação.
Discussões sobre políticas relacionadas a aborto costumam ser muito controversas e podem incluir ameaças que são proibidas pela Meta. Logo, é importante que a Meta assegure que os seus sistemas podem distinguir, com segurança, entre ameaças e o uso retórico não violador de linguagem agressiva.
Dado que nenhum desses casos é ambíguo, os erros sugerem que há margem para melhoria nos processos de monitoramento da Meta. Além de esses erros limitarem a expressão em casos individuais, eles também podem criar padrões cíclicos de censura por meio de erros e vieses repetidos oriundos de modelos de aprendizado de máquina treinados com conteúdo abusivo atual. Além disso, esses casos mostram que remover por engano conteúdo que não viola as regras da Meta pode prejudicar debates políticos acerca das questões mais polêmicas em um país, comprometendo, assim, uma possível solução para a divergência política.
A Meta não comprovou de forma convincente ao Comitê que os erros nesses casos são situações atípicas, em vez de representarem um padrão sistêmico de imprecisões.
O Comitê acredita que erros relativamente simples como os desses casos são possíveis áreas em que as técnicas de aprendizado de máquina em desenvolvimento poderiam levar a melhorias notáveis. Ele também demonstra apoio aos recentes aperfeiçoamentos da Meta na sensibilidade dos seus fluxos de trabalho sobre discurso violento. Entretanto, o Comitê espera por mais dados para analisar o desempenho da Meta nessa área ao longo do tempo.
A decisão do Comitê de Supervisão
O Comitê de Supervisão revoga as decisões iniciais da Meta de remover três publicações discutindo sobre o aborto.
O Comitê recomenda que a Meta faça o seguinte:
- Forneça ao Comitê os dados que utiliza para avaliar a precisão da aplicação de sua política sobre Violência e Incitação. Essa informação deve ser suficientemente abrangente para permitir que o Comitê valide os argumentos da Meta de que o tipo de erro nesses casos não resulta de nenhum problema sistêmico nos processos de monitoramento da empresa.
Mais informações
Para ler a decisão na íntegra, clique aqui.
Para ler um resumo dos comentários públicos sobre o caso, clique no anexo abaixo.
