Programa de verificação cruzada da Meta

Em outubro de 2021, após divulgações sobre o programa de verificação cruzada da Meta no Wall Street Journal, o Comitê de Supervisão aceitou uma solicitação da empresa para revisar a verificação cruzada e fazer recomendações sobre como melhorá-la. Esta opinião consultiva de política é nossa resposta a essa solicitação. Ela analisa a verificação cruzada à luz dos compromissos de direitos humanos e valores declarados da Meta, levantando questões importantes sobre como a Meta trata seus usuários mais poderosos.

Para ler a versão completa de nossa opinião consultiva de política sobre o programa de verificação cruzada da Meta, clique aqui.

Observação: embora as traduções do resumo da nossa opinião consultiva de política já estejam disponíveis, a opinião completa está atualmente disponível apenas em inglês. As traduções para outros idiomas estão em andamento e serão carregadas em nosso site o mais rápido possível em 2023.

Quando o Comitê começou a estudar essa opinião consultiva de política, a Meta compartilhou que, na época, realizava cerca de 100 milhões de tentativas de aplicação de políticas no conteúdo todos os dias. Nesse volume, mesmo que a Meta conseguisse tomar decisões sobre conteúdo com 99% de precisão, ainda cometeria um milhão de erros por dia. Neste sentido, embora uma análise de conteúdo deva tratar todos os usuários de maneira justa, o programa de verificação cruzada responde a desafios mais amplos na moderação de imensos volumes de conteúdo.

De acordo com a Meta, tomar decisões sobre conteúdo nessa escala significa que conteúdos que não violam suas políticas podem ser removidos por engano. O programa de verificação cruzada visa resolver isso fornecendo camadas adicionais de análise humana para certas publicações inicialmente identificadas como violadoras. Quando os usuários nas listas de verificação cruzada da Meta publicam esse conteúdo, ele não é imediatamente removido como seria para a maioria das pessoas, mas fica pendente para análise humana. A Meta refere-se a esse tipo de verificação cruzada como “Análise secundária de resposta inicial” (ERSR, na sigla em inglês). No fim de 2021, a Meta ampliou a verificação cruzada a fim de incluir publicações sinalizadas específicas para análise posterior com base no conteúdo em vez de na identidade de quem publicou. A Meta refere-se a esse tipo de verificação cruzada como “Análise secundária geral” (GSR, na sigla em inglês).

Em nossa análise, encontramos várias deficiências no programa de verificação cruzada da Meta. Embora a Meta tenha afirmado ao Comitê que a verificação cruzada visa promover os compromissos da Meta com os direitos humanos, descobrimos que o programa parece mais diretamente estruturado para resolver as preocupações das empresas. O Comitê entende que a Meta é uma empresa, mas, ao fornecer proteção extra a determinados usuários em grande parte segundo os interesses comerciais, a verificação cruzada permite que o conteúdo que de outra forma seria removido rapidamente permaneça ativo por um período maior, podendo causar danos. Também constatamos que a Meta falhou em rastrear dados sobre se a verificação cruzada resulta em decisões mais precisas e expressamos preocupação com a falta de transparência em torno do programa.

Em resposta, o Comitê fez várias recomendações à Meta. Qualquer sistema de prevenção de erros deve priorizar a expressão, que é importante para os direitos humanos, incluindo a expressão de importância pública. À medida que a Meta avança para melhorar seus processos para todos os usuários, a empresa deve tomar medidas para mitigar os danos causados ​​pelo conteúdo remanescente da análise adicional e aumentar radicalmente a transparência em torno dos seus sistemas.

Principais conclusões

O Comitê reconhece que o volume e a complexidade do conteúdo publicado no Facebook e no Instagram representam desafios para a criação de sistemas que respeitem os compromissos da Meta com os direitos humanos. No entanto, em sua forma atual, a verificação cruzada é falha em áreas importantes que a empresa deve abordar:

Tratamento desigual dos usuários. A verificação cruzada concede proteção maior a certos usuários do que a outros. Se a publicação de um usuário nas listas de verificação cruzada da Meta for identificada como violadora das regras da empresa, ela permanecerá na plataforma aguardando uma análise mais aprofundada. Então, a Meta aplica toda a sua gama de políticas, incluindo exceções e provisões específicas de contexto, à publicação, provavelmente aumentando as chances dela de permanecer na plataforma. Os usuários comuns, por outro lado, têm muito menos probabilidade de ter seu conteúdo alcançado pelos analistas que podem aplicar toda a gama de regras da Meta. Esse tratamento desigual é particularmente preocupante devido à falta de critérios transparentes para as listas de verificação cruzada da Meta. Embora existam critérios claros para incluir parceiros de negócios e líderes governamentais, os usuários cujo conteúdo é importante do ponto de vista dos direitos humanos, como jornalistas e organizações da sociedade civil, têm caminhos menos transparentes de acesso ao programa.

Remoção atrasada do conteúdo violador. Quando o conteúdo dos usuários nas listas de verificação cruzada da Meta é identificado como violador das regras da Meta e passa por uma análise adicional, ele permanece totalmente acessível na plataforma. A Meta informou ao Comitê que pode levar, em média, mais de cinco dias para chegar a uma decisão sobre o conteúdo dos usuários presentes nas listas de verificação cruzada. Isso significa que, por causa da verificação cruzada, o conteúdo identificado como violador das regras da Meta fica pendente no Facebook e no Instagram quando está em alta e pode causar danos. Como o volume de conteúdo selecionado para verificação cruzada pode ultrapassar a capacidade de análise da Meta, o programa tem operado em sobrecarga, o que atrasa as decisões.

Falha ao rastrear as métricas principais. As métricas que a Meta usa atualmente para medir a eficácia da verificação cruzada não capturam todas as principais preocupações. Por exemplo, a Meta não forneceu ao Comitê informações que mostrem que ela acompanha se suas decisões por meio de verificação cruzada são mais ou menos precisas do que por meio dos mecanismos normais de controle de qualidade. Sem isso, é difícil saber se o programa está cumprindo seus objetivos principais de gerar decisões corretas de moderação de conteúdo ou avaliar se a verificação cruzada resulta em um desvio das políticas da Meta.

Falta de transparência sobre como funciona a verificação cruzada. O Comitê também está preocupado com as informações limitadas que a Meta forneceu ao público e aos usuários sobre a verificação cruzada. Atualmente, a Meta não informa aos usuários que eles estão em listas de verificação cruzada e não compartilha publicamente seus procedimentos para criar e auditá-las. Não está claro, por exemplo, se as entidades que publicam continuamente conteúdo violador são mantidas em listas de verificação cruzada com base no perfil. Essa falta de transparência impede que o Comitê e o público entendam todas as consequências do programa.

As recomendações do Comitê de Supervisão

Para cumprir os compromissos de direitos humanos da Meta e enfrentar esses problemas, um programa que corrija os erros de maior impacto no Facebook e no Instagram deve ser estruturado de maneira substancialmente diferente. O Comitê fez 32 recomendações nesta área, muitas das quais estão resumidas abaixo.

Como a Meta busca melhorar sua moderação de conteúdo para todos os usuários, ela deve priorizar a manifestação que é importante para os direitos humanos, incluindo a manifestação que é de especial importância pública. Os usuários que provavelmente produzirão esse tipo de manifestação devem ser priorizados para inclusão em listas de entidades que recebem análise adicional, e não os parceiros de negócios da Meta. As publicações desses usuários devem ser analisadas em um fluxo de trabalho separado para que não compitam com os parceiros de negócios da Meta por recursos limitados. Embora o número de seguidores possa indicar interesse público na manifestação de um usuário, a quantidade de celebridades ou seguidores de um usuário não deve ser o único critério para receber proteção adicional. Se os usuários incluídos devido à sua importância nos negócios publicarem frequentemente conteúdo violador, eles não devem mais se beneficiar da proteção especial.

Aumente radicalmente a transparência sobre a verificação cruzada e como ela opera. A Meta deve avaliar, auditar e publicar as principais métricas do programa de verificação cruzada para poder dizer se ele está funcionando de maneira eficaz. A empresa deve definir critérios claros e públicos para inclusão nas listas de verificação cruzada, e os usuários que atendem a esses critérios devem poder se inscrever no programa. Algumas categorias de entidades protegidas por verificação cruzada, incluindo agentes estatais, candidatos políticos e parceiros de negócios, também devem ter suas contas marcadas publicamente. Isso permitirá que o público responsabilize os usuários privilegiados se as entidades protegidas mantiverem o compromisso de seguir as regras. Além disso, como cerca de um terço do conteúdo no sistema de verificação cruzada da Meta não pôde ser encaminhado ao Comitê de maio a junho de 2022, a empresa deve garantir que o conteúdo verificado e todos os outros conteúdos cobertos pelos documentos em vigor possam ser enviados ao Comitê para apelação.

Reduza os danos causados ​​pelo conteúdo remanescente da análise aprimorada. O conteúdo identificado como infrator e de alta gravidade durante a primeira análise da Meta deve ser removido ou ocultado até que uma análise mais aprofundada seja feita. Esse conteúdo não deve permanecer na plataforma ganhando visualizações simplesmente porque a pessoa que publicou é um parceiro de negócios ou uma celebridade. Para que as decisões sejam tomadas o mais rápido possível, a Meta deve investir os recursos necessários para adequar sua capacidade de análise aos conteúdos que identifica como necessitando de análise adicional.

Voltar para Decisões de Casos e Pareceres Consultivos sobre Políticas