Novo caso sobre golpes apresenta vídeo de IA do fenômeno do futebol brasileiro Ronaldo aparentemente endossando jogo online
6 de Fevereiro de 2025
Hoje, o Comitê anunciou um novo caso a ser levado em consideração. Como parte disso tudo, estamos convidando pessoas e organizações a enviarem comentários públicos usando o botão abaixo.
Seleção de casos
Como não podemos ouvir todas as apelações, o Comitê coloca como prioridade casos que possam afetar muitos usuários no mundo todo, que sejam de importância fundamental para o discurso público ou que levantem questões importantes sobre as políticas da Meta.
Hoje, o caso que estamos anunciando é:
Vídeo manipulado por IA promovendo jogos de azar
2025-018-FB-UA
Apelação de usuário para remoção de conteúdo
Envie um comentário público usando o botão abaixo
Em setembro de 2024, um usuário compartilhou um vídeo editado com inteligência artificial no qual uma pessoa, que aparenta ser o jogador de futebol brasileiro Ronaldo Nazário, incentiva outros a baixar o aplicativo Plinco. Plinco é um jogo online popular que consiste em lançar uma bola em um tabuleiro repleto de pinos, com os jogadores recebendo prêmios variados dependendo de onde a bola cai. O vídeo inicia com Ronaldo falando diretamente para a câmera. Embora o vídeo pareça convincente a princípio, o áudio que imita a voz do famoso jogador de futebol não está alinhado com os movimentos da boca. Em seguida, o vídeo exibe imagens criadas por inteligência artificial de um professor, um motorista de ônibus e um trabalhador de supermercado, acompanhadas de informações sobre os salários médios desses profissionais no Brasil. O áudio, ainda com a voz imitando Ronaldo, afirma que o jogo Plinco é fácil de jogar e sugere que jogadores comuns podem ganhar mais dinheiro com ele do que exercendo essas profissões. Por fim, o vídeo orienta os usuários a clicarem em um link para baixar o Plinco, mas ao clicar, eles são redirecionados para um jogo diferente, chamado Bubble Shooter. A publicação recebeu cerca de 600.000 visualizações.
Um usuário denunciou o conteúdo à Meta, alegando que se tratava de uma fraude, mas a empresa não removeu o vídeo. O usuário então recorreu ao Comitê, alegando que a Meta não havia alertado as pessoas sobre as informações falsas no vídeo nem sobre o uso indevido da imagem de uma figura pública em um golpe.
Após o Comitê analisar o caso, a Meta reconheceu que sua decisão de manter o conteúdo online foi um erro e removeu a publicação, pois ela violava o seu Padrão da Comunidade relacionado a Fraude, Golpes e Práticas Enganosas. Segundo a Meta, o conteúdo violava sua política que proíbe materiais que “tentam criar uma identidade falsa ou se passar por uma pessoa famosa com a intenção de enganar ou cometer fraude”. A Meta explicou que, ao fazer parecer que Ronaldo estava promovendo um jogo online por meio de IA, o vídeo buscava enganar as pessoas, levando-as a baixar um produto que não fariam caso não fosse pela falsa aparência de endosso do famoso. Conteúdos que infringem essa regra só podem ser removidos pelas equipes especializadas de “escalonamento” da Meta, e não pelos revisores em grande escala, já que exigem um contexto adicional para serem aplicados corretamente. A Meta também concluiu que o conteúdo violava seu Padrão da Comunidade relacionado a Spam, uma vez que a publicação incluía um link que alegava direcionar para o download do Plinco, mas na realidade levava a outro jogo.
A seleção desse caso pelo Comitê permitirá que ele analise pela primeira vez os desafios relacionados à aplicação das políticas de Fraude, Golpes e Práticas Enganosas e Spam da Meta, especialmente no contexto de jogos de azar online. O Comitê também buscará avaliar os impactos dos endossos feitos por deepfakes, tanto para o público em geral quanto para as pessoas que são retratadas nessas imagens manipuladas. Esse caso se enquadra na prioridade estratégica de Aplicação Automatizada de Políticas e Curadoria de Conteúdo do Comitê.
O Comitê gostaria de comentários públicos que abordassem:
- O impacto socioeconômico dos endossos de deepfakes que imitam figuras públicas, tanto para o público em geral quanto para as pessoas que estão sendo imitadas, com foco especial no Brasil.
- A eficácia das práticas de aplicação da Meta em relação às suas políticas contra golpes, particularmente no que diz respeito a conteúdos que envolvem identidades falsas e personificações de figuras públicas, tanto no Brasil quanto em outras regiões.
- Como o anúncio da Meta em 7 de janeiro de 2025 sobre o fim da aplicação proativa de certas políticas pode afetar a quantidade de endossos de deepfakes nas plataformas da empresa, especialmente em regiões onde as denúncias de usuários são menos frequentes.
Como parte de suas decisões, o Comitê pode emitir recomendações de políticas para a Meta. Enquanto as recomendações não forem obrigatórias, a Meta deverá respondê-las em 60 dias. Como tal, o Comitê está aberto a comentários públicos que proponham recomendações que sejam relevantes para o caso mencionado.
Comentários públicos
Se você ou sua organização acharem que podem contribuir com pontos de vista pertinentes que possam auxiliar na tomada de decisão em relação aos casos mencionados hoje, use o botão abaixo para enviar a sua contribuição. Lembre-se de que comentários públicos podem ser fornecidos de maneira anônima. O envio de comentários públicos ficará disponível por 14 dias, encerrando às 23h59, horário padrão do Pacífico (PST), na quinta-feira, 20 de fevereiro.
Próximos passos
Nas próximas semanas, os Membros do Comitê vão deliberar sobre esse caso. Assim que chegarem a uma decisão, faremos a publicação na página Decisões.
