Nouveau cas d’arnaque : le grand footballeur brésilien Ronaldo vante les mérites d’un jeu en ligne dans une fausse vidéo manipulée par l’IA
6 février 2025
Le Conseil annonce aujourd’hui qu’il va examiner un nouveau cas. Dans ce cadre, nous invitons individus et organisations à soumettre des commentaires publics en cliquant sur le bouton ci-dessous.
Sélection des cas
Comme nous ne pouvons pas entendre tous les appels, le Conseil accorde la priorité aux cas susceptibles d’affecter de nombreux utilisateurs à l’échelle internationale, qui revêtent une extrême importance dans le débat public ou qui soulèvent des questions essentielles par rapport aux politiques de Meta.
Le cas que nous annonçons aujourd’hui est le suivant :
Promotion des jeux d’argent dans des vidéos manipulées par l’IA
2025-018-FB-UA
Appels d’un utilisateur pour supprimer du contenu
Soumettez un commentaire public en cliquant sur le bouton ci-dessous.
En septembre 2024, un utilisateur a publié une vidéo mettant en scène une personne aux traits du joueur de football brésilien Ronaldo Nazário. Dans cette vidéo manipulée par l’IA, le joueur encourage à télécharger l’application Plinco, un jeu en ligne populaire qui consiste à laisser tomber une bille sur un plateau recouvert de clous. Les gains attribués aux joueurs varient en fonction de la case sur laquelle la bille atterrit. La vidéo commence par un plan de Ronaldo s’adressant à la caméra. Bien qu’elle semble réaliste au premier abord, le flux audio simulant les propos de la star de football n’est pas synchronisé avec le mouvement de ses lèvres. La vidéo se poursuit alors sur des images générées par l’IA montrant un enseignant, un conducteur de bus et un employé de supermarché, avec leurs salaires moyens au Brésil. Ronaldo, ou plus précisément la bande-son imitant sa voix, rappelle que Plinco est un jeu très simple qui permet en moyenne de gagner plus d’argent que ces types d’emplois. La vidéo se conclut en invitant les utilisateurs à cliquer sur un lien pour télécharger l’application Plinco, bien que le lien renvoie vers un autre jeu appelé Bubble Shooter. Cette publication a été vue environ 600 000 fois.
Un utilisateur a signalé ce contenu à Meta, invoquant une situation de fraude ou d’arnaque, mais la société a décidé de ne pas le supprimer. Il a ensuite fait appel auprès du Conseil, estimant que Meta avait manqué à son obligation d’alerter le public au sujet des fausses informations véhiculées dans cette publication et de l’utilisation d’un personnage public dans une escroquerie.
Après que le Conseil a sélectionné ce cas, Meta a reconnu que sa décision de laisser le contenu en ligne était une erreur, et l’entreprise a supprimé la publication au motif d’une violation du standard de la communauté relatif à la fraude, aux arnaques et aux pratiques trompeuses. Selon Meta, le contenu est contraire à son interdiction relative à tout contenu qui « tente d’établir un faux profil ou de se faire passer pour une personne célèbre en vue de commettre une arnaque ou une fraude ». Selon Meta, en donnant l’impression, par l’intermédiaire de l’IA, que Ronaldo fait la promotion d’un jeu en ligne, cette vidéo tente en effet d’encourager les utilisateurs à essayer un produit qu’ils n’auraient peut-être pas téléchargé sans l’appui d’une telle célébrité. Les contenus contraires à cette règle ne peuvent pas être supprimés par des examinateurs classiques et nécessitent l’intervention des équipes Meta spécialisées dans les « remontées d’informations » car la mise en application impose davantage de contexte. Meta a également estimé que le contenu enfreignait le standard de la communauté relatif aux contenus indésirables, puisque la publication contenait un prétendu lien de téléchargement de Plinco, mais qui en réalité redirigeait vers un autre jeu.
En sélectionnant ce cas, le Conseil examinera pour la première fois les difficultés liées à la mise en application des politiques de Meta relatives aux fraudes, arnaques et pratiques trompeuses ainsi qu’aux contenus indésirables, en particulier dans le contexte des jeux d’argent en ligne. Le Conseil entend également évaluer les impacts des deepfakes promotionnels sur le public au sens large et sur les personnes représentées. Ce cas s’inscrit dans le cadre de la priorité stratégique du Conseil liée à l’application automatisée des politiques et de la curation de contenu.
Le Conseil aimerait recevoir des commentaires publics sur ce qui suit :
- L’impact socioéconomique des situations promotionnelles par des deepfakes imitant des personnalités publiques, tant sur le public que sur la personnalité ciblée, en particulier au Brésil.
- L’efficacité des pratiques mises en place par Meta pour la mise en application de ses politiques de lutte contre les arnaques, en particulier pour les contenus qui mettent en scène de faux profils et usurpent l’identité de personnalités publiques, au Brésil et dans d’autres régions.
- Comment l’annonce faite par Meta le 7 janvier 2025 au sujet de la fin de l’application proactive de certaines politiques peut influencer la quantité de deepfakes promotionnels diffusés sur les plateformes de Meta, en particulier dans les régions où les signalements sont moins fréquents.
Dans le cadre de ses décisions, le Conseil peut émettre des recommandations sur les politiques de Meta. Bien que ces recommandations ne soient pas contraignantes, Meta doit y répondre dans un délai de 60 jours. Aussi le Conseil encourage-t-il à l’envoi de commentaires publics qui suggèrent des recommandations pertinentes dans ce cas-ci.
Commentaires publics
Si vous ou votre organisation estimez que votre point de vue est opportun et qu’il pourrait aider le Conseil à prendre une décision dans le cas annoncé aujourd’hui, vous pouvez soumettre vos contributions en cliquant sur le bouton ci-dessous. Veuillez noter que les commentaires publics peuvent être envoyés de manière anonyme. Le délai de soumission des commentaires publics est de 14 jours ; il prendra fin le jeudi 20 février à 23 h 59, heure du Pacifique (PST).
Prochaines étapes
Au cours des prochaines semaines, les membres du Conseil délibéreront sur ce cas. Lorsque le Conseil aura statué sur ces cas, nous publierons sa décision sur la page Décisions.
