Nuevo caso sobre estafas que presenta un video manipulado por IA del legendario futbolista brasileño Ronaldo aparentemente promocionando un juego en línea
6 de febrero de 2025
El día de hoy, el Consejo anuncia un nuevo caso para considerar. Como parte de esto, invitamos a personas y organizaciones a enviar comentarios públicos utilizando el botón de abajo.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que tienen el potencial de afectar a una gran cantidad de usuarios alrededor del mundo, los casos que son de suma importancia para el discurso público o los que plantean preguntas importantes respecto a las políticas de Meta.
El caso que anunciamos el día de hoy es el siguiente:
Video manipulado por IA que fomenta el juego
2025-018-FB-UA
Apelación de los usuarios para eliminar contenidos
Envíe un comentario público utilizando el botón de abajo
En septiembre de 2024, un usuario publicó un video manipulado por IA en el que una persona que parece ser el futbolista brasileño Ronaldo Nazário alienta a otros a descargar la aplicación Plinco. Plinco es un popular juego en línea que consiste en dejar caer una bola por un tablero lleno de clavijas, donde los jugadores ganan diferentes premios según el lugar en el que caiga la bola. El video comienza con Ronaldo hablando a la cámara. Aunque al principio parece realista, el audio que imita la voz del futbolista no coincide con los movimientos de sus labios. El video luego muestra imágenes de un maestro, un conductor de autobús y un trabajador de supermercado, todas generadas por IA, así como el salario promedio de estos trabajadores en Brasil. El audio que imita la voz de Ronaldo afirma que Plinco es un juego sencillo de jugar y que los jugadores promedio pueden ganar más dinero con el juego que realizando estos trabajos. Por último, el video incentiva a los usuarios a hacer clic en un enlace para descargar Plinco, aunque este los redirige a un juego diferente, llamado “Bubble Shooter”. La publicación fue vista aproximadamente 600 000 veces.
Un usuario denunció el contenido a Meta como fraude o estafa, pero la compañía no eliminó el video. El usuario luego apeló ante el Consejo, argumentando que Meta no advirtió a las personas sobre la información falsa de la publicación ni sobre el uso de una figura pública en una estafa.
Como resultado de que el Consejo seleccionara este caso, Meta determinó que su decisión de dejar el contenido publicado fue un error y eliminó la publicación por infringir su Norma comunitaria “Fraudes, estafas y prácticas engañosas”. Según Meta, la publicación infringe su prohibición del contenido “que intente crear una persona falsa o que pretenda ser una persona famosa con el fin de cometer una estafa o un engaño”. Meta explicó que, al hacer parecer que Ronaldo está fomentando un juego en línea mediante IA, el video intenta estafar a las personas para que utilicen un producto que probablemente no descargarían sin la aprobación del futbolista. Solo los equipos de Meta especializados en casos “presentados a un nivel superior” pueden eliminar el contenido que infringe esta norma, algo que no pueden hacer los revisores a escala, ya que se requiere un contexto adicional de aplicación. Además, Meta determinó que el contenido infringe su Norma comunitaria “Spam”, ya que la publicación incluye un enlace que supuestamente lleva a descargar Plinco, pero en su lugar redirige a otro juego.
La selección de este caso por parte del Consejo permitirá examinar, por primera vez, los desafíos que implica hacer cumplir las políticas de Fraudes, estafas y prácticas engañosas y de Spam de Meta, especialmente en el contexto del juego en línea. El Consejo también tiene como objetivo evaluar los impactos de las aprobaciones efectuadas por medios sintéticos en el público general y en las personas que se muestran. Este caso entra en la categoría de prioridad estratégica del Consejo sobre la aplicación automatizada de políticas y selección de contenido.
El Consejo agradecería comentarios públicos que aborden lo siguiente:
- El impacto socioeconómico de las aprobaciones efectuadas por medios sintéticos que imitan a figuras públicas sobre el público y la persona imitada, especialmente en Brasil.
- La efectividad de las prácticas de aplicación de Meta en relación con sus políticas contra estafas, específicamente en el caso de contenido que incluye personalidades falsas y la suplantación de figuras públicas, tanto en Brasil como en otras regiones.
- Cómo el anuncio de Meta del 7 de enero de 2025 sobre el fin de la aplicación proactiva de ciertas políticas podría afectar la cantidad de aprobaciones efectuadas por medios sintéticos en las plataformas de Meta, particularmente en regiones donde las denuncias de los usuarios son menos frecuentes.
Entre sus decisiones, el Consejo puede emitir recomendaciones de políticas a Meta. Aunque las recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. Por ello, el Consejo agradece los comentarios públicos que propongan recomendaciones pertinentes para este caso.
Comentarios públicos
Si usted o su organización consideran que pueden aportar perspectivas valiosas que ayuden a tomar una decisión sobre el caso anunciado hoy, pueden enviar sus contribuciones utilizando el siguiente botón. Tenga en cuenta que los comentarios públicos pueden realizarse de manera anónima. El plazo para enviar comentarios públicos es de 14 días y finalizará el jueves 20 de febrero a las 23:59, hora estándar del Pacífico (PST).
Próximos pasos
En las próximas semanas, los Miembros del Consejo deliberarán sobre este caso. Una vez que hayan tomado una decisión, la publicaremos en la página de Decisiones.
