El Consejo asesor de contenido sostuvo la decisión de Meta en el caso relacionado con los comentarios de un político sobre cambios demográficos
12 de marzo de 2024
El Consejo asesor de contenido ratificó la decisión de Meta de mantener publicado un clip de video en el que el político francés Éric Zemmour debate los cambios demográficos en Europa y África. El contenido no infringe la norma comunitaria sobre lenguaje que incita al odio porque no hay un ataque directo en función de características protegidas, como raza, origen étnico o nacional. La mayoría en el Consejo afirma que conservar el contenido es coherente con las responsabilidades de Meta en materia de derechos humanos. Sin embargo, el Consejo recomienda que Meta aclare públicamente cómo distingue debates relacionados con la inmigración de lenguaje dañino, incluidas teorías conspirativas basadas en odio y ataques contra personas en función de su estatus migratorio.
Información sobre el caso
En julio de 2023, un usuario que administra la página oficial de Facebook de Éric Zemmour publicó un clip de video en el que el político francés debate los cambios demográficos en Europa y África. El clip es parte de una entrevista más extensa con el político. En el video, Zemmour expresa: "Desde el comienzo del siglo XX, hubo una explosión de la población en África". Continúa diciendo que, mientras que la población europea se mantuvo en la cifra más o menos estable de 400 millones, la población africana ascendió a 1.500 millones, "por lo que hubo un cambio en el equilibrio de poder". La descripción en francés de la publicación afirma que, en la década de 1900, "cuando había cuatro europeos por cada africano, [Europa] colonizó África", y ahora "hay cuatro africanos por cada europeo y África coloniza Europa". La página de Facebook de Zemmour tiene aproximadamente 300.000 seguidores, mientras que esta publicación se visualizó alrededor de 40.000 veces a enero de 2024.
Zemmour debió enfrentar diversos procedimientos judiciales, con más de una condena en Francia por incitar al odio racial y hacer comentarios raciales insultantes sobre los musulmanes, los africanos y las personas de la comunidad negra. Se postuló a la presidencia en 2022, pero no pasó de la primera vuelta. El eje de su campaña electoral es la teoría del gran reemplazo, que argumenta que la población blanca europea está siendo intencionalmente reemplazada tanto étnica como culturalmente por la inmigración y el crecimiento de comunidades minoritarias. Los expertos en lingüística mencionaron que la teoría y los términos asociados con ella "incitan al racismo, el odio y la violencia contra los inmigrantes y los europeos no blancos, y contra los musulmanes específicamente". El video de la publicación no menciona específicamente la teoría.
Dos usuarios reportaron el contenido por infringir la política de lenguaje que incita al odio de Meta, pero como no se les dio prioridad de revisión a los reportes en 48 horas, ambos se cerraron automáticamente. Los sistemas automatizados de Meta priorizan los informes conforme a la gravedad de la infracción prevista, la viralidad del contenido (cantidad de visualizaciones) y la probabilidad de que haya infracción. Uno de los usuarios apeló entonces ante Meta, tras lo cual los revisores de la empresa decidieron que no infringía las reglas de Meta. El usuario entonces apeló al Consejo.
Conclusiones principales
La mayoría en el Consejo concluye que el contenido no infringe la norma comunitaria sobre lenguaje que incita al odio de Meta. El clip de video incluye un ejemplo de expresión protegida (aunque controversial) de la opinión respecto de la inmigración, pero no incluye incitación a la violencia, ni tampoco emplea lenguaje deshumanizante o de odio contra grupos vulnerables. Si bien Zemmour fue procesado por usar lenguaje que incita al odio en el pasado y en el video se tocan temas que guardan semejanza con la teoría del gran reemplazo, estos hechos no justifican la eliminación de una publicación que no infringe las normas de Meta.
Para que hubiera constituido una infracción, la publicación debería haber incluido un "ataque directo", es decir, debería haber incitado específicamente a la "exclusión o segregación" de un grupo con "características protegidas". Como los comentarios de Zemmour no incluyen un ataque directo, y no hay una incitación explícita a excluir a un grupo de Europa, como tampoco una declaración sobre los africanos equivalente a un estereotipo dañino, una difamación u otro tipo de ataque directo, no infringen las reglas de lenguaje que incita al odio de Meta. Las bases de la política también dejan en claro que Meta permite "comentarios o críticas sobre políticas migratorias", aunque lo que no se dice públicamente es que la empresa permite la incitación a la exclusión cuando se debate este tipo de políticas.
No obstante, al Consejo le preocupa que Meta no considere a la población africana como un grupo con características protegidas, dado que las políticas de Meta y las leyes de derechos humanos internacionales valoran el origen nacional, la raza y la religión como características protegidas. Se menciona la población africana en el contenido y, en este video, se usa en representación de los africanos no blancos.
El Consejo también consideró la relevancia de la política de personas y organizaciones peligrosas para este caso. Sin embargo, la mayoría considera que la publicación no infringe esta política porque no hay suficientes elementos para revisarla como parte de una red de conspiración que induce a la violencia más general. Meta define estas redes como agentes no estatales que comparten la misma declaración de principios, promueven teorías no fundamentadas que afirman que los problemas sociales y políticos se deben a complots secretos de personas poderosas, y se vinculan directamente a un patrón de daño en la vida real.
Una minoría en el Consejo determinó que el enfoque de Meta respecto del contenido que difunde teorías conspirativas dañinas no es coherente con los objetivos de las políticas que diseñó para prevenir un entorno de exclusión que afecta a minorías protegidas, tanto online como offline. En virtud de estas políticas, el contenido que incluye cierta narrativa de conspiración se modera para proteger a grupos minoritarios en riesgo. Si bien estos miembros del Consejo creen que debería permitirse la crítica hacia asuntos como la inmigración, es precisamente por la relevancia del debate con base empírica en torno a este tema que la difusión de teorías conspirativas de este tipo, como la teoría del gran reemplazo, puede resultar dañina. El principal desafío de las empresas de medios sociales no son los elementos individuales de determinado contenido, sino los efectos combinados que este produce cuando se comparte a gran escala y velocidad. Por lo tanto, Meta debe reformular sus políticas, de modo que aquellos que promueven teorías conspirativas que ocasionan daños online y en la vida real no usen indebidamente sus servicios.
Meta emprendió investigaciones respecto de una disposición normativa que podría abordar las teorías conspirativas basadas en odio, pero determinó que esto, en última instancia, conduciría a la eliminación excesiva del discurso político. Al Consejo le preocupa la falta de información que Meta compartió sobre este proceso.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de conservar la publicación.
El Consejo le recomendó a Meta:
- Brindar más detalles sobre el texto de su norma comunitaria sobre lenguaje que incita al odio para indicar cómo distingue los debates relacionados con la inmigración del lenguaje que incita al odio dirigido contra personas en función de su estatus migratorio. Esto incluye explicar cómo la empresa gestiona contenido que difunde teorías conspirativas basadas en odio, de modo que los usuarios entiendan cómo Meta protege el discurso político sobre inmigración y, al mismo tiempo, aborda los posibles daños en la vida real que suponen estas teorías.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic aquí.
