Candidato político de Pakistán acusado de blasfemia
19 de septiembre de 2024
El Consejo sostuvo la decisión de Meta de eliminar una publicación que contenía una acusación de blasfemia contra un candidato político. En el período previo a las elecciones 2024 de Pakistán, había una posibilidad de daño inminente. Sin embargo, el Consejo considera que no queda claro que la regla pertinente de la política de organización de actos dañinos y promoción de la delincuencia, que evita que los usuarios revelen la identidad de una persona de un "grupo de riesgo de exposición", se aplica a figuras públicas acusadas de blasfemia en Pakistán o en cualquier otra parte. Es preocupante que este marco no se entiende fácilmente en todas las culturas e idiomas, por lo que genera confusión para los usuarios que intentan comprender las reglas. Meta debería actualizar su política para aclarar que los usuarios no deben publicar acusaciones de blasfemia contra personas que se puedan identificar en lugares donde la blasfemia constituye un delito o donde hay riesgos de seguridad significativos contra los acusados.
Información sobre el caso
En enero de 2024, un usuario de Instagram publicó un video de seis segundos del discurso de un candidato en las elecciones de febrero 2024 de Pakistán. En el clip, el candidato elogiaba al ex primer ministro Nawaz Sharif diciendo que "después de Dios, seguía Nawaz Sharif". El usuario, usando texto superpuesto en el video, criticaba ese elogio por "cruzar todos los límites de kufr" y alegaba que no era creyente de acuerdo con las enseñanzas del Islam.
Tres usuarios de Instagram reportaron el contenido un día después de su publicación y un revisor que lo analizó consideró que no infringía las Normas comunitarias de Meta. Los usuarios que reportaron el contenido no apelaron la decisión. Varios usuarios más reportaron la publicación los días posteriores, pero Meta sostuvo que el contenido no infringía sus reglas luego de la revisión manual y el cierre automático de algunos reportes.
En febrero de 2024, el sistema HERO (High Risk Early Review Operations) de Meta identificó el contenido para que se sometiera a otra revisión basándose en señales que indicaban que tenía una gran probabilidad de volverse viral. El contenido se escaló a expertos en políticas de Meta, quienes lo eliminaron por infringir la regla sobre "exposición" de la política de organización de actos dañinos y promoción de la delincuencia. Meta define la "exposición" como "exponer la identidad o las ubicaciones vinculadas con cualquiera que presuntamente sea miembro de un grupo de riesgo de exposición". De acuerdo con las pautas internas de Meta para los revisores, un grupo de riesgo de exposición incluye a las personas acusadas de blasfemia en Pakistán. Cuando el sistema HERO marcó el video y lo eliminó, ya había tenido 48.000 visualizaciones y se había compartido más de 14.000 veces. En marzo de 2024, Meta remitió el caso al Consejo asesor de contenido.
Las ofensas relacionadas con la religión infringen la ley pakistaní, y las reglas de medios sociales del país exigen la eliminación de contenido online que sea "blasfemo".
Conclusiones principales
El Consejo considera que, dado los riesgos asociados con las acusaciones de blasfemia en Pakistán, la eliminación del contenido se ajustaba a la disposición de prevenir "daños en la vida real" de la política de organización de actos dañinos y promoción de la delincuencia.
No queda claro para los usuarios que los riesgos que enfrentan los miembros de ciertas minorías religiosas o de creencias se relacionan con la "exposición", como se conoce a este concepto habitualmente (en otras palabras, los riesgos que genera la divulgación pública de un estado privado). El uso del término "outing" (exposición) en este contexto es confuso, tanto en inglés como en urdu. No queda claro ni que las personas acusadas de blasfemia se considerarían ellas mismas miembros de un "grupo" en riesgo de "exposición" ni que los políticos se encontrarían dentro de un "grupo de riesgo de exposición" por dar discursos públicos, especialmente durante las elecciones. En resumen, la política simplemente no deja en claro para los usuarios que el video sería infractor.
Además, la política no especifica qué contextos abarca su disposición sobre la exposición ni qué grupos se consideran en riesgo. Tampoco indica explícitamente que aquellas personas acusadas de blasfemia están protegidas en ubicaciones donde dichas acusaciones implican un riesgo de daño inminente. Meta explicó que, aunque tiene una lista interna de grupos de riesgo de exposición, no la proporciona públicamente para que las personas malintencionadas no puedan evadir las reglas. El Consejo no considera que este motivo justifique la falta de claridad general de la política. Definir con claridad contextos de exposición y grupos de riesgo indicaría a posibles blancos de acusaciones de blasfemia que dichas acusaciones infringen explícitamente las reglas de Meta y se eliminarán. Al mismo tiempo, podría fomentar los reportes de los usuarios acusados de blasfemia en contextos donde la blasfemia implica riesgos legales y de seguridad, como Pakistán. Un mayor nivel de detalle en la regla pública también permitiría que los revisores apliquen las políticas con más precisión.
Al Consejo también le preocupa que varios revisores hayan determinado que el contenido no era infractor, aunque los usuarios lo hayan reportado varias veces y las pautas internas de Meta, que son más claras, incluyan explícitamente a las personas acusadas de blasfemia de Pakistán en sus grupos de riesgo de exposición. Recién cuando el sistema HERO de Meta identificó el contenido, aparentemente luego de volverse viral, se escaló a expertos en políticas internas, que lo identificaron como infractor. Por lo tanto, los revisores a gran escala de Meta deberían recibir una capacitación más personalizada, en especial, en contextos como Pakistán.
La decisión del Consejo asesor de contenido
El Consejo asesor de contenido mantuvo la decisión de Meta de eliminar el contenido.
El Consejo le recomendó a Meta lo siguiente:
- Actualizar la política de organización de actos dañinos y promoción de la delincuencia para aclarar que los usuarios no deben publicar acusaciones de blasfemia contra personas que se puedan identificar en lugares donde la blasfemia es un delito o donde hay riesgos de seguridad significativos para los acusados de blasfemia.
- Capacitar a los revisores a gran escala que cubren ubicaciones donde las acusaciones de blasfemia implican un riesgo de daño inminente para las personas acusadas con el fin de brindarles pautas más específicas de aplicación de políticas que les permitan identificar con eficacia publicaciones con tales acusaciones, así como considerar diferentes matices y contextos.
Para obtener más información
To read public comments for this case, click here.
