Documental periodístico sobre abuso infantil en Pakistán

Para leer esta decisión en urdu, haz clic aquí.
م مکمل فیصلہ اردو میں پڑھنے کے لیے، یہاں پر کلک کریں.

Resumen

El Consejo asesor de contenido anuló la decisión de Meta de eliminar el video de un documental publicado por Voice of America (VOA) Urdu, en el que se revelaba la identidad de las víctimas de abuso sexual infantil y asesinato de Pakistán en la década de los noventa. Si bien el Consejo considera que la publicación infringe la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores, la mayoría piensa que, en este caso, debería haberse aplicado una concesión de interés periodístico. Estos miembros del Consejo creen que el interés público actual en los informes relacionados con el abuso sexual infantil pesa más que los posibles daños que entraña la identificación de las víctimas, quienes no sobrevivieron a estos crímenes ocurridos hace 25 años. El documental de VOA Urdu, basado en hechos reales y en apoyo a las víctimas, podría haber suscitado un debate público justificado sobre el problema generalizado del abuso sexual infantil, asunto que poca gente denuncia en Pakistán. Este caso también destaca cómo Meta podría comunicar mejor a los usuarios qué políticas se benefician de las excepciones y cuáles no.

Información sobre el caso

En enero de 2022, la difusora Voice of America (VOA) Urdu publicó en su página de Facebook un documental de 11 minutos sobre Javed Iqbal, quien abusó sexualmente de aproximadamente 100 niños y los asesinó en Pakistán en la década de 1990. El documental, en urdu, incluye detalles perturbadores de los crímenes y el juicio del victimario. Hay imágenes de recortes de periódicos que muestran con claridad los rostros de las víctimas infantiles junto con su nombre, mientras que en otros videos aparecen personas llorando que podrían ser sus familiares. La descripción de la publicación menciona que hacía poco circulaba en las noticias un video diferente sobre los asesinatos y también advierte a los espectadores sobre el contenido del documental. La publicación se visualizó aproximadamente 21,8 millones de veces y se compartió cerca de 18.000 veces.

Entre enero de 2022 y julio de 2023, la reportaron 67 usuarios. Tras realizar revisiones manuales y automáticas, Meta concluyó que el contenido no infringía las normas. El sistema High Risk Early Review Operations de Meta también marcó por su parte la publicación por la alta probabilidad de que se volviera viral. Esto dio como resultado una revisión manual a cargo del personal interno de Meta con conocimientos lingüísticos, de mercado y de políticas (no se realizó una moderación manual con personal externo). Tras un escalamiento interno, el equipo de políticas de Meta anuló la decisión original de conservar la publicación y la eliminó por infringir la política de explotación sexual, maltrato y desnudos de menores. La empresa decidió no otorgar la concesión de interés periodístico. Meta luego remitió este caso al Consejo.

Conclusiones principales

La mayoría en el Consejo concluyó en que Meta debería haber aplicado la concesión de interés periodístico a este contenido y conservado la publicación en Facebook. Para el Consejo, la publicación infringía la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores porque exponía la identidad, es decir, el rostro y el nombre, de las víctimas menores de edad. No obstante, para la mayoría, el interés público en que se difunda información sobre delitos de abuso sexual infantil pesa más que los posibles daños a las víctimas y sus familiares. En el proceso para tomar su decisión, la mayoría manifestó que el documental se había realizado para generar conciencia, no fomenta el sensacionalismo con detalles macabros y, principalmente, los crímenes ocurrieron hace aproximadamente 25 años y ninguna de las víctimas sobrevivió. El factor más importante es el paso del tiempo, que implica que no hay casi posibilidad de ocasionar daños directos a las víctimas infantiles. Mientras tanto, el público sigue teniendo interés en el abuso infantil.

Los expertos a los que consultó el Consejo confirmaron que el abuso sexual infantil es algo frecuente en Pakistán, pero casi nadie denuncia. La mayoría mencionó informes de expertos que abordan los antecedentes de Pakistán de restringir a medios independientes y silenciar el disenso, y fallar en cuanto a prevenir o castigar delitos graves contra los niños. Por ello, las plataformas de medios sociales son necesarias para denunciar este flagelo y recibir información al respecto. En este caso, el documental de VOA Urdu realizó una importante contribución al debate público.

Una minoría señaló que, si bien el video trata asuntos de interés público, es posible debatir en detalle al respecto sin mostrar los nombres y rostros de las víctimas y, por ende, el contenido debería haberse eliminado.

El Consejo expresó inquietud respecto del tiempo (18 meses) que demoró Meta en tomar finalmente una decisión respecto de este contenido, que para ese entonces ya se había visualizado 21,8 millones de veces, y se pregunta si los recursos de Meta para videos en urdu son suficientes.

Si bien la poco frecuente concesión de interés periodístico, una excepción general que solo pueden aplicar los equipos expertos de Meta, era relevante en este caso, el Consejo manifiesta que no hay excepciones normativas específicas, por ejemplo, para generar conciencia o difundir información, disponibles para la política de explotación sexual, maltrato y desnudos de menores. Meta debe brindar mayor claridad a los usuarios sobre este asunto.

Asimismo, el texto público de esta política debería dejar más en claro lo que califica como exponer "el nombre o la imagen" de presuntas víctimas. Si VOA Urdu hubiese contado con una explicación más detallada de la regla que estaba infringiendo, podría haber vuelto a publicar el documental sin incluir las imágenes ofensivas o, por ejemplo, tapando los rostros de las víctimas, si estaba permitido.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de eliminar el contenido y solicitó que se restablezca la publicación.

El Consejo le recomendó a Meta:

• Crear una nueva sección dentro de cada norma comunitaria que describa qué excepciones y concesiones se aplican. Cuando Meta se basa en determinados fundamentos para no permitir ciertas excepciones que se aplican a otras políticas (como la concesión de interés periodístico o para generar conciencia), Meta debe incluir dicho fundamento en esta nueva sección.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido anuló la decisión de Meta de eliminar una publicación de Facebook de la página de Voice of America Urdu, en el que se revelaba la identidad de las víctimas de abuso sexual infantil y asesinato en Pakistán en la década de los noventa.

Para el Consejo, la publicación infringía el texto de la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores porque "exponía la identidad, es decir, el rostro y el nombre, de las víctimas menores de edad". Sin embargo, la mayoría en el Consejo determinó que Meta debería haber aplicado la concesión de interés periodístico en este caso porque el interés público actual en que se denuncie el abuso infantil en Pakistán pesa más que los posibles daños que conlleva la exposición de la identidad de las víctimas, quienes fallecieron hace tantos años. Una minoría en el Consejo cree que se podrían haber debatido esos asuntos sin mostrar los nombres y rostros de las víctimas y, por ende, se justifica la decisión de Meta de eliminar la publicación.

Para informar mejor a los usuarios respecto de cuándo se pueden conceder excepciones de las políticas para generar conciencia, difundir una noticia u otros motivos justificados, Meta debe crear una nueva sección dentro de cada norma comunitaria que describa qué excepciones y concesiones se aplican, así como ofrecer su fundamento en los casos en que no se aplican. Esta sección no debe indicar que las concesiones generales, como la de interés periodístico, se aplican a todas las Normas comunitarias.

2. Descripción y contexto del caso

El 28 de enero de 2022, la difusora Voice of America Urdu, fundada por el Gobierno de los Estados Unidos, publicó en su página de Facebook el video de un documental de 11 minutos sobre Javed Iqbal, condenado en los tribunales pakistaníes por asesinar en serie a menores de edad. El documental incluía amplios detalles, en urdu, sobre los crímenes, que implicaban el abuso sexual y asesinato de aproximadamente 100 niños en la década de los noventa. También mostraba el posterior arresto y el juicio del perpetrador.

El video incluía imágenes de recortes de periódicos de 1999 en los que se mostraban los rostros de las víctimas, junto a su nombre y su ciudad de procedencia. Mostraba también fotos de los niños descubiertas durante un allanamiento en la vivienda del asesino. En el documental se muestran amplios detalles y evidencia incriminatoria hallada en la escena del crimen, incluidos cubos de ácido donde presuntamente se disolvían los cadáveres. Hay muchas grabaciones de personas llorando que podrían ser familiares de las víctimas.

En el documental se menciona que Javed Iqbal había confesado traer a los niños a su casa, donde abusaba sexualmente de ellos, los estrangulaba y vertía sus cuerpos en ácido para deshacerse de ellos. Se describe su arresto, junto con sus cómplices, los posteriores juicios y sentencias de muerte, y por último el suicidio bajo custodia.

La descripción de la publicación, en urdu, mencionaba que hacía poco circulaba en las noticias un video diferente sobre los asesinatos. También señalaba la gravedad de los asesinatos y advertía que el documental incluía detalles sobre abuso sexual y violencia, incluidas entrevistas con personas asociadas con el perpetrador y sus crímenes.

La página de Facebook de Voice of America Urdu tiene aproximadamente cinco millones de seguidores. El contenido se visualizó alrededor de 21,8 millones de veces, recibió alrededor de 51.000 reacciones y 5.000 comentarios, y se compartió aproximadamente 18.000 veces. Entre enero de 2022 y julio de 2023, lo reportó un total de 67 usuarios. Tras realizar revisiones automáticas y revisiones manuales a cargo de personal externo durante ese período, Meta concluyó que el contenido no infringía las normas.

El sistema High Risk Early Review Operations (HERO) de Meta también lo marcó ocho veces debido a las señales de alta viralidad entre enero de 2022 y el 15 de julio de 2023. El sistema HERO está diseñado para identificar contenido potencialmente infractor que tiene una alta probabilidad de ser viral. Una vez que el sistema lo identifica, el contenido se prioriza para que el personal interno de Meta con experiencia lingüística, en el mercado y normativa realice una revisión manual (no se contrata a moderadores externos para que lo revisen).

A finales de julio de 2023, tras un reporte del sistema HERO, el equipo interno de operaciones regionales de Meta remitió el contenido a expertos en políticas de Meta para solicitarles que realizaran una evaluación que tuviese en cuenta la concesión de interés periodístico. Tras esta revisión que tuvo lugar en agosto de 2023, el equipo de políticas de Meta anuló la decisión original de conservar el contenido y lo eliminó por infringir la política de explotación, maltrato y desnudos de menores. Meta no emitió la concesión de interés periodístico para este contenido porque concluyó que el riesgo potencial de daños era superior al valor que esto tiene para el interés público. La empresa no especificó la naturaleza y la magnitud de este riesgo.

Meta no aplicó una falta contra la cuenta de la agencia de noticias que publicó el contenido debido al contexto de interés público y concientización del video, así como al notable tiempo (18 meses) que había pasado entre la publicación del contenido y su eliminación.

Meta remitió este caso al Consejo por considerarlo importante y difícil, ya que la empresa tiene que "ponderar la seguridad, la privacidad y la dignidad de las víctimas infantiles contra el hecho de que las imágenes no ponen énfasis en la identidad de las víctimas infantiles, los acontecimientos que se muestran sucedieron hace más de treinta años y el video parece estar creado para generar conciencia en torno a los crímenes de un asesino serial y para debatir asuntos que tienen un alto valor de interés público".

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó en este caso. En Pakistán, el espacio cívico y la libertad de los medios de comunicación están sumamente restringidos. Los expertos en derechos humanos de la ONU y las organizaciones de sociedad civil pusieron de relieve que el Estado pakistaní tiene antecedentes de restringir la libertad de los medios de comunicación y atacar a quienes critican a las autoridades sometiéndolos a arrestos y acciones legales. Los canales de noticias sufrieron interrupciones, el Gobierno retiró la publicidad y se impusieron restricciones a presentadores de televisión y a la transmisión de contenido. Del mismo modo, activistas, disidentes y periodistas online suelen ser el blanco de amenazas y acoso con el aval del Gobierno. Los canales de noticias independientes también documentaron cómo las autoridades pakistaníes solicitan a las empresas de medios sociales eliminar contenido. A través del Centro de transparencia, Meta informó que, entre junio de 2022 y junio de 2023, la empresa había bloqueado geográficamente 7.665 publicaciones que las autoridades pakistaníes le habían reportado. Se restringió el acceso local al contenido por infringir presuntamente las leyes locales, incluso cuando este no incumplía necesariamente las políticas de Meta.

Pese a las confesiones por escrito que presuntamente la policía local recibió por correo postal, las autoridades no investigaron con seriedad los crímenes que cometió Javed Iqbal hasta que periodistas pakistaníes que recibieron la carta con la confesión y la investigaron publicaron un artículo en el periódico Jang el 3 de diciembre de 1999, con los nombres y las fotos de 57 presuntas víctimas infantiles, lo que alertó a sus familias y generó conmoción en torno del tema. Se realizó una cobertura generalizada y global en Pakistán y en todo el mundo en torno a los crímenes, la confesión de Javed Iqbal y su posterior detención, condena y suicidio.

Entre enero de 2022 y enero de 2024, se suscitó un renovado interés y nuevos debates sobre Javed Iqbal y sus crímenes a partir de documentales, videos e informes en los medios. "Javed Iqbal: The Untold Story of a Serial Killer", una película cuyo lanzamiento estaba previsto para enero de 2022, se prohibió durante varios meses por orden de Central Bureau of Film Censors de Pakistán porque, según indicaban las noticias, el título glorificaba a Iqbal. La película se lanzó más tarde ese año en el UK Asian Film Festival. Tanto los expertos a los que consultó el Consejo como medios de comunicación independientes informaron que los productores habían editado la película y cambiado su nombre a "Kuri" (apodo con que se conocía a Javed Iqbal), antes de volverla a someter a la revisión del consejo de censura pakistaní. Se autorizó la película, que se volvió a lanzar en Pakistán en junio de 2023.

El abuso sexual infantil es moneda corriente en Pakistán. Según los expertos a los que consultó el Consejo, de 2020 a 2022, hubo cerca de 5,4 millones de denuncias de explotación infantil online en los medios sociales en Pakistán, conforme a datos recopilados por el Centro nacional de niños desaparecidos y explotados (NCMEC). NCMEC recopila denuncias de material de abuso sexual infantil en los Estados Unidos que residen en plataformas de medios sociales; el 90% de estas denuncias tienen que ver con contenido publicado en las plataformas de Meta. Sahil, una ONG con sede en Islamabad, reportó que, en promedio, 12 niños por día fueron sometidos a abuso sexual en Pakistán durante la primera mitad de 2023. Casi el 75% de los más de 2.200 casos ocurridos en 2023 se denunciaron en la región del Punjab, la provincia con mayor densidad de población de Pakistán. Otros dos atroces casos de crímenes denunciados en la ciudad de Kasur tenían que ver con el abuso sexual por parte de una pandilla de 280 niños y el abuso sexual y asesinato de una niña de seis años. Los medios de comunicación mostraron fotos, incluido el cadáver de la menor.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene autoridad para revisar las decisiones que Meta envía a revisión (Artículo 2, sección 1, del acta constitutiva; artículo 2, sección 2.1.1, de los estatutos).

El Consejo puede mantener o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

4. Fuentes de autoridad y pautas

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido

• Video de prisioneros de guerra armenios
• Mención de los talibanes en los informes de noticias
• Denuncia por parte de un periodista sueco de violencia sexual contra menores
• Opinión consultiva sobre políticas respecto de la información residencial privada
• Armenios en Azerbaiyán
• Síntomas de cáncer de mama y desnudos

II. Políticas de contenido de Meta

Según las bases de la política de explotación sexual, maltrato y desnudos de menores, Meta no admite contenido que "explote sexualmente o ponga en peligro a niños". En virtud de esta política, Meta elimina el "contenido en el que se identifique o ridiculice a supuestas víctimas de explotación sexual por su nombre o foto".

El análisis del Consejo se basó en el compromiso que Meta asumió con la expresión, a la cual la empresa describe como "fundamental", y con los valores de seguridad, privacidad y dignidad.

Concesión de interés periodístico

Meta define la concesión de interés periodístico como una excepción general a las políticas que puede aplicarse a todas las áreas normativas de las Normas comunitarias, incluida la política de explotación sexual, maltrato y desnudos de menores. Permite conservar contenido que de otro modo sería infractor en la plataforma si el valor del interés público en hacerlo supera el riesgo de daño. Según Meta, dichas evaluaciones se realizan solo en "casos poco frecuentes", luego de remitir casos al equipo de políticas de contenido. Este equipo evalúa si el contenido en cuestión supone amenazas inminentes a la salud o la seguridad públicas, o permite que se expresen perspectivas que actualmente se discuten como parte de un proceso político. En esta evaluación, se consideran circunstancias propias de cada país, por ejemplo, si hay elecciones en curso. Si bien la identidad del hablante es una consideración relevante, la concesión no se limita a contenido publicado por medios de comunicación.

Meta informó que, del 1 de junio de 2022 al 1 de junio de 2023, se documentaron solo 69 concesiones de interés periodístico en todo el mundo. Se registraron cifras similares el año anterior.

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, en la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. Las siguientes normas internacionales pueden ser relevantes para el análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso:

• Derecho a la libertad de expresión: Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR); observación general n.º 34, Comité de Derechos Humanos (2011); informes de la Relatora Especial de la ONU sobre la libertad de opinión y expresión, A/74/486 (2019); A/HRC/38/35 (2018); A/69/335 (2014) y A/HRC/17/27 (2011).
• Consideración plena de los intereses del niño: Artículo 3 de la Convención sobre los Derechos del Niño (UNCRC); observación general n.º 25, Comité de los Derechos del Niño (2021). Asimismo, el artículo 17 de la UNCRC reconoce la importante función que desempeñan los medios de comunicación masivos en cuanto a los derechos de los niños a acceder a información para promover su salud física y mental.
• Derecho a la privacidad: Artículo 17 del ICCPR; artículo 16 de la UNCRC.

5. Respuestas del usuario

Al autor de la publicación se le notificó acerca de la revisión del Consejo y se le brindó la oportunidad de presentar una declaración. No se obtuvo respuesta alguna.

6. Respuestas de Meta

Según Meta, la publicación infringía la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores porque mostraba rostros identificables de víctimas infantiles de explotación sexual, junto con su nombre. Meta considera que se identifica a una persona por su nombre o imagen si "el contenido incluye la siguiente información: (i) mención del nombre de la persona (primer o segundo nombre, apellido o nombre completo), a menos que el contenido indique explícitamente que el nombre es inventado [o] (ii) imágenes que muestran el rostro de la persona".

Meta distingue entre contenido que identifica a víctimas adultas de aquel que identifica a víctimas infantiles de abuso sexual porque los niños tienen menor capacidad de brindar su consentimiento informado para que se lo identifique. Debido a ello, los niños siguen expuestos a altos los riesgos de sufrir revictimización, discriminación comunitaria y mayor violencia. Por ende, Meta no aplica excepción alguna conforme a la política de explotación sexual, maltrato y desnudos de menores respecto del contenido que expone el nombre o la imagen de presuntas víctimas de explotación sexual y que se comparte para generar conciencia, informar al respecto o repudiar el abuso.

Los defensores de los derechos del niño señalaron a Meta que sus políticas deben priorizar la seguridad de los niños, en especial en casos que implican víctimas infantiles de abuso sexual. Otras partes externas mencionaron a Meta que el objetivo de evitar la victimización de los menores supera el posible interés periodístico por identificar a las víctimas infantiles.

El Consejo solicitó a Meta analizar su decisión de no conceder una concesión de interés periodístico al contenido en este caso. Meta mencionó que, pese a que el contenido tenía valor de interés público, el riesgo de daños que supone identificar a las víctimas sigue siendo significativo. Si bien los crímenes ocurrieron en la década de los noventa, las víctimas identificadas eran niños, quienes sufrieron abusos de naturaleza sexual y violenta.

En este caso, Meta no aplicó una falta contra la cuenta de la agencia de noticias que publicó el contenido debido al contexto de interés público y concientización del video, y debido al notable tiempo que había pasado entre la publicación del contenido y su eliminación.

En respuesta a las preguntas del Consejo, Meta expresó que la empresa usa el sistema HERO para marcar contenido de forma proactiva antes de que alcance su pico de viralidad. Para ello, se vale de diversas señales diferentes que lo identifican. El sistema prioriza para someter a revisión y aplicar posibles medidas al contenido que tiene probabilidades de ser viral, y es una de las muchas herramientas que se emplean para abordar el contenido viral problemático en la plataforma.

El Consejo le hizo 15 preguntas a Meta por escrito. Las preguntas se relacionaban con las opciones normativas de Meta respecto de la política de explotación sexual, maltrato y desnudos de menores, el sistema de faltas y el sistema HERO de Meta. Meta respondió las 15 preguntas.

7. Comentarios del público

El Consejo asesor de contenido recibió cuatro comentarios del público dentro de los plazos de presentación. Dos los comentarios provinieron de los Estados Unidos y Canadá; uno, de Asia-Pacífico y Oceanía; y uno de Europa. Para leer los comentarios del público enviados con consentimiento de publicación, haz clic aquí.

Los comentarios versaban sobre los siguientes temas: la importancia de proteger la privacidad e identidad de las víctimas infantiles de abuso, así como la privacidad de sus familias; la interacción entre la Convención sobre los Derechos del Niño de la ONU y la política de explotación sexual, maltrato y desnudos de menores; el contexto de concientización y educativo del documental; y el rol que desempeñan los periodistas en cuanto a informar sobre delitos de abuso infantil.

8. Análisis del Consejo asesor de contenido

El Consejo aceptó este caso que remitió Meta para evaluar el impacto de la norma comunitaria de Meta sobre explotación sexual, maltrato y desnudos de menores en los derechos de víctimas infantiles, particularmente, cuando se trata de información periodística cuando transcurre mucho tiempo. Este caso atañe a la protección del espacio cívico, que está entre las prioridades estratégicas del Consejo. El Consejo examinó si este contenido debía restaurarse a la luz de las políticas de contenido, las responsabilidades con los derechos humanos y los valores de Meta.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo está de acuerdo con Meta en que el contenido en este caso infringía las reglas explícitas que estipula la norma comunitaria sobre explotación sexual, maltrato y desnudos de menores, ya que el video mostraba rostros identificables e incluía los nombres de víctimas de abuso infantil.

No obstante, la mayoría en el Consejo concluyó en que Meta debería haber aplicado la concesión de interés periodístico y permitido que este contenido se conserve en Facebook, en la fase de escalamiento. Para la mayoría, el interés público en que se difunda información sobre delitos de abuso sexual infantil de tales características en este caso pesa más que los posibles daños a las víctimas y sus familiares. Esta conclusión se basa en gran medida en el hecho de que este documental se produjo para generar conciencia, no se burla del asunto ni fomenta el sensacionalismo con detalles macabros y, principalmente, los crímenes ocurrieron hace aproximadamente 25 años y ninguna de las víctimas sobrevivió.

Para la mayoría, el factor de mayor peso en este caso es que transcurrió una importante cantidad de tiempo. El transcurso del tiempo puede reducir el impacto potencial en los derechos de los menores y su familia, mientras que sigue habiendo interés público en que se denuncie y se aborde el abuso infantil en Pakistán. En este caso, los crímenes cometidos contra estos niños tuvieron lugar hace más de 25 años, y todas las víctimas infantiles identificables que aparecen en el documental fallecieron.

Sigue habiendo abuso infantil en todo Pakistán (consulta la sección 2), asunto que está sujeto a un intenso debate público. La mayoría en el Consejo mencionó informes de expertos que abordan los antecedentes de Pakistán de restringir a medios independientes y silenciar el disenso, y fallar en cuanto a prevenir o castigar delitos graves contra los niños. Por este motivo, las plataformas de medios sociales son necesarias para todos, incluido para los medios de comunicación, ya que permiten difundir y recibir información respecto del abuso de menores en Pakistán. Este documental fue sumamente preciso y basado en hechos, y se realizó desde una perspectiva de empatía hacia las víctimas. Se contextualizó específicamente en contra de las recientes decisiones del Gobierno de censurar una película sobre el tema y, por ende, fue una importante contribución a los debates públicos.

Una minoría en el Consejo considera que Meta no debería aplicar la concesión de interés periodístico en este caso, ya que señala que la protección de la dignidad y los derechos de las víctimas infantiles, así como de los de sus familias, es primordial y no debería mermar con el paso del tiempo ni debido a otras consideraciones, como afirma la mayoría. La minoría señaló que, si bien el video trata asuntos de interés público, es posible debatir en detalle al respecto sin mostrar los nombres y rostros de las víctimas. Por tal motivo, eliminar el contenido es una medida acorde con los valores de privacidad y dignidad de Meta.

Al realizar una evaluación sobre el interés periodístico, el Consejo señala que es imperativo que Meta tenga en cuenta los posibles efectos adversos para los derechos humanos que tiene la decisión de conservar o eliminar una publicación. Estas consideraciones se detallan en la siguiente sección.

8.2 Cumplimiento de las responsabilidades de Meta en materia de derechos humanos

La mayoría en el Consejo determinó que la eliminación de la publicación no fue necesaria ni proporcionada, y que restaurarla en Facebook es coherente con las responsabilidades de Meta en materia de derechos humanos.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19, párrafo 2, del ICCPR brinda una amplia protección para el discurso político y el periodismo (observación general n.º 34 [2011], párrafo 11). La Relatora Especial de la ONU sobre la libertad de expresión indicó que los Estados pueden solicitar a los medios de comunicación que autorregulen la cobertura que realizan en relación con los niños. Citando el conjunto de directrices y principios preliminares de la Federación Internacional de Periodistas, la Relatora Especial indicó que estos incluían "disposiciones sobre la necesidad de evitar el uso de estereotipos y la presentación sensacionalista de historias protagonizadas por niños" (A/69/335, párrafo 63).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como de lo que esto pone de manifiesto acerca del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó la Relatora Especial de la ONU sobre libertad de expresión, "las empresas no tienen las obligaciones de los gobiernos, pero sus efectos son de un tipo que les obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho de sus usuarios a la libertad de expresión" (A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad conforme al derecho internacional de derechos humanos requiere que cualquier regla que limite la expresión sea clara y de acceso público (observación general n.º 34, párrafo 25). Las restricciones a la expresión deberían formularse con la precisión suficiente para permitir que las personas regulen su conducta en consonancia (ibid.). Conforme se aplica a Meta, la empresa debe proporcionar pautas a los usuarios respecto de qué contenido se permite en la plataforma y cuál no. Asimismo, las reglas que restringen la expresión "no pueden conferir una discrecionalidad a los encargados de [su] implementación" y deben "proporcionar suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no" (A/HRC/38/35, párrafo 46).

El Consejo determinó que la política de explotación sexual, maltrato y desnudos de menores, conforme se aplica a este caso, es lo suficientemente clara para satisfacer el requisito de legalidad, pero hay lugar para realizar mejoras.

Los periodistas, como todos los usuarios, deben contar con pautas suficientes sobre cómo abordar temas complejos en plataformas de medios sociales sin romper las reglas. Se podría explicar con más claridad que compartir imágenes que muestran el nombre o rostro de una víctima infantil no está permitido en debates sobre temas que tienen que ver con el abuso de menores. Se incluyen definiciones más detalladas respecto de la identificación por nombre o imagen en las pautas internas, pero solo están disponibles para los revisores de contenido de Meta. El Consejo insta a Meta a intentar definir con mayor claridad qué se concibe precisamente como identificación de una presunta víctima "mediante el nombre o la imagen", incluso si "mediante el nombre" se refiere a partes del nombre y si "imagen" significa solo mostrar rostros, o si es posible mostrar rostros difuminados.

El Consejo señala que Meta tuvo en cuenta los cambios normativos en esta área, pero decidió no incluir la excepción relacionada con la "concientización" en virtud de la política de explotación sexual, maltrato y desnudos de menores porque esta posición favorecía el interés superior del niño, conforme al artículo 3 de la UNCRC. La empresa manifestó inconvenientes relacionados con la revictimización y la poca capacidad que tienen las víctimas infantiles de otorgar su consentimiento informado para que se las muestre o se haga referencia a ellas en informes periodísticos sobre abuso infantil. En favor de la transparencia y para brindar a los usuarios pautas claras, la política de explotación sexual, maltrato y desnudos de menores debe indicar de forma clara que no permite que se identifique a víctimas infantiles de abuso sexual, incluso cuando la intención es realizar un informe periodístico al respecto, generar conciencia o repudiar esta aberración. Dado que muchas otras políticas incluyen excepciones normativas, Meta no debe suponer que no señalar si se aplican excepciones constituye un aviso suficiente de que se pueden eliminar noticias y expresiones de respaldo, a menos que se cumplan determinadas condiciones en cuanto al respeto por la dignidad y la privacidad. Dicho aviso podría enmarcarse de forma similar en las pautas existentes en las bases de la política, que detallan por qué Meta tiene una disposición general que prohíbe compartir, por ejemplo, imágenes de menores desnudos, incluso cuando sus padres lo hacen sin mala intención.

Dicha actualización debe indicar que Meta puede otorgar la concesión de interés periodístico en circunstancias sumamente excepcionales. El Consejo señala que la explicación de Meta sobre dicha concesión incluye como ejemplo de su aplicación por motivos de interés público e importancia histórica la foto sobre el "terror de la guerra" de Phan Thị Kim Phúc, denominada en ocasiones, de manera informal, como "la niña del napalm".

El Consejo señaló que las excepciones normativas y las concesiones generales, principalmente la concesión de interés periodístico y el espíritu de la concesión, son diferentes, pero no son fáciles de distinguir. Si bien cada norma comunitaria puede o no proporcionar ciertas excepciones normativas, las concesiones generales se pueden aplicar en todas las áreas normativas dentro de las Normas comunitarias. Por ende, para brindar a los usuarios pautas claras y accesibles, Meta debe crear una nueva sección dentro de cada norma comunitaria que describa qué excepciones normativas y concesiones generales se aplican. Cuando Meta se basa en determinados fundamentos para no conceder ciertas excepciones que se aplican a otras políticas (como la concesión para generar conciencia), Meta debe incluir dicho fundamento en esta nueva sección. Esta sección no debe indicar que las concesiones generales se aplican a todas las Normas comunitarias.

II. Fin legítimo

Las restricciones de la libertad de expresión deben tener un fin legítimo, que incluye la protección de los derechos de los demás, así como la protección del orden público y la seguridad nacional.

En la decisión del caso sobre el periodista sueco que reportó un caso de violencia sexual contra menores, el Consejo concluyó que la política de explotación sexual, maltrato y desnudos de menores apunta a prevenir el daño en la vida real contra los derechos de los menores. Para el Consejo, la decisión de Meta en este caso y la política que subyace la eliminación original buscan el fin legítimo de proteger los derechos de las víctimas infantiles de abuso sexual, promover su bienestar físico y mental (artículo 17 de la UNCRC) y proteger su derecho a la privacidad (artículo 17 del ICCPR; artículo 16 de la UNCRC), lo cual concuerda con velar por que se respete el interés superior del niño (artículo 3 de la UNCRC).

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafos 33 y 34).

El artículo 3 de la UNCRC indica que "en todas las medidas concernientes a los niños,... una consideración primordial a que se atenderá será el interés superior del niño". De conformidad con esta declaración, las directrices para la realización de reportajes éticos sobre los niños y los jóvenes de UNICEF señalan que se deben respetar los derechos y la dignidad de cada niño en toda circunstancia y se debe proteger el interés superior de los niños por sobre cualquier otra consideración, incluido el respaldo de asuntos relacionados con ellos y la promoción de sus derechos.

El Comité de los Derechos del Niño señaló que los Estados deben tener en cuenta los derechos de todos los niños, incluido el derecho a "recibir protección contra todo daño y a que sus opiniones se tengan debidamente en cuenta" (observación general n.º 25, párrafo 2). El Comité, además, destacó que la "privacidad es vital para la autonomía, la dignidad y la seguridad de los niños y para el ejercicio de sus derechos" y "las amenazas pueden provenir... de una persona desconocida que difunde información sobre un niño online" (observación general n.º 25, párrafo 67).

El Consejo manifestó que la disposición de Meta que prohíbe identificar a víctimas de explotación sexual infantil mediante su nombre o imagen constituye una política necesaria y proporcionada. Las circunstancias en las que se puede pasar por alto esta regla serán excepcionales y exigen una evaluación detallada del contexto por parte de expertos en el tema (para consultar normas similares o adicionales respecto de la consideración de circunstancias excepcionales al determinar si se permite o no la identificación de personas en situaciones de vulnerabilidad, consulta Video de prisioneros de guerra armenios).

Para la mayoría en el Consejo, Meta debe conservar este contenido en la plataforma debido a su concesión de interés periodístico. La mayoría señaló que mantener publicado el contenido en virtud de esta concesión concuerda con el interés superior de los niños en este caso, que Meta identifica debidamente como una inquietud a la que se debe atribuir la máxima importancia.

Para la mayoría, hay tres factores clave que, en conjunto, sientan las bases para la aplicación de la concesión de interés periodístico. El transcurso del tiempo fue el factor principal en este caso, junto con el hecho de que todas las víctimas infantiles en cuestión habían fallecido, por lo que el riesgo de posibles daños directos era muy bajo. En segundo lugar, el abuso sexual infantil es un fenómeno sumamente frecuente, pero poco denunciado en Pakistán. En tercer lugar, el documental en cuestión no hace sensacionalismo a partir del tema, sino que genera conciencia de un modo casi educativo y podría contribuir al debate público sobre una importante inquietud que atañe a los derechos humanos y asedia desde hace mucho a Pakistán y otros países.

La mayoría en el Consejo afirma que, pese a que las imágenes y los nombres de las víctimas que aparecían en los recortes de periódicos se podrían haber tapado, eliminar todo el documental ignorando todos los demás factores antes mencionados es una medida desproporcionada. En lugar de ello, Meta podría explorar medidas alternativas para informar a los usuarios acerca de la política relevante y brindar soluciones técnicas para prevenir infracciones, como se indica más adelante. Debido a todas las combinaciones específicas de todos los factores antes detallados, se debe otorgar al documental la concesión de interés periodístico.

Para una minoría en el Consejo, la decisión de Meta de eliminar este contenido y no aplicar la concesión de interés periodístico concuerda con las responsabilidades que tiene Meta con los derechos humanos y favorece el interés superior del niño en este caso. La minoría considera que dicho informe periodístico debe priorizar la dignidad de las víctimas infantiles de abuso y garantizar que se respeten sus derechos de privacidad, pese al transcurso del tiempo y al presunto valor que dicho contenido aporta al debate público.

Estos miembros del Consejo destacan que, al difundir noticias de esta naturaleza, los periodistas y los medios de comunicación tienen la responsabilidad ética de seguir códigos de conducta profesionales. Dado que las redes sociales basadas en la interacción pueden incentivar el contenido sensacionalista y el "clickbait", Meta debería adoptar como medida de mitigación apropiada políticas de contenido estrictas que exijan que los medios informen de manera responsable sobre asuntos delicados que afectan a los niños. Esto sería coherente con las normas de derechos humanos aplicables que fomentan "la presentación de informes basados en pruebas que no revelen la identidad de los niños víctimas y supervivientes" (observación general n.º 25, párrafo 57) y que "alientan a los medios de comunicación a proporcionar información apropiada sobre todos los aspectos... de la explotación y el abuso sexual de los niños, utilizando terminología adecuada, al tiempo que salvaguardan la privacidad e identidad de las víctimas y los testigos infantiles en todo momento" ( pautas del Protocolo facultativo de la Convención sobre los Derechos del Niño, párrafo 28.f).

Aunque el contenido en este caso se refiere a un asunto de interés público, la minoría cree que Meta debería exigir un cumplimiento más estricto de las normas de ética periodística para que estos asuntos se informen de una manera que respete la dignidad y los derechos a la privacidad de las víctimas y sus familias. Una minoría en el Consejo también subraya que la decisión de Meta de no aplicar una falta a la cuenta del medio de comunicación tras eliminar adecuadamente el contenido fue una medida proporcionada.

Aunque el Consejo revocó la decisión de Meta de eliminar esta publicación, sigue alarmado por el hecho de que la empresa tardó 18 meses en tomar una decisión sobre un contenido que finalmente consideró como infractor, pese a las decenas de reportes de usuarios y las señales del propio sistema de predicción de viralidad de la empresa. Meta debería investigar los motivos de esto y evaluar si cuenta con suficientes sistemas o recursos para revisar videos en urdu (consulta Mención de los talibanes en los informes de noticias). Es fundamental contar con sistemas efectivos para garantizar que dichas publicaciones, si corresponde, se remitan a equipos internos si hay interés público que motive a conservar el contenido en la plataforma. El contenido en este caso fue un ejemplo de contenido viral (ya que tuvo más de 21,8 millones de visualizaciones) que debería haberse detectado rápidamente, no solo para prevenir posibles daños, sino también para que se llevara a cabo una evaluación que determinara si era de interés periodístico.

El Consejo también señaló que si Voice of America Urdu, el medio de comunicación que publicó este contenido, hubiera recibido una explicación más detallada de la línea normativa que había infringido, podría haber editado y publicado de nuevo el contenido fácilmente, por ejemplo, luego de eliminar los segmentos con imágenes ofensivas o tapar los rostros de las víctimas. A este respecto, Meta debe considerar brindarles a los usuarios notificaciones más específicas sobre infracciones, de conformidad con la recomendación n.º 1 en el caso Armenios en Azerbaiyán y la recomendación n.º 2 en el caso Síntomas de cáncer de mama y desnudos del Consejo. Asimismo, para aliviar la carga que recae sobre los usuarios y mitigar el riesgo de que pongan en peligro a los niños, Meta podría explorar la posibilidad de proporcionarles instrucciones más específicas o acceso dentro de sus productos a, por ejemplo, herramientas de difuminado facial para videos, de modo que puedan cumplir más fácilmente con las políticas de Meta que protegen los derechos de los niños. Meta también podría considerar la viabilidad de suspender dicho contenido durante un período antes de que se elimine de forma definitiva si no se edita adecuadamente (consulta la recomendación n.º 13 en la opinión de asesoramiento normativo acerca del uso compartido de información residencial privada). El autor del contenido relevante podría recibir una notificación que le indique que, durante el período de suspensión, puede usar una herramienta de este tipo para que el contenido cumpla con las normas y evitar que se vuelva a eliminar.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión de Meta de eliminar el contenido y solicitó que se restaurara la publicación.

10. Recomendaciones

Política de contenido

1. Para que los usuarios sepan con precisión en qué casos se pueden conceder excepciones de las políticas, Meta debe crear una nueva sección dentro de cada norma comunitaria que detalle qué excepciones y permisos se aplican. Cuando Meta se basa en determinados fundamentos para no permitir ciertas excepciones que se aplican a otras políticas (como la concesión de interés periodístico o para generar conciencia), Meta debe incluir dicho fundamento en esta sección de la norma comunitaria.

El Consejo considerará implementada esta recomendación cuando cada norma comunitaria incluya la sección y los fundamentos antes mencionados en relación con las excepciones que se aplican y las que no.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también proporcionó análisis.

Volver a Decisiones de casos y opiniones consultivas sobre políticas