El Consejo asesor de contenido anunció dos nuevos casos y ratificó la decisión que Meta tomó en el caso "Productos farmacéuticos en Sri Lanka"
9 de marzo de 2023
Hoy, el Consejo asesor de contenido anunció dos nuevos casos para su consideración (uno relacionado con las elecciones en Brasil y otro referente a contenido que incluía el testimonio de alguien que sobrevivió a la violencia de género), además de una opinión de asesoramiento normativo sobre cómo Meta modera el uso de la palabra árabe "shaheed". También publicamos nuestra decisión sobre el caso "Productos farmacéuticos en Sri Lanka", donde ratificamos la decisión de Meta de permitir contenido en que se solicitaban donaciones de productos farmacéuticos durante la crisis financiera del país. Por último, el Consejo anunció el nombramiento de una nueva fiduciaria: Marie Wieck, ejecutiva sénior en tecnología.
Dos nuevos casos
El Consejo anunció hoy dos nuevos casos para su consideración. Como parte de este proceso, invitamos a las personas y organizaciones a enviar comentarios.
Selección de casos
Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que podrían afectar a muchos usuarios de todo el mundo, que sean de suma relevancia para el discurso público o que planteen cuestiones importantes sobre las políticas de Meta.
Estos son los casos que anunciamos hoy:
Discurso del general brasileño
(2023-001-FB-UA)
Apelación de un usuario para eliminar contenido de Facebook
Enviar comentarios públicos aquí.
El 3 de enero de 2023, dos días después de que Luiz Inácio Lula da Silva jurara su cargo como presidente de Brasil, un usuario de Facebook publicó un video con un texto en portugués. En el texto, se convocaba a "asediar" el Congreso de Brasil como "la última alternativa". En el video, se mostraba parte de un discurso pronunciado por un destacado general brasileño y partidario del oponente electoral de Lula, en el que convocaba a las personas a "salir a las calles" e "ir al Congreso Nacional… [y al] Supremo Tribunal". Tras el discurso del general, aparecía una secuencia de imágenes, entre ellas, una de un incendio ardiendo en la Plaza de los Tres Poderes de Brasilia, que alberga las oficinas presidenciales, el Congreso y el Supremo Tribunal de Brasil. El texto que se encontraba superpuesto sobre la imagen decía: "¡Vengan a Brasilia! Asaltémosla. Asediemos los tres poderes". Un texto superpuesto sobre otra imagen decía: "Queremos el código fuente", eslogan que los manifestantes usaron para cuestionar la fiabilidad de las máquinas de votación electrónica de Brasil. El video se reprodujo más de 18.000 veces, no se compartió, y lo reportaron siete veces.
La jura de Lula da Silva estuvo acompañada de disturbios civiles, incluidas manifestaciones y barricadas. El 8 de enero, más de mil partidarios del expresidente Jair Bolsonaro irrumpieron en el Congreso Nacional, el Supremo Tribunal y las oficinas presidenciales, intimidaron a la policía y destruyeron las instalaciones. Meta designó a Brasil como lugar de alto riesgo temporal antes de las elecciones generales de octubre de 2022 en el país y eliminó el contenido que "convocaba a las personas a empuñar las armas o invadir por la fuerza […] edificios federales" como consecuencia. Recién el 9 de enero Meta anunció que lo había hecho.
El mismo día en que se publicó el contenido, un usuario lo reportó por infringir lanorma comunitaria sobre violencia e incitaciónde Meta, en la que se prohíben las convocatorias a ingresar por la fuerza a lugares en los que hay indicios temporales de alto riesgo de violencia o daños en el mundo real. En total, cuatro usuarios reportaron el contenido siete veces entre el 3 y el 4 de enero. Después del primer reporte, un revisor examinó el contenido y determinó que no infringía las políticas de Meta. El usuario apeló la decisión, pero un segundo revisor la ratificó. Al día siguiente, cinco moderadores diferentes revisaron los otros seis reportes, y todos ellos determinaron que la publicación no infringía las políticas de Meta. El contenido no se remitió a expertos en políticas o en la materia para realizar una revisión adicional.
Uno de los usuarios que había reportado el contenido apeló la decisión de Meta al Consejo asesor de contenido. En su apelación al Consejo, vinculó la capacidad latente del contenido para incitar violencia con el movimiento de los brasileños que "no aceptan los resultados de las elecciones".
El Consejo seleccionó este caso para examinar el modo en que Meta modera el contenido relacionado con elecciones, además de cómo aplica su protocolo de la política de crisis en un sitio designado como "lugar de alto riesgo temporal". Meta desarrolló dicho protocolo en respuesta a la recomendación que el Consejo le hizo en el caso "Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump". Este caso está amparado por la prioridad "Elecciones y los espacios cívicos" del Consejo.
A raíz de que el Consejo seleccionó este caso, Meta determinó que había cometido un error al decidir dejar el contenido en Facebook en reiteradas ocasiones. Los revisores encargados de los procedimientos a gran escala no registran los motivos de sus decisiones, por lo que la empresa no cuenta con más información sobre por qué determinaron que el contenido no infringía las políticas en este caso. El 20 de enero de 2023, Meta eliminó el contenido, impuso una falta a la cuenta del creador del contenido y aplicó una limitación de funciones, por la que le impidió seguir creando contenido.
Al Consejo le gustaría recibir comentarios públicos sobre lo siguiente:
- La situación política de Brasil previa a las elecciones de octubre y cómo cambió entre octubre de 2022 y el 8 de enero de 2023.
- La relación entre la violencia política, el negacionismo electoral y las convocatorias a movilizaciones en la vida real a través de medios sociales.
- Cuándo deberían comenzar y finalizar las iniciativas de Meta en relación con la integridad de las elecciones, así como los criterios que deberían regir las decisiones sobre dichos plazos, en particular, cuando se vinculan con transiciones de poder.
- Cómo Meta debería distinguir entre planificaciones políticas legítimas y acciones coordinadas dañinas.
- Cómo Meta debería tratar el contenido en que se ataca o deslegitima a instituciones y procesos democráticos.
En sus decisiones, el Consejo puede formular recomendaciones de políticas a Meta. Si bien estas recomendaciones no son vinculantes, Meta debe responder en un plazo de 60 días. El Consejo recibe comentarios públicos con recomendaciones que sean relevantes para este caso.
Testimonio de violencia contra mujeres
(2023-002-IG-UA)
Apelación de un usuario para restaurar contenido en Instagram
Enviar comentarios públicos aquí.
En noviembre de 2022, un usuario de Instagram publicó un video con un texto en sueco. El video incluía una grabación de audio, también en sueco, de una mujer que describía lo que había experimentado en una relación íntima violenta, por ejemplo, que se sentía incapaz de hablar sobre la situación con sus familiares. El audio no contenía descripciones específicas de violencia. En la descripción, se indicaba que la mujer que se escuchaba en la grabación de audio había dado su consentimiento para que esta se publicara y que la voz se había modificado. También decía que existe una cultura de culpar a las víctimas de violencia de género y que poco se comprende cuán difícil es para las mujeres alejarse de una pareja violenta. En la descripción, decía: "Los hombres asesinan mujeres, las violan y abusan de ellas mental y físicamente… en todo momento, todos los días". En ella, también figuraba el número de una línea de ayuda, así como un deseo de que todas las mujeres que leyeran la publicación descubrieran que no estaban solas. La publicación se visualizó unas 10.000 veces, se compartió menos de 20 veces, y nadie la reportó.
Meta eliminó el contenido de Instagram en virtud de la norma comunitaria sobre lenguaje que incita al odio. En dicha norma, se prohíbe realizar generalizaciones o afirmaciones basadas en el comportamiento no aptas que expresen que las personas de determinado sexo o género son criminales violentos o depredadores sexuales. Los sistemas automatizados de Meta identificaron el contenido como potencialmente infractor. Después de dos revisiones manuales, Meta eliminó la publicación y aplicó una "falta estándar" a la cuenta del usuario. El usuario realizó una apelación, y un tercer revisor ratificó la decisión de la empresa. Luego, el sistema automatizado de invalidación de falsos positivos de alto impacto (HIPO) de Meta, que tiene como finalidad identificar contenido que se elimina por error, pero que no infringe las políticas de Meta, lo identificó. En consecuencia, el contenido se envió a una revisión adicional, en la que otros dos moderadores determinaron que infringía la política sobre lenguaje que incita al odio.
El usuario entonces apeló al Consejo. En la apelación, dijo que, con frecuencia, habla sobre la violencia que los hombres ejercen sobre las mujeres y que procura llegar a mujeres que hayan sobrevivido a situaciones de violencia. A raíz de que el Consejo seleccionara este caso, Meta determinó que la decisión de eliminar el contenido había sido incorrecta, restauró la publicación y revirtió la falta.
El Consejo seleccionó este caso para analizar las políticas y prácticas de Meta en relación con la moderación de contenido que se dirige a personas sobre la base de una característica protegida, como el sexo y el género. Este caso está amparado por las prioridades estratégicas "Género" y "Lenguaje que incita al odio contra grupos marginados" del Consejo.
Al Consejo le gustaría recibir comentarios públicos sobre lo siguiente:
- De qué modo la política sobre lenguaje que incita al odio de Meta podría ocasionar la eliminación de contenido que incluye testimonios o condenas referentes a la violencia de género.
- Observaciones sobre los posibles desafíos y ventajas del enfoque de Meta respecto de los desequilibrios de poder entre las distintas "características protegidas" de su política sobre lenguaje que incita al odio.
- Observaciones sobre los desafíos que se afrontan a la hora de compartir testimonios y condenas referentes a la violencia de género en Facebook e Instagram.
- Observaciones sobre el contexto sociopolítico de Suecia (y de todo el mundo) en cuanto a la violencia contra las mujeres, en particular, aquella ejercida por la pareja.
- De qué modo elsistema de faltasde Meta podría mejorarse para ofrecer mayor protección a los activistas, defensores de los derechos humanos, periodistas y otros actores a fin de evitar que se elimine su contenido o se apliquen faltas a sus cuentas por error.
En sus decisiones, el Consejo puede formular recomendaciones de políticas a Meta. Si bien estas recomendaciones no son vinculantes, Meta debe responder a ellas en un plazo de 60 días. El Consejo recibe comentarios públicos con recomendaciones que sean relevantes para estos casos.
Comentarios públicos
Si tú o tu organización consideran que pueden contribuir con perspectivas valiosas que ayuden a tomar una decisión sobre los casos anunciados hoy, pueden enviar sus aportes a través de los enlaces que aparecen arriba. El plazo para enviar comentarios públicos para ambos casos se extiende durante 14 días y finaliza el jueves 23 de marzo a las 15:00 UTC.
El Consejo también anunció hoy que aceptó una opinión de asesoramiento normativo sobre el modo en que Meta modera el uso del término árabe "shaheed". Como parte de este proceso, recibe comentarios públicos. El período para recibir comentarios públicos para la solicitud de opinión de asesoramiento normativo que se anunció hoy estará vigente hasta las 15:00 UTC del lunes 10 de abril.
Próximos pasos
En las próximas semanas, los miembros del Consejo deliberarán sobre estos casos. Cuando hayan tomado sus decisiones finales, las publicaremos en el sitio web del Consejo asesor de contenido.
Para recibir notificaciones cuando el Consejo anuncie nuevos casos o publique decisiones, regístrate aquí.
Presentación de Marie Wieck como nueva fiduciaria
Hoy, también presentamos a Marie Wieck como nueva fiduciaria del Consejo asesor de contenido. Nuestros fiduciarios tienen un papel fundamental en cuanto a la protección de la independencia del Consejo. Marie es una ejecutiva sénior en tecnología que trabajó en IBM durante más de 30 años, por lo que aportará vastos conocimientos acerca del sector para que el Consejo pueda operar mejor en el futuro.
El Consejo asesor de contenido ratificó la decisión que Meta tomó en el caso "Productos farmacéuticos en Sri Lanka" (2022-014-FB-MR)
El Consejo asesor de contenido ratificó la decisión de Meta de mantener una publicación de Facebook en la que se solicitaban donaciones de productos farmacéuticos para Sri Lanka durante la crisis financiera del país. Sin embargo, el Consejo determinó que las excepciones secretas y discrecionales a la política son incompatibles con las responsabilidades de Meta con los derechos humanos, y emitió recomendaciones para aumentar la transparencia y la coherencia en torno a la concesión basada en el "espíritu de la política". Esta concesión permite conservar el contenido en casos en que la lectura estricta de una política produce un resultado que se contrapone con la intención de la política.
Información sobre el caso
En abril de 2022, se publicó una imagen en la página de Facebook de un gremio médico de Sri Lanka en la que se solicitaban donaciones de medicamentos y productos médicos para el país y se incluía un enlace para hacerlo.
En aquel momento, Sri Lanka atravesaba una grave crisis política y financiera que dejó vacías las reservas de moneda extranjera del país. Como consecuencia, Sri Lanka, que importa el 85% de sus suministros médicos, no tenía fondos para importar medicamentos. Los médicos informaban que los hospitales se estaban quedando sin medicamentos y suministros básicos, y que temían una inminente catástrofe sanitaria.
Los equipos de Meta responsables de supervisar el riesgo durante la crisis de Sri Lanka identificaron el contenido de este caso. La empresa determinó que la publicación infringía su norma comunitaria sobre bienes y servicios restringidos, que prohíbe el contenido que solicita fármacos, pero aplicó una concesión basada en el "espíritu de la política" a escala.
Las concesiones basadas en el "espíritu de la política" permiten el contenido en casos en que las bases de la política, y los valores de Meta, exigen un resultado diferente de la lectura estricta de las reglas. Las concesiones a escala se aplican a categorías enteras de contenido, en lugar de solo a publicaciones individuales. Las bases de la política sobre bienes y servicios restringidos incluyen fomentar la seguridad. Meta remitió este caso al Consejo.
Conclusiones principales
El Consejo asesor de contenido determinó que la publicación infringe la norma comunitaria sobre bienes y servicios restringidos. Sin embargo, consideró que aplicar la concesión basada en el "espíritu de la política" a escala para permitir este contenido y otro similar era adecuado y concordaba con los valores y las responsabilidades con los derechos humanos de Meta.
En el contexto de la crisis de Sri Lanka, en el que la salud y la seguridad de las personas corrían grave peligro, la concesión tenía la finalidad de la norma comunitaria de fomentar la seguridad y el derecho a la salud. Pese a que permitir la donación de medicamentos puede suponer riesgos, la acuciante necesidad de Sri Lanka justificaba las acciones de Meta.
No obstante, al Consejo le preocupa que Meta haya dicho que la concesión basada en el "espíritu de la política" "podría" aplicarse a contenido publicado en cingalés fuera de Sri Lanka, además del mercado del país. Meta debe ser claro respecto de dónde se aplican estas concesiones. Asimismo, debe asegurarse de que las concesiones a escala tengan en cuenta la diversidad lingüística y étnica de las personas a las que pueden afectar, a fin de evitar la discriminación accidental. Sri Lanka cuenta con dos idiomas oficiales, cingalés y tamil. Este último es la lengua mayoritaria de las minorías tamil y musulmana.
El Consejo también determinó que, para cumplir con sus responsabilidades con los derechos humanos, Meta debe tomar medidas que permitan informar mejor a los usuarios respecto de la concesión basada en el "espíritu de la política" y garantizar que esta se aplique con coherencia.
A los usuarios que reportan contenido no se les notifica cuando una concesión basada en el "espíritu de la política" beneficia a dicho contenido, así como tampoco se les informa que existe esta excepción. Dicha concesión no se menciona en las Normas comunitarias, y Meta no publicó información al respecto en el Centro de transparencia, como sí lo hizo con la concesión de interés periodístico, en parte gracias a las recomendaciones del Consejo. Las excepciones secretas y discrecionales a las políticas de Meta son incompatibles con las responsabilidades que tiene con los derechos humanos.
Parece no haber criterios claros establecidos que permitan determinar cuándo se emiten y se cancelan las concesiones basadas en el "espíritu de la política". El Consejo destaca la importancia de dichos criterios en cuanto a garantizar que las decisiones se tomen de forma coherente y recomienda que Meta los ponga a disposición del público. Asimismo, determinó que, en los casos en que Meta use regularmente una concesión para el mismo fin, debería evaluar si es necesaria una excepción independiente a la política relevante.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido ratificó la decisión de Meta de mantener la publicación en Facebook.
Asimismo, el Consejo le recomendó a Meta:
- Publicar información sobre la concesión basada en el "espíritu de la política" en su Centro de transparencia, incluidos los criterios que usa para decidir si aplica la concesión a escala.
- Explicar en las Normas comunitarias que pueden aplicarse concesiones cuando las bases de una política, y los valores de Meta, exigen un resultado diferente que vaya más allá de la lectura estricta de las reglas. Esta explicación debe contener un enlace que dirija a información sobre la concesión basada en el "espíritu de la política" en el Centro de transparencia.
- Notificar a los usuarios cuando el contenido que reportaron se beneficia de la concesión basada en el "espíritu de la política".
- Poner a disposición pública datos agrupados en el Centro de transparencia sobre las concesiones basadas en el "espíritu de la política" emitidas, incluida la cantidad, así como las regiones y los idiomas afectados.
Más información
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios públicos sobre el caso, haz clic en el archivo adjunto a continuación.
