Anuncio de los próximos casos del Consejo

16 de septiembre de 2021

El Consejo anuncia hoy tres nuevos casos para su consideración.

Selección de casos

Como no podemos atender todas las apelaciones, el Consejo prioriza los casos que puedan afectar a muchos usuarios de todo el mundo, que sean de suma relevancia para el discurso público o que planteen cuestiones importantes sobre las políticas de Facebook.

Estos son los casos que anunciamos hoy:

2021-012-FB-UA

Apelación de un usuario para restaurar contenido en Facebook

Enviar comentario del público aquí.

En agosto de 2021, un usuario de Facebook publicó una foto de una obra de arte indígena, con una descripción de texto en inglés. En la foto se muestra un cinturón de abalorios tradicional, hecho con conchillas o cuentas. El cinturón incluye una serie de representaciones que, según el usuario, se inspiraron en "the Kamloops story" (la historia de Kamloops), una referencia al descubrimiento de tumbas sin identificación en un lugar que había sido una escuela residencial para niños de las Naciones Originarias de Columbia Británica, Canadá.

En el texto se otorga a la obra de arte el título de "Kill the Indian/ Save the Man" (Matar al indio/Salvar al hombre), se identifica al usuario como su creador y se incluyen las frases "Theft of the Innocent" (El robo de los inocentes), "Evil posing as Saviors" (El mal posando como salvador), "Residential School/Concentration Camp" (Escuela residencial/Campo de concentración), "Waiting for Discovery" (Esperando el descubrimiento) y "Bring Our Children Home" (Traigan a nuestros niños a casa). Cada una de estas frases parece corresponder a una de las secciones de la serie de representaciones del cinturón de abalorios.

El usuario afirma que los cinturones de abalorios "always been a means of documenting our history" (siempre fueron una manera de documentar nuestra historia), y que antes de la colonización, los narradores viajaban de aldea en aldea "teaching our people our history" (enseñándoles nuestra historia a las personas). El usuario indica que hoy estos cinturones son prácticamente iguales, y que, a diferencia de lo que ocurría antes, viajan por los medios sociales y se exponen en exhibiciones. Dice que no fue fácil hacer el cinturón, y que dar vida a esa historia le resultó muy conmovedor, pero era demasiado importante como para no documentarla. También declara que el cinturón será uno de los tres ejemplares de un conjunto de cinturones, y no estará a la venta, ya que esa historia no se le puede volver a ocultar al público.

El usuario dice que hizo el cinturón tras conocer la noticia de la historia de Kamloops, una referencia al descubrimiento de tumbas sin identificación en un lugar que había sido una escuela residencial para niños de las Naciones Originarias de Canadá. En la publicación, el usuario pide disculpas por cualquier tipo de dolor que sus cinturones puedan causar a los sobrevivientes, y aclara que esa no es su intención, el "sole purpose is to bring awareness to this horrific story" (único fin es generar consciencia sobre esta historia espeluznante).

Facebook eliminó el contenido en virtud de la norma comunitaria sobre lenguaje que incita al odio. Como consecuencia de que el Consejo seleccionara este caso, Facebook identificó su eliminación como un "error del sistema de cumplimiento de normas" y restauró el contenido, que sigue estando disponible en la plataforma. En el momento de la eliminación, el contenido tenía más de 4.000 visualizaciones y se había compartido más de 50 veces. Ningún usuario reportó el contenido.

Conforme a su política sobre lenguaje que incita al odio, Facebook elimina el contenido que se dirige a las personas con palabras que "incitan a la violencia", sobre la base de una característica protegida, como la raza, la etnia y la nacionalidad. El origen o la identidad indígena no se enumeran expresamente como una característica protegida. La política incluye las siguientes excepciones: "Somos conscientes de que, a veces, las personas comparten contenido que incluye lenguaje que incita al odio emitido por otra persona con la intención de reprobarlo o concientizar a los demás. En otros casos, el lenguaje que, de otra manera, infringiría nuestras normas se puede usar de forma autorreferencial o motivadora. Nuestras políticas están diseñadas para dar espacio a estos tipos de lenguaje, pero exigimos que la intención quede clara. Si no es el caso, el contenido podría eliminarse".

En su apelación, el usuario declara que es un artista tradicional que comparte su obra de arte, y que esta es importante para documentar la historia. También afirma que este es un caso de censura, y que es importante que las personas vean la publicación.

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

Si la decisión inicial de Facebook de eliminar la publicación fue coherente con la norma comunitaria de la empresa sobre lenguaje que incita al odio, los valores declarados de la empresa y las responsabilidades y los compromisos en materia de derechos humanos.
Inquietudes con relación a la moderación de la expresión artística por parte de Facebook, en particular, de las obras de arte que pueden tratar temas sensibles.
La historia y el uso de la frase "Kill the Indian/ Save the Man" (Matar al indio/Salvar al hombre) en América del Norte.
Información contextual sobre la vulneración de derechos humanos de niños de origen o identidad indígena en las escuelas residenciales de Canadá, incluidos los niños de las Naciones Originarias en la Escuela Residencial Indígena Kamloops.
Si el origen o la identidad indígena deben ser una característica protegida en la política sobre lenguaje que incita al odio de Facebook.
La manera en que la moderación de contenido de Facebook, incluido el uso de automatización, afecta la libertad de expresión de los pueblos indígenas, y cómo deben prevenirse o mitigarse los efectos negativos.

En sus decisiones, el Consejo puede formular recomendaciones de políticas a Facebook. Si bien estas recomendaciones no son vinculantes, Facebook debe responder a ellas en un plazo de 30 días. El Consejo recibe comentarios del público con recomendaciones que sean relevantes para este caso.

2021-013-IG-UA

Apelación de un usuario para restaurar contenido en Instagram

Enviar comentario del público aquí.

En julio de 2021, una cuenta de Instagram de una escuela espiritual con sede en Brasil publicó una foto de un líquido marrón oscuro en un frasco y dos botellas, que se describía como ayahuasca en el texto en portugués que la acompañaba. La ayahuasca es una preparación a base de plantas que tiene propiedades psicoactivas y se usa para fines espirituales y ceremoniales en algunos países de América del Sur.

El texto dice "AYAHUASCA IS FOR THOSE WHO HAVE THE COURAGE TO FACE THEMSELVES" (LA AYAHUASCA ES PARA QUIENES TIENEN EL CORAJE DE ENFRENTARSE A SÍ MISMOS). Luego, sigue un texto sobre ayahuasca que incluye afirmaciones que indican que la ayahuasca es para quienes quieren "correct themselves" (corregirse a sí mismos), "enlighten" (iluminarse), "overcome fears" (superar miedos) y "break free" (liberarse). También dice que la ayahuasca es un "remedy" (remedio) y que "can help you" (puede ayudarte) si se usa con humildad y respeto. Establece que la ayahuasca muestra la verdad, pero no hace milagros. Termina con la frase "Ayahuasca, Ayahuasca!/ Gratitude, Queen of the Jungle!" (¡Ayahuasca, Ayahuasca!/¡Gracias, Reina de la Selva!).

El contenido tuvo más de 15.500 visualizaciones, y ningún usuario lo reportó. Facebook lo eliminó por infringir las Normas comunitariasde Instagram, que establecen: "Recuerda cumplir en todo momento la ley cuando ofrezcas comprar o vender bienes regulados", que se vinculan a la norma comunitaria de Facebook sobre bienes regulados. La política de bienes regulados prohíbe contenido relacionado con "drogas sin fines medicinales" que "reconozca el uso personal de drogas sin fines medicinales sin reconocimiento de recuperación, tratamiento u otro tipo de ayuda para combatir su uso, o sin hacer referencia a ello" o "coordine o promueva (con esto nos referimos a hablar de manera positiva sobre algo, fomentar su uso o brindar instrucciones de uso o fabricación) drogas sin fines medicinales".

El usuario declara que tiene certeza de que la publicación no infringe las Normas comunitarias de Instagram, ya que su página es informativa y nunca alentó ni recomendó la compra o venta de ningún producto prohibido por estas. Dice que tomó la foto en una de sus ceremonias, que están reglamentadas y son legales. Según el usuario, el objetivo de la cuenta es desmitificar la bebida de ayahuasca sagrada. Dice que hay una gran falta de conocimiento acerca de la ayahuasca. El usuario afirma que esta ofrece consuelo espiritual a las personas, y que las ceremonias pueden mejorar el bienestar de la sociedad. Además, declara que ya había publicado el mismo tipo de contenido antes en su cuenta y que este sigue estando disponible online.

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

Si la decisión de Facebook de eliminar la publicación es coherente con las Normas comunitarias de Instagram, en particular, el recordatorio de "cumplir la ley" con relación a la venta o compra de productos regulados, y con la norma comunitaria de Facebook sobre bienes regulados, en especial, las reglas acerca de hablar de forma positiva sobre algo, o fomentar o promover las drogas sin fines medicinales.
Si las políticas de Facebook con respecto a la regulación de drogas sin fines medicinales deben considerar diferentes enfoques legales en el ámbito nacional, u ofrecer una regla distinta para los debates positivos sobre drogas sin fines medicinales en el contexto de una práctica religiosa o espiritual. La claridad de la relación entre las Normas comunitarias de Instagram y las Normas comunitarias de Facebook, incluida aquella vinculada a los bienes regulados.
Si la decisión de Facebook de eliminar la publicación es coherente con los valores declarados de la empresa y las responsabilidades y los compromisos en materia de derechos humanos, con respecto a la libertad de expresión y la libertad de religión o creencias.
La información sobre el uso y la importancia de la ayahuasca, incluso en ceremonias o contextos religiosos organizados por diferentes grupos de América del Sur.
La información sobre la manera en que el uso de ayahuasca puede afectar la salud física y mental, o la seguridad de las personas.

2021-014-FB-UA

Apelación de un usuario para restaurar contenido en Facebook

Enviar comentario del público aquí.

A fines de julio de 2021, un usuario de Facebook hizo una publicación en amárico en su biografía, en la que declaraba que el Frente de Liberación Popular de Tigray (TPLF) asesinó y violó a mujeres y niños, y saqueó las propiedades de civiles en Raya Kobo y otras ciudades de la Región de Amhara, en Etiopía. El usuario también afirmó que los civiles del grupo étnico Tigray ayudaron al TPLF en la perpetración de estos delitos.

El usuario empieza diciendo que "people in the area" (las personas de la zona) reportaron que Raya Kobo está vacía, y que ya había sufrido saqueos antes de que el "rebel group" (grupo de rebeldes) del TPLF llegara. Luego, alega que en Raya Kobo, la ciudad de Kobo, Aradum, Menjelo, Robit y Gobye, se violó a niños y mujeres casadas, y se fusiló a menores. El usuario afirma que "by the terrorist group" (el grupo terrorista) asesinó a agricultores como represalia, con el argumento "I don’t like the color of your eyes" (no me gusta tu color de ojos). El usuario también declara que "mothers in the area" (madres de la zona) no tienen comida, reciben un tratamiento atroz y se las obliga a alimentar a los miembros del TPLF. El usuario también afirma que "the Tigray rebel group" (el grupo rebelde de Tigray) anunció que los integrantes de la comunidad de Raya Kobo recibirían una tarjeta de identificación con la inscripción "Tigre". El usuario agrega que el TPLF "appeled to everyone they meet on the phone" (les informó a todas las personas con las que se comunicó por teléfono) que el gobierno "sold" (vendió) "the part of Amhara from Alawha and beyond" (la parte de Amhara desde Alawha y más allá). El usuario declara que el TPLF trajo a "innocent youths" (jóvenes inocentes) de Alamata, Korem y otras partes de Raya Kobo, y los ejecutó públicamente. Según el usuario, hicieron esto "to appear credible in the Raya Kobo community" (para transmitir credibilidad en la comunidad de Raya Kobo). El usuario declara que el TPLF mintió y embaucó a la comunidad, al afirmar que los jóvenes ejecutados eran ladrones que los habían seguido desde Tigray y no hablaban amárico. Además, el usuario afirma que en "every town where the crowds live" (todas las ciudades donde viven multitudes), el TPLF se instala en los centros de salud y escuelas, para "annihilate the people" (aniquilar a las personas) en caso de un ataque aéreo. Por último, el usuario dice que está recibiendo reportes de las personas que viven en la zona que indican que "the Tigreans, who know the area very well" (los tigranos, que conocen muy bien la región) guiaron al TPLF de puerta en puerta, para mostrarles mujeres para violar y propiedades para saquear. El usuario termina la publicación con las palabras "We will secure our freedom through our struggle" (Nuestra lucha nos liberará).

En la publicación, el usuario no expresa ser un testigo presencial de las escenas que describe. Tampoco se atribuye ninguna de las declaraciones o acusaciones hechas a personas, instituciones o medios identificados por su nombre. La publicación no incluye hipervínculos a fuentes externas ni imágenes.

La publicación tuvo más de 6.500 visualizaciones, y generó menos de 35 comentarios y más de 140 reacciones. Se compartió más de 30 veces. Según Facebook, la cuenta del usuario que publicó el contenido se encuentra en Etiopía, pero no en las regiones de Tigray o Amhara. La foto del perfil del usuario incluye un hashtag que expresa rechazo hacia el TPLF. La publicación permaneció en la plataforma cerca de un día, y se la reportó automáticamente. Luego, Facebook eliminó la publicación conforme a la norma comunitaria sobre lenguaje que incita al odio. En esta etapa, el Consejo no sabe si la revisión de la publicación estuvo a cargo de un moderador humano o si se la eliminó de forma automática. Como consecuencia de que el Consejo seleccionara este caso, Facebook identificó la eliminación de la publicación como un "error del sistema de cumplimiento de normas" y la restauró.

De acuerdo con el Nivel 1 del lenguaje que incita al odio, está prohibido que los usuarios de Facebook publiquen contenido dirigido a un grupo de personas con generalizaciones o afirmaciones no aptas basadas en comportamientos, que aleguen que son criminales sexuales y violentos, o de otro tipo. Las bases de la política sobre lenguaje que incita al odio sostienen que Facebook reconoce "que, a veces, las personas comparten contenido que incluye lenguaje que incita al odio emitido por otra persona con la intención de reprobarlo o concientizar a los demás" y que las "políticas están diseñadas para dar espacio a estos tipos de lenguaje, pero exigimos que la intención quede clara. Si no es el caso, el contenido podría eliminarse".

Las bases de la política sobre lenguaje que incita al odio se actualizaron en junio de 2021 para aclarar que la empresa define "el lenguaje que incita al odio como un ataque directo a las personas, y no a los conceptos ni a las instituciones, en función de lo que denominamos 'características protegidas' [...]" [se agregó énfasis]. En la actualización de la política de junio de 2021, Facebook estableció una regla nueva bajo el título "Requerimos información o contexto adicionales para hacer cumplir las siguientes Normas comunitarias". Esta regla prohíbe el contenido "que ataque conceptos, instituciones, ideas, prácticas o creencias asociados con características protegidas, que probablemente contribuyan a un daño físico inminente, intimidación o discriminación contra las personas asociadas con esa característica protegida. Facebook tiene en cuenta una serie de señales al determinar si existe una amenaza de daño en el contenido. Por ejemplo, el contenido podría incitar a la violencia o la intimidación inminentes, se comparte en un período de gran tensión, como una elección o un conflicto continuo, o en un contexto con un historial reciente de violencia contra el grupo protegido objetivo. En algunos casos, también podemos considerar si el orador es una figura pública o si ocupa una posición de autoridad".

Si bien, en este caso, el contenido estaba en amárico, el usuario envió su apelación al Consejo en inglés. En su declaración ante el Consejo, el usuario dice que la intención de la publicación es proteger a su comunidad, que se encuentra en peligro, y que Facebook debe ayudar a las comunidades en zonas de guerra. Afirma que el lenguaje de la publicación no incita al odio, "but is truth" (sino que es la realidad). Declara que el TPLF atacó a su comunidad de un millón de personas y la dejó sin alimentos, agua y otros recursos para cubrir necesidades básicas. El usuario también conjetura que quienes reportaron su publicación "by members and supporters of that terrorist group" (fueron miembros y seguidores de ese grupo terrorista), y afirma que "know well most of the rules" (conoce bien la mayoría de las reglas) y que "never broken any rules of Facebook" (nunca infringió ninguna de las normas de Facebook).

Al Consejo le gustaría recibir comentarios del público sobre lo siguiente:

Si la decisión inicial de Facebook de eliminar la publicación es coherente con la norma comunitaria de la empresa sobre lenguaje que incita al odio, los valores declarados de la empresa y las responsabilidades y los compromisos en materia de derechos humanos.
Si la política sobre lenguaje que incita al odio de Facebook les brinda a los usuarios las posibilidades adecuadas para generar conciencia sobre supuestas infracciones de los derechos humanos, por ejemplo, en zonas de conflicto.
Los desafíos para la moderación de contenido específicos de Etiopía y los idiomas que se hablan en el país, tanto para respetar la libertad de expresión como para abordar los daños que puede generar el lenguaje que incita al odio, en particular durante períodos de gran tensión o conflictos intensos.
Las tendencias recientes vinculadas con el uso o la propagación del lenguaje que incita al odio o la información errónea entre partes involucradas en el conflicto, en idiomas de Etiopía, así como entre los civiles que participan en los debates relacionados, y el rol de Facebook. Sería útil que los comentarios incluyeran contexto histórico y sociopolítico para estas tendencias, en particular con respecto a las relaciones entre grupos étnicos presentes en las regiones que se mencionan en la publicación.
El papel y la composición actuales del TPLF en Etiopía, incluidas todas las distinciones entre sus funciones políticas y paramilitares, así como la conducta del TPLF u otros grupos durante el conflicto que se describe en la publicación, en especial las supuestas infracciones o abusos de los derechos humanos en los lugares que se mencionan en el contenido.
Los desafíos que pueden enfrentar los investigadores y periodistas al documentar crímenes atroces mediante Facebook, incluso durante la recopilación de evidencia que demuestre la responsabilidad y cualquier obligación de Facebook para preservar el contenido y garantizar el acceso a este.

Comentarios público

Si tú o tu organización consideran que pueden contribuir con perspectivas valiosas que ayuden a tomar una decisión sobre los casos anunciados hoy, puedes enviar tus aportes a través de los enlaces que aparecen arriba. El plazo para enviar comentarios del público para estos casos se extiende durante 14 días y finaliza el martes, 30 de septiembre a las 15:00 UTC.

Próximos pasos

En las siguientes semanas, los miembros del Consejo deliberarán sobre estos casos. Cuando hayan tomado sus decisiones finales, las publicaremos en el sitio web del Consejo asesor de contenido. Para recibir notificaciones cuando el Consejo anuncie nuevos casos o publique decisiones, regístrate aquí.

Volver a Noticias