El Consejo asesor de contenido anuló la decisión original de Meta: caso 2021-012-FB-UA
9 de diciembre de 2021
El 28 de octubre de 2021, Facebook anunció que cambiaba el nombre de la empresa a Meta. En este texto, Meta hace referencia a la empresa, y Facebook continúa haciendo referencia al producto y a las políticas de la app específica.
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar una publicación de Facebook de un artista indígena norteamericano que se había eliminado conforme a la norma comunitaria sobre lenguaje que incita al odio de Facebook. El Consejo determinó que el contenido está amparado por las concesiones a la política sobre lenguaje que incita al odio, ya que su finalidad es concientizar acerca de los crímenes históricos cometidos contra los pueblos indígenas en Norteamérica.
Información sobre el caso
En agosto de 2021, un usuario de Facebook publicó una foto de un cinturón de abalorios, con una descripción de texto en inglés. Los cinturones de abalorios son piezas de arte de los pueblos indígenas de Norteamérica donde se engarzan conchillas para formar imágenes y se registran historias y acuerdos. El cinturón incluía una serie de representaciones que, según el usuario, se inspiraron en la historia de Kamloops, una referencia al descubrimiento de tumbas sin identificación en mayo de 2021 en un lugar que había sido una escuela residencial para niños de pueblos indígenas de Columbia Británica, Canadá.
En el texto, se indicaba el título de la obra de arte, "Kill the Indian/Save the Man" (Maten al indio, salven al hombre), y se identificaba al usuario como su creador. El usuario describió todas las imágenes representadas en el cinturón: "Theft of the Innocent, Evil Posing as Saviours, Residential School/Concentration Camp, Waiting for Discovery, Bring Our Children Home" (El robo de los inocentes. El mal posando como salvador. Escuela residencial, campo de concentración. Esperando el descubrimiento. Traigan a nuestros niños a casa). En la publicación, el usuario describió el significado de su obra de arte, así como la historia de los cinturones de abalorios y su finalidad educativa. El usuario expresó que no fue sencillo crear el cinturón y que le resultó conmovedor contar la historia de lo que sucedió en Kamloops. Se disculpó por cualquier dolor que su arte les pudiera causar a los sobrevivientes de Kamloops y destacó que su único propósito era concientizar acerca de esta terrible historia.
Los sistemas automáticos de Meta identificaron el contenido como potencialmente infractor de la norma comunitaria sobre lenguaje que incita al odio de Facebook el día después de su publicación. Un revisor evaluó el contenido, lo consideró infractor y lo eliminó ese mismo día. El usuario apeló dicha decisión ante Meta y solicitó una segunda revisión manual, en la que también se calificó el contenido como infractor. En el momento de la eliminación, el contenido tenía más de 4.000 visualizaciones y se había compartido más de 50 veces. Ningún usuario reportó el contenido.
Como consecuencia de que el Consejo seleccionara este caso, Meta identificó su eliminación como un "error del sistema de cumplimiento de normas" y restauró el contenido el 27 de agosto. Sin embargo, Meta no le notificó al usuario acerca de la restauración sino hasta el 30 de septiembre, es decir, dos días después de que el Consejo le pidiera a Meta el contenido del mensaje enviado al usuario. Meta explicó que el retraso en el envío del mensaje fue consecuencia de un error humano.
Conclusiones principales
Meta estuvo de acuerdo en que su decisión original de eliminar este contenido se contraponía a las Normas comunitarias de Facebook y que fue un "error del sistema de cumplimiento de normas". El Consejo determinó que este contenido es un claro ejemplo de "respuesta a contenido ofensivo", en donde se hace referencia a lenguaje que incita al odio para resistir a la opresión y la discriminación.
En la introducción a la política sobre lenguaje que incita al odio de Facebook, se explica que se permiten respuestas a contenido ofensivo siempre y cuando se indique con claridad la intención del usuario. Es evidente a partir del contenido de la publicación que no se trata de lenguaje que incita al odio. En la obra de arte, se narraba la historia de lo sucedido en Kamloops, y el relato incluido explicaba su importancia. Si bien las palabras "Kill the Indian" (Maten al indio), de manera aislada, constituyen lenguaje que incita al odio, en contexto, esta frase dirige la atención a actos específicos de odio y discriminación, y los condena.
El Consejo evocó su decisión del caso 2020-005-FB-UA, que involucraba una cita de un oficial nazi. Ese caso ofrece un ejemplo semejante de cómo la intención puede evaluarse a través de indicadores diferentes de las afirmaciones directas, como el contenido y el significado de una cita, la fecha y el país de la publicación y la sustancia de las reacciones y comentarios que ocurren en ella.
En este caso, el Consejo determinó que no era necesario que el usuario indicara expresamente que quería generar conciencia para que la publicación se identificara como respuesta a contenido ofensivo. El Consejo observó que, en las "preguntas frecuentes" internas que se proporcionan a los moderadores, se indica que una declaración de intención clara no siempre será suficiente para cambiar el significado de una publicación que constituye lenguaje que incita al odio. Se espera que los moderadores hagan inferencias a partir del contenido para evaluar la intención, en lugar de basarse únicamente en las afirmaciones explícitas.
Dos moderadores por separado concluyeron que esta publicación constituía lenguaje que incita al odio. Meta no pudo especificar los motivos por los que este error se cometió dos veces.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar el contenido.
En su declaración de asesoramiento normativo, el Consejo recomendó que Meta haga lo siguiente:
- Notifique a los usuarios de forma oportuna y precisa toda acción que la empresa realice en torno al contenido relacionado con su apelación. Cuando corresponda (incluidos los casos de errores del sistema de cumplimiento de normas como este), el aviso enviado al usuario debe reconocer que la acción se realizó a raíz del proceso de revisión del Consejo asesor de contenido.
- Estudie cómo afecta a la precisión del revisor el hecho de que se les informe a los moderadores de contenido que están haciendo una segunda revisión, de modo que estén al tanto de que la resolución inicial se refutó.
- Lleve a cabo una evaluación de la precisión de los revisores centrada en las concesiones correspondientes a la política sobre lenguaje que incita al odio, que amparan la expresión artística y la expresión sobre infracciones de los derechos humanos (p. ej., actos de condena, concientización, uso autorreferencial, uso inspirador). En esta evaluación, también se debe investigar específicamente cómo el lugar de residencia de un revisor afecta la capacidad de los moderadores de evaluar con precisión el lenguaje que incita al odio y las respuestas a contenido ofensivo originados en la misma región u otras regiones. Meta debe compartir los resultados de esta evaluación con el Consejo, entre otras cosas, cómo estos resultados se usarán para mejorar las operaciones de aplicación de políticas y el desarrollo de políticas, y si prevé llevar a cabo evaluaciones de la precisión de los revisores de forma regular en torno a estas concesiones. El Consejo también solicitó a Meta que compartiera públicamente los resúmenes de los resultados de estas evaluaciones en las actualizaciones relativas a la transparencia que presenta ante el Consejo de forma trimestral para demostrar que cumplió con esta recomendación.
Más información:
Para leer la decisión completa del caso, haz clic aquí.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic en el archivo adjunto a continuación.
