Comentario dirigido a personas con síndrome de Down

Las decisiones resumidas analizan casos en los que Meta revirtió su decisión original sobre un contenido después de que el Consejo lo remitiera a la empresa e incluyen información sobre los errores que Meta reconoció. Estas decisiones son aprobadas por un panel de miembros del Consejo, no por todo el Consejo, no implican comentarios del público ni tienen valor de precedencia para el Consejo. Las decisiones resumidas traen aparejados cambios directos en las decisiones de Meta, ya que aportan transparencia respecto de estas correcciones, a la vez que permiten identificar en qué aspectos Meta podría mejorar la aplicación de sus políticas.

Resumen

Un usuario apeló la decisión de Meta de conservar un comentario en Facebook dirigido a personas con síndrome de Down y otras discapacidades. Después de que el Consejo le remitiera la apelación a Meta, la empresa revirtió su decisión original y eliminó el comentario.

Información sobre el caso

En febrero, un usuario de Facebook comentó una publicación que incluía un anuncio de Netflix del programa "Amor en el espectro". El comentario incluía declaraciones en las que el usuario afirmaba que consideraba a las personas en el espectro como "una especie humana diferente". En el mismo comentario, el usuario también mencionaba con el nombre a una persona específica que conocía y decía: "había una chica... también era la única niña gorda de la clase". El usuario también decía: "es difícil interactuar con las personas como esta niña... son una especie diferente. Una forma diferente de ser humano".

El usuario que apeló ante el Consejo la decisión original de Meta de conservar este comentario lo caracterizó como una "diatriba literal contra personas con síndrome de Down". Asimismo, resaltó que "no debería ser necesario un ensayo completo para explicar por qué el sistema de Facebook debería haber marcado este comentario" e instó a Meta a "hacer un mejor trabajo".

Conforme a la política de conducta que incita al odio de Meta, la empresa elimina el lenguaje deshumanizante dirigido a personas con características protegidas, como una discapacidad. Esto incluye comparaciones o generalizaciones relacionadas con: "seres infrahumanos (incluidos, entre otros, criaturas salvajes, demonios, monstruos)". En el comentario, el usuario generaliza y etiqueta a las personas son síndrome de Down como "una especie humana diferente".

Por otra parte, la política de bullying y acoso de Meta prohíbe el contenido que se dirige a una persona específica con "declaraciones de inferioridad sobre su aspecto físico". La descripción que realizó el usuario de una persona específica como "la única niña gorda" califica como una declaración de inferioridad sobre el aspecto físico. Esto constituye una infracción conforme al nivel 1 de la política, que brinda "medidas de protección universales para todas las personas". No es necesario que la persona atacada reporte el contenido por su cuenta para que constituya una infracción y se elimine.

Luego de que el Consejo le presentara este caso a Meta, la empresa determinó que el contenido infringía tanto la política de conducta que incita al odio como la política de bullying y acoso, y que su decisión original de conservar el comentario había sido incorrecta. Para Meta, el usuario infringió la política de conducta que incita al odio porque etiquetó a las personas con síndrome de Down como "una especie humana diferente", y la política de bullying y acoso porque describió a una persona específica como " la única niña gorda". Seguidamente, la empresa eliminó el contenido de Facebook.

Autoridad y alcance del Consejo

El Consejo tiene la facultad para revisar la decisión de Meta tras la apelación de un usuario cuyo contenido se eliminó (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos).

Cuando Meta reconoce que cometió un error y revierte su decisión en un caso en consideración para la revisión del Consejo, el Consejo puede seleccionar ese caso para una decisión resumida (artículo 2, sección 2.1.3, de los estatutos). El Consejo revisa la decisión original para entender mejor los procesos de moderación de contenido empleados, reducir los errores y ser más justo con los usuarios de Facebook, Instagram y Threads.

Significancia del caso

Este caso representa un ejemplo flagrante de lenguaje deshumanizante sobre las personas con discapacidades. No se trata de un mensaje subliminal o encubierto decir que el síndrome de Down hace de las personas "una especie humana diferente". El hecho de que no se haya eliminado sugiere que hay un grave problema con los sistemas de aplicación de políticas de Meta.

Por ende, este caso destaca la falla de Meta a la hora de aplicar sus políticas con efectividad en relación con conducta que incita al odio. Según informes recientes, el acoso online hacia personas con discapacidades, como síndrome de Down, sigue aumentando de manera significativa. De acuerdo con el informe Countering Cyberbullying Against Persons with Disabilities (Contrarrestar el ciberacoso hacia personas con discapacidades) de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH), las personas con discapacidades "tienen significativamente más probabilidades de experimentar ciberacoso" e "incluso pueden alejarse por completo de los espacios digitales como resultado del abuso online". El lema de la campaña del Día Mundial del Síndrome de Down de 2024 fue "Poner fin a los estereotipos en todo el mundo. #PonerFinALosEstereotipos". La campaña hacía hincapié en que los estereotipos impiden que a las personas con síndrome de Down y discapacidades intelectuales se las trate con respeto.

El Consejo emitió recomendaciones cuyo objetivo es mejorar la aplicación de políticas de Meta para reducir errores. El Consejo instó a la empresa a mejorar continuamente su capacidad de detectar contenido que infringe su norma comunitaria sobre lenguaje que incita al odio (ahora conducta que incita al odio).

Por ejemplo, el Consejo recomendó a Meta "hacer [públicos] los resultados de las auditorías internas que realiza para evaluar la precisión de la revisión manual y el rendimiento de los sistemas automatizados en la aplicación de la política de lenguaje que incita al odio [ahora conducta que incita al odio]" (Acusaciones de criminalidad basadas en la nacionalidad, recomendación n.º 2). En su respuesta inicial al Consejo, Meta informó que la empresa implementará esta recomendación de forma parcial. Meta declaró que, si bien la empresa "continuará compartiendo datos sobre la cantidad de contenido relacionado con lenguaje que incita al odio abordado por [sus] mecanismos de aplicación de políticas en el Informe de cumplimiento de las Normas comunitarias (CSER)", los datos sobre la precisión de su aplicación de políticas a escala internacional se compartirán de forma confidencial con el Consejo. Esta recomendación se emitió en septiembre de 2024. La implementación está en curso, pero todavía no se compartieron datos con el Consejo.

Al Consejo le preocupa que Meta no haya indicado qué medidas de debida diligencia relativas a los derechos humanos tomó, si es que lo hizo, antes de realizar los cambios a la política y su aplicación que anunció el 7 de enero de 2025, conforme manifestó el Consejo en las decisiones de los casos "Críticas a las políticas migratorias de la UE e inmigrantes", "Publicaciones en Sudáfrica que mostraban la bandera de la era del apartheid", "Videos de un debate sobre la identidad de género" y "Publicaciones en favor de los disturbios en el Reino Unido". Un enfoque de aplicación de políticas menos proactivo puede dar como resultado una mayor prevalencia de contenido que ataca a miembros de grupos vulnerables, como es el caso de la publicación que compete esta decisión. En esas decisiones, el Consejo señaló que "[e]n relación con los cambios normativos, la debida diligencia debería tener en cuenta las posibilidades tanto de una sobreaplicación de la política ( Convocatoria a protesta de mujeres en Cuba, Reapropiación de términos árabes) como de una aplicación deficiente ( Negación del Holocausto, Violencia homofóbica en África Occidental, Publicación en polaco contra las personas trans"). Asimismo, en ambas decisiones, el Consejo destacó la importancia de que Meta garantice que "se identifiquen, mitiguen, prevengan y publiquen los efectos adversos de estos cambios en los derechos humanos".

Decisión

El Consejo anuló la decisión original de Meta de conservar el contenido. El Consejo confirmó que Meta corrigió su error inicial después de haberle remitido el caso.

Volver a Decisiones de casos y opiniones consultivas sobre políticas