El Consejo asesor de contenido anuló las decisiones originales de Meta en los casos sobre "identidad de género y desnudos"
17 de enero de 2023
El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar dos publicaciones de Instagram en las que aparecían personas transgénero y no binarias con el torso desnudo. También recomienda que Meta cambie su norma comunitaria sobre desnudos y actividad sexual de adultos, de modo que se rija de conformidad con criterios claros que respeten las normas internacionales de derechos humanos.
Información sobre el caso
En esta decisión, es la primera vez que el Consejo asesor de contenido analiza dos casos juntos. La misma cuenta de Instagram hizo dos publicaciones diferentes, una en 2021 y otra en 2022. Los propietarios de la cuenta son una pareja de los Estados Unidos que se identifican como personas transgénero y no binarias.
En ambas publicaciones se pueden ver imágenes de la pareja con el torso desnudo y los pezones cubiertos. En las descripciones que acompañan a las imágenes, se debate sobre la atención médica que reciben las personas transgénero y se manifiesta que uno de los miembros de la pareja pronto se someterá a una cirugía de pecho (cirugía de afirmación de género para tener el pecho más plano), proceso para el cual están recaudando fondos.
Tras una serie de alertas de los sistemas automatizados de Meta y de reportes de usuarios, las publicaciones se revisaron varias veces a fin de detectar posibles infracciones de diversas normas comunitarias. En última instancia, Meta eliminó ambas publicaciones por infringir la norma comunitaria sobre servicios sexuales, aparentemente porque en ellas se muestran pechos y un enlace a una página de recaudación de fondos.
Los usuarios apelaron a Meta y, luego, al Consejo. Luego de que el Consejo aceptara los casos, Meta determinó que había eliminado las publicaciones por error y las restauró.
Conclusiones principales
El Consejo asesor de contenido determinó que eliminar estas publicaciones no es una medida coherente con las Normas comunitarias de Meta, sus valores o sus responsabilidades con los derechos humanos. Asimismo, estos casos manifiestan los problemas básicos con las políticas de Meta.
Las pautas internas de Meta que indican a los moderadores cuándo eliminar contenido en virtud de la política de servicios sexuales son mucho más amplias que las bases establecidas de la política, o las pautas disponibles públicamente. Esto genera confusión a usuarios y moderadores y, como Meta reconoce, conduce a que se elimine contenido de forma errónea.
En al menos uno de los casos, un sistema automatizado entrenado para aplicar la norma comunitaria sobre desnudos y actividad sexual de adultos envió la publicación para que se someta a revisión manual. Esta norma prohíbe las imágenes que muestran pezones femeninos, excepto en circunstancias concretas, como lactancia o cirugía de afirmación de género.
Esta política se basa en una visión binaria del género y en una distinción entre el cuerpo masculino y femenino. Dicho enfoque no deja claro cómo se aplica la regla en el caso de personas intersexuales, no binarias y transgénero, y requiere que los revisores realicen evaluaciones rápidas y subjetivas de sexo y género, lo que no resulta práctico al moderar contenido a gran escala.
Las restricciones y excepciones a las reglas sobre pezones femeninos son extensas y confusas, en particular en cuanto a su aplicación a personas transgénero y no binarias. Las excepciones a la política varían desde manifestaciones hasta escenas de nacimientos, y contextos médicos y de salud, lo que incluye cirugía de pecho y concientización sobre el cáncer de mama. Dichas excepciones con frecuencia son intricadas y se definen de manera muy general. En algunos contextos, por ejemplo, los moderadores deben evaluar la medida y la naturaleza de cicatrices visibles para determinar si se aplican ciertas excepciones. La falta de claridad inherente a esta política genera incertidumbre a los usuarios y revisores, y la vuelve inviable en la práctica.
El Consejo advierte consistentemente que Meta debe tener presente cómo sus políticas afectan a las personas que son víctimas de discriminación (consulta, por ejemplo, las decisiones de los casos " Cinturón de abalorios" y " Reapropiación de términos árabes"). Aquí, el Consejo determina que las políticas de Meta sobre desnudos de adultos suponen obstáculos más grandes para la expresión de mujeres, personas transgénero y no binarias en sus plataformas. Por ejemplo, repercuten de forma negativa en contextos en los que las mujeres pueden, por tradición, llevar el torso desnudo, y las personas que se identifican como parte de la comunidad LGBTQI+ pueden verse afectadas de manera desproporcionada, como demuestran estos casos. Los sistemas automatizados de Meta identificaron el contenido varias veces, pese a que no infringía las políticas de Meta.
Meta debe intentar desarrollar e implementar políticas que aborden todas estas inquietudes. Debe cambiar su enfoque respecto del control de desnudos en sus plataformas definiendo criterios claros que rijan la política sobre desnudos y actividad sexual de adultos, lo que garantiza que se trate a todos los usuarios de un modo coherente con las normas de derechos humanos. Asimismo, debe evaluar si la política sobre desnudos y actividad sexual de adultos brinda protección contra la difusión de imágenes sin consentimiento y si hay otras políticas que se deban reforzar en este aspecto.
Decisión del Consejo asesor de contenido
El Consejo asesor de contenido anuló la decisión original de Meta de eliminar las publicaciones.
Asimismo, el Consejo le recomendó a Meta:
- Regir su norma comunitaria sobre desnudos y actividad sexual de adultos con criterios claros, objetivos y que respeten los derechos, de modo que se trate a todas las personas de una manera coherente con las normas internacionales de derechos humanos, sin discriminación por sexo o género. En primer lugar, Meta debe realizar una evaluación integral sobre el impacto en los derechos humanos que puede tener dicho cambio, en la que deben participar diversas partes, y crear un plan para abordar los daños identificados.
- Proporcionar en su norma comunitaria sobre servicios sexuales pública más detalles respecto de los criterios que conducen a que se elimine contenido.
- Revisar las pautas para los moderadores respecto de la norma sobre servicios sexuales de modo tal que reflejen con mayor precisión las reglas públicas que atañen a la política, ya que esto permitiría reducir los errores de aplicación de políticas de Meta.
Más información:
Para leer la decisión completa, haz clic en el archivo adjunto a continuación.
Para leer una sinopsis de los comentarios del público sobre el caso, haz clic en el archivo adjunto a continuación.
