Identidad de género y desnudos

Resumen del caso

El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar dos publicaciones de Instagram en las que aparecían personas transgénero y no binarias con el torso desnudo. También recomienda que Meta cambie su norma comunitaria sobre desnudos y actividad sexual de adultos, de modo que se rija de conformidad con criterios claros que respeten las normas internacionales de derechos humanos.

Información sobre el caso

En esta decisión, es la primera vez que el Consejo asesor de contenido analiza dos casos juntos. La misma cuenta de Instagram hizo dos publicaciones diferentes, una en 2021 y otra en 2022. Los propietarios de la cuenta son una pareja de los Estados Unidos que se identifican como personas transgénero y no binarias.

En ambas publicaciones se pueden ver imágenes de la pareja con el torso desnudo y los pezones cubiertos. En las descripciones que acompañan a las imágenes, se debate sobre la atención médica que reciben las personas transgénero y se manifiesta que uno de los miembros de la pareja pronto se someterá a una cirugía de pecho (cirugía de afirmación de género para tener el pecho más plano), proceso para el cual están recaudando fondos.

Tras una serie de alertas de los sistemas automatizados de Meta y de reportes de usuarios, las publicaciones se revisaron varias veces a fin de detectar posibles infracciones de diversas normas comunitarias. En última instancia, Meta eliminó ambas publicaciones por infringir la norma comunitaria sobre servicios sexuales, aparentemente porque en ellas se muestran pechos y un enlace a una página de recaudación de fondos.

El usuario presentó una apelación a Meta y, luego, al Consejo. Luego de que el Consejo aceptara los casos, Meta determinó que había eliminado las publicaciones por error y las restauró.

Conclusiones principales

El Consejo asesor de contenido determinó que eliminar estas publicaciones no es una medida coherente con las Normas comunitarias de Meta, sus valores o sus responsabilidades con los derechos humanos. Asimismo, estos casos manifiestan los problemas básicos con las políticas de Meta.

Las pautas internas de Meta que indican a los moderadores cuándo eliminar contenido en virtud de la política de servicios sexuales son mucho más amplias que las bases establecidas de la política, o las pautas disponibles públicamente. Esto genera confusión a usuarios y moderadores y, como Meta reconoce, conduce a que se elimine contenido de forma errónea.

En al menos uno de los casos, un sistema automatizado entrenado para aplicar la norma comunitaria sobre desnudos y actividad sexual de adultos envió la publicación para que se someta a revisión manual. Esta norma prohíbe las imágenes que muestran pezones femeninos, excepto en circunstancias concretas, como lactancia o cirugía de afirmación de género.

Esta política se basa en una visión binaria del género y en una distinción entre el cuerpo masculino y femenino. Dicho enfoque no deja claro cómo se aplica la regla en el caso de personas intersexuales, no binarias y transgénero, y requiere que los revisores realicen evaluaciones rápidas y subjetivas de sexo y género, lo que no resulta práctico al moderar contenido a gran escala.

Las restricciones y excepciones a las reglas sobre pezones femeninos son extensas y confusas, en particular en cuanto a su aplicación a personas transgénero y no binarias. Las excepciones a la política varían desde manifestaciones hasta escenas de nacimientos, y contextos médicos y de salud, lo que incluye cirugía de pecho y concientización sobre el cáncer de mama. Dichas excepciones con frecuencia son intricadas y se definen de manera muy general. En algunos contextos, por ejemplo, los moderadores deben evaluar la medida y la naturaleza de cicatrices visibles para determinar si se aplican ciertas excepciones. La falta de claridad inherente a esta política genera incertidumbre a los usuarios y revisores, y la vuelve inviable en la práctica.

El Consejo advierte consistentemente que Meta debe tener presente cómo sus políticas afectan a las personas que son víctimas de discriminación (consulta, por ejemplo, las decisiones de los casos " Cinturón de abalorios" y " Reapropiación de términos árabes"). Aquí, el Consejo determina que las políticas de Meta sobre desnudos de adultos suponen obstáculos más grandes para la expresión de mujeres, personas transgénero y no binarias en sus plataformas. Por ejemplo, repercuten de forma negativa en contextos en los que las mujeres pueden, por tradición, llevar el torso desnudo, y las personas que se identifican como parte de la comunidad LGBTQI+ pueden verse afectadas de manera desproporcionada, como demuestran estos casos. Los sistemas automatizados de Meta identificaron el contenido varias veces, pese a que no infringía las políticas de Meta.

Meta debe intentar desarrollar e implementar políticas que aborden todas estas inquietudes. Debe cambiar su enfoque respecto del control de desnudos en sus plataformas definiendo criterios claros que rijan la política sobre desnudos y actividad sexual de adultos, lo que garantiza que se trate a todos los usuarios de un modo coherente con las normas de derechos humanos. Asimismo, debe evaluar si la política sobre desnudos y actividad sexual de adultos brinda protección contra la difusión de imágenes sin consentimiento y si hay otras políticas que se deban reforzar en este aspecto.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Meta de eliminar las publicaciones.

Asimismo, el Consejo le recomendó a Meta:

• Regir su norma comunitaria sobre desnudos y actividad sexual de adultos con criterios claros, objetivos y que respeten los derechos, de modo que se trate a todas las personas de una manera coherente con las normas internacionales de derechos humanos, sin discriminación por sexo o género. En primer lugar, Meta debe realizar una evaluación integral sobre el impacto en los derechos humanos que puede tener dicho cambio, en la que deben participar diversas partes, y crear un plan para abordar los daños identificados.
• Proporcionar en su norma comunitaria sobre servicios sexuales pública más detalles respecto de los criterios que conducen a que se elimine contenido.
• Revisar las pautas para los moderadores respecto de la norma sobre servicios sexuales de modo tal que reflejen con mayor precisión las reglas públicas que atañen a la política, ya que esto permitiría reducir los errores de aplicación de políticas de Meta.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido anuló las decisiones originales de Meta respecto de dos casos de publicaciones de Instagram que Meta eliminó. Meta reconoció haber cometido una equivocación en las decisiones originales en ambos casos. Estos casos generan importantes inquietudes sobre cómo las políticas de Meta afectan de manera desproporcionada a los derechos de expresión de mujeres y usuarios de la comunidad LGBTQI+ en sus plataformas. El Consejo recomienda que Meta rija su política sobre desnudos y actividad sexual de adultos con criterios claros, objetivos y que respeten los derechos, a fin de garantizar que se trate a todas las personas con equidad de una manera coherente con las normas internacionales de derechos humanos, y se evite la discriminación por sexo o identidad de género. Meta debe realizar primero una evaluación integral sobre el impacto en los derechos humanos para determinar qué implica la adopción de dichos criterios, lo que incluye la participación amplia e inclusiva de partes interesadas de contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación identifique daños potenciales, la implementación de la nueva política debe incluir un plan de mitigación para abordarlos.

Asimismo, el Consejo recomienda que Meta aclare su política sobre servicios sexuales pública y acote sus pautas de aplicación de políticas internas para que se aborden mejor dichas infracciones.

2. Descripción del caso y contexto

Estos casos se relacionan con dos decisiones de contenido que tomó Meta, que el Consejo asesor de contenido aborda de forma conjunta en esta decisión. Una misma cuenta de Instagram que pertenece conjuntamente a una pareja que reside en los Estados Unidos publicó dos imágenes independientes con descripciones. En ambas imágenes se puede ver a la pareja, la cual indica en la publicación, y en sus respuestas ante el Consejo, que se identifica como transgénero no binaria.

Meta eliminó ambas publicaciones en virtud de la norma comunitaria sobre servicios sexuales. En ambos casos, los sistemas automatizados de Meta identificaron el contenido como potencialmente infractor.

En la primera imagen, publicada en 2021, ambas personas aparecen con el torso desnudo y los pezones cubiertos con cinta adhesiva de color beige. En la segunda imagen, publicada en 2022, una de las personas está vestida y la otra tiene el torso descubierto y las manos sobre los pezones. En las descripciones que acompañan a estas imágenes, la pareja manifiesta que la persona que aparece con el torso desnudo pronto se someterá a una cirugía de afirmación de género para tener el pecho más plano. Ambas personas manifiestan que tienen pensado documentar el proceso quirúrgico y debatir los problemas de atención médica que experimentan las personas transgénero. Anuncian que están llevando a cabo una recaudación de fondos para pagar la cirugía, ya que tuvieron problemas para encontrar un seguro que cubriera el procedimiento.

En el primer caso, la imagen primero se calificó automáticamente como con poca probabilidad de infringir las normas. El reporte se cerró sin haberse revisado y el contenido permaneció inicialmente en la plataforma. Luego, tres usuarios reportaron el contenido tras calificarlo como pornografía y autoagresión. Los moderadores que revisaron manualmente estos reportes determinaron que la publicación no infringe las normas. Cuando un cuarto usuario reportó el contenido, otro revisor determinó que la publicación infringía la norma comunitaria sobre servicios sexuales y la eliminó.

En el segundo caso, los sistemas automatizados de Meta identificaron dos veces la publicación, se envió a revisión manual y se determinó que no infringía las normas. Más adelante, dos usuarios reportaron el contenido, pero ambos reportes se cerraron automáticamente sin revisión manual y el contenido permaneció en Instagram. Por último, los sistemas automatizados de Meta identificaron el contenido por tercera vez y se sometió a revisión manual. En las dos últimas ocasiones, el clasificador automatizado de desnudos y actividad sexual de adultos de Meta marcó el contenido, pero no queda claro el motivo de estas dos revisiones reiteradas. En esta última revisión manual, se determinó que la publicación infringía la norma comunitaria sobre servicios sexuales y se eliminó.

Los propietarios de la cuenta apelaron ambas decisiones de eliminación de Meta, y el contenido se sometió a revisión manual en los dos casos. Sin embargo, Meta no restauró las publicaciones pese a estas revisiones. Luego, los propietarios de la cuenta apelaron las dos decisiones de eliminación al Consejo. Es la primera vez que el Consejo analiza dos casos en conjunto. Las ventajas de ello es poder identificar problemas similares en los procesos y las políticas de contenido de Meta, y ofrecer soluciones a estos inconvenientes.

Luego de que el Consejo seleccionara estas publicaciones y se le exigiera a Meta que justifique su decisión de eliminar el contenido, Meta determinó que las eliminaciones se debieron a errores de aplicación de políticas y las restauró.

Al considerar por qué estos casos representan problemas graves, el Consejo toma como contexto relevante el gran volumen de comentarios públicos recibidos en estos casos, muchos de los cuales provienen de personas que se identifican como transgénero, no binarias o mujeres cisgénero, quienes manifestaron sentirse personalmente afectadas por errores de aplicación de políticas y problemas similares a los presentados en estos casos.

El Consejo también considera como contexto relevante las investigaciones académicas, también citadas en los comentarios públicos, que realizaron Haimson et al, Witt, Suzor y Huggins, así como dos informes de Salty sobre el sesgo algorítmico y la censura de comunidades marginadas. Estos estudios determinaron que los errores de aplicación de políticas en las dos normas comunitarias analizadas en estos casos repercuten de manera desproporcionada en las mujeres y la comunidad LGBTQI+. El coautor de uno de estos estudios es miembro del Consejo asesor de contenido.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene la facultad para revisar la decisión de Meta tras la apelación de un usuario cuyo contenido se eliminó (Artículo 2, sección 1, del acta constitutiva; Artículo 3, sección 1, de los estatutos).

El Consejo puede mantener o revertir la decisión de Meta (Artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (Artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (Artículo 4 del acta constitutiva). Las decisiones del Consejo podrían incluir declaraciones de asesoramiento normativo con recomendaciones a las que Meta debe responder (Artículo 3, sección 4, y Artículo 4 del acta constitutiva).

Cuando el Consejo selecciona casos como este, en el que Meta reconoce que cometió un error luego de que el Consejo identificara el caso, este revisa la decisión original. El objetivo es que se entiendan mejor los parámetros de la política y los procesos de moderación de contenido que contribuyeron a que se cometa el error, así como abordar los problemas que el Consejo identifica con las políticas subyacentes. El Consejo también apunta a proporcionar recomendaciones que reduzcan la probabilidad de futuros errores y lograr que se trate a los usuarios de manera más justa de aquí en adelante.

Si el Consejo identifica casos que generan inquietudes similares, es posible que los asigne a un panel juntos para que realice una deliberación simultánea. Se tomará una decisión vinculante respecto de cada elemento de contenido.

4. Fuentes de autoridad

El Consejo asesor de contenido consideró las siguientes autoridades y normas:

I. Decisiones del Consejo asesor de contenido

• Decisión del caso "Reapropiación de términos árabes" ( 2022-003-IG-UA). El Consejo analizó los desafíos de aplicar excepciones a las políticas y el impacto desproporcionado de algunas opciones normativas.
• Decisión del caso "Cinturón de abalorios" ( 2021-012-FB-UA). El Consejo analizó los desafíos de aplicar excepciones a las políticas y el impacto desproporcionado de algunas opciones normativas.
• Decisión del caso "Síntomas de cáncer de mama y desnudos" ( 2020-004-IG-UA). El Consejo analizó las Normas comunitarias de Instagram y recomendó que Meta aclare que existe una excepción para la concientización sobre el cáncer de mama.

II. Políticas de contenido de Meta

Este caso involucra las Normas comunitarias de Instagram y las Normas comunitarias de Facebook. El Centro de transparencia de Meta establece que Facebook e Instagram comparten políticas de contenido, lo que significa que, si se determina que el contenido infringe las normas en Facebook, también se considerará que infringe las normas en Instagram.

Servicios sexuales

Las Normas comunitarias de Instagram estipulan que no está permitido ofrecer servicios sexuales. En esta disposición figura un enlace a la norma comunitaria de Facebook sobre servicios sexuales.

En las bases de la política sobre servicios sexuales, Meta manifiesta lo siguiente: "Sin embargo, establecemos un límite cuando el contenido facilita, favorece o coordina encuentros o servicios sexuales comerciales entre adultos. Nuestra meta es imposibilitar transacciones que pudieran involucrar trata, coerción y actos sexuales sin consentimiento. También restringimos el lenguaje sexual explícito que pueda conducir a la solicitud de servicios sexuales, ya que algunos públicos de nuestra comunidad internacional pueden ser sensibles a este tipo de contenido y podría impedir que las personas se conecten con sus amigos y el resto de la comunidad".

La norma comunitaria de Facebook sobre servicios sexuales manifiesta que Meta prohíbe los servicios sexuales explícitos e implícitos. Hay dos criterios para considerar que determinado contenido se relaciona con servicios sexuales implícitos e infringe la política. El primer criterio es oferta o solicitud, que se refiere al contenido que implícita o indirectamente (por lo general, indicando un método de contacto) ofrece o solicita servicios sexuales. El segundo criterio es elementos sugerentes, que se refiere a contenido que ofrece o solicita lo que se menciona anteriormente por medio de uno de los siguientes elementos sexualmente sugerentes. Los elementos enumerados incluyen jerga regional con connotación sexual y poses.

Desnudos y actividad sexual de adultos

Las Normas comunitarias de Instagram establecen que los usuarios deben publicar fotos y videos que resulten apropiados para un público diverso. Somos conscientes de que es posible que algunas personas quieran compartir imágenes de desnudos artísticos o creativos. Sin embargo, por diversos motivos, no permitimos que se publiquen desnudos en Instagram. Esta restricción se aplica a fotos, videos y determinado contenido digital que muestren actos sexuales, genitales y primeros planos de nalgas totalmente al descubierto. También incluye fotos de pezones femeninos descubiertos, pero se permiten imágenes en los contextos de lactancia, parto y posparto, en situaciones relacionadas con la salud (por ejemplo, posmastectomía, concientización sobre el cáncer de mama o cirugía de afirmación de género) o como acto de protesta. Esta sección incluye un enlace a la política sobre desnudos y actividad sexual de adultos de Facebook, que proporciona más detalles sobre estas reglas.

Como parte de las bases de la política de la norma comunitaria sobre desnudos y actividad sexual de adultos, Meta explica lo siguiente: "Restringimos la exhibición de desnudos o actividades sexuales porque este tipo de contenido puede resultar incómodo para algunas personas de nuestra comunidad. Además, de forma predeterminada eliminamos imágenes sexuales para evitar que se comparta contenido sin permiso o de menores de edad".

La política sobre desnudos y actividad sexual de adultos también manifiesta lo siguiente: "No publiques: pezones femeninos descubiertos, excepto en los contextos de lactancia, parto y posparto, o en contextos médicos o relacionados con la salud (por ejemplo, posmastectomía, concientización sobre el cáncer de mama o cirugía de afirmación de género) o como acto de protesta". Los usuarios también pueden publicar imágenes de genitales si se comparten en un contexto médico o relacionado con la salud (como una cirugía de afirmación de género), pero se aplicará una etiqueta de advertencia para indicar que se trata de contenido sensible. Además, hay al menos 18 factores adicionales sobre pezones y estas excepciones en las pautas internas.

III. Valores de Meta:

Los valores de Meta se detallan en la introducción a las Normas comunitarias de Facebook, donde la "expresión" se define como un valor "fundamental":

Nuestras Normas comunitarias siempre apuntaron a crear un espacio donde las personas puedan expresarse y dar a conocer su opinión. [...] Queremos que las personas puedan hablar abiertamente sobre los temas que les importan, incluso si otros no están de acuerdo o los consideran objetables.

Meta limita la "expresión" en favor de otros cuatro valores, y dos de ellos son relevantes en este caso:

"Seguridad": nos comprometemos a hacer de Facebook un lugar seguro. La expresión que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitida en Facebook.

"Dignidad": creemos que todas las personas son dignas y tienen los mismos derechos. Esperamos que las personas respeten la dignidad de los demás y no los acosen ni los degraden.

IV. Normas internacionales sobre derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, con la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en estos casos se basó en las siguientes normas de derechos humanos:

• Derecho a la libertad de opinión y expresión: Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), observación general n.º 34, Comité de Derechos Humanos (2011); comunicación n.º 488/1992; resolución 32/2, Consejo de Derechos Humanos, 2016; informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018) y A/74/486 (2019).
• Derechos de las mujeres: Artículo 2 y Artículo 5 de la Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer (CEDAW);
• Derecho a la no discriminación: Artículo 2, párrafo 1, y Artículo 26 del ICCPR. Nepomnyashchy versus Rusia, Comité de Derechos Humanos, 2018 ( ICCPR/C/123/D/2318/2013).

5. Respuestas del usuario

En las respuestas a estos casos, los usuarios afirman que consideran que este contenido se eliminó por transfobia. Manifiestan que, si el Consejo afirmara que este contenido debe permanecer en la plataforma, la decisión contribuiría a hacer de Instagram un espacio más acogedor para la expresión de las personas LGBTQI+.

6. Respuestas de Meta

Meta explicó en el fundamento de su decisión que la eliminación de ambos contenidos se debió a errores en la aplicación de políticas y ninguna de las publicaciones infringe las políticas sobre servicios sexuales. Meta afirma que solo se solicitan u ofrecen donaciones para una recaudación de fondos o se pide que se visite un sitio web para comprar camisetas, nada de lo cual se relaciona con servicios sexuales.

Meta también asegura que ninguna publicación infringe la norma sobre desnudos y actividad sexual de adultos. Este fundamento expone que las pautas de revisión internas abordan específicamente cómo tomar medidas respecto de los desnudos de personas no binarias, transgénero o con género neutro. El contenido en estos casos se compartió en un contexto explícitamente transgénero o no binario, como lo demuestran el tema general del contenido (cirugía de pecho) y el hashtag utilizado. Meta concluyó que incluso aunque los pezones fueran visibles o estuvieran descubiertos en estos casos, no infringirían nuestra política sobre desnudos y actividad sexual de adultos. Asimismo, Meta reconoce que, en ambas imágenes, los pezones estaban completamente tapados.

Dado el tiempo transcurrido desde que se eliminó el contenido, Meta no pudo indicarle al Consejo qué política o políticas estaban programados para aplicar los diversos sistemas automatizados que identificaron el contenido como potencialmente infractor. En un caso, Meta pudo explicar que el contenido estuvo dos veces en cola para someterse a revisión por haber calificado como desnudos o actividad sexual de adultos. Meta tampoco pudo explicar el motivo por el que los revisores consideraron que el contenido infringía la política sobre servicios sexuales. El fundamento reconoce que Meta es consciente de que algunos revisores pueden eliminar por error cierto contenido por considerarlo servicios sexuales implícitos (aunque no sea el caso) en función de una aplicación excesivamente técnica de nuestras pautas de revisión internas.

El Consejo hizo 18 preguntas a Meta, que Meta respondió en su totalidad.

7. Comentarios públicos

El Consejo asesor de contenido tuvo en cuenta 130 comentarios públicos relacionados con estos casos. Noventa y siete de ellos procedían de los Estados Unidos y Canadá; diecinueve, de Europa; diez, de Asia-Pacífico y Oceanía; uno, de Latinoamérica y el Caribe; uno, de Oriente Medio y África septentrional; uno, de África subsahariana; y uno, de Asia central y meridional.

Los comentarios abarcaron los siguientes temas: eliminaciones erróneas de contenido de usuarios transgénero, no binarios o mujeres; la inequidad y desigualdad de las distinciones en función del género para determinar qué tipos de desnudos se permiten en la plataforma; confusión respecto del contenido que se admite en virtud de las normas sobre desnudos y actividad sexual de adultos y servicios sexuales; y la importancia de los medios sociales para la libertad de expresión en sociedades en las que los derechos de la comunidad LGBTQI+ se ven amenazados.

Si quieres leer los comentarios públicos que se enviaron en relación con estos casos, haz clic aquí. No se incluyeron varios comentarios enviados porque contienen información que identifica a otras personas distintas de la persona que envía el comentario.

8. Análisis del Consejo asesor de contenido

El Consejo analizó la pregunta de si estas publicaciones deberían restaurarse desde tres perspectivas: las políticas de contenido de Meta, los valores de la empresa y sus responsabilidades con los derechos humanos.

El Consejo seleccionó estos casos porque la eliminación de contenido no infractor publicado por personas que se identifican con grupos marginados afecta a su libertad de expresión. Esto es particularmente significativo dado que Instagram puede ser un importante foro para que estos grupos consoliden una comunidad. Estos casos demuestran cómo los errores en la aplicación de políticas pueden repercutir de manera desproporcionada en ciertos grupos y pueden poner de manifiesto problemas más grandes en cuanto a políticas y aplicación que se deben resolver.

8.1 Cumplimiento de las políticas de contenido de Meta

El Consejo considera que estas publicaciones no infringen ninguna política de contenido de Meta. Si bien las Normas comunitarias se aplican a Instagram, Meta también afirma que Facebook e Instagram comparten las políticas de contenido. Si se considera que el contenido infringe las normas en Facebook, también se considera que infringe las normas en Instagram. Las Normas comunitarias de Facebook proporcionan más detalles, y en las pautas se incluye un enlace a ellas.

a. Servicios sexuales

La norma comunitaria sobre servicios sexuales afirma que los servicios sexuales implícitos requieren dos elementos:

• Contenido que incluya una oferta o solicitud implícita
• Elementos sexualmente sugerentes

Oferta o solicitud implícita.

Las normas comunitarias sobre servicios sexuales definen una oferta o solicitud implícita como contenido que implícita o indirectamente (por lo general, indicando un método de contacto) ofrece o solicita servicios sexuales. En la sección de preguntas frecuentes de Meta, en la que se proporcionan pautas internas adicionales para los revisores, la lista de información de contacto que activa la eliminación por tratarse de una oferta implícita incluye enlaces a perfiles en medios sociales y enlaces a sitios web de suscripción (como OnlyFans.com o Patreon.com). En estos casos, el contenido incluía un enlace a una plataforma en la que los usuarios estaban organizando una recaudación de fondos para pagar el costo de la cirugía. Dado que los criterios internos de Meta que definen una "oferta o solicitud implícita" son muy amplios, este enlace técnicamente calificaría como "oferta o solicitud" en virtud de las pautas del revisor de Meta, pese a no infringir la norma pública, que manifiesta que la oferta o solicitud debe ser de naturaleza sexual.

Elementos sexualmente sugerentes.

La norma comunitaria proporciona una lista de elementos sexualmente sugerentes que incluye poses. En la sección de preguntas frecuentes, se ofrece una lista, que Meta describe como exhaustiva, de las poses que se consideran sexualmente sugerentes, incluidos pechos femeninos desnudos cubiertos con técnicas digitales, o con objetos o partes del cuerpo. En ambas imágenes, el Consejo afirma que hay pechos cubiertos por partes del cuerpo (manos) u objetos (cinta adhesiva). En estos casos, el contenido de las publicaciones deja claro que las personas de la foto se identifican como transgénero y no binarias, lo que significa que los pechos que se observan pertenecen a personas que no se identifican como mujeres. Asimismo, el Consejo determina que el contenido no es sexualmente sugerente. Sobre esa base, no existe el segundo elemento que se requiere para infringir la política sobre servicios sexuales: elemento sexualmente sugerente, como una pose sexual (lo que incluye un pecho femenino descubierto).

Debido a la carencia del segundo elemento, las publicaciones no infringen esta norma. La aplicación de la versión pública que define el primer elemento (que indica que la oferta o solicitud debe ser de naturaleza sexual) también indica que estas imágenes no constituyen servicios sexuales.

b. Desnudos y actividad sexual de adultos

La norma comunitaria sobre desnudos y actividad sexual de adultos establece que los usuarios no deben publicar imágenes de pezones femeninos descubiertos, excepto en los contextos de lactancia, parto y posparto, o en contextos médicos o relacionados con la salud (por ejemplo, posmastectomía, concientización sobre el cáncer de mama o cirugía de afirmación de género) o como acto de protesta. En las preguntas frecuentes de Meta, también se establece que los revisores deben permitir imágenes de pezones si se comparten en un contexto explícitamente transgénero femenino o masculino, no binario o de género neutro (por ejemplo, un usuario indica que esa es su identidad de género), independientemente del tamaño o la forma del pecho. Ninguna de las imágenes en estos casos infringe esta norma comunitaria.

En primer lugar, en ninguna de ellas se muestran pezones descubiertos. En ambas, las personas se los cubrieron con las manos o con cinta adhesiva. En segundo lugar, si los pezones hubieran estado descubiertos, el Consejo declara que las imágenes se compartieron junto con un texto que aclaraba que las personas se identificaban como no binarias. Por lo tanto, no se infringe esta política.

8.2 Cumplimiento de los valores de Meta

El Consejo determinó que las decisiones originales de eliminar las publicaciones no se tomaron de conformidad con los valores de Meta de expresión y dignidad, ni atendieron el valor de seguridad.

Los errores de aplicación de políticas que afectan de manera desproporcionada a grupos que enfrentan discriminación suponen una amenaza grave a la expresión y la dignidad. Si bien los argumentos de Meta en relación con los derechos humanos abordan la seguridad, en particular en lo que respecta a la difusión de imágenes sin consentimiento, el tráfico sexual y el abuso infantil, el Consejo determina que estas eliminaciones no favorecieron la seguridad.

8.3 Cumplimiento de las responsabilidades de Meta en cuanto a los derechos humanos

Libertad de expresión (Artículo 19 del ICCPR)

El Artículo 19 del ICCPR contiene disposiciones para una amplia protección de la expresión, incluyendo comentarios sobre derechos humanos y expresión que las personas pueden considerar ofensivos (observación general n.º 34, párrafo 11). El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a sexo u otra condición (Artículo 2, párrafo 1, del ICCPR). El Comité de Derechos Humanos confirmó en casos como Nepomnyashchy versus Rusia (CCPR/C/123/D/2318/2013) que la prohibición relacionada con la discriminación incluye discriminación sobre la base de identidad de género.

El contenido se relaciona con temas sociales importantes. Para estos usuarios, Instagram oficia de foro para debatir y representar su expresión de género, y proporciona un espacio para conectarse y obtener ayuda. El contenido también puede repercutir de manera directa en la capacidad de los usuarios de reivindicar la cirugía de afirmación de género, ya que en ambas publicaciones se explica que una de las personas se realizará una cirugía de pecho y compartirá una recaudación de fondos para compensar los costos del procedimiento.

El artículo 19 exige que, si un Estado impone restricciones a la libertad de expresión, debe cumplir con los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (Artículo 19, párrafo 3, del ICCPR). De acuerdo con el marco de los UNGP, en el informe del Relator Especial de la ONU sobre la libertad de opinión y expresión, se apeló a las empresas de medios sociales a garantizar que sus reglas de contenido se rijan por los requisitos del Artículo 19, párrafo 3, del ICCPR (A/HRC/38/35, 45 y 70). El Consejo adoptó este marco para analizar las políticas y la aplicación de políticas de Meta.

En este caso, el Consejo determina que Meta no cumplió con sus responsabilidades de crear y aplicar políticas coherentes con estas normas. Los criterios internos sobre los que se basa la eliminación de contenido en virtud de la política sobre servicios sexuales son más amplios que las bases establecidas de la política, lo que trae como consecuencia un exceso de moderación que Meta reconoce. La norma comunitaria sobre desnudos y actividad sexual de adultos afecta de forma desproporcionada a mujeres y usuarios de la comunidad LGBTQI+, y se basa en percepciones subjetivas y especulativas de sexo y género que no son viables a la hora de moderar contenido a gran escala. El Consejo analiza estas carencias y recomienda que Meta comience un proceso integral para abordar estos problemas.

I. Legalidad (claridad y accesibilidad de las reglas)

Las reglas que restringen la expresión deben ser claras y accesibles, de modo tal que tanto los responsables de aplicarlas como los usuarios sepan lo que está permitido. Ambas normas comunitarias consideradas en estos casos no están a la altura de dicha norma.

a. Servicios sexuales

Para el Consejo, la norma comunitaria sobre servicios sexuales incluye criterios demasiado amplios en las pautas internas que se proporcionan a los revisores. Esta pauta escasamente personalizada contribuye a un exceso de moderación por parte de los revisores y genera confusión entre los usuarios. Meta reconoció esta situación, ya que explicó al Consejo que la aplicación de su pauta interna podría conducir a un exceso de moderación en casos en que se cumplen los criterios relativos a servicios sexuales implícitos, pero es claro que no hay intención de solicitar dichos servicios.

La confusión se refleja en ambos elementos de esta política. En el componente de oferta o solicitud de la norma comunitaria sobre servicios sexuales, las reglas públicas hacen referencia a un método de contacto de la parte que hace la solicitud. Sin embargo, la pauta para los moderadores (la sección de preguntas frecuentes) indica que el método de contacto para una oferta o solicitud implícita incluye el enlace a un perfil en medios sociales o enlaces a sitios web de suscripción de terceros como Patreon. No queda claro para los usuarios si un enlace a otro perfil en medios sociales, a una plataforma de pago de terceros o a una recaudación de fondos (como Patreon o GoFundMe) podría implicar que su publicación se considera como una oferta o solicitud de servicios sexuales. Esta confusión se refleja en los diversos comentarios públicos que el Consejo recibió de personas que no entendían por qué se había eliminado contenido con dichos enlaces o se habían bloqueado sus cuentas.

El segundo criterio (elemento sexualmente sugerente) es amplio y ambiguo, así como incoherente respecto de la política sobre desnudos y actividad sexual de adultos de Meta. La norma comunitaria pública incluye poses sexualmente sugerentes como elemento sexualmente sugerente. Las preguntas frecuentes proporcionan una lista detallada de dichas poses, que incluyen mostrar el torso desnudo y cubrirse los pechos con las manos o con objetos. Los usuarios con certeza no podrán predecir que una imagen en la que una persona se muestra con los pechos cubiertos se considera una pose sexualmente sugerente. Esta confusión se agrava debido al hecho de que la política sobre desnudos de adultos permite las fotos con el torso desnudo si los pezones están cubiertos. En este aspecto, el contenido que se considera sexual en virtud de una política no se considera sexual en virtud de otra.

Además de la incertidumbre de los usuarios, el hecho de que los revisores llegaran reiteradamente a diferentes conclusiones respecto de este contenido sugiere que los moderadores carecen de claridad respecto del contenido que debería considerarse una solicitud de servicios sexuales.

Como Meta reconoce, la aplicación de su pauta interna sobre los dos elementos que indican servicios sexuales implícitos conlleva eliminar contenido que no pretende conducir a actos sexuales. A largo plazo, las eliminaciones erróneas probablemente se aborden mejor si se modifica el alcance de esta política. No obstante, a corto plazo, el Consejo recomienda que Meta revise sus pautas internas para garantizar que los criterios reflejen las reglas públicas y haya una conexión más clara entre la oferta o solicitud y el elemento sexualmente sugerente. Meta también debería proporcionar a los usuarios una explicación más detallada de lo que constituye una oferta o solicitud de sexo y lo que se consideran poses sexualmente sugerentes en las Normas comunitarias públicas.

b. Desnudos y actividad sexual de adultos

La norma sobre desnudos y actividad sexual de adultos se basa en distinciones de sexo y género que son difíciles de implementar e incluyen excepciones definidas con deficiencia. Ciertas reglas de la política resultarán confusas para los usuarios, que no saben lo que está permitido. Asimismo, esto ocasiona confusión para los moderadores, que deben realizar evaluaciones subjetivas en función de información ineludiblemente incompleta y aplicar con rapidez una regla con numerosos factores, exclusiones y suposiciones.

Pese al uso de términos que se centran en partes específicas del cuerpo en lugar de referirse al género (y a que se permite elegir una amplia variedad de identidades de género en el perfil), la mayoría de las reglas de Meta no explican cómo la empresa aborda el contenido en el que aparecen personas intersexuales, transgénero o no binarias. Por ejemplo, la política hace referencia a genitales masculinos y femeninos, pechos femeninos y pezones femeninos, pero no queda claro cómo se aplican estas descripciones a personas cuyos cuerpos e identidades tal vez no concuerdan con estas definiciones. Muchas personas transgénero y no binarias enviaron comentarios públicos al Consejo para indicar que los usuarios no saben si su contenido se evalúa y categoriza según su identidad de género, el sexo que se les asignó al nacer o aspectos de su apariencia física.

Las reglas actuales requieren que los revisores evalúen con rapidez el sexo de un usuario, ya que esta política se aplica a los pezones femeninos, así como su identidad de género, porque hay excepciones basadas en si la persona que aparece en el contenido es no binaria, de género neutro o transgénero, o realiza la publicación en un contexto de cirugía de afirmación de género. Las percepciones de sexo y género requieren la interpretación de indicios contextuales y apariencia, determinaciones subjetivas que conducen a errores.

Este enfoque se complica aún más debido al principio predeterminado de Meta respecto de las mujeres, por el que, ante situaciones de duda, se aplican políticas más restrictivas a los desnudos de mujeres (no de hombres). La sección de preguntas frecuentes establece que si no hay un contexto claro y la persona de la imagen se presenta como mujer O el contexto indica que se trata de una persona transgénero de hombre a mujer, se debe aplicar la norma predeterminada sobre desnudos femeninos y la política relevante.

Hay una extensa y confusa cantidad de restricciones y excepciones a las reglas sobre pezones percibidos como femeninos. Las excepciones varían desde manifestaciones hasta escenas de nacimientos y lactancia, y contextos médicos y de salud, lo que incluye imágenes posmastectomía y concientización sobre el cáncer de mama. Las excepciones se suelen definir vagamente o no definirse en absoluto. La lista de excepciones también creció de forma sustancial con el tiempo y se espera que lo siga haciendo a medida que la expresión evoluciona. Cuando se trata de los pechos femeninos, la política sobre desnudos y actividad sexual de adultos de Meta supone de forma predeterminada que dichas imágenes constituyen imágenes sexuales. Pese a que la creciente lista de excepciones refleja esta situación, en muchas circunstancias que se reconocen en la política, las imágenes de pechos femeninos no son sexualmente sugerentes.

Incluso dentro de cada excepción, surgen muchas preguntas. Por ejemplo, la excepción sobre cirugía de afirmación de género es de particular importancia para los usuarios transgénero y no binarios, pero Meta no proporciona una explicación del alcance de dicha excepción en sus reglas públicas. Como resultado, muchos de los comentarios públicos expresaron confusión sobre si el contenido permitido en virtud de la excepción podría incluir fotos previas a la cirugía (para crear una imagen del antes y el después) e imágenes de mujeres transgénero que se sometieron a un aumento de pechos. Las pautas internas y la sección de preguntas frecuentes dejan claro que esta excepción es más acotada de lo que se puede interpretar que implica la pauta pública.

Las políticas de Meta se basan en distinciones binarias entre hombre y mujer, lo que genera problemas cuando Meta intenta articular la excepción relacionada con la cirugía de afirmación de género. En las respuestas de Meta al Consejo, Meta explicó que la excepción relativa a la cirugía de afirmación de género implica que se admiten los pezones femeninos descubiertos antes de que la persona se someta a la cirugía para extraer los pechos si el contenido se publica en un contexto explícitamente transgénero de mujer a hombre, no binario o de género neutro. Las reglas asimismo estipulan que se prohíben los pezones de personas transgénero de hombre a mujer que se sometieron a un aumento de pechos (cirugía de pechos), a menos que haya cicatrices sobre los pezones.

Las pautas internas sobre cicatrices quirúrgicas y pezones son incluso más complejas. Las reglas relativas a mastectomías, por ejemplo, permiten instancias en las que hay una reconstrucción del pezón a partir de otros tejidos o este se marca o se tatúa e instancias en las que hay presente al menos un pecho extirpado quirúrgicamente, incluso si el otro pezón femenino descubierto es visible. Lo que confunde más aún es que las reglas indican que, en los casos de mastectomías, las cicatrices incluyen la representación del área donde solía estar el tejido del pecho extirpado. La cicatriz quirúrgica actual no necesariamente debe ser visible.

A los revisores probablemente les costará aplicar reglas que requieran que evalúen con rapidez características específicas del sexo de la persona que aparece en el contenido para decidir si se aplican las reglas sobre pezones femeninos y, luego, el género de la persona para determinar si se aplican algunas excepciones, y que posteriormente consideren si el contenido muestra el proceso previo o el resultado de un procedimiento quirúrgico, de qué procedimiento se trata, y la medida y naturaleza de las cicatrices visibles, a fin de determinar si se aplican otras excepciones. La misma imagen de pezones femeninos se prohibiría si la publica una mujer cisgénero, pero se admitiría si la publica una persona que se identifica como no binaria. Asimismo, el Consejo hace hincapié en otras excepciones relativas a los pezones en contextos de manifestaciones, nacimiento, posparto y lactancia, que no se analizan aquí, pero que también se deben evaluar y presuntamente implican criterios internos adicionales.

Dada la importancia de los derechos de expresión en cuanto a cuestiones de género, salud física, nacimiento y crianza, el complejo entramado actual de excepciones genera una incertidumbre exagerada en los usuarios y un potencial de aplicación errónea de reglas, como se puede observar en este caso. La falta de claridad para usuarios y moderadores inherente a esta política hacen que la norma sea inviable. Como se analiza en más detalle debajo, el Consejo cree que Meta debería adoptar un enfoque respecto de los desnudos de adultos que garantice que todas las personas reciban el mismo trato, sin discriminación por cuestiones de sexo o identidad de género.

II. Fin legítimo

El Artículo 19 del ICCPR estipula que el Estado solo puede restringir la expresión para favorecer fines legítimos, que se establecen como: "respeto por los derechos o la reputación de otras personas . . . [y] protección de la seguridad nacional o el orden público, o de la salud pública y la moral". Esta decisión examina las bases de Meta para limitar el discurso en sus políticas en vista de estas normas.

a. Servicios sexuales

Meta explica en su política sobre servicios sexuales que el objetivo es evitar que los usuarios usen Facebook o Instagram para facilitar transacciones que pueden implicar tráfico, coerción y actos sexuales no consentidos, que podrían ocurrir fuera de la plataforma. Este es un ejemplo de protección de los derechos de otras personas, lo que constituye un fin legítimo.

b. Desnudos y actividad sexual de adultos

Meta proporcionó varias bases relacionadas con aspectos particulares de su política sobre desnudos y actividad sexual de adultos, incluidos prevenir la difusión de contenido sin consentimiento, proteger a los menores cuando no queda claro qué edad tiene la persona y tener en cuenta el hecho de que algunas personas de nuestra comunidad pueden ser sensibles a este tipo de contenido. Meta también proporcionó al Consejo una explicación de sus principios generales sobre desnudos. Afirma que, en la redacción preliminar de nuestra política, Meta tuvo en cuenta (1) la naturaleza privada o sensible de las imágenes; (2) si se obtuvo consentimiento para tomar y compartir imágenes de desnudos; (3) el riesgo de explotación sexual; y (4) si la difusión de dichas imágenes podría ocasionar acoso fuera de la plataforma, particularmente en países en los que dichas imágenes podrían resultar ofensivas desde el punto de vista cultural.

Muchos de estos objetivos concuerdan con la protección de los derechos de otras personas. Sin embargo, el fundamento de Meta de proteger la sensibilidad de la comunidad amerita un análisis más exhaustivo. Esta base tiene el potencial de concordar con el fin legítimo de moral pública. Dicho esto, el Consejo manifiesta que, en ocasiones, los supervisores del discurso gubernamental invocaron de forma inadecuada el fin de proteger la moral pública para infringir los derechos humanos, en particular de miembros de minorías y grupos vulnerables. El Comité de Derechos Humanos advirtió que el concepto de moral proviene de muchas tradiciones sociales, filosóficas y religiosas; en consecuencia, las limitaciones... con el fin de proteger la moral se deben basar en principios que no deriven exclusivamente de una sola tradición (observación general n.º 34 del Comité de Derechos Humanos).

Si bien las leyes de derechos humanos sí reconocen que la moral pública puede constituir el fin legítimo de las limitaciones a la libertad de expresión para los Estados, y que existen restricciones en todo el mundo, Meta destaca otros fines distintos a la sensibilidad de la comunidad en el contexto específico de este caso. Meta afirmó que, si bien su política sobre desnudos es coherente con la protección de la moral pública, no se basa en última instancia en este fin porque las normas morales en torno a la desnudez difieren ampliamente según las culturas y no se podrían implementar a gran escala. Por ejemplo, en muchas comunidades y partes del mundo, se podría considerar que las imágenes de pechos descubiertos de personas transgénero o no binarias transgreden la sensibilidad de la comunidad. Aun así, Meta no restringe dicha expresión. Asimismo, al Consejo le preocupa la carga desproporcionada conocida y recurrente en cuanto a la expresión que recae sobre las mujeres y las personas transgénero y no binarias debido a las políticas de Meta (consulta más adelante). Por estos motivos, el Consejo se centra en los otros fines que trascienden la sensibilidad de la comunidad, que Meta fomentó al examinar sus responsabilidades con los derechos humanos.

Cabe señalar que muchos de los motivos que Meta indica que respaldan su política sobre desnudos reflejan una suposición predeterminada de la naturaleza sugerente de los pechos femeninos como base. El Consejo recibió comentarios públicos de muchos usuarios que expresaron preocupación sobre la presunta sexualización del cuerpo de las mujeres y las personas transgénero y no binarias, cuando no se aplica una suposición comparable de sexualización de imágenes a los hombres cisgénero (consulta, por ejemplo, el comentario público 10.624 presentado por InternetLab).

El Consejo recibió muchos comentarios públicos en este caso por medio de sus procesos de difusión de casos habituales. Como organismo comprometido a ofrecer una medida de responsabilidad a la base de usuarios y las partes interesadas de Meta, el Consejo toma con seriedad los comentarios como parte de sus deliberaciones. Como con todos los casos, entendemos que es posible que estos comentarios no representen la opinión general. El Consejo valora las experiencias y los conocimientos compartidos por medio de los comentarios y sigue tomando medidas para llegar a comunidades que tal vez actualmente no participan de este proceso.

Por último, el Consejo reconoce que Meta puede ponderar de forma legítima la importancia de prevenir ciertos daños que pueden tener repercusiones en cuanto a género. Como menciona el Relator Especial sobre la violencia contra la mujer, es importante reconocer que internet se utiliza en un entorno más amplio de discriminación estructural sistémica y generalizada y violencia de género contra mujeres y chicas (A/HRC/38/47). Además, las encuestas indican que el 90% de las víctimas de difusión digital de imágenes íntimas sin consentimiento son mujeres (A/HRC/38/47). Meta debe intentar limitar los daños de género, tanto cuando hay excesos en la aplicación de prohibiciones sobre desnudos como cuando ocurre lo opuesto.

III. Necesidad y proporcionalidad

El Consejo determina que las políticas de Meta, en su marco y aplicación, capturan más contenido del necesario. Ninguna política es proporcionada respecto de los problemas que pretende abordar.

a. Servicios sexuales

Las definiciones de oferta o solicitud implícitas y poses sexualmente sugerentes incluidas en la política sobre servicios sexuales son demasiado amplias y se limitan a captar una cantidad significativa de contenido no relacionado con servicios sexuales. Meta reconoce el riesgo de la aplicación errónea de políticas y afirma que algunos revisores pueden eliminar por error cierto contenido por considerarlo servicios sexuales implícitos (aunque no sea el caso) en función de una aplicación excesivamente técnica de nuestras pautas de revisión internas. Meta continúa:

Actualmente, en función de las preguntas frecuentes, consideramos que compartir, mencionar o proporcionar información de contacto de identidades sociales o digitales constituye una oferta o solicitud implícita de servicios sexuales. […] Sin embargo, aplicar esta pauta puede conducir a un exceso de moderación en casos en los que, por ejemplo, un revisor percibe que una modelo que etiqueta al fotógrafo para darle crédito por la foto (se cumple el criterio de oferta o solicitud) posa de un modo sexualmente sugerente (se cumple el criterio de elemento sexualmente sugerente). Este tipo de contenido no infringe las normas porque no hay intención de solicitar servicios sexuales, pero aun así se puede eliminar (contrario a lo que establece la política) porque, de otro modo, cumple con los dos criterios que se mencionan anteriormente.

En un informe de la UNESCO que debate la educación en el espacio digital, se describe el riesgo del exceso de moderación. Se manifiesta que las regulaciones estrictas que atañen a la difusión de imágenes explícitas aluden a que, en algunos casos, los moderadores pueden confundir los materiales educativos publicados online como complemento para el aprendizaje sobre el cuerpo o las relaciones sexuales, con contenido inapropiado y explícito y, por lo tanto, eliminarlo de plataformas web genéricas. El Consejo también hace hincapié en los muchos comentarios públicos que recibió debido a eliminaciones erróneas en virtud de esta norma. Por ejemplo, ACON, (una ONG educativa sobre el VIH de Australia) denunció que se eliminó contenido que fomentaba mensajes de prevención del VIH de un modo positivo desde la perspectiva del sexo y contenido que promocionaba talleres educativos por considerarse servicios sexuales. Por este motivo, en lugar de seleccionar un texto que apelara a las comunidades objetivo, la ONG seleccionó otro tipo de texto a fin de evitar que Meta lo eliminara (comentario público 10.550). Esto mismo reiteró Joanna Williams, una investigadora que determinó que nueve de las doce organizaciones de salud sexual que entrevistó informaron que la moderación de Meta en esta área tuvo una repercusión negativa para ellas (comentario público 10.613).

b. Desnudos y actividad sexual de adultos

Además de los desafíos que implica establecer reglas viables y escalables en función de la percepción de sexo e identidad de género de Meta, según se describe anteriormente, el Consejo también considera que las políticas de Meta sobre los desnudos de adultos aplican restricciones desproporcionadas a ciertos tipos de contenido y expresión. Las políticas exigen la eliminación del contenido, cuando se pueden conseguir los objetivos normativos fijados con medidas menos restrictivas.

Meta ya usa una diversa gama de medidas de aplicación de políticas además de la eliminación, como colocar pantallas de advertencia y restringir el contenido según la edad para que solo lo vean usuarios mayores de 18 años. Asimismo, ya emplea dichas medidas en su política sobre desnudos y actividad sexual de adultos, incluido en las representaciones artísticas de actos sexuales. Meta también desea que intervengan moderadores humanos y automatizados de modo que se determine de manera más detallada y contextual cuándo el contexto de un desnudo es de hecho sexual, independientemente del género del cuerpo que se muestra. Además, Meta puede emplear una variedad de intervenciones normativas para brindarles a los usuarios mayor control a fin de limitar la visibilidad de contenido de desnudos si no desean verlo. Meta también cuenta con diversas políticas especializadas sobre temas que también aborda por medio de la política sobre desnudos (como la política sobre explotación de adultos y las políticas sobre explotación sexual, maltrato y desnudos de menores) que se podrían reforzar.

El Consejo expresa que las prácticas de aplicación de políticas de Meta aparentemente dan como resultado una gran cantidad de falsos positivos o eliminaciones erróneas de contenido que no infringe las normas. En el informe de cumplimiento de las Normas comunitarias de Meta más reciente sobre Instagram (de abril a junio de 2022), se indicó que se restauró el 21% del contenido eliminado de conformidad con la política sobre desnudos y actividad sexual de adultos luego de que se apelara. El Consejo recibió también una gran cantidad de comentarios públicos respecto de la eliminación errónea de contenido en virtud de la política sobre desnudos de adultos.

No discriminación

Existe evidencia que demuestra que las políticas y las prácticas de aplicación de Meta en relación con la política sobre desnudos y actividad sexual de adultos pueden tener un impacto desproporcionado, en especial en las mujeres y las personas LGBTQI+. Este impacto se refleja tanto en la política como en la aplicación, y limita las maneras en que los grupos pueden expresarse, luchar contra los prejuicios y tener mayor visibilidad en la sociedad.

Si bien este caso involucra a usuarios transgénero y no binarios, los errores en la aplicación de políticas proceden de una política subyacente que también afecta a las mujeres, en especial porque Meta adopta un enfoque predeterminado sobre el cuerpo femenino en cuanto al contenido de desnudos. Por esta razón, en esta sección se analiza cómo las políticas de Meta repercuten en las mujeres y la comunidad LGBTQI+. El gran volumen de comentarios públicos en este caso proporcionó muchos ejemplos del impacto que pueden tener estas políticas.

El derecho a la libertad de expresión se garantiza a todas las personas sin discriminación en cuanto a sexo u otra condición (Artículo 2, párrafo 1, del ICCPR). Esto incluye la orientación sexual y la identidad de género (Toonen vs. Australia (1994); A/HRC/19/41, párrafo 7). La jurisprudencia del Comité de Derechos Humanos manifiesta que cada diferenciación en función de los argumentos enumerados en el Artículo 26 del Pacto no supone discriminación, siempre que se base en criterios razonables y objetivos, y sea en aras de un fin que, en virtud del Pacto, es legítimo. Nepomnyashchy vs. Rusia, párrafo 7.5 del Comité de Derechos Humanos, 2018 (CCPR/C/123/D/2318/2013).

La Convención sobre la eliminación de todas las formas de discriminación contra la mujer (CEDAW) prohíbe toda distinción, exclusión o restricción realizada sobre la base del sexo cuyo efecto o finalidad sea perjudicar o anular el reconocimiento, el disfrute o el ejercicio de los derechos humanos y las libertades fundamentales de las mujeres […] sobre la base de la igualdad entre hombres y mujeres, en el ámbito político, económico, social, cultural, civil o de otro tipo (Artículo 1 de la CEDAW). El Consejo expresa que los organismos de derechos humanos internacionales no abordaron lo que implica para los derechos humanos permitir o prohibir los desnudos de adultos con consentimiento y su posible impacto discriminatorio.

Conforme a los Principios Rectores de la ONU, las empresas deben prestar especial atención a las consecuencias concretas sobre los derechos humanos de las personas pertenecientes a grupos o poblaciones expuestos a un mayor riesgo de vulnerabilidad o de marginación ( UNGP, principios 18 y 20). El Relator Especial de la ONU sobre la libertad de expresión insta a las empresas tecnológicas a tomar en cuenta y abordar de forma activa las inquietudes de las comunidades que históricamente corren riesgo de censura y discriminación ( A/HRC/38/35, párrafo 48). El Grupo de Trabajo sobre las Empresas y los Derechos Humanos de la ONU también recomienda que estas empresas garanticen que la inteligencia artificial y la automatización no repercutan de manera desproporcionada en los derechos humanos de las mujeres (manual sobre dimensiones de género).

Dada la importancia de las plataformas de medios sociales como ámbito de expresión para las personas que sufren discriminación, el Consejo recalca con insistencia que espera que Meta tenga particular sensibilidad respecto de la posibilidad de eliminar por error contenido en el que figuren miembros de estos grupos, que trate sobre ellos o que estos publiquen. Como señaló el Consejo en la decisión sobre el cinturón de abalorios (2021-012-FB-UA) respecto a la expresión artística de colectivos indígenas, no basta con evaluar los resultados de aplicación de la política sobre lenguaje que incita al odio de Meta en la población de usuarios en su totalidad, sino que es necesario tener en cuenta los efectos sobre grupos específicos. De manera similar, en el caso sobre la reapropiación de términos árabes, el Consejo confirmó que el exceso de moderación del discurso de usuarios que pertenecen a grupos minoritarios perseguidos constituye una amenaza grave para su libertad de expresión; asimismo, expresó preocupación sobre cómo las excepciones de las políticas de Meta (en ese caso, la política sobre lenguaje que incita al odio) se aplicaron a la expresión de grupos marginados ( 2022-003-IG-UA).

Como consecuencia de las decisiones de Meta, las mujeres y las personas transgénero y no binarias sufren una desigualdad de oportunidades en sus plataformas. La política sobre desnudos y actividad sexual de adultos de Meta actual trata los pechos y pezones femeninos como de naturaleza inherentemente sexual y, por tanto, sujetos a prohibición, a menos que sea en un contexto de intervención quirúrgica o lactancia. En lugar de tomar medidas que garanticen que la censura no afecte de manera desproporcionada a algunos grupos, la política de Meta afianza y perpetúa el impacto sobre estos grupos.

Estos casos destacan el impacto desproporcionado que las decisiones normativas de Meta tienen en las personas que se identifican como LGBTQI+, ya que los clasificadores de desnudos y actividad sexual de adultos detectaron el contenido varias veces, pese a estar fuera del ámbito de aplicación de la política. El Consejo considera que estos casos ponen de manifiesto problemas más graves. Por ejemplo, el estudio de Haimson et al. determinó que las personas transgénero reportan altos niveles de eliminación de contenido y cuentas, habitualmente debido a contenido de desnudos y sexual.

La aplicación de las decisiones normativas de Meta también afecta de manera desproporcionada a las mujeres. Un estudio de Witt, Suzor y Higgins determinó que hasta un 22% de las imágenes de cuerpos femeninos que se eliminaron de Instagram fueron presuntos falsos positivos. El impacto diferencial en el cuerpo de las mujeres también se abordó en los comentarios públicos (consulta, por ejemplo, el comentario público 10.616 de Dr. Zahra Stardust).

Esta postura predeterminada sobre la desnudez también tiene un impacto grave en contextos en los que las mujeres, por tradición, pueden llevar el torso descubierto. El Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y expresión insta a las empresas a interactuar con colectivos indígenas de todo el mundo para desarrollar indicadores más precisos que permitan tener en cuenta el contexto cultural y artístico al evaluar contenido que incluye desnudos (párrafo 54, A/HRC/38/35).

Además de estas inquietudes sobre no discriminación relativas a la política, estos casos también generan preocupaciones sobre no discriminación, pero que tienen que ver con la aplicación de políticas. Meta debe ser consciente de que el contenido de usuarios que se identifican con grupos marginados corre mayor riesgo de que se reporte con malas intenciones, es decir, para acosar o perjudicar a otros usuarios, aunque no incumpla las normas. Estos problemas también se expresaron en varios comentarios públicos (consulta, por ejemplo, el comentario público 10.596 de GLAAD y el comentario público 10.628 de The Human Rights Campaign Foundation).

En estos casos, se pone de manifiesto que la posibilidad de eliminar cierto contenido por error aumenta si se reporta varias veces y se somete a diversas revisiones. De hecho, en este caso, tras la mayoría de los reportes de usuarios, se realizaron revisiones manuales que concluyeron que el contenido no infringía las normas, pero este se siguió reportando hasta que los revisores por error determinaron que era infractor y lo eliminaron.

Meta debe intentar desarrollar e implementar políticas que permitan alivien todas estas inquietudes. Estas podrían incluir políticas sobre desnudos más uniformes que se apliquen sin discriminación por cuestiones de sexo o identidad de género. También podrían incluir determinaciones más contextualizadas acerca de qué contenido se considera sexual, siempre que estas eviten basarse en criterios discriminatorios.

El Consejo afirma que Meta cuenta con una política especializada para abordar las imágenes íntimas no consensuadas en la política sobre explotación sexual de adultos. Esto constituye un ámbito para que la empresa establezca prioridades en cuanto a la aplicación de políticas (consulta, por ejemplo, la introducción de tecnología de detección automatizada para evitar que imágenes no consensuadas se publiquen reiteradamente). Si Meta considera cambiar su enfoque respecto del control de desnudos en la plataforma, debe examinar detalladamente en qué medida la política sobre desnudos y actividad sexual de adultos brinda protección contra la difusión de imágenes no consensuadas y determinar si es necesario realizar cambios a la política sobre explotación sexual de adultos o su aplicación para aumentar su eficacia.

El Consejo también reconoce que Meta puede tener un interés legítimo en limitar el contenido sexual o pornográfico en su plataforma. Sin embargo, el Consejo cree que se pueden y deben alcanzar objetivos comerciales relevantes con enfoques que no discriminen a ningún usuario.

Algunos miembros del Consejo creen que Meta debería intentar reducir el impacto discriminatorio de sus políticas actuales mediante la adopción de una política sobre desnudos de adultos que no se base en diferencias de sexo o género. Estos mencionaron las disposiciones de la Convención sobre la eliminación de todas las formas de discriminación contra la mujer (CEDAW) respecto de la eliminación de estereotipos de género (consulta, por ejemplo, los Artículos 5 y 10) y el compromiso explícito de Meta con la CEDAW en su política corporativa de derechos humanos. Concluyeron que, en el contexto de la política sobre desnudos, estas normas de derechos humanos internacionales y el propio compromiso de Meta con la discriminación respaldan la eliminación de distinciones estereotipadas. Este grupo de miembros concluyó que la mejor manera de que Meta honre sus responsabilidades con los derechos humanos como empresa, dados sus valores y compromisos corporativos, es que se dirija hacia una política que no se base en diferencias de sexo o género. Estos miembros expresan que las normas y políticas deben evolucionar para abordar las convenciones que tienen impactos discriminatorios, ya que muchas formas de discriminación eran o siguen siendo una convención social generalizada.

Hubo cierto desacuerdo entre los miembros del Consejo en estos aspectos. Algunos estuvieron de acuerdo, en principio, con que Meta no debe basarse en el sexo o género para limitar la expresión, pero sentían mucho escepticismo en cuanto a la capacidad de Meta de abordar con eficacia las imágenes íntimas no consensuadas y otros daños potenciales sin una política sobre desnudos con perspectiva de sexo o género. Para otros miembros del Consejo, debido a que los principios de derechos humanos sobre no discriminación aplicables permiten hacer distinciones sobre la base de características protegidas siempre que sea en función de criterios razonables y objetivos, y con un fin legítimo en virtud del Pacto (Nepomnyashchy vs. Rusia, párrafo 7.5 del Comité de Derechos Humanos, 2018 (CCPR/C/123/D/2318/2013), no es necesario contar con una política sobre desnudos relativa al sexo y al género neutro, y tal política podría ocasionar o exacerbar otros daños.

Los miembros del Consejo que respaldan una política sobre desnudos de adultos relativa al sexo y al género neutro reconocen que, de conformidad con las normas de derechos humanos internacionales que se aplican a los Estados, se pueden realizar distinciones sobre la base de características protegidas en función de criterios razonables y objetivos, y cuando satisfagan un fin legítimo. En su opinión, las distinciones en la política sobre desnudos de Meta no cumplen con esa norma. Asimismo, afirman que, como empresa, Meta asumió un compromiso con los derechos humanos que no es coherente con un enfoque que restringe la expresión online según su percepción de sexo y género.

La norma comunitaria sobre desnudos y actividad sexual de adultos afecta de forma desproporcionada a mujeres y usuarios de la comunidad LGBTQI+, y se basa en percepciones subjetivas y especulativas de sexo y género que no son viables a la hora de moderar contenido a gran escala. Desde una perspectiva integral, dada la confusión en torno a las reglas y su aplicación, y al impacto desproporcionado y discriminatorio de la actual política sobre desnudos y actividad sexual de adultos de Meta, el Consejo recomienda que Meta rija la totalidad de su política sobre desnudos de adultos mediante la definición de criterios claros y objetivos que respeten los derechos, a fin de garantizar que se trate a todas las personas de un modo que cumpla con las normas de derechos humanos internacionales, sin discriminación por cuestiones de sexo o identidad de género. Meta debe realizar primero una evaluación integral sobre el impacto en los derechos humanos para determinar qué implica la adopción de dichos criterios, lo que incluye la participación amplia e inclusiva de partes interesadas de contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación identifique daños potenciales, la implementación de la nueva política debe incluir un plan de mitigación para abordarlos. El Consejo solicita que se emita un informe sobre la evaluación y el plan en seis meses a partir de la fecha de esta decisión.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló las decisiones originales de Meta de eliminar ambas publicaciones y exigió que se restauraran.

10. Declaraciones de asesoramiento normativo

Política de contenido

1. A fin de tratar a todos los usuarios con igualdad y proporcionar a los moderadores y al público una norma práctica sobre desnudos, Meta debe regir su política sobre desnudos y actividad sexual de adultos con criterios claros y objetivos que respeten los derechos a fin de garantizar que se trate a todas las personas de una manera coherente con las normas internacionales de derechos humanos, sin discriminación por sexo o identidad de género. Meta debe realizar primero una evaluación integral sobre el impacto en los derechos humanos para determinar qué implica la adopción de dichos criterios, lo que incluye la participación amplia e inclusiva de partes interesadas de contextos ideológicos, geográficos y culturales diversos. En la medida en que esta evaluación identifique daños potenciales, la implementación de la nueva política debe incluir un plan de mitigación para abordarlos.

2. A fin de proporcionar mayor claridad a los usuarios, Meta también debería brindarles a los usuarios una explicación más detallada de lo que constituye una oferta o solicitud de sexo (incluidos enlaces a sitios web de terceros) y lo que se consideran poses sexualmente sugerentes en las Normas comunitarias públicas. El Consejo considerará implementada esta recomendación cuando se incluya una explicación de estos términos con ejemplos en la norma comunitaria sobre servicios sexuales.

Aplicación de políticas

3. A fin de garantizar que los criterios internos de Meta relacionados con la política sobre servicios sexuales no conduzcan a la eliminación de más contenido del que indica la política pública y que el contenido no sexual no se elimine por equivocación, Meta debe revisar sus pautas internas para asegurarse de que los criterios reflejen las reglas públicas y haya una conexión más clara entre el criterio de "oferta o solicitud" y el de "elemento sexualmente sugerente". El Consejo considerará implementada esta recomendación cuando Meta le proporcione una actualización de las pautas internas que refleje estos criterios revisados.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. Un instituto de investigación independiente con sede en la Universidad de Gotemburgo y un equipo conformado por más de 50 científicos sociales de seis continentes, así como 3.200 expertos de diferentes países del mundo, ofrecen sus conocimientos sobre contextos culturales y sociopolíticos. El Consejo también recibió asesoramiento de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología.