Síntomas de cáncer de mama y desnudos

Para leer esta decisión en portugués de Brasil, haz clic aquí.
Para ler a decisão completa em Português do Brasil, clique aqui.

Resumen del caso

El Consejo asesor de contenido anuló la decisión de Facebook de eliminar una publicación en Instagram. Después de que el Consejo seleccionara este caso, Facebook restauró el contenido. En un principio, los sistemas automatizados de Facebook eliminaron la publicación por infringir la norma comunitaria de la empresa sobre desnudos y actividad sexual de adultos. El Consejo determinó que la excepción de las políticas respecto a la "concientización sobre el cáncer de mama" permitía la publicación de ese contenido. La moderación automatizada de Facebook observada en este caso en particular genera inquietudes importantes en lo que se refiere a los derechos humanos.

Información sobre el caso

En octubre de 2020, un usuario de Brasil publicó una imagen en Instagram con un título en portugués en el que se indicaba que la intención de la publicación era concientizar acerca de los síntomas del cáncer de mama. La imagen era rosa, en consonancia con el "Octubre rosa", una campaña internacional de concientización sobre esta enfermedad. En la imagen se incluían ocho fotografías en las que se mostraban diversos síntomas del cáncer de mama junto a las descripciones pertinentes. En cinco de ellas se mostraban pezones femeninos al descubierto, mientras que en las tres restantes aparecían senos de mujer con los pezones fuera de encuadre o cubiertos con una mano. Un sistema automatizado encargado del cumplimiento de la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos eliminó la publicación. Después de que el Consejo seleccionara el caso, Facebook determinó que esto fue un error y restauró la publicación.

Conclusiones principales

En su respuesta, Facebook afirmó que el Consejo debería rechazar este caso y no tenerlo en consideración. La empresa argumentó que, al haber restaurado la publicación, ya no existía un desacuerdo entre el usuario y Facebook en cuanto a si el contenido debía seguir publicado, lo que haría que el caso fuera irrelevante.

El Consejo rechaza la argumentación de Facebook. La necesidad de desacuerdo se aplica únicamente al momento en que el usuario agota los procesos de apelación internos de Facebook. Como en ese momento sí existía un desacuerdo entre el usuario y Facebook, el Consejo puede considerar el caso.

Además, la decisión de Facebook de restaurar el contenido no hace que este caso sea irrelevante, tal y como afirma la empresa. Además de tomar decisiones vinculantes en cuanto a la restauración de contenido, el Consejo también ofrece a los usuarios una explicación completa sobre los motivos por los que se eliminó su publicación. La incorrecta eliminación de esta publicación pone de manifiesto la falta de una supervisión humana adecuada, lo que genera preocupación por posibles vulneraciones de los derechos humanos. La detección de esta publicación y su posterior eliminación fueron totalmente automatizadas. Los sistemas automatizados de Facebook no consiguieron reconocer las palabras "Cáncer de mama" que aparecían en la imagen en portugués, y la publicación se eliminó por error. Dado que las reglas de Facebook tratan de forma distinta los pezones masculinos y los femeninos, usar un sistema automatizado impreciso para el cumplimiento de normas afecta de forma desproporcionada la libertad de expresión de las mujeres. Un sistema de cumplimiento de normas basado exclusivamente en la automatización, sin incluir ningún tipo de supervisión humana, interfiere con la libertad de expresión.

En este caso, se comunicó al usuario que la publicación infringía las Normas comunitarias de Instagram, ya que no está permitido compartir fotos de pezones femeninos descubiertos para concientizar sobre el cáncer de mama. Sin embargo, en las Normas comunitarias de Facebook sobre desnudos y actividad sexual de adultos, se permite expresamente compartir desnudos cuando el usuario lo haga para "concientizar sobre una causa o con fines educativos o médicos" y, en concreto, se permite compartir imágenes de pezones femeninos al descubierto para "concientizar sobre el cáncer de mama". Dado que las Normas comunitarias de Facebook se aplican a Instagram, la publicación del usuario entra dentro de la excepción anterior. Por lo tanto, la eliminación de este contenido por parte de Facebook no es coherente con sus Normas comunidades.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido anuló la decisión original de Facebook de eliminar el contenido y solicitó que se restaure la publicación. El Consejo señala que Facebook ya tomó medidas al respecto.

El Consejo recomienda que Facebook:

• Informe a los usuarios cuando se use un sistema automatizado de cumplimiento de normas para moderar su contenido, se asegure de que los usuarios puedan apelar decisiones automatizadas ante seres humanos en determinados casos y mejore la detección automatizada de imágenes con superposiciones de texto a fin de que las publicaciones que busquen concientizar acerca de los síntomas del cáncer de mama no se marquen de forma errónea para su revisión. Facebook también debería mejorar su transparencia a la hora de informar sobre el uso que hace de sistemas automatizados de cumplimiento de normas.
• Revise las Normas comunitarias de Instagram para especificar que pueden mostrarse pezones femeninos para concientizar sobre el cáncer de mama y aclarar que, en los casos en que surjan incoherencias entre las Normas comunitarias de Instagram y las de Facebook, prevalecerán las segundas.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido anuló la decisión original de Facebook de eliminar el contenido, e indicó que Facebook restauró la publicación después de que el Consejo decidiera considerar este caso. La decisión de Facebook de restaurar el contenido no excluye la autoridad del Consejo de considerar el caso.

El Consejo determinó que una excepción de las políticas relacionada con la concientización sobre el cáncer de mama en las Normas comunitarias de Facebook sobre desnudos y actividad sexual de adultos permitía la publicación del contenido.

El Consejo emitió una declaración de asesoramiento normativo en cuanto a la relación entre las políticas de contenido en Instagram y en Facebook, así como en lo que respecta a la automatización en la moderación de contenido y la transparencia de estas prácticas.

2. Descripción del caso

En octubre de 2020, un usuario de Brasil publicó una imagen en Instagram con un título en portugués en el que se indicaba que la intención de la publicación era concientizar acerca de los síntomas del cáncer de mama. La imagen era rosa, en consonancia con el "Octubre rosa", una popular campaña internacional en Brasil para concientizar sobre el cáncer de mama. En ocho fotografías incluidas en una sola imagen, se mostraban síntomas del cáncer de mama con las descripciones pertinentes debajo de ellas, como "ondulaciones", "racimos" y "heridas". Cinco de estas fotografías incluían pezones femeninos visibles al descubierto. En las tres fotografías restantes aparecían senos de mujer con los pezones fuera de encuadre o cubiertos con una mano. El usuario no compartió ningún comentario adicional junto con la publicación.

Un clasificador basado en aprendizaje automático y entrenado para identificar desnudos en fotos detectó la publicación y la eliminó a fin de aplicar las normas comunitarias de Facebook sobre desnudos y actividad sexual de adultos, que también se aplican en Instagram.

El usuario apeló esta decisión ante Facebook. En declaraciones públicas, Facebook comentó anteriormente que no siempre sería capaz de ofrecer a los usuarios la opción de apelar una decisión, debido a la reducción temporal en su capacidad de revisión como resultado de la pandemia de COVID-19. Además, Facebook declaró que no todas las apelaciones recibirán una revisión manual.

El usuario envío una solicitud de revisión al Consejo, y este decidió considerar el caso. Tras la selección del caso por parte del Consejo y su asignación a un panel, Facebook revirtió su decisión original de eliminar el contenido y restauró la publicación en diciembre de 2020. Facebook afirma que la decisión original de eliminar la publicación fue automatizada y que posteriormente se identificó como un error del sistema de cumplimiento de normas. Sin embargo, Facebook solo se dio cuenta del error después de que se informara de él a la empresa a través de los procesos del Consejo.

3. Autoridad y alcance

El Consejo tiene autoridad para revisar la decisión de Facebook en virtud del Artículo 2 (Autoridad para realizar la revisión) del acta constitutiva y puede sostener o revertir esa decisión basándose en la sección 5 del Artículo 3 (Procedimientos de revisión: resolución) del acta constitutiva. Facebook no presentó los motivos para excluir el contenido en virtud de la sección 1.2.1 del Artículo 2 (Contenido no disponible para revisión) de los estatutos del Consejo, ni tampoco indicó que considera el caso no elegible en virtud de la sección 1.2.2 del Artículo 2 (Obligaciones legales) de dichos estatutos.

Aunque Facebook aceptó públicamente que el Consejo revise este caso, propuso en sus declaraciones ante el Consejo que este rechace considerar el caso en cuestión porque el problema asociado es irrelevante actualmente.

Facebook argumenta que, al haber restaurado el contenido, no existe ningún desacuerdo respecto a si debería permanecer publicado en Instagram, y que este es un requisito para que un caso se tenga en consideración, de acuerdo con la sección 1 del Artículo 2 del acta constitutiva del Consejo:

"Si se produce un desacuerdo con una decisión tomada por Facebook y se agotaron todas las opciones de apelación, se puede enviar una solicitud de revisión al Consejo".

El Consejo no está de acuerdo con este enfoque e interpreta que el acta solo requiere que haya un desacuerdo entre el usuario y Facebook en el momento en que el usuario agota los procesos internos de Facebook. Este requisito se cumplió. El proceso de revisión del Consejo es independiente de los procesos de apelación internos de Facebook y no debe considerarse una extensión de estos. Para Facebook, corregir los errores que le informara el Consejo y de esta forma excluir casos del proceso de revisión supondría integrar el Consejo de forma inapropiada en los procesos internos de la empresa y perjudicaría la independencia de este.

Aunque Facebook revirtió esta decisión y restauró el contenido, se produjo igualmente un daño irreversible en este caso. La decisión de Facebook de restaurar el contenido a principios de diciembre de 2020 no compensó el hecho de que la publicación del usuario se eliminó durante toda la campaña del "mes rosa" en octubre de 2020.

En este caso en particular, la restauración del contenido no es la única finalidad de la reparación que ofrece el Consejo. Conforme al Artículo 4 (Implementación) del acta constitutiva del Consejo y la sección 2.3.1 del Artículo 2 (Implementación de las decisiones del Consejo) de los estatutos, Facebook tiene el compromiso de tomar medidas en contenido idéntico a algún otro sobre el que el Consejo ya haya tomado una decisión en un contexto paralelo. Por lo tanto, la repercusión de la toma de decisiones del Consejo va mucho más allá del contenido de este caso en concreto.

Además, una decisión completa es importante, incluso en los casos en los que Facebook acate su resultado por adelantado. El proceso del Consejo ofrece a los usuarios la oportunidad de hacerse escuchar y de recibir una explicación completa de los motivos por los que su contenido se eliminó por error. Cuando la eliminación de contenido se lleva a cabo en su totalidad mediante sistemas automatizados, las políticas de contenido están, básicamente, insertadas en el código y puede considerarse que son una parte inseparable de él y se aplican por sí solas. Tener en consideración el caso permite al Consejo emitir declaraciones de asesoramiento normativo en cuanto a la forma en que se aplican las prácticas de moderación de contenido de Facebook, lo que incluye el uso de sistemas automatizados.

Por estos motivos, el Consejo determina que la decisión de Facebook de restaurar el contenido después de que el Consejo seleccionara este caso no afecta la autoridad que tiene este para revisarlo. El Consejo procede con su revisión de la decisión original de eliminar el contenido.

4. Normas pertinentes

El Consejo consideró en su decisión las siguientes normas:

I. Políticas de contenido de Facebook:

En las bases de la política de la norma comunitaria sobre desnudos y actividad sexual de adultos, se estipula que Facebook quiere restringir la exhibición de desnudos o actividad sexual "para proteger a determinadas personas [...] que muestren una especial sensibilidad ante este tipo de contenido" y "para evitar que se comparta contenido no consentido o de menores". Los usuarios no deben publicar imágenes de "desnudos reales de adultos que contengan [...] pezones femeninos al descubierto, excepto en el contexto de [...] situaciones relacionadas con la salud (por ejemplo, después de una mastectomía, para concientizar sobre el cáncer de mama [...])".

En las Normas comunitarias de Instagram, se prohíbe de forma general mostrar pezones femeninos al descubierto y se indican algunas excepciones relacionadas con la salud, pero entre ellas no se incluye específicamente la "concientización sobre el cáncer de mama". Las Normas comunitarias de Instagram enlazan a las Normas comunitarias de Facebook.

II. Valores de Facebook:

Los valores de Facebook relevantes para este caso se detallan en la introducción a las Normas comunitarias. El primer valor es la "expresión", que se describe como "fundamental".

Nuestras Normas comunitarias siempre apuntaron a crear un espacio donde las personas puedan expresarse y dar a conocer su opinión. [...] Queremos que las personas puedan hablar abiertamente sobre los temas que les importan, incluso si otros no están de acuerdo o los consideran objetables.

Facebook limita la "expresión" en favor de otros cuatro valores. El Consejo considera que dos de estos valores son relevantes para esta decisión en particular:

Seguridad: nos comprometemos a hacer de Facebook un lugar seguro. La expresión que supone una amenaza para las personas puede intimidar, excluir o silenciar a otros, por lo que no está permitida en Facebook.

Privacidad: nos comprometemos a proteger la información y la privacidad de las personas. Gracias a la privacidad, las personas tienen la libertad de ser quienes son, de elegir cómo y cuándo compartir contenido en Facebook, y de conectarse más fácilmente.

III. Normas internacionales de derechos humanos:

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. El Consejo basó su análisis de este caso en las disposiciones de tratados de la ONU y en el asesoramiento acreditado de los mecanismos de derechos humanos de este organismo, incluidos los siguientes:

• Derecho a la libertad de expresión: Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR); observación general n.º 34, Comité de Derechos Humanos (2011) (observación general n.º 34); informes del Relator Especial de la ONU sobre la libertad de opinión y expresión: A/HRC/38/35 (2018), A/73/348 (2018) y A/HRC/44/49 (2020)
• Derecho a la salud: Artículo 12 del Pacto Internacional de Derechos Económicos, Sociales y Culturales (ICESCR); observación general n.º 14, Comité de Derechos Económicos, Sociales y Culturales, E/C.12/2000/4 (2000)
• Derecho a una reparación eficaz: Artículo 2 del ICCPR; observación general n.º 31, Comité de Derechos Humanos, CCPR/C/21/Rev. 1/Anexo 13 (2004)
• Derecho a la privacidad: Artículo 17 del ICCPR
• Derecho a la no discriminación: Artículo 2, párrafo 1, del ICCPR; Artículo 1 de la Convención sobre la Eliminación de todas las Formas de Discriminación contra la Mujer (CEDAW).
• Derechos del niño: Artículo 6 de la Convención sobre los Derechos del Niño (CRC); observación general n.º 13, Comité de los Derechos del Niño, CRC/C/GC/13 (2011)

5. Declaración del usuario

El usuario declara que el contenido se publicó como parte de la campaña nacional "Octubre rosa" para la prevención del cáncer de mama. El contenido muestra algunos de los síntomas principales del cáncer de mama, que el usuario afirma que son esenciales para detectar la enfermedad en una fase temprana y salvar vidas.

6. Explicación de la decisión de Facebook

Facebook aclaró que su decisión original de eliminar el contenido fue un error. La empresa explicó al Consejo que las Normas comunitarias se aplican a Instagram. Aunque, por regla general, las Normas comunitarias prohíben mostrar pezones femeninos visibles al descubierto, sí permiten hacerlo con "fines educativos o médicos", lo que incluye la concientización sobre el cáncer de mama. Facebook restauró el contenido porque entraba dentro de esta excepción.

Facebook afirma que permitir este contenido en la plataforma es importante para sus valores de "expresión" y "seguridad". La empresa declara que la detección de este contenido y las medidas originales que se tomaron en su contra fueron el resultado de un sistema totalmente automatizado. Este proceso automatizado fue incapaz de determinar que el contenido tenía "fines educativos o médicos" claros. Facebook también afirma que el hecho de que el contenido se eliminara mediante un proceso automatizado o después de una revisión interna realizada por un moderador humano es un factor irrelevante para el Consejo a la hora de considerar este caso. A Facebook le gustaría que el Consejo se centrara en el resultado de las medidas adoptadas, y no en el método que se siguió para tomarlas.

7. Comentarios de terceros

El Consejo asesor de contenido tuvo en cuenta 24 comentarios públicos para este caso: ocho de Europa, cinco de Latinoamérica y el Caribe, y 11 de los EE. UU. y Canadá. Siete comentarios se enviaron en nombre de una organización. Un comentario se envió sin el consentimiento necesario para publicarlo.

Los comentarios abarcaban los siguientes temas: el hecho de si la publicación cumplía con los valores y las Normas comunitarias de Facebook, la importancia de la concientización sobre el cáncer de mama en los diagnósticos tempranos, el análisis sobre la censura y la sexualización excesiva de los pezones femeninos respecto a los masculinos, la influencia de Facebook en la sociedad, el cumplimiento de normas desproporcionado como consecuencia de la moderación automatizada del contenido, además de opiniones para mejorar el proceso de comentarios públicos.

8. Análisis del Consejo asesor de contenido

8.1. Cumplimiento de las políticas de contenido de Facebook

La decisión de Facebook de eliminar la publicación de Instagram del usuario no cumplía las políticas de contenido de la empresa.

Según Facebook, las Normas comunitarias de la plataforma son de aplicación en todos los productos de la empresa, incluido Instagram. En este caso, se envió una notificación al usuario en la que se le hacía saber que su contenido infringía las Normas comunitarias de Instagram y en la que se citaban las normas pertinentes. Las diferencias entre estas reglas hacen que sea necesario hacer análisis independientes.

I. Normas comunitarias de Instagram

En la versión "breve" de las Normas comunitarias de Instagram, las reglas de la plataforma se resumen de la siguiente forma: "Respeta a todos los usuarios de Instagram; no les envíes spam ni publiques desnudos". Si solo tenemos en cuenta este resumen, la publicación del usuario en este caso infringiría las reglas de Instagram.

Sin embargo, en la versión "larga" de las Normas comunitarias se incluyen más detalles. Bajo el título "Publica fotos y videos que sean apropiados para un público diverso", se indica lo siguiente:

Por diversos motivos, no permitimos que se publiquen desnudos en Instagram. [...] También se aplica a algunas fotos de pezones femeninos. Sin embargo, sí se permiten fotos de cicatrices de mastectomías y de lactancia materna.

En esta explicación, no se permiten de forma explícita las fotos de pezones femeninos al descubierto para concientizar sobre el cáncer de mama. Aunque las Normas comunitarias de Instagram incluyen un hipervínculo a la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos, no se describe la relación existente entre los dos conjuntos de reglas ni se especifica cuál prevalece sobre el otro.

II. Normas comunitarias de Facebook

En la norma comunitaria sobre desnudos y actividad sexual de adultos, incluida en la sección "Contenido inaceptable", se indica que en la plataforma suele restringirse la exhibición de desnudos de adultos, lo que incluye "pezones femeninos al descubierto", además de actividades sexuales. Se dan dos motivos para justificar esta medida: "proteger a determinadas personas [...] que muestren una especial sensibilidad ante este tipo de contenido" y "evitar que se comparta contenido no consentido o de menores".

En las Normas comunitarias, se especifica que se permite mostrar desnudos consentidos de adultos en los casos en que el usuario indique claramente que el contenido se publica para "concientizar acerca de una causa o con fines educativos o médicos". En la sección "No publiques" de las Normas comunitarias, se menciona la "concientización sobre el cáncer de mama" como ejemplo de situación relacionada con la salud en la que se permite mostrar pezones femeninos al descubierto.

El Consejo determina que la publicación del usuario, a pesar de mostrar pezones femeninos al descubierto, encaja en la excepción relacionada con la salud y el objetivo de concientizar sobre el cáncer de mama. Al aceptar la explicación de Facebook en la que se estipula que las Normas comunitarias de esa plataforma son también de aplicación en Instagram, el Consejo considera que estas no se incumplen en la publicación del usuario.

Por lo tanto, la decisión de Facebook de eliminar el contenido es incoherente con las Normas comunitarias de la plataforma. El Consejo reconoce que Facebook se mostró de acuerdo con esta conclusión.

8.2. Cumplimiento de los valores de Facebook

Los valores de Facebook se describen en la introducción de las Normas comunitarias de esa plataforma, pero no se hace ninguna referencia directa a ellos en las Normas comunitarias de Instagram.

La decisión de Facebook de eliminar el contenido del usuario no cumple con los valores de la empresa. El valor de "expresión" incluye claramente conversaciones sobre temas relacionados con la salud y es especialmente útil para concientizar sobre los síntomas del cáncer de mama. Las imágenes de los síntomas de las fases tempranas del cáncer de mama son especialmente valiosas a la hora de conseguir que la información médica sea más accesible. Compartir esta información contribuye a fomentar la "seguridad" de todas las personas que puedan ser vulnerables a esta enfermedad. No hay ningún indicio de que las fotos incluyeran imágenes no consentidas. Por lo tanto, en este caso, el valor de "expresión" no se vio desplazado por el de "seguridad" o el de "privacidad".

8.3. Cumplimiento de las normas internacionales de derechos humanos

I. Libertad de expresión (Artículo 19 del ICCPR)

La decisión de Facebook de eliminar la publicación tampoco cumplía las normas internacionales de derechos humanos sobre libertad de expresión (Artículo 19 del ICCPR). La información relacionada con la salud es especialmente importante (A/HRC/44/49, párrafo 6) y cuenta con protección adicional como parte del derecho a la salud (Artículo 12 del IESCR; E/C.12/2000/4, párrafo 11). En Brasil, donde las campañas de concientización son vitales para fomentar diagnósticos tempranos del cáncer de mama, el Consejo hace hincapié en la conexión entre estos dos derechos.

El derecho a la libertad de expresión no es absoluto. Al restringir la libertad de expresión, Facebook debería cumplir los requisitos de legalidad, fin legítimo, necesidad y proporcionalidad. Al eliminar el contenido, Facebook no pasó la primera ni la tercera parte de esta prueba.

a. Legalidad

Toda regla que limite la libertad de expresión debe ser clara, precisa y de acceso público (observación general n.º 34, párrafo 25). Las Normas comunitarias de Facebook permiten mostrar pezones femeninos en el contexto de concientización sobre el cáncer de mama, mientras que las de Instagram solo hacen referencia a las cicatrices de mastectomías. Tampoco se avisa a los usuarios de Instagram que las Normas comunitarias de Facebook prevalecen sobre las de Instagram. Esta incoherencia y falta de claridad se ven agravadas por los avisos de eliminación de contenido que reciben usuarios que tienen como única referencia las Normas comunitarias de Instagram. Por lo tanto, las reglas de Facebook no consiguen superar la prueba en lo que respecta a la legalidad.

b. Fin legítimo

Cualquier restricción que afecte a la libertad de expresión debe aplicarse para conseguir fines legítimos, los cuales se indican en el Artículo 19, párrafo 3, del ICCPR. Facebook afirma que su norma comunitaria sobre desnudos y actividad sexual de adultos contribuye a evitar que se compartan imágenes de abuso infantil y de carácter sexual no consentidas en Facebook e Instagram. El Consejo señala que ambas categorías de contenido se prohíben conforme a Normas comunitarias independientes y no están sujetas a las mismas excepciones que se aplican a los desnudos consentidos de adultos. Estos fines son coherentes con la restricción de la libertad de expresión en virtud de la legislación internacional de derechos humanos para proteger los derechos de los demás (Artículo 19, párrafo 3, del ICCPR). Estos incluyenel derecho a la privacidad de víctimas cuyas imágenes de carácter sexual se hayan compartido sin su consentimiento (Artículo 17 del ICCPR) y los derechos de los niños a la vida y el desarrollo (Artículo 6 del CRC), que se ven amenazados en casos de explotación sexual (CRC/C/GC/13, párrafo 62).

c. Necesidad y proporcionalidad

Toda restricción que se aplique a la libertad de expresión debe ser adecuada a fin de cumplir su función de protección; debe ser el instrumento menos invasivo entre aquellos que le permitan cumplir dicha función; debe ser proporcional al interés que se busca proteger (observación general n.º 34, párrafo 34).

El Consejo determina que eliminar sin justificación información que sirva a un interés público es una medida desproporcionada.

Al Consejo le preocupa que el contenido se eliminara por error mediante un sistema automatizado de cumplimiento de normas y, posiblemente, sin una apelación o revisión humana. Esto pone de manifiesto las limitaciones de las tecnologías automatizadas para reconocer contextos y hacerse una idea de la complejidad de la comunicación humana en cuanto a la moderación de contenido (informe del Relator Especial de la ONU sobre la libertad de expresión, A/73/348, párrafo 15). En este caso, estas tecnologías fueron incapaces de reconocer las palabras "cáncer de mama" que aparecían en la parte superior izquierda de la imagen en portugués. El Consejo reconoce que las tecnologías automatizadas son esenciales para detectar contenido potencialmente infractor. Sin embargo, el uso de un sistema de cumplimiento de normas basado únicamente en la automatización (especialmente cuando se usan tecnologías con una capacidad limitada para reconocer contextos) puede derivar en un cumplimiento excesivo que interfiera de forma desproporcionada con la libertad de expresión de los usuarios.

El Consejo reconoce que los sistemas automatizados de cumplimiento de normas pueden ser necesarios para eliminar rápidamente imágenes de carácter sexual y de abuso infantil, con el fin de evitar daños inmediatos e irreparables. Sin embargo, cuando se elimina contenido como medida de protección contra este tipo de daños, dicha acción debería basarse en las políticas aplicables sobre explotación sexual, y se debería enviar una notificación a los usuarios pertinentes para informarlos de que su contenido se eliminó con esos fines. De todas formas, la eliminación automatizada de contenido debería estar sujeta al proceso de auditoría interno que se detalla en la sección 9.2 (I) y debería ofrecerse la posibilidad de apelar para solicitar una revisión manual (A/73/348, párrafo 70), lo que permitiría corregir los errores que se cometan en la aplicación de políticas.

La moderación de contenido automatizada sin las medidas de seguridad necesarias no es una forma proporcionada de que Facebook aborde distintos tipos de contenido infractor que incluyan desnudos de adultos.

d. Igualdad y no discriminación

Toda restricción a la libertad de expresión debe respetar el principio de igualdad y no discriminación (observación general n.º 34, párrafos 26 y 32). En varios comentarios públicos, se argumentó que las políticas de Facebook sobre desnudos de adultos suponen una discriminación contra las mujeres.

Dado que las reglas de Facebook tratan los pezones femeninos y los masculinos de forma distinta, el hecho de basarse en sistemas automatizados imprecisos para hacer cumplir estas normas probablemente tenga una repercusión desmedida en las mujeres, lo que genera preocupación en cuanto a la discriminación (Artículo 1 de la CEDAW y Artículo 2 del ICCPR). En Brasil y en muchos otros países, la concientización sobre los síntomas del cáncer de mama es un tema de suma importancia. Por lo tanto, las acciones de Facebook no solo hacen peligrar el derecho de las mujeres a la libertad de expresión, sino también su derecho la salud.

II. Derecho a reparación (Artículo 2 del ICCPR)

El Consejo aprueba que Facebook haya restaurado el contenido. Sin embargo, los efectos negativos que generó este error no se pudieron revertir del todo. La publicación, prevista para el mes de concientización sobre el cáncer de mama en octubre, no se restauró hasta principios de diciembre. Restaurar el contenido no hizo que este caso se volviera irrelevante. Dado que el Consejo había seleccionado este caso, el usuario tenía derecho a hacerse escuchar y recibir una decisión totalmente justificada.

En el informe del Relator Especial de la ONU sobre la libertad de opinión y expresión, se identifica la responsabilidad de ofrecer una reparación como uno de los aspectos más relevantes de los UNGP, ya que guarda relación con las empresas que participan en la moderación de contenido (A/HRC/38/35, párrafo 11). La excesiva dependencia de Facebook en sistemas automatizados de cumplimiento de normas (en caso de no haber apelación) no le permitió respetar el derecho del usuario a recibir una reparación eficaz (Artículo 2 del ICCPR; CCPR/C/21/Rev. 1/Anexo 13, párrafo 15) ni cumplir sus responsabilidades conforme a los Principios Rectores de la ONU (Principios 29 y 31). Hay dos aspectos que preocupan al Consejo especialmente: el hecho de que Facebook no informe a los usuarios cuando emplea un sistema automatizado para comprobar si el contenido cumple las normas, y la posibilidad de que el proceso de apelación para solicitar una revisión manual no esté disponible en todos los casos. Esto a su vez pone de manifiesto inquietudes más generales acerca de la falta de transparencia de Facebook respecto al uso que hace de sistemas automatizados para el cumplimiento de normas y las circunstancias en que el proceso de apelación interno puede no estar disponible.

9. Decisión del Consejo asesor de contenido

9.1 Decisión sobre el contenido

El Consejo asesor de contenido anuló la decisión original de Facebook de eliminar el contenido y exige que el contenido siga publicado. El Consejo señala que Facebook ya tomó medidas al respecto.

9.2 Declaraciones de asesoramiento normativo

I. Automatización en el cumplimiento de normas, transparencia y el derecho a una recuperación eficaz

El Consejo recomienda que Facebook:

• Mejore la detección automatizada de imágenes con superposiciones de texto para garantizar que las publicaciones de concientización sobre los síntomas del cáncer de mama no se marquen erróneamente para su revisión.
• Se asegure de que siempre se informe a los usuarios los motivos por los que se aplican políticas de contenido y se les indique la regla específica dentro de las Normas comunitarias de Facebook en la que se basa la decisión tomada.
• Informe a los usuarios cuando se usen sistemas automatizados de aplicación de políticas contra su contenido, lo que incluye facilitar descripciones accesibles sobre lo que esto implica.
• Garantice que los usuarios puedan apelar las decisiones que tomen los sistemas automatizados a fin de solicitar una revisión manual cuando se haya determinado que su contenido incumplió la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos. En los casos en que Facebook busque evitar la explotación sexual infantil o la difusión de imágenes de carácter sexual no consentidas, debería basarse sobre todo en sus Normas comunitarias sobre la explotación sexual de adultos, la explotación sexual infantil, el abuso infantil y los desnudos de menores, en lugar de centrarse en exceso en políticas sobre desnudos de adultos. Las apelaciones deberían estar disponibles en estos casos, de forma que se puedan revertir las eliminaciones erróneas de contenido permitido de desnudos consentidos de adultos.
• Implemente un proceso de auditoría interno para analizar de forma constante una muestra estadísticamente representativa de las decisiones automatizadas de eliminación de contenido que deban revertirse a fin de aprender de los errores del sistema de cumplimiento de normas.
• Aumente la transparencia a la hora de generar informes para divulgar datos sobre el número de decisiones automatizadas de eliminación de contenido para cada norma comunitaria, y la proporción de estas decisiones que posteriormente se hayan tenido que revertir tras una revisión manual.

Estas recomendaciones no deberían implementarse de una forma que afecte al derecho a la salud de los moderadores de contenido durante la pandemia de COVID-19.

II. Relación entre las Normas comunitarias de Facebook y las Normas comunitarias de Instagram:

El Consejo recomienda que Facebook:

• Revise la explicación "breve" de las Normas comunitarias de Instagram para aclarar que la prohibición en cuanto a desnudos de adultos no es absoluta.
• Lea la explicación "larga" de las Normas comunitarias de Instagram para aclarar que se pueden mostrar pezones femeninos visibles para concientizar sobre el cáncer de mama.
• Aclare que las Normas comunitarias de Instagram se interpretan en consonancia con las de Facebook, y que estas últimas prevalecerán en caso de que surjan incoherencias entre ellas.

*Nota procedimental:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben estar de acuerdo por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

Volver a Decisiones de casos y opiniones consultivas sobre políticas