La dieta del jugo de fruta

Resumen

El Consejo asesor de contenido ratificó las decisiones de Meta de conservar dos publicaciones en las que una mujer compartió su experiencia personal con una dieta basada solo en jugo de fruta. El Consejo estuvo de acuerdo en que no infringen la norma comunitaria sobre suicidio y autolesiones de Facebook porque no "proporcionan instrucciones para bajar de peso de forma drástica y poco saludable" ni "promueven" o "fomentan" trastornos alimenticios. Sin embargo, dado que ambas páginas involucradas en estos dos casos formaban parte del programa de monetización para socios de Meta, el Consejo recomendó que la empresa restringiera el "contenido relacionado con dietas extremas y dañinas" en sus Políticas de monetización de contenido.

Información de los casos

Entre finales de 2022 y principios de 2023, se publicaron dos videos en la misma página de Facebook, descrita como una página sobre la vida, la cultura y la gastronomía en Tailandia. En ambas, un hombre entrevistó a una mujer sobre su experiencia con la observación de una dieta que consistía únicamente en consumir jugo de fruta. Las conversaciones fueron en italiano.

En el primer video, la mujer afirmó que experimentó mayor concentración, una mejoría en la piel y en las evacuaciones intestinales, más felicidad y una "sensación de liviandad" desde que comenzó la dieta. Además, también compartió que anteriormente sufría de problemas de la piel e hinchazón en las piernas. Mencionó el problema de la anorexia, pero afirmó que su peso se normalizó, después de que, inicialmente, perdiera más de 10 kilogramos (22 libras) debido a los cambios en su alimentación. Unos cinco meses más tarde, el hombre volvió a entrevistar a la mujer en un segundo video y le preguntó cómo se sentía tras realizar esta dieta basada solo en jugo de fruta durante casi un año. Ella respondió diciendo que lucía joven para su edad y que no bajó más de peso, salvo por "cuatro kilos de impurezas", y lo animó a probar la dieta. También indicó que se convertiría en una "frugívora" al romper el ayuno, pero que estaba pensando en comenzar un "viaje pránico", que, de acuerdo con ella, significa vivir "de energía" en lugar de comer o beber con regularidad.

En conjunto, las publicaciones obtuvieron más de 2.000.000 de visualizaciones y más de 15.000 comentarios. En el video, se compartió información sobre la página de Facebook de la mujer, cuyas interacciones aumentaron significativamente tras la segunda publicación.

Luego de que se reportaran ambas publicaciones varias veces por infringir la norma comunitaria sobre suicidio y autolesiones, y tras una revisión manual en la que se evaluó el contenido como no infractor, se conservaron en Facebook. Luego, un usuario independiente en cada caso apeló la decisión de Meta al Consejo.

Tanto la página de Facebook del creador de contenido en la que se publicaron los dos videos como la página de Facebook de la mujer que aparecía en los videos forman parte del programa de monetización para socios de Meta. Es decir, el creador de contenido y, presuntamente, la mujer de la entrevista ganan dinero a partir de las publicaciones de sus páginas, cuando Meta muestra anuncios en su contenido. Para que esto suceda, las páginas debieron pasar una comprobación de elegibilidad y el contenido debió cumplir con las Normas comunitarias de Meta y sus Políticas de monetización de contenido. En las Políticas de monetización de contenido, Meta prohíbe que ciertas categorías se moneticen en sus plataformas, incluso si no infringen las Normas comunitarias.

Conclusiones principales

El Consejo determinó que ninguna de estas publicaciones infringe la norma comunitaria sobre suicidio y autolesiones porque no proporcionan "instrucciones para bajar de peso de forma drástica y poco saludable junto con términos asociados a trastornos alimenticios" ni "promueven, fomentan u organizan, o proporcionan instrucciones en relación con trastornos alimenticios". Si bien el Consejo destacó que una dieta basada solo en jugo de fruta puede abarcar prácticas alimenticias con distintas consecuencias sobre la salud, según su duración e intensidad, los videos no incluían señales o referencias relativas a trastornos alimenticios en el sentido necesario para infringir las reglas de Meta. Incluso la breve mención de la mujer de un "viaje pránico" relacionado con la dieta (que el Consejo entiende que es una dieta extrema conocida como "inedia", que los expertos consideran peligrosa desde un punto de vista médico) fue de naturaleza descriptiva, sin ninguna referencia al peso.

A pesar de que las plataformas de Meta deberían seguir siendo espacios en los que los usuarios puedan compartir su estilo de vida y experiencias alimenticias, el Consejo reconoció de igual manera que el contenido que se permite en virtud de la norma comunitaria sobre suicidio y autolesiones puede contribuir a daños, incluso si no cumple con los requisitos mínimos necesarios para su eliminación. Estos daños podrían resultar particularmente graves para algunos usuarios. Los adolescentes, en especial, las adolescentes y niñas, son más vulnerables a desarrollar trastornos alimenticios. En este caso, el Consejo determinó que el contenido de estos videos promueve prácticas alimenticias que podrían ser peligrosas en ciertas circunstancias.

El Consejo también destacó que, a pesar del alcance generalmente amplio de las Políticas de monetización de contenido de Meta, el contenido relacionado con prácticas alimenticias, incluido el contenido vinculado con dietas extremas y dañinas, no está sujeto a ninguna reducción o restricción en la monetización. Por lo tanto, el Consejo estuvo de acuerdo en que ninguno de los videos infringe estas políticas. No obstante, el Consejo recomendó que Meta debería modificar estas políticas para mejorar el cumplimiento de sus responsabilidades en materia de derechos humanos, ya que, según investigaciones, los usuarios, en especial, los adolescentes, son vulnerables al contenido relacionado con dietas dañinas.

Para la mayoría del Consejo, la omisión del "contenido relacionado con dietas extremas y dañinas" como categoría restringida en las Políticas de monetización de contenido de Meta es llamativa y preocupante. Expertos en salud y comunicaciones destacaron la capacidad de los influencers de usar estilos narrativos en primera persona para garantizar mucha interacción con su contenido (junto con la omnipresencia de los influencers de bienestar), por lo que es importante que Meta no proporcione beneficios económicos por crear este tipo de contenido. Para una minoría del Consejo, dado que la desmonetización puede perjudicar la expresión sobre estos asuntos, Meta debería analizar si se trata de la medida menos intrusiva para respetar los derechos de los usuarios vulnerables.

Para una minoría independiente de los miembros del Consejo, la desmonetización es necesaria, pero no suficiente. Creen que Meta debería restringir también el contenido relacionado con dietas extremas y dañinas a los adultos de más de 18 años y analizar otras medidas, como colocar etiquetas en el contenido, para incluir información confiable sobre los riesgos que los trastornos alimenticios representan para la salud.

La decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de conservar las dos publicaciones.

El Consejo le recomendó a Meta:

• Restringir el contenido relacionado con dietas extremas y dañinas en sus Políticas de monetización de contenido con el objetivo de evitar crear incentivos económicos que animen a usuarios influyentes a generar contenido dañino.

* Los resúmenes de casos ofrecen información general sobre los casos y no sientan precedentes.

Decisión del caso completa

1. Resumen de la decisión

El Consejo asesor de contenido ratificó las decisiones de Meta de conservar dos videos publicados en la misma página de Facebook, en los que se mostraba una entrevista a una mujer sobre su experiencia al realizar una dieta basada solo en jugo de fruta. Ambos videos estaban monetizados con anuncios instream, lo que significa que el creador de contenido obtenía parte de los ingresos por publicidad y Meta, presuntamente, se beneficiaba de ingresos por publicidad. Meta evaluó los videos a la luz de las Normas comunitarias y las Políticas de monetización de contenido, ya que ambos corresponden a contenido monetizado, y determinó que los videos no las infringían. Al ratificar las decisiones de Meta, el Consejo precisó que ambas cumplían con la norma comunitaria sobre suicidio y autolesiones porque los videos no contenían ninguna referencia a trastornos alimenticios, lo cual es necesario para infringir la política. Asimismo, el Consejo determinó que estas decisiones cumplían con las Políticas de monetización de contenido actuales de Meta.

Sin embargo, el Consejo también determinó que el contenido de estos videos promovía prácticas alimenticias que podían ser peligrosas en ciertas circunstancias. Para la mayoría del Consejo, dada la capacidad potencial de causar daños, en especial entre niños y adolescentes, Meta debería eliminar el beneficio económico por crear este tipo de contenido. Para cumplir con sus responsabilidades en materia de derechos humanos, la mayoría del Consejo recomendó que Meta incluyera el "contenido relacionado con dietas extremas o dañinas" como categoría restringida en sus Políticas de monetización de contenido. Para una minoría del Consejo, la desmonetización puede perjudicar la expresión sobre estos asuntos, por lo que Meta debería analizar si se trata de la medida menos intrusiva para respetar los derechos de los usuarios vulnerables. A algunos miembros les preocupa que la desmonetización sea una restricción desproporcionada. Para una minoría independiente, la desmonetización es necesaria, pero no suficiente, y Meta debería restringir también el contenido relacionado con dietas extremas y dañinas a los adultos de más de 18 años, además de analizar otras medidas, como colocar etiquetas en el contenido para incluir información sobre los riesgos que los trastornos alimenticios representan para la salud.

2. Descripción y contexto del caso

Estos casos se relacionan con dos videos publicados en la misma página de Facebook, descrita como una página sobre la vida, la cultura y la gastronomía en Tailandia. La página tiene alrededor de 130.000 seguidores. En ambos videos, un hombre entrevistó a una mujer en italiano sobre su experiencia al realizar una dieta basada solo en jugo de fruta, sin comer nada sólido. En los dos videos se comparte la página de Facebook de la mujer al final. Sobre la base de una investigación que encargó el Consejo, la página de Facebook de la mujer tiene 17.000 seguidores y expone contenido sobre el estilo de vida de la mujer, incluida su dieta.

En el primer video, publicado a finales de 2022, la mujer dijo que solía tener problemas en la piel e hinchazón en las piernas, las cuales, según dice, eran enormes y pesadas. Afirmó que, desde que comenzó la dieta basada solo en jugo de fruta, experimentó mayor concentración, una mejoría en la piel y en las evacuaciones intestinales, más felicidad y una "sensación de liviandad". Luego de acotar que es posible que algunos usuarios consideren que se trata de un caso de anorexia, la mujer indicó que los cambios en los hábitos alimenticios suelen traer aparejada una repentina pérdida de peso, lo que explica por qué inicialmente perdió más de 10 kilos (22 libras). La mujer agregó que ahora su peso se "normalizó". Esta publicación obtuvo 3.000 reacciones, unos 1.000 comentarios y más de 200.000 visualizaciones.

En el segundo video, publicado a principios de 2023, el mismo hombre le preguntó a la misma mujer, que lucía extremadamente delgada, cómo se sentía después de realizar esta dieta durante casi un año. La mujer lamentó que pronto debería romper el ayuno e ingerir fruta sólida. Cuando se le preguntó sobre el peso, dijo que no siguió perdiendo peso, salvo por "cuatro kilos de impurezas". La mujer expresó que se ve joven para su edad gracias a la dieta y animó al hombre a probarla. También manifestó que a partir de ese momento sería "frugívora" y que deseaba convertirse en "prana", que, según describió, significa no comer ni beber regularmente, sino vivir "solo de la energía". Esta publicación obtuvo aproximadamente 8.000 reacciones, cerca de 14.000 comentarios y más de dos millones de visualizaciones. De acuerdo con la investigación que encargó el Consejo, las interacciones de la página de Facebook de la mujer aumentaron significativamente tras la segunda publicación.

Meta recibió varios reportes de ambas publicaciones por infringir su norma comunitaria sobre suicidio y autolesiones. Un usuario independiente en cada caso finalmente apeló ante el Consejo. Las apelaciones iniciales de estos usuarios presentadas ante Meta para que se eliminara el contenido se cerraron de inmediato mediante automatización porque, en las revisiones manuales anteriores, se había determinado que el contenido no infringía norma alguna. Luego, los usuarios apelaron las decisiones nuevamente ante Meta. En ambos casos, mediante revisión manual, se determinó que ambos videos eran no infractores y se conservaron en Facebook.

La página de Facebook en la que se publicaron los videos forma parte del programa de monetización para socios de Meta. Es decir, el creador de contenido gana dinero a partir del contenido que publica en su página de Facebook cuando Meta muestra anuncios en este contenido. Esto significa que la página se sometió a una comprobación de elegibilidad y que el contenido publicado en esas páginas debe cumplir con las Normas comunitarias de Meta y sus Políticas de monetización de contenido para que se muestren anuncios en el contenido. La revisión del contenido monetizado en virtud de las Normas comunitarias y las Políticas de monetización de contenido de Meta ocurre tras la publicación del contenido. De acuerdo con Meta, ambos videos cumplieron con las Normas comunitarias y las Políticas de monetización de contenido. La página de Facebook de la mujer que aparecía en los dos videos también forma parte del programa de monetización para socios de Meta y, presuntamente, también gana dinero por contenido similar publicado en ella.

El Consejo destacó el siguiente contexto en cuanto a la decisión que tomó en este caso. En primer lugar, los expertos a los que el Consejo consultó explicaron que los trastornos alimenticios son "problemas de salud mental complejos que se caracterizan por comportamientos alimenticios anormales, una imagen corporal negativa y percepciones distorsionadas de los alimentos y el peso". De acuerdo con la Asociación Estadounidense de Psiquiatría, la ortorexia es una obsesión por los alimentos "limpios" o "puros". Según indicó la Asociación Nacional de Trastornos Alimenticios de los Estados Unidos, la ortorexia no se reconoce formalmente como un trastorno alimenticio en el Manual Diagnóstico y Estadístico, 5.ª edición.

Si bien las dietas frugívoras y basadas solo en jugo de fruta no se clasifican generalmente como trastornos alimenticios, consumir únicamente jugo de fruta durante un período prolongado puede ser síntoma de un trastorno en la alimentación. Las dietas basadas solo en jugo de fruta suponen muchos riesgos para la salud (un punto muy remarcado por los psicólogos y expertos en dietética y nutrición que enviaron comentarios del público o fueron consultados por el Consejo). Las consecuencias pueden variar según la duración, las cuestiones específicas de la dieta y la salud individual. Asimismo, algunas formas de la dieta prana implican comer, pero una forma de esta consiste en vivir solo del aliento o la energía vital propios (también llamado "inedia"). De acuerdo con los expertos a los que consultó el Consejo, esto se considera una forma de dieta extrema sin usos legítimos para la salud y es peligroso desde el punto de vista médico.

En segundo lugar, un conjunto cada vez mayor de investigaciones indica que el uso de los medios sociales, en especial, el tiempo y la frecuencia de uso, así como la exposición a contenido que promueve imágenes corporales idealizadas, como las tendencias "fitspiration" (inspiración fit) y "thinspiration" (inspiración para adelgazar), genera una insatisfacción respecto del cuerpo, trastornos alimenticios y consecuencias negativas en la salud mental. Como se explicó en un estudio que examinó el impacto del uso de los medios sociales en los adolescentes y jóvenes adultos, "la adolescencia es un período de vulnerabilidad en cuanto al desarrollo de problemas relacionados con la imagen corporal, trastornos alimenticios y la salud mental". La mayoría de los trastornos alimenticios comienzan en la adolescencia. Tanto expertos en medicina como las investigaciones en las que se documentó un aumento de la cantidad de adolescentes que fueron internados en hospitales por trastornos alimenticios durante la pandemia mencionaron un mayor tiempo en los medios sociales como un factor determinante. Los algoritmos de recomendación de los medios sociales pueden dirigir a los adolescentes a contenido relacionado con dietas más extremas y animarlos a interiorizar la delgadez como un ideal de belleza. Muchos jóvenesse convierten en influencers en los medios sociales por aconsejar sobre fitness y salud a pesar de no tener cualificaciones médicas. Muchos influencers de los medios sociales proporcionan consejos relacionados con la salud bajo la apariencia de "bienestar" y vinculan la belleza externa con la percepción de bienestar.

3. Autoridad y alcance del Consejo asesor de contenido

El Consejo tiene la autoridad para revisar la decisión de Meta tras la apelación de la persona que previamente reportó el contenido que se conservó en la plataforma (artículo 2, sección 1, del acta constitutiva; artículo 3, sección 1, de los estatutos). Si el Consejo identifica casos que generan inquietudes similares, es posible que los asigne a un panel juntos para que se realice una deliberación simultánea. Se tomarán decisiones vinculantes respecto de cada elemento de contenido.

El Consejo puede ratificar o revertir la decisión de Meta (artículo 3, sección 5, del acta constitutiva), y la decisión que tome será vinculante para la empresa (artículo 4 del acta constitutiva). Meta también debe evaluar la viabilidad de aplicar su decisión con respecto a contenido idéntico cuyo contexto sea similar (artículo 4 del acta constitutiva). Las decisiones del Consejo pueden incluir recomendaciones no vinculantes a las que Meta debe responder (artículo 3, sección 4, y artículo 4 del acta constitutiva). Cuando Meta se compromete a tomar medidas respecto de las recomendaciones, el Consejo supervisa su implementación.

4.

El análisis del Consejo en este caso se basó en las siguientes normas y precedentes:

I. Decisiones del Consejo asesor de contenido

Entre las decisiones previas del Consejo asesor de contenido más relevantes, se encuentran las siguientes:

• Promoción de ketamina para tratamientos no aprobados por la FDA (decisión del caso 2023-010-IG-MR)
• Suspensión de la cuenta del expresidente de los EE. UU. Trump (decisión del caso 2021-001-FB-FBR)

II. Políticas de contenido de Meta

Este caso involucra la norma comunitaria sobre suicidio y autolesiones de Meta, además de las Políticas de monetización de contenido de la empresa.

Conforme a la norma comunitaria sobre suicidio y autolesiones, Meta define "autolesión" como el "daño intencional y directo al propio cuerpo, incluida […] y los trastornos alimenticios". De acuerdo con Meta, la política permite que las personas hablen sobre autolesiones, incluidos los trastornos alimenticios, porque la empresa quiere proporcionar un "espacio donde las personas puedan compartir sus experiencias, generar conciencia sobre estos problemas y buscar apoyo mutuo". Ciertos tipos de contenido relacionado con trastornos alimenticios están prohibidos, y dos reglas son las más relevantes aquí. En primer lugar, Meta elimina el contenido que "incluya instrucciones para bajar de peso de forma drástica y poco saludable, cuando se comparta en publicaciones que incluyan términos asociados a trastornos alimenticios". En segundo lugar, Meta elimina el contenido que "promueva o fomente […] trastornos alimenticios, que coordine este tipo de actos o brinde instrucciones para llevarlos a cabo".

Ambos videos, que tenían anuncios instream, también estaban sujetos a las Políticas de monetización de contenido. En dichas políticas, Meta prohíbe que ciertas categorías de contenido se moneticen en sus plataformas, incluso si no infringen las Normas comunitarias. Es posible que estas categorías de contenido tengan una reducción en la monetización o no sean elegibles para monetizarse. Estas incluyen áreas amplias, como "actividades cuestionables" y "temas sociales controversiales", pero ninguno de los numerosos ejemplos dentro de las categorías menciona algún tipo de práctica relacionada con la dieta o la alimentación.

El análisis del Consejo sobre las políticas de contenido se basó en el valor de Meta de "expresión", que la empresa describe como "fundamental", así como en el valor de "seguridad".

III. Responsabilidades de Meta con los derechos humanos

Los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU (UNGP), respaldados por el Consejo de Derechos Humanos de la ONU en 2011, establecen un marco voluntario que encuadra las responsabilidades de las empresas privadas en cuanto a estos derechos. En 2021, Meta anunció su Política corporativa de derechos humanos, en la que reafirmó su compromiso con el respeto de los derechos humanos de conformidad con los UNGP. El análisis del Consejo sobre las responsabilidades de Meta en cuanto a los derechos humanos en este caso se basó en las siguientes normas internacionales:

• Derecho a la libertad de opinión y expresión: artículo 19 del Pacto Internacional de Derechos Civiles y Políticos (ICCPR), observación general n.º 34, Comité de Derechos Humanos (2011); A/74/486; A/HRC/38/35)
• Derecho a la salud: artículo 12 del Pacto Internacional de Derechos Económicos, Sociales y Culturales (ICESCR); observación general n.º 14, Comité de Derechos Económicos, Sociales y Culturales (2000); A/HRC/53/65)
• Derechos del niño: Convención sobre los Derechos del Niño (CRC); observación general n.º 13, Comité de los Derechos del Niño (2011), párrafo 28.

5. Respuestas del usuario

Al autor de las dos publicaciones se le notificó acerca de la revisión del Consejo y se le brindó la oportunidad de presentar declaraciones ante el Consejo. El autor de las publicaciones no presentó ninguna declaración. En las apelaciones ante el Consejo, los usuarios que reportaron el contenido de los casos afirmaron que el contenido fomentaba un estilo de vida no saludable y podía motivar a otras personas, en especial, adolescentes, a hacer lo mismo. Describieron el contenido como "inexacto" y como una apología de la anorexia como "algo bueno", lo que puede conllevar riesgos para la salud de las personas que se exponen a él.

6. Respuestas de Meta

Meta le indicó al Consejo que ninguna de las publicaciones infringía la regla de la política sobre suicidio y autolesiones que prohíbe el "contenido que incluya instrucciones para bajar de peso de forma drástica y poco saludable, cuando se comparta en publicaciones que incluyan términos asociados a trastornos alimenticios". De acuerdo con Meta, las publicaciones no incluían referencias a "pérdida de peso drástica y poco saludable" ni a trastornos alimenticios. Asimismo, Meta destacó que la mujer describió su experiencia, "pero no instruyó a otras personas a hacer lo mismo". Cuando el Consejo le preguntó, Meta respondió que ninguna de las publicaciones infringía la parte de la política que prohíbe el "contenido que promueva, fomente u organice, o proporcione instrucciones en relación con trastornos alimenticios", de nuevo, porque ninguno de los dos videos hacía referencia a un trastorno alimenticio.

Meta explicó que no quiere sobreaplicar ni subaplicar sus políticas en el contenido "relacionado con la imagen corporal o el estado de salud, ya que [sus] plataformas pueden ser un espacio importante para que las personas compartan sus experiencias y vivencias personales en torno a la imagen propia y la aceptación del cuerpo". Por lo tanto, la empresa exige que haya referencias a señales o terminología relacionadas con trastornos alimenticios para que el contenido infrinja la política.

Meta señaló que la empresa no considera que las dietas frugívoras, basadas solo en jugo de fruta o prana sean trastornos alimenticios sobre la base de la clasificación de los trastornos alimenticios de la Asociación Estadounidense de Psiquiatría, así como de los aportes continuos de los expertos de la empresa. Meta le indicó al Consejo que su equipo de políticas de seguridad regularmente interactúa con expertos y grupos de asesoramiento para conocer las tendencias relacionadas con los trastornos alimenticios y para actualizar la lista de señales infractoras relacionadas con trastornos alimenticios. De acuerdo con Meta, el equipo de operaciones regionales también tiene un papel importante a la hora de elaborar la lista de señales relacionadas con trastornos alimenticios y proporcionar ejemplos de cómo se usan los términos propuestos en la plataforma. El equipo de políticas de contenido de Meta emplea los aportes del trabajo del equipo de operaciones regionales para elaborar la política general.

El Consejo le hizo nueve preguntas a Meta por escrito. Estas se relacionaban con cómo la empresa define los trastornos alimenticios para aplicar la política; los fundamentos para exigir que se haga referencia a términos relacionados con trastornos alimenticios en el contenido para que se considere infractor; incentivos económicos que Meta pudiera tener respecto del contenido del caso; y el proceso, las investigaciones internas y las partes interesadas consultadas para desarrollar la política. Meta respondió todas las preguntas.

7. Comentarios del público

El Consejo asesor de contenido recibió ocho comentarios del público, entre otros, de especialistas en trastornos alimenticios y nutrición de los Estados Unidos y Canadá, y de regiones europeas. Estos comentarios hicieron hincapié en las amenazas que esta dieta supone para la salud pública y para la salud física y mental de los menores.

Si quieres leer los comentarios del público que se enviaron en relación con este caso, haz clic aquí.

8. Análisis del Consejo asesor de contenido

El Consejo seleccionó estos casos para examinar cómo las políticas y las prácticas de aplicación de políticas de Meta abordan el contenido relacionado con dietas, fitness y trastornos alimenticios en Facebook. El Consejo analizó si este contenido debería eliminarse mediante una evaluación de las políticas de contenido de Meta, que incluyen las Normas comunitarias de Facebook y las Políticas de monetización de contenido, además de los valores y las responsabilidades con los derechos humanos de Meta.

8.1 Cumplimiento de las políticas de contenido de Meta

I. Reglas de contenido

El Consejo determinó que estas dos publicaciones no infringen las Políticas de contenido de Meta.

a. Norma comunitaria sobre suicidio y autolesiones

El Consejo determinó que el contenido de estos casos no infringe la norma comunitaria sobre suicidio y autolesiones de Meta. La primera regla relevante prohíbe el "contenido que incluya instrucciones para bajar de peso de forma drástica y poco saludable, cuando se comparta en publicaciones que incluyan términos asociados a trastornos alimenticios", y la segunda regla relevante prohíbe el "contenido que promueva, fomente u organice, o proporcione instrucciones en relación con trastornos alimenticios".

Por lo tanto, ambas reglas exigen que debe haber referencias a un trastorno alimenticio para que el contenido se considere infractor. Las pautas internas de Meta incluyen una lista no exhaustiva de señales de trastornos alimenticios que se consideran infractoras. Incluye referencias a trastornos alimenticios reconocidos, términos de la jerga popular y descripciones físicas, con mucho hincapié en los hashtags.

El Consejo determinó que los videos de estos casos no mencionan ninguna señal o referencia relacionadas con trastornos alimenticios en el sentido en que se exige para infringir la política. El Consejo determinó que estos casos eran desafiantes y destacó que una dieta basada solo en jugo de fruta podía incluir una amplia variedad de prácticas alimenticias con distintas consecuencias para la salud, según la duración y el grado de intensidad de la práctica. El Consejo cree que hay prácticas dañinas relacionadas con la alimentación que no cumplen con los requisitos mínimos para que se eliminen por ser trastornos alimenticios y que ambos videos se encuentran en ese margen.

La mujer también mencionó una dieta prana en la segunda publicación, que describió como vivir "únicamente de energía". Sobre la base de la descripción que la mujer hizo de la dieta, el Consejo entendió que se trataría de una dieta "indenia" extrema, que los expertos a los que el Consejo consultó consideraron como peligrosa desde el punto de vista médico. Sin embargo, la referencia breve a la dieta prana no se acompañó de ninguna mención del peso y se expresó de forma descriptiva, lo que no es lo mismo que promover o fomentar acciones o proporcionar instrucciones para que otras personas realicen la misma práctica.

Por lo tanto, el Consejo determinó que ninguna de las publicaciones infringe la política sobre suicidio y autolesiones de Meta. Como se analiza en la sección sobre las responsabilidades de Meta en materia de derechos humanos a continuación, el Consejo determinó que, si bien el alcance del contenido prohibido sujeto a eliminación en esta área debe ser acotado para permitir el debate crítico de estos temas, Meta debería adoptar la medida menos intrusiva para hacer frente al contenido dañino, pero no infractor, que publiquen usuarios influyentes.

b. Políticas de monetización de contenido

Como el contenido de estos casos incluía anuncios instream, las Políticas de monetización de contenido tienen validez. Meta solo divulgó este aspecto del caso después de que el Consejo preguntara acerca de los incentivos económicos que la empresa podía tener en relación con el contenido del caso. Antes de que los usuarios puedan monetizar el contenido que publican en las plataformas de Meta, deben cumplir con las Políticas de monetización para socios. Esto requiere una comprobación de elegibilidad inicial de la entidad y que cada publicación de dicha entidad cumpla con las Normas comunitarias y las Políticas de monetización de contenido.

Las Políticas de monetización de contenido son diferentes de las Normas comunitarias. Las Normas comunitarias tienen validez para todo el contenido de las plataformas de Meta, mientras que las Políticas de monetización de contenido solo se aplican al contenido que los usuarios desean monetizar. Meta prohíbe la monetización de muchos tipos de contenido, incluso si el contenido se permite para otras cosas en sus plataformas.

En virtud de estas políticas, ciertas categorías de contenido reciben una reducción de la monetización o no pueden monetizarse en absoluto. Las categorías que pueden restringirse o no permitirse para monetización incluyen contenido que muestra o menciona "temas sociales controversiales", contenido con "actividades cuestionables", "lenguaje soez" y "contenido explícito", como "lesiones, actos sangrientos o funciones o trastornos corporales". El contenido que no puede monetizarse incluye el "contenido con afirmaciones médicas que fueron desmentidas por una organización de expertos", por ejemplo, las afirmaciones en contra de las vacunas.

A pesar del alcance generalmente amplio de las políticas de monetización, el contenido relacionado con prácticas alimenticias, incluido el contenido vinculado con dietas extremas y dañinas, no está sujeto a ninguna reducción o restricción en la monetización. Por lo tanto, el Consejo estuvo de acuerdo con la evaluación de Meta de que ninguno de los videos infringe las Políticas de monetización de contenido de Meta. No obstante, el Consejo recomienda a continuación que Meta debería modificar estas políticas para mejorar el cumplimiento de sus responsabilidades en materia de derechos humanos, ya que, según investigaciones, los usuarios, en especial, los niños, son vulnerables al contenido relacionado con dietas dañinas.

8.2 Cumplimiento de las responsabilidades de Meta con los derechos humanos

El Consejo determinó que las decisiones de Meta de permitir estas publicaciones en Facebook son coherentes con las responsabilidades de la empresa con los derechos humanos. Sin embargo, la mayoría del Consejo determinó que el contenido relacionado con dietas extremas y dañinas se relaciona con daños a la salud pública, específicamente, para algunos grupos, como los niños, y que un enfoque que respete los derechos implica que la empresa no debería incentivar su producción y difusión al proporcionar beneficios económicos a usuarios influyentes para que publiquen ese tipo de contenido. El Consejo destacó que Meta ya reconoce en sus Políticas de monetización de contenido que "en general, el hecho de que un contenido sea adecuado para Facebook no implica necesariamente que sea adecuado para monetizarse". Esto significa que Meta decidió no obtener ganancias a partir de ciertos tipos de contenido incluso si estos no infringen las Normas comunitarias. Algunos ejemplos de ese contenido son "actividades cuestionables", "temas sociales controversiales", "lenguaje soez" y "contenido explícito", entre otros.

Libertad de expresión (artículo 19 del ICCPR)

El artículo 19 del ICCPR prevé una amplia protección de la expresión. Este derecho incluye la "libertad de buscar, recibir y difundir información e ideas de toda índole". El acceso a la información es una parte fundamental de la libertad de expresión. En el artículo 12 del Pacto Internacional de Derechos Económicos, Sociales y Culturales, se garantiza el derecho a la salud, incluido el derecho a acceder a educación e información relacionadas con la salud (artículo 12 del ICESCR; observación general n.º 14 del Comité de Derechos Económicos, Sociales y Culturales [2000], párrafo 3).

Si un Estado impone restricciones sobre la libertad de expresión, estas deben cumplir los requisitos de legalidad, fin legítimo y necesidad y proporcionalidad (artículo 19, párrafo 3, del ICCPR). Se suele hacer referencia a estos requisitos como "prueba de tres partes". El Consejo usa este marco para interpretar los compromisos voluntarios de Meta con los derechos humanos, tanto respecto de la decisión sobre el contenido en particular en revisión como del enfoque más amplio de la empresa en relación con la gestión del contenido. Como indicó el Relator Especial de la ONU sobre libertad de expresión, si bien las empresas no tienen las obligaciones de los gobiernos, su impacto es tal que las obliga a evaluar el mismo tipo de cuestiones sobre la protección del derecho a la libertad de expresión de sus usuarios ( A/74/486, párrafo 41).

I. Legalidad (claridad y accesibilidad de las reglas)

El principio de legalidad requiere que cualquier regla que limite la expresión sea clara y accesible, tanto para quienes las hacen cumplir como para quienes se ven afectados por ellas (observación general n.º 34, párrafo 25). Las reglas que restringen la expresión "no pueden conferir una discrecionalidad absoluta para restringir la libertad de expresión a los encargados de su implementación" y deben "proporcionar suficientes pautas para aquellos que están a cargo de su implementación, de manera que puedan definir qué tipos de expresión pueden restringirse de forma adecuada y cuáles no" (ibidem). En referencia a las reglas de las plataformas que regulan el discurso online, la Relatora Especial de la ONU sobre la libertad de expresión dijo que deben ser claras y específicas (A/HRC/38/35, párrafo 46). Las personas que usan las plataformas de Meta deben ser capaces de acceder a las reglas y entenderlas, y los revisores de contenido deben tener pautas claras para su aplicación.

El Consejo evaluó dos reglas de la política de suicidio y autolesiones de Meta: (i) contenido que incluya instrucciones para bajar de peso de forma drástica y poco saludable, cuando se comparta en publicaciones que incluyan términos asociados a trastornos alimenticios; y (ii) contenido que promueva, fomente u organice, o proporcione instrucciones en relación con trastornos alimenticios. Ambas requieren una referencia a trastornos alimenticios, y Meta les proporciona a sus revisores pautas internas para tomar dicha decisión.

A pesar de que Meta indica que esta lista "no es exhaustiva" y no se centra en un formato en particular, los ejemplos proporcionados en ella están, casi exclusivamente, en formato de hashtag. Los moderadores de contenido que implementan esta política y consultan las pautas internas pueden centrar la aplicación de la política y la eliminación en este tipo de contenido más explícito. Para el Consejo, esto da la impresión de que las categorías de contenido prohibido que parecen ser relativamente amplias en las normas públicas, en la práctica, son más limitadas en alcance. Esta aparente inconsistencia plantea serias inquietudes relacionadas con la legalidad, aunque, en lo que respecta a estas publicaciones, las reglas públicas proporcionaron un aviso suficiente a los usuarios y las Normas comunitarias y las reglas internas ofrecieron pautas suficientes a los moderadores de contenido.

II. Fin legítimo

En virtud del artículo 19, párrafo 3, del ICCPR, la expresión puede restringirse por una lista definida y limitada de motivos. En estos casos, el Consejo determinó que la norma comunitaria sobre suicidio y autolesiones que prohíbe el contenido relacionado con trastornos alimenticios atiende el fin legítimo de proteger la salud pública y respetar el derecho de otras personas a la salud física y mental, en especial, de los niños.

III. Necesidad y proporcionalidad

El principio de necesidad y proporcionalidad dispone que las restricciones que se apliquen a la libertad de expresión "deben ser adecuadas para desempeñar su función protectora; deben ser el instrumento menos perturbador de los que permitan conseguir el resultado deseado, y deben guardar proporción con el interés que debe protegerse" (observación general n.º 34, párrafo 34).

El Consejo determinó que el enfoque actual de la política sobre suicidio y autolesiones de exigir una señal relacionada con trastornos alimenticios es una restricción proporcionada sobre la libertad de expresión a fin de proteger la salud pública y respetar el derecho a la salud de otras personas, sin impedir que los usuarios hablen y debatan sobre asuntos relacionados con la salud en las plataformas de Meta. Sin este requisito, Meta cree, y el Consejo coincide, que el alcance de la política podría ser excesivo y, en consecuencia, se restringiría indebidamente la libertad de expresión y el acceso a la información en asuntos de salud pública, incluida la información sobre dietas poco saludables y trastornos alimenticios.

El Consejo determinó que las plataformas de Meta deben continuar siendo un espacio en el que los usuarios puedan compartir experiencias positivas y negativas relacionadas con estilos de vida y dietas específicos. Cabe destacar que, como mencionaron los expertos a quienes consultó el Consejo, los trastornos alimenticios constituyen un trastorno mental, y los hábitos alimenticios y las dietas pueden ser síntomas de un trastorno alimenticio, pero no un indicador definitivo de uno de ellos. Por lo tanto, el Consejo precisó que la eliminación del contenido del caso no sería coherente con el derecho a la libertad de expresión ni con el derecho a acceder, buscar y compartir información sobre salud.

Al mismo tiempo, el Consejo también reconoció que el contenido que se permite conforme a esta política podría contribuir a daños, incluso si el contenido no cumple los requisitos mínimos de daño que justifican su eliminación. Los daños de este caso pueden ser particularmente graves para algunos usuarios, incluidos los niños. En las apelaciones ante el Consejo, los usuarios que reportaron el contenido afirmaron que este fomentaba un estilo de vida no saludable y podía motivar a otras personas, en especial adolescentes, a hacer lo mismo. Describieron el contenido como "inexacto" y como una apología de la anorexia como "algo bueno", lo que puede conllevar riesgos para la salud de las personas que se exponen a él. Como señalaron los comentarios del público y los expertos a quienes consultó el Consejo, los adolescentes son especialmente vulnerables a desarrollar trastornos alimenticios, ya que la mayoría de estos comienzan en la adolescencia.

El Comité de los Derechos de los Niños de la ONU indicó que los derechos de los niños implican no estar sometidos a ninguna forma de violencia, incluidas las lesiones autoinfligidas, como los trastornos alimenticios (observación general n.º 13 [2011], párrafo 28). El Comité también destacó los riesgos relacionados con la exposición de los niños a "publicidad que es o puede ser perjudicial"online (observación general n.º 13 [2011], párrafo 31).

Los UNGP establecen que las empresas deben prevenir y mitigar las consecuencias negativas sobre los derechos humanos que guarden un vínculo directo con sus productos, servicios y operaciones (principio 13). En la misma línea, en el artículo 17 de la Convención sobre los Derechos del Niño, se reconoce la importancia de los medios para promover el "bienestar social, espiritual y moral, y la salud física y mental" de los niños. El Comité de los Derechos de los Niños de la ONU indicó que, en el artículo 17, "se exponen las responsabilidades de los medios de comunicación, que en el ámbito de la salud pueden […] promover la salud y los estilos de vida saludables en la infancia; […] promover el acceso a la información; no producir programas de comunicación ni materiales que perjudiquen al niño y a la salud en general [entre otras responsabilidades]" (observación general n.º 15, párrafo 84).

El Consejo sostuvo de manera constante que Meta debería explorar la medida menos intrusiva para hacer frente al contenido dañino en sus plataformas. Específicamente, destacó que "desarrollar mecanismos efectivos para evitar intensificar el lenguaje que implica riesgos" forma parte de esa responsabilidad (caso "Suspensión de la cuenta del expresidente de los EE. UU. Donald Trump"). En este caso, el Consejo reconoció que las políticas de monetización afectan la libertad de expresión de los usuarios, así como otros derechos humanos. Para la mayoría del Consejo, proporcionar un beneficio económico a usuarios influyentes para producir contenido que promueva dietas dañinas fomenta la creación y amplificación de tal contenido. La eliminación de este incentivo está bajo el control de la empresa y es coherente con el enfoque actual de Meta respecto de otros tipos de contenido que no infringen las Normas comunitarias, pero que la empresa restringe en virtud de las Políticas de monetización de contenido.

Los expertos en comunicaciones y salud hicieron hincapié en que la capacidad de los influencers de atraer y persuadir se encuentra en la adopción de estilos de comunicación que dan la sensación de que son simplemente personas normales. Como se vio en este contenido, en lugar de instar directamente a los usuarios a realizar acciones específicas, los influencers narran su historia personal o muestran a través de su propia experiencia los supuestos beneficios de los cambios en la alimentación y el estilo de vida. Este estilo les permite a los usuarios influyentes generar contenido que tendrá mucha interacción, lo cual es particularmente atractivo cuando procuran monetizarlo. Teniendo en cuenta la omnipresencia de los influencers de bienestar en las plataformas de Meta, así como el amplio conjunto de contenido a partir del que Meta no procura monetizar conforme a sus Políticas de monetización de contenido, la omisión del contenido sobre dietas dañinas es llamativa y preocupante.

El Consejo previamente recomendó que Meta revisara sus políticas de contenido de marca para "aclarar el significado de la etiqueta de 'colaboración pagada' y garantizar que los revisores de contenido cuenten con las herramientas necesarias para aplicar dichas políticas si corresponde" (caso "Promoción de ketamina para tratamientos no aprobados por la FDA"). En una línea similar, la mayoría del Consejo recomendó en el presente caso que Meta incluyera el "contenido relacionado con dietas extremas o dañinas" como categoría restringida en sus Políticas de monetización de contenido.

Esta decisión suscitó varias opiniones minoritarias. Para un grupo de la minoría, la desmonetización puede perjudicar la libertad de expresión. Para esta minoría, incluso si se asume que Meta es responsable de mitigar el riesgo de causar daños potenciales indirectos a usuarios vulnerables a través de la desmonetización, este enfoque podría equivaler a una restricción general de la expresión que perjudicaría la posibilidad de los usuarios de buscar y compartir información. Por lo tanto, la desmonetización está sujeta a los requisitos de proporcionalidad. Meta debería explorar si la desmonetización es la medida menos intrusiva para garantizar el respeto de los derechos de los usuarios vulnerables.

Para otra minoría independiente, la desmonetización es necesaria, pero no suficiente. Meta debería restringir también el contenido relacionado con dietas extremas y dañinas a los adultos de más de 18 años, además de analizar otras medidas, como colocar etiquetas en el contenido con información confiable sobre los riesgos que los trastornos alimenticios representan para la salud. Para estos miembros del Consejo, dado el conjunto cada vez mayor de investigaciones (descritas en la sección 2) que demuestran que el uso de los medios sociales, la exposición a cuerpos idealizados y las tendencias "fitspiration" (inspiración fit) y "thinspiration" (inspiración para adelgazar) generan una insatisfacción respecto del cuerpo, trastornos alimenticios y una multitud de otras consecuencias negativas en la salud mental, en especial, en adolescentes mujeres y niñas, es necesario y proporcionado que Meta modifique la norma comunitaria sobre suicidio y autolesiones. La omnipresencia del contenido relacionado con la belleza, las dietas y el fitness en los medios sociales, junto con los algoritmos de recomendación que lo agrupan y promueven, materializa y agrava el riesgo que dicho contenido supone para la salud mental y física de los usuarios jóvenes. Es especialmente necesario asegurar que las políticas de Meta aborden el contenido relacionado con dietas dañinas, ya que los usuarios influyentes muchas veces enmarcan prácticas alimenticias extremas en términos de alimentación "limpia" o "bienestar", sin siquiera referirse de forma explícita a un trastorno alimenticio. Para estos miembros del Consejo, el enfoque actual de Meta utilizado en la norma comunitaria de suicidio y autolesiones no hace frente a esta realidad. La restricción del contenido relacionado con dietas extremas y dañinas a los adultos y el ofrecimiento de más información a los usuarios sobre las posibles consecuencias en la salud aseguran que el impacto en la libertad de expresión sea el menos intrusivo sin dejar de afrontar el riesgo de daño que implica para los niños.

9. Decisión del Consejo asesor de contenido

El Consejo asesor de contenido ratificó las decisiones de Meta de conservar ambas publicaciones en Facebook.

10. Recomendaciones

Política de contenido

1. Con el fin de no crear incentivos económicos que animen a usuarios influyentes a generar contenido dañino, Meta debería restringir el contenido relacionado con dietas extremas y dañinas en sus Políticas de monetización de contenido.

El Consejo considerará que se implementó esta recomendación cuando Meta haya actualizado sus Políticas de monetización de contenido para incluir una definición y ejemplos de qué constituye contenido relacionado con dietas extremas y dañinas, del mismo modo en que define y explica otras categorías restringidas conforme a las Políticas de monetización de contenido.

* Nota de procedimiento:

La preparación de las decisiones del Consejo asesor de contenido está a cargo de paneles conformados por cinco miembros, quienes deben aprobarlas por mayoría. Las decisiones del Consejo no necesariamente representan las opiniones personales de todos los miembros.

En cuanto a la decisión del caso, se encargó una investigación independiente en nombre del Consejo. El Consejo recibió asistencia de Duco Advisors, una empresa asesora dedicada a la intersección de geopolítica, confianza, seguridad y tecnología. Memetica, una organización que participa en investigaciones de código abierto sobre tendencias en los medios sociales, también colaboró con el Consejo y proporcionó análisis.