Le Conseil de surveillance annule la décision initiale de Facebook : Cas 2020-004-IG-UA
28 janvier 2021
Le Conseil de surveillance a annulé la décision de Facebook de supprimer une publication sur Instagram. Lorsque ce cas a été retenu par le Conseil, Facebook a restauré le contenu. Les systèmes automatisés de Facebook ont initialement supprimé la publication, car elle enfreignait, selon eux, les Standards de la communauté de l’entreprise en matière de nudité et activités sexuelles chez les adultes. Le Conseil a estimé que la publication était autorisée en vertu d’une exception visant à permettre la « sensibilisation au cancer du sein » et que la modération automatisée de Facebook soulevait en l’espèce d’importantes préoccupations concernant les droits de l’homme.
À propos du cas
En octobre 2020, un utilisateur brésilien a publié une photo sur Instagram dont le titre en portugais indiquait que l’objectif était de sensibiliser le public aux signes possibles de cancer du sein. L’image était rose, en phase avec « Octobre rose », une campagne internationale visant à sensibiliser le public à cette maladie. L’image comprenait huit photographies illustrant différents symptômes du cancer du sein accompagnées de descriptions. Des tétons de femmes étaient découverts et visibles sur cinq de ces photographies. Les trois autres photographies représentaient des seins de femmes, mais les tétons étaient soit hors champ, soit recouverts par une main. La publication a été supprimée par un système automatisé appliquant les Standards de la communauté de Facebook en matière de nudité et d’activités sexuelles chez les adultes. Une fois le cas retenu par le Conseil, Facebook a reconnu qu’il s’agissait d’une erreur et a restauré la publication.
Principales observations
Dans sa réponse, Facebook a affirmé que le Conseil devrait refuser de traiter ce cas. L’entreprise avançait que, puisque la publication avait été rétablie, il n’y avait plus de désaccord entre l’utilisateur et Facebook, et le cas n’avait donc plus lieu d’être.
Le Conseil rejette l’argument de Facebook. Le besoin de désaccord s’applique uniquement au moment où l’utilisateur épuise toutes les voies de recours internes de Facebook. Étant donné que l’utilisateur et Facebook étaient en désaccord à ce moment-là, le Conseil peut traiter le cas.
Contrairement à ce qu’affirme l’entreprise, la décision de Facebook de restaurer le contenu ne règle pas pour autant le cas. En effet, le Conseil prend des décisions contraignantes concernant la restauration ou non d’éléments de contenu, mais il offre également aux utilisateurs une explication complète des raisons pour lesquelles leur publication a été supprimée.
La suppression, à tort, de cette publication indique un manque de supervision humaine adaptée, ce qui soulève des préoccupations concernant les droits de l’homme. La détection et la suppression de cette publication ont été totalement automatisées. Le système automatisé de Facebook n’a pas su reconnaître les mots « Cancer du sein » qui apparaissaient en portugais sur l’image, et la publication a été supprimée à tort. Étant donné que les règles de Facebook traitent les tétons de femmes et d’hommes différemment, l’utilisation d’une automatisation imprécise pour appliquer ces règles affecte la liberté d’expression des femmes de manière disproportionnée. La mise en application, qui s’appuie uniquement sur l’automatisation sans supervision humaine suffisante, porte également atteinte à la liberté d’expression.
Dans ce cas, il a été indiqué à l’utilisateur que sa publication enfreignait les Règles de la communauté Instagram, laissant ainsi entendre que partager des photos de tétons féminins découverts pour sensibiliser au cancer du sein n’était pas autorisé. Toutefois, les Standards de la communauté de Facebook en matière de nudité et activités sexuelles chez les adultes autorisent expressément la nudité lorsque l’utilisateur cherche à « sensibiliser à une cause, ou à des fins pédagogiques ou sanitaires ». De plus, ils autorisent spécifiquement les tétons de femmes découverts dans le but de faire avancer la « sensibilisation au cancer du sein ». Puisque les Standards de la communauté de Facebook s’appliquent à Instagram, la publication de l’utilisateur s’inscrit dans le cadre de l’exception susmentionnée. Par conséquent, la suppression du contenu par Facebook était contraire à ses Standards de la communauté.
La décision du Conseil de surveillance
Le Conseil de surveillance annule la décision initiale de Facebook de supprimer le contenu et demande à ce que la publication soit restaurée. Le Conseil prend acte du fait que Facebook a déjà pris des mesures à cet effet.
Le Conseil recommande à Facebook :
- D’informer les utilisateurs lorsque l’application automatisée est utilisée pour modérer leur contenu, de s’assurer que les utilisateurs peuvent faire appel des décisions automatisées auprès d’un être humain dans certains cas, et d’améliorer la détection automatisée d’images contenant du texte afin que les publications visant à sensibiliser aux symptômes du cancer du sein ne soient pas, à tort, signalées en vue d’un examen. Facebook devrait également améliorer la transparence des rapports sur son utilisation de la mise en application automatisée.
- De revoir les Règles de la communauté d’Instagram afin d’expliquer que des tétons de femmes peuvent être montrés pour sensibiliser au cancer du sein et de préciser que, lorsqu’il y a des incohérences entre les Règles de la communauté d’Instagram et les Standards de la communauté Facebook, ces derniers prévalent.
Pour plus d’informations :
Pour lire l’intégralité de la décision sur le cas, cliquez ici.
Pour lire un résumé des commentaires publics relatifs à ce cas, cliquez ici.
