Le Conseil de surveillance annule les décisions de Meta dans deux cas liés à la violence faite aux femmes
12 juillet 2023
Le Conseil de surveillance a annulé les décisions de Meta de supprimer deux publications Instagram qui condamnaient la violence sexiste. Le Conseil recommande à Meta d’appliquer l’exception pour l’autorisation de contenu condamnant ou sensibilisant à la violence sexiste dans le langage public de la politique relative au discours haineux, ainsi que de mettre à jour ses recommandations internes pour les équipes d’examen afin de garantir que ces publications ne sont pas supprimées par erreur.
À propos des cas
Dans la présente décision, le Conseil examine deux contenus publiés par une utilisatrice d’Instagram en Suède. Meta a supprimé ces publications, car elles enfreignaient son Standard de la communauté en matière de discours haineux. Une fois les cas identifiés par le Conseil, Meta a déterminé que la première publication avait été supprimée par erreur, mais a maintenu sa décision concernant le second contenu.
La première publication est une vidéo contenant un enregistrement audio et sa transcription, tous les deux en suédois, d’une femme décrivant son expérience de relation intime violente, mentionnant notamment son incapacité à discuter de sa situation avec sa famille. La légende indique que la femme qui parle a donné son consentement à la publication du contenu et que sa voix a été modifiée. Elle indique également que la société blâme les victimes de violence sexiste et ne comprend pas à quel point il peut être difficile pour les femmes de quitter un partenaire violent. La légende indique : « Les hommes tuent, violent et maltraitent des femmes mentalement et physiquement tout le temps, tous les jours. » La publication partage également des informations sur les organisations de soutien aux victimes de violence conjugale, mentionne la Journée internationale pour l’élimination de la violence à l’égard des femmes, et déclare espérer que les femmes qui la liront prendront conscience qu’elles ne sont pas seules.
Suite à l’identification du contenu comme potentiellement en infraction des règles de Meta sur le discours haineux par l’un de ses classificateurs, deux examinateurs ont analysé la publication puis l’ont supprimée. Cette décision a ensuite été confirmée par ces deux mêmes examinateurs à différents niveaux de l’examen. Le Conseil ayant sélectionné ce cas, Meta en a conclu qu’elle avait eu tort de supprimer le contenu et l’a restauré.
À mesure que le Conseil commençait à évaluer la première publication, la même utilisatrice lui a envoyé un autre appel. La seconde publication, partagée elle aussi sur Instagram, contient une vidéo où l’on voit une femme s’exprimer en suédois et montrer des mots écrits en suédois sur un carnet. L’intervenante y indique que, bien qu’elle soit misandre, elle ne déteste pas tous les hommes. Elle déclare également que sa misandrie vient du fait qu’elle condamne la misogynie et que la haine des hommes est enracinée par peur de la violence. Meta a supprimé le contenu pour infraction à ses règles en matière de discours haineux. L’utilisatrice a fait appel de la suppression auprès de Meta, mais l’entreprise a maintenu sa décision initiale après un examen manuel. Après avoir été informée que le Conseil avait sélectionné le présent cas, Meta est restée sur sa position.
Depuis au moins 2017, les campagnes numériques ont mis en évidence que les politiques de Facebook en matière de discours haineux entraînent la suppression de déclarations associées à la sensibilisation à la violence sexiste et au harcèlement. Par exemple, des femmes et des militants ont coordonné la publication de phrases telles que « men are trash » (les hommes sont des ordures) et « men are scum » (les hommes sont des pourritures) et ont protesté contre leur suppression ultérieure au motif qu’elles constituent un discours haineux contre les hommes.
Principales observations
Le Conseil estime qu’aucune des deux publications n’enfreint les règles de Meta sur le discours haineux.
Dans la première publication, le Conseil considère que la déclaration « men murder, rape and abuse women mentally and physically – all the time, every day » (les hommes tuent, violent et maltraitent des femmes mentalement et physiquement tout le temps, tous les jours) constitue une déclaration qualifiée qui ne va pas à l’encontre de la politique de Meta en matière de discours haineux. Compte tenu du fait que la publication fait référence à des campagnes internationales contre la violence faite aux femmes et apporte des ressources locales aux organisations qui œuvrent pour aider les femmes victimes, il apparaît manifestement que ce discours décrit les hommes qui commettent des violences contre des femmes.
Par ailleurs, le Conseil estime que la seconde publication ne constitue pas une expression de mépris contre les hommes, mais condamne la violence faite aux femmes et évoque les racines de la haine sexiste. Bien que Meta soutienne que la déclaration de l’utilisatrice affirmant qu’elle ne déteste pas tous les hommes n’influence pas l’évaluation des autres parties de la publication, le Conseil n’est pas du même avis et évalue la publication dans son ensemble. Il estime que les autres aspects de la publication que Meta a qualifiés d’infraction potentielle ne le sont pas lorsqu’ils sont lus en tenant compte du contexte. Certains membres du Conseil ont désapprouvé la décision selon laquelle les publications concernées n’enfreignaient pas les règles de Meta en matière de discours haineux.
Le Conseil s’inquiète du fait que l’approche de Meta quant à l’application de sa politique relative au discours haineux sexiste puisse entraîner la suppression disproportionnée d’un contenu sensibilisant et condamnant la violence sexiste. Meta affirme, par exemple, que la première publication devrait être autorisée sur ses plateformes et que la politique relative au discours haineux « prévoit d’autoriser la sensibilisation à la violence sexiste ». Cependant, ni la politique publique ni ses documents d’orientation internes pour les modérateurs ne prodiguent de conseils clairs afin de garantir que ce type de publications ne sont pas supprimées par erreur. Les conseils de l’entreprise pouvant prêter à confusion, il est presque impossible que les modérateurs parviennent à la bonne conclusion. Bien que Meta se soit appuyée sur des indicateurs contextuels pour déterminer que la première publication ne constituait pas une infraction après avoir été identifiée par le Conseil, les conseils de l’entreprise pour les modérateurs restreignent considérablement la possibilité d’une analyse contextuelle.
Le Conseil estime que, dans ce contexte, il est essentiel de ne pas supprimer par erreur les déclarations qui condamnent et sensibilisent à la violence sexiste. Il s’inquiète particulièrement que cela puisse se produire étant donné qu’une tolérance pour ce type de contenu, bien que Meta la mette en avant, n’est pas rendue publique de façon précise et que les conseils fournis aux modérateurs sont peu clairs. Meta doit préciser ses règles publiques et présenter des conseils appropriés aux modérateurs qui reflètent mieux cette tolérance afin de résoudre cette lacune.
La décision du Conseil de surveillance
Le Conseil de surveillance a annulé les décisions de Meta visant à supprimer les deux publications. Le Conseil recommande à Meta de :
- Appliquer l’exception pour l’autorisation de contenu condamnant ou sensibilisant à la violence sexiste dans le langage public de la politique relative au discours haineux.
- Mettre à jour ses conseils pour ses modérateurs à grande échelle en prêtant une attention particulière aux règles concernant la qualification afin de s’assurer que le contenu qui condamne et sensibilise à la violence sexiste n’est pas supprimé par erreur.
- Intégrer dans son Espace modération des informations sur les pénalités associées à l’accumulation de pénalités sur Instagram. Le Conseil note avec satisfaction que Meta a présenté des informations supplémentaires sur les pénalités aux utilisateurs de Facebook en réponse à ses recommandations. Il estime que cette mesure devrait également s’appliquer aux utilisateurs d’Instagram.
- Évaluer l’impact de son protocole de remontée des examens actuel sur la précision. Le Conseil considère que Meta améliorerait la précision de sa modération de contenu en adaptant son protocole de façon à prioriser l’envoi de tâches d’examen secondaire à d’autres examinateurs que ceux qui ont précédemment évalué le contenu.
Pour en savoir plus
Pour lire l’intégralité de la décision, cliquez ici.
Pour lire un résumé des commentaires publics relatifs à ces cas, cliquez sur la pièce jointe ci-dessous.
