Le Conseil de surveillance publie un avis consultatif en matière de politique sur la référence à des personnes dangereuses désignées sous le terme « chahid »
26 mars 2024
Le Conseil a aujourd’hui publié un avis consultatif en matière de politique en réponse à la demande de Meta qui souhaitait savoir si elle devait continuer de supprimer l’ensemble des contenus utilisant le terme arabe « chahid » pour évoquer des personnes désignées en vertu de la politique sur les personnes et organisations dangereuses. Il a conclu que l’approche actuelle de Meta restreint de manière disproportionnée la liberté d’expression, s’avère inutile et que l’entreprise doit mettre un terme à cette interdiction généralisée.
Lire la synthèse sur l’avis consultatif en matière de politique ci-dessous. Pour lire l’intégralité de ce document, cliquez ici.
Synthèse
Le Conseil estime que l’approche de Meta quant à la modération du contenu qui utilise le terme « chahid » pour évoquer des personnes désignées comme dangereuses restreint de façon considérable et disproportionnée la liberté d’expression. Meta considère que toutes les utilisations de « chahid » faisant référence à des personnes qu’elle a désignées comme « dangereuses » sont en infraction, et supprime le contenu concerné. D’après Meta, il est probable que « chahid » comptabilise plus de suppressions de contenus telles que définies par les Standards de la communauté que n’importe quel autre mot ou expression sur ses plateformes. Les actes de terrorisme ont de graves conséquences, car ils détruisent la vie de personnes innocentes, entravent les droits humains et nuisent au fonctionnement de nos sociétés. Néanmoins, toute limitation de la liberté d’expression visant à empêcher une telle violence doit être nécessaire et proportionnée, car une suppression illégitime d’un tel contenu peut s’avérer inefficace et même contre-productive.
Les recommandations du Conseil partent du constat que Meta doit prendre des mesures effectives afin de garantir que ces plateformes ne sont pas utilisées en vue d’inciter à la violence, ou de recruter des personnes pour la perpétrer. Les extrémistes utilisent parfois le terme « chahid » pour faire l’éloge ou glorifier les personnes ayant perdu la vie en commettant des actes de violence terroriste. La réponse de Meta à cette menace doit toutefois également observer l’ensemble des droits humains, notamment la liberté d’expression.
Le 7 octobre 2023, alors que le Conseil finalisait son avis consultatif en matière de politique, le Hamas (une organisation désignée de niveau 1 en vertu de la politique de Meta relative aux personnes et organisations dangereuses) a mené des attaques terroristes sans précédent contre Israël, qui ont fait environ 1 200 morts et 240 otages ( Ministère des Affaires étrangères, Gouvernement d’Israël). Des reportages ont indiqué qu’au 6 février 2024, au moins 30 des 136 otages présumés toujours aux mains du Hamas début janvier seraient mortes. Meta a immédiatement qualifié ces évènements d’attaque terroriste dans le cadre de sa politique relative aux personnes et organisations dangereuses. Israël a rapidement répondu à ces attaques en lançant une campagne militaire. Cette campagne militaire a tué plus de 30 000 personnes à Gaza au 4 mars (Bureau de la coordination des affaires humanitaires des Nations Unies, d’après les données fournies par le Ministère de la Santé à Gaza). Les rapports de janvier ont indiqué que 70 % des victimes seraient des femmes et des enfants.
Suite à ces évènements, le Conseil a interrompu la publication de son avis consultatif en matière de politique afin de s’assurer que ses recommandations répondaient à l’utilisation des plateformes de Meta et du terme « chahid » dans ce contexte. Ces recherches supplémentaires ont confirmé les recommandations du Conseil adressées à Meta sur la modération du terme « chahid », même lors d’évènements extrêmement préoccupants comme ceux-ci, et assureraient une meilleure observation de l’ensemble des droits humains dans la réponse de Meta face aux crises. Dans le même temps, le Conseil souligne que les politiques de Meta dans ce domaine sont globales et que leur impact dépasse largement ce conflit. Bien que reconnaissant l’importance des évènements survenus récemment en Israël et en Palestine, les recommandations du Conseil sont également globales et ne se limitent pas à un contexte en particulier.
Le Conseil estime que l’approche de Meta quant à la modération du terme « chahid » est trop large et restreint de façon disproportionnée la liberté d’expression et le discours civique. Par exemple, les publications sur la violence et les entités désignées peuvent faire l’objet de suppressions injustifiées. L’approche de Meta ne tient pas non plus compte des différentes significations de « chahid », qui la plupart du temps ne visent pas à glorifier ni à exprimer l’approbation, entraînant trop souvent la suppression de publications diffusées par des arabophones et locuteurs (souvent musulmans) d’autres langues, sans que cette suppression réponde à la politique sur les personnes et organisations dangereuses. Les politiques de Meta interdisent néanmoins, par exemple, la glorification, le soutien et la représentation de personnes, d’organisations et d’évènements désignés, ainsi que l’incitation à la violence. Ces politiques, lorsqu’elles sont correctement appliquées, atténuent les risques auxquels les plateformes de Meta sont exposées à des fins terroristes. Le Conseil recommande par conséquent à Meta de mettre fin à son interdiction généralisée de l’utilisation du terme « chahid » pour évoquer des personnes désignées comme dangereuses, et de modifier sa politique afin d’analyser le contenu utilisant ce terme en s’appuyant davantage sur le contexte.
Contexte
En février 2023, Meta a demandé au Conseil si elle doit continuer de supprimer le contenu utilisant le terme arabe « chahid » (« شهيد » en arabe), pour évoquer des personnes désignées en vertu de sa politique sur les personnes et organisations dangereuses. « Chahid » constitue également un emprunt, car de nombreuses langues en dehors de l’arabe ont « emprunté » ce terme d’origine arabe, y compris en adaptant son orthographe.
Selon l’entreprise, le terme « chahid » s’avère « honorifique », et est utilisé dans un certain nombre de cultures, religions et langues, pour désigner une personne décédée de façon inattendue, comme dans un accident, ou de façon honorable, comme à la guerre. L’entreprise reconnaît que ce terme revêt des « significations différentes » et que bien qu’il n’y ait « aucun équivalent direct en anglais », il pourrait se traduire par « martyr ». En partant du constat qu’« en anglais le mot « martyr » désigne une personne ayant souffert ou perdu la vie au nom d’une cause légitime et qu’il est connoté positivement », Meta déclare que « nous nous sommes appuyés sur cette utilisation pour classer ce terme [« chahid »] dans la catégorie des éloges en vertu de notre politique [sur les personnes et organisations dangereuses] ».
L’hypothèse de Meta selon laquelle la référence à une personne désignée comme « chahid » représentait toujours des « éloges » aux termes de la politique sur les personnes et organisations dangereuses a entraîné une interdiction généralisée. Meta a reconnu qu’en raison des différentes significations du terme elle « pouvait appliquer sa politique de façon excessive dans un grand nombre de discours dont l’objectif n’était pourtant pas de faire l’éloge d’une personne désignée, notamment parmi les arabophones ». Par ailleurs, Meta n’applique pas d’exception à sa politique sur les personnes et organisations dangereuses afin d’autoriser l’utilisation de « chahid » pour « informer, condamner ou discuter de façon neutre des entités désignées ». Cette situation s’est poursuivie après les dernières mises à jour de la politique réalisées en décembre 2023, qui interdisent à présent la « glorification » et les « références ambiguës », au lieu des « éloges » ; ce terme ayant été complètement supprimé.
Meta a entamé un processus de développement de sa politique en 2020 afin de réévaluer son approche quant au terme « chahid » en raison de ces préoccupations. Aucun consensus n’a cependant été atteint au sein de l’entreprise et aucune nouvelle approche n’a été convenue.
En sollicitant cet avis consultatif en matière de politique, Meta a présenté au Conseil trois options de politique possibles:
- Maintenir le statu quo.
- Autoriser l’utilisation de « chahid » en référence à des personnes désignées dans des publications qui observent les exceptions de l’interdiction liée aux « éloges » (par exemple, dans le cadre de reportages, discussions neutres ou condamnations), tant qu’elles ne contiennent pas d’autres éloges ni d’« éléments à caractère violent ». Parmi les exemples de ces éléments que Meta a proposés, on peut citer les représentations visuelles d’armes ou les références au langage militaire ou à la violence réelle.
- Autoriser l’utilisation de « chahid » pour évoquer des personnes désignées, tant qu’aucun autre éloge ou élément à caractère violent n’apparaît. Et ceci indépendamment du fait que le contenu relève de l’une des exceptions susmentionnées, contrairement à la deuxième option.
Le Conseil a considéré d’autres choix de politique possibles. Aux motifs énoncés dans l’avis consultatif en matière de politique, les recommandations du Conseil s’alignent étroitement sur la troisième option, bien que moins d’éléments à caractère violent soient adoptés par rapport à ce que Meta proposait dans sa demande, et qu’une application plus large soit requise pour les exceptions à la politique dans le cadre des reportages, discussions neutres et condamnations des entités désignées et de leurs actions.
Principaux Résultats et Recommandations
Le Conseil estime que l’approche actuelle de Meta quant au terme « chahid » évoquant des personnes désignées comme dangereuses est trop large, et restreint de façon considérable et disproportionnée la liberté d’expression.
Le terme « chahid » revêt une grande importance au niveau culturel et religieux. On l’utilise parfois pour faire l’éloge des personnes décédées en commettant des actes violents et même pour les « glorifier ». Mais il apparaît également souvent, même en référence à des personnes dangereuses, dans les reportages et les commentaires neutres, les discussions académiques, les débats sur les droits humains, et même de manière plus passive. Parmi ses autres significations, « chahid » est très utilisé pour désigner des personnes qui ont trouvé la mort en servant leur pays, leur cause, ou qui ont été des victimes inattendues d’actes de violence socio-politique ou d’une catastrophe naturelle. Les membres de certaines communautés musulmanes le portent en guise de prénom et de nom. Tout porte à croire que les nombreuses significations de « chahid » entraînent la suppression d’un grand nombre de contenus qui ne font pourtant pas l’éloge des terroristes ni de leurs violentes actions.
L’approche de Meta concernant la suppression de contenu au simple motif que « chahid » est mentionné en faisant référence à des personnes désignées ignore intentionnellement la complexité linguistique de ce terme ainsi que ses nombreuses utilisations, le traitant systématiquement et uniquement comme l’équivalent du mot « martyr ». Cela affecte considérablement la liberté d’expression et des médias, restreint indûment le discours civique et nuit gravement à l’égalité et à la non-discrimination. Cette application excessive affecte de manière disproportionnée les arabophones et les locuteurs d’autres langues qui empruntent à l’arabe le terme « chahid ». Dans le même temps, d’autres applications de la politique sur les personnes et organisations dangereuses permettraient toutefois à Meta d’améliorer sa valeur de sécurité et son objectif visant à écarter de ses plateformes les contenus glorifiant les terroristes. La politique actuelle s’avère donc disproportionnée et inutile.
Afin de faire correspondre plus étroitement ses politiques et ses pratiques de mise en application concernant le terme « chahid » avec ses standards relatifs aux droits humains, le Conseil émet les recommandations:
1. Meta ne doit plus supposer que le terme « chahid », utilisé pour évoquer une personne désignée ou des membres anonymes d’organisations désignées, est toujours en infraction et inéligible aux exceptions à la politique. Le contenu qui évoque une personne désignée sous le terme « chahid » doit être supprimé en tant que « référence ambiguë » dans deux situations uniquement. Tout d’abord, lorsqu’un ou plus des trois éléments à caractère violent apparaissent : une représentation visuelle d’un armement/arme, une déclaration d’intention ou un soutien pour utiliser ou porter un armement/arme, ou une référence à un évènement désigné. Ensuite, lorsque le contenu enfreint d’une autre manière les politiques de Meta (par exemple, en glorifiant ou en faisant référence à une personne désignée de façon ambiguë pour des raisons autres que l’utilisation de « chahid »). Dans ces deux cas, le contenu reste éligible aux exceptions liées aux « reportages, discussions neutres et condamnations ».
2. Pour clarifier l’interdiction relative aux « références ambiguës », Meta doit inclure plusieurs exemples de contenu en infraction, notamment une publication faisant référence à une personne désignée en tant que « chahid » associée à un ou plus des trois éléments à caractère violent indiqués dans la recommandation n° 1.
3. Les conseils internes sur la politique de Meta doivent également être mis à jour afin de préciser que les références aux personnes désignées comme « chahid » ne constituent pas une infraction sauf si elles sont accompagnées par des éléments à caractère violent, et que même lorsque ces éléments sont présents, le contenu peut toujours bénéficier des exceptions liées aux « reportages, discussions neutres ou aux condamnations ».
Si Meta accepte ces recommandations et les met en place, en vertu de ses règles actuelles, elle continuerait de supprimer le contenu qui « glorifie » des personnes désignées, caractérise leur violence ou leur haine comme un accomplissement, ou légitime ou défend leurs actes de violence ou de haine, ainsi que tout soutien ou représentation d’une entité dangereuse désignée. L’approche proposée par le Conseil sur la base de ces recommandations consiste à ce que Meta cesse de constamment considérer que « chahid » évoque une personne désignée comme étant en infraction, en supprimant le contenu uniquement lorsque d’autres infractions à la politique s’ajoutent (par exemple, la glorification) ou comme une référence « ambiguë » en raison d’éléments à caractère violent. Ce type de contenu doit demeurer éligible au nom des exceptions à la politique liées aux « reportages, discussions neutres et condamnations de personnes désignées ».
Le Conseil recommande également à Meta de:
4. Expliquer plus en détail la procédure de désignation des entités et des évènements en vertu de sa politique relative aux personnes et organisations dangereuses afin de rendre cette liste plus transparente. Meta doit également publier des informations agrégées sur le nombre total d’entités dans chaque niveau de sa liste de désignation, ainsi que le nombre d’entités ajoutées et supprimées l’année passée.
5. Introduire une procédure claire et efficace pour mener des audits réguliers sur les désignations et supprimer les critères publiés qui ne sont plus satisfaisants afin de garantir que la liste des personnes et organisations dangereuses désignées est bien à jour, et qu’elle n’inclut aucune organisation, personne et évènement ne répondant plus à la définition de la désignation de Meta.
6. Expliquer les méthodes qu’elle utilise pour évaluer la précision de l’examen manuel et les performances des systèmes automatisés dans la mise en application de sa politique sur les personnes et organisations dangereuses. Par ailleurs, Meta doit régulièrement communiquer les conclusions des évaluations de performances des classificateurs utilisés pour appliquer cette politique, en présentant les résultats de façon qu’ils soient comparables entre les langues et/ou les régions.
7. Détailler l’utilisation des classificateurs pour générer des prévisions d’infractions à la politique et la définition des conditions minimales de Meta pour savoir si elle doit ne prendre aucune mesure, faire remonter le contenu en vue d’un examen manuel ou le supprimer. Elle doit fournir ces informations dans son Espace modération afin d’informer les parties prenantes.
Pour en Savoir Plus
En préparant cet avis consultatif en matière de politique, le Conseil a encouragé d’importantes interactions de la part des parties prenantes. Pour en savoir plus sur les commentaires publics que nous avons reçus et nos tables rondes consacrées aux interactions des parties prenantes, cliquez sur ce lien pour consulter l’avis consultatif en matière de politique en intégralité.
