Le Conseil de surveillance ouvre les commentaires publics pour un avis consultatif sur le système cross-check

2 décembre 2021

En octobre, le Conseil a accepté une demande de Meta d’examiner le système cross-check de l’entreprise et de formuler des recommandations sur la façon dont il pourrait être modifié sous forme d’un avis consultatif. Peu de temps après, Meta a publié plus de détails sur cette demande et, aujourd’hui, le Conseil ouvre les commentaires publics pour cet avis consultatif.

Au-delà de l’examen de cas individuels, qui vise à supprimer ou à restaurer du contenu, le Conseil peut accepter les demandes d’avis consultatif de Meta. Après réception des contributions de parties prenantes externes, le Conseil fournit des recommandations détaillées sur les changements que Meta devrait apporter à ses politiques sur certains sujets.

Meta doit envoyer les recommandations du Conseil via son processus officiel de développement de politiques et fournir des mises à jour régulières à ce sujet, notamment par l’intermédiaire de Newsroom. Bien que l’avis consultatif du Conseil ne soit pas contraignant, Meta doit y fournir une réponse publique et prendre des mesures pour en assurer le suivi après réception de nos recommandations.

Avis consultatif 2021-02

Envoyez un commentaire public ici.

*Dans ce résumé, Facebook fait référence à la plateforme sociale, tandis que Meta fait référence à l’entreprise qui possède et qui gère Facebook.

Cette demande d’avis consultatif concerne la politique de Meta sur le système cross-checkqui, selon l’entreprise, l’aide à « garantir que la mise en application des Standards de la communauté [de Facebook] est précise et comprend un examen manuel plus poussé ».

Meta a indiqué au Conseil que le système cross-check joue un rôle important dans la protection de l’une de ses valeurs, la « voix », et des droits humains. L’entreprise a également déclaré que le système est essentiel à la gestion des relations avec ses partenaires commerciaux. « La suppression incorrecte d’un contenu publié par une page ou un profil suivi par de nombreuses personnes, par exemple, peut entraîner des expériences négatives à la fois pour les partenaires commerciaux de Facebook et pour le nombre important de personnes qui les suivent. »

Meta a expliqué que « les principaux systèmes d’examen de Facebook utilisent la technologie pour identifier les infractions les plus graves, notamment lorsqu’il s’agit de contenu viral, c’est-à-dire qui se propage rapidement ». Lorsque les systèmes signalent ce type de contenu, les équipes d’examen de Facebook décident si le contenu doit rester sur la plateforme ou être supprimé. Meta a également expliqué que bien que le but soit de « prendre les bonnes décisions, les faux positifs [lorsqu’un contenu conforme est supprimé à tort] sont une possibilité ». Le système cross-check est l’un des systèmes que Meta utilise pour éviter les faux positifs sur Facebook, mais ce n’est pas le seul.

Meta a expliqué qu’avant, le système cross-check de l’entreprise se basait sur des listes de personnes ou d’entités pour lesquelles le risque de faux positif était élevé. Le « risque de faux positif » est la probabilité que des mesures de mise en application soient prises à l’encontre d’un contenu ou d’entités qui n’enfreignent pas réellement les Standards de la communauté de Facebook. Meta tenait compte d’une variété de critères, tels que le type de personne ou d’entité (p. ex. : personnes élues, journalistes, partenaires commerciaux importants, organisations de défense des droits humains, etc.), le nombre de personnes y étant abonnées et l’objet de l’entité. Lorsque des personnes ou des entités de ces listes publiaient du contenu ou entreprenaient des actions qui étaient signalés par les systèmes de Facebook, elles étaient ajoutées à une file d’attente pour passer un examen cross-check.

Début 2020, Meta « a effectué des changements afin que la plupart des contenus de la file d’attente soient classés par ordre de priorité en fonction d’un cadre de risques, qui attribuait aux contenus un niveau de risque de faux positif pouvant résulter si Facebook les supprimait à tort. Ce cadre de risques reposait généralement sur trois facteurs : (1) la sensibilité de l’entité, (2) la gravité de l’infraction présumée et (3) la sévérité de la mesure de mise en application potentielle. En fonction de ces facteurs, le contenu se voyait attribuer l’un des trois niveaux d’examen suivants : faible (examiné par les équipes d’examen sous contrat), moyen (examiné par notre équipe de marché spécialisée dans la région) et élevé (examiné par notre équipe de marché et par l’équipe d’examen anticipé, qui a une expertise plus approfondie des politiques et qui est en mesure de tenir compte d’un contexte supplémentaire). Pour chacun de ces niveaux d’examen, les contenus de la file d’attente étaient classés par ordre de priorité en fonction de la gravité de l’infraction potentielle. »

Ensuite, les équipes d’examen passaient en revue le contenu, déterminaient s’il enfreignait ou non les règles et, le cas échéant, prenaient des mesures à l’encontre de ce contenu. En fonction de la complexité du cas, cet examen pouvait potentiellement remonter jusqu’à la direction de l’entreprise.

Meta a apporté des modifications supplémentaires à son système cross-check en 2021, après avoir effectué une analyse complète du système et identifié des possibilités d’amélioration. Meta a effectué quelques changements, notamment en divisant le système cross-check en deux parties : un « examen secondaire général » et un « examen secondaire anticipé ».

L’examen secondaire anticipé est le système de cross-check de toujours, décrit ci-dessus, et continuera de se baser sur des listes d’entités (personnes, pages, groupes, etc.). Cependant, Meta a modifié le processus de création et de révision des listes cross-check. « Avant septembre 2020, la majorité du personnel pouvait ajouter des personnes ou des entités à la liste cross-check. Mais depuis septembre 2020, bien que tout le monde puisse demander que des personnes ou des entités soient ajoutée aux listes cross-check, seul un groupe déterminé a le pouvoir de les y ajouter. » Le 16 octobre 2021, les listes correspondant à l’examen secondaire anticipé contenaient plus de 660 000 entités. Meta a expliqué que les listes ne sont pas statiques et que des entités peuvent y être ajoutées ou en être supprimées à tout moment.

L’examen secondaire général représente la plus grande partie du système cross-check et continuera d’être développé. Meta vise à rendre le système accessible à toutes les personnes et entités qui utilisent Instagram et Facebook d’ici fin 2021. Dans le cadre de l’examen secondaire général, le contenu sera classé par ordre de priorité via un système dynamique appelé « classement cross-check ». Le « classement cross-check classe le contenu en fonction du risque de faux positif et en se basant sur des critères tels que la sensibilité du sujet (à quel point le sujet est populaire ou sensible), la sévérité de la mise en application (la sévérité de la mesure de mise en application potentielle), la probabilité de faux positif, la couverture prévue et la sensibilité de l’entité (qui se base en grande partie sur les listes décrites ci-dessus). L’examen secondaire général représente la majorité des contenus et des entités vérifiés par le système cross-check.

En développant le classement cross-check, Meta a interrogé 14 parties prenantes internes au sein de ses équipes chargées des opérations, des politiques et des produits, afin de mieux comprendre les risques de mise en application excessive. L’entreprise « a choisi des parties prenantes internes en raison des complications liées à l’explication du fonctionnement de la mise en application, mais envisage d’avoir recours à une participation externe à l’avenir ».

Meta reconnaît que, malgré les ressources importantes qui ont été investies pour améliorer le système cross-check, il est difficile de trouver un équilibre entre supprimer le contenu qui enfreint les règles de Facebook « et veiller à ce qu’il continue de favoriser une communication ouverte et la liberté d’expression ». L’entreprise a posé trois questions au Conseil, que ce dernier a inclus dans son appel aux commentaires publics.

Questions posées au Conseil par Meta :

En tenant compte de la complexité de la modération de contenu à grande échelle, comment l’entreprise Meta peut-elle trouver un équilibre entre son besoin d’appliquer les Standards de la communauté de Facebook équitablement et objectivement et le besoin de flexibilité, de nuance et de décisions spécifiques au contexte dans le cadre du système cross-check ?
Quelles améliorations l’entreprise Meta devrait-elle apporter à la façon dont elle régit le système cross-check d’examen secondaire anticipé pour mettre en application les Standards de la communauté de Facebook équitablement tout en minimisant le risque de mise en application excessive, en restant flexible et en favorisant la transparence du processus d’examen ?
Quels critères l’entreprise Meta devrait-elle utiliser pour déterminer qui est inclus dans l’examen secondaire anticipé et ce qui est considéré comme un facteur prioritaire afin de garantir que l’accès à ce système et sa mise en œuvre soient équitables ?

Le Conseil sollicite des commentaires publics sur les questions suivantes :

Le système cross-check est-il nécessaire et renforce-t-il ou compromet-il la liberté d’expression ou d’autres droits humains ?
Le système cross-check est censé prévenir les « faux positifs ». Quels sont les poids et contrepoids, le cas échéant, dont ce système devrait tenir compte pour atténuer les risques de « faux négatifs » [lorsque aucune mesure n’est prise à l’encontre d’un contenu en infraction] ?
Des recommandations sur ce que Meta devrait faire pour s’assurer que le système cross-check, y compris son processus de signalement, est neutre et libre de toute inclination politique ou autre.
Quels facteurs l’entreprise Meta doit-elle intégrer à son système de « classement cross-check » en plus de la sensibilité du sujet, de la sévérité de la mise en application, de la probabilité de faux positif, de la couverture prévue et de la nature et l’importance de l’entité ? Comment ces facteurs doivent-ils être définis ?
Les avantages et les limites des technologies automatisées utilisées pour examiner les infractions les plus graves en priorité.
Des informations sur la façon dont le système cross-check peut être amélioré pour les personnes et les entités qui ne publient pas en anglais.
Des informations sur des systèmes similaires au système cross-check utilisés par d’autres plateformes sociales et les leçons apprises qui peuvent être applicables à Meta.
Comment l’entreprise Meta peut-elle améliorer la transparence du système cross-check ?
Quelles recherches et ressources supplémentaires l’entreprise Meta devrait-elle consacrer à l’amélioration du système cross-check ?

Commentaires publics

Une partie importante du processus de développement d’un avis consultatif par le Conseil consiste à recueillir des informations et une expertise supplémentaires auprès d’individus et d’organisations. Ces contributions permettront aux membres du Conseil de mieux connaître et comprendre la manière dont les politiques de Meta affectent les différentes personnes à travers le monde.

Si vous ou votre organisation pensez que vous pouvez apporter un point de vue intéressant dans le cadre de cette demande d’avis consultatif, vous pouvez envoyer vos contributions ici.

Les commentaires publics pour cette demande d’avis consultatif sur le système cross-check seront ouverts jusqu’au vendredi 14 janvier 2022 à 15 h 00 UTC.

Le processus d’avis consultatif n’étant pas soumis aux mêmes contraintes de temps que les décisions sur les cas, ce délai est plus long que celui réservé aux commentaires publics sur les nouveaux cas. De plus, les commentaires publics peuvent occuper jusqu’à six pages et être présentés dans n’importe quelle langue disponible sur le site web du Conseil afin d’encourager une plus large participation sur les questions soulevées. La liste complète des langues est disponible en cliquant sur le lien ci-dessus.

Comment le Conseil répond-il à une demande d’avis consultatif ?

1.Le Conseil accepte la demande d’avis consultatif de Meta

Les demandes d’avis consultatif envoyées au Conseil par Meta sont adressées à l’un·e de ses quatre co-président·es. Le co-président ou la co-présidente rédige alors une note résumant les principales problématiques abordées pour l’ensemble des membres du Conseil. En fonction de cela, les membres du Conseil choisissent d’accepter ou de refuser la demande de Meta.

2.Le comité développe des options de politiques

Si le Conseil accepte la demande, le co-président ou la co-présidente forme un comité composé d’au moins cinq membres du Conseil. Les membres du Conseil ayant des connaissances particulières ou un intérêt en la matière sont tout spécialement invités à se porter volontaires. S’il manque des membres dans le comité, ces derniers sont désignés au hasard parmi les membres du Conseil qui n’en sont pas des co-président·es, en veillant à assurer l’équilibre entre les genres.

Après avoir nommé un rédacteur ou une rédactrice, le comité décide des informations supplémentaires à demander à Meta et des recherches à réaliser par l’administration du Conseil de surveillance, puis organise la participation des parties prenantes. Après avoir reçu les réponses de Meta à ses questions et les contributions de l’administration et des parties prenantes externes, le comité rédige des options de politiques à soumettre au Conseil.

3. Le Conseil délibère et formule des recommandations

L’ensemble des membres du Conseil participent aux délibérations sur ces options de politiques. En se basant sur ces délibérations, le rédacteur ou la rédactrice prépare un avis consultatif comprenant des recommandations détaillées pour Meta. Les membres du Conseil le commentent et proposent des modifications.

4.L’avis consultatif est approuvé et publié

L’avis consultatif est distribué à la totalité des membres du Conseil, qui l’approuvent ou le rejettent à la majorité des voix. En cas d’approbation, l’avis consultatif est publié sur le site web du Conseil et Meta doit y répondre. En cas de rejet, les co-président·es du Conseil discutent des raisons qui ont motivé ce dernier et déterminent la marche à suivre.

Et ensuite ?

Le Conseil a accepté cette demande d’avis consultatif et recueille les informations nécessaires, notamment via l’appel aux commentaires publics qui a été lancé aujourd’hui.

En juin, nous avons accepté une autre demande d’avis consultatif concernant le partage d’informations privées sur le lieu de résidence. Nous publierons cet avis au début de l’année prochaine.

Retour Aux Actualités