Le Conseil de surveillance de Facebook a récemment publié ses premières décisions sur certains «cas» de modération de contenu, et est en train de décider de permettre à l’ancien président Donald Trump de revenir sur la plateforme de médias sociaux. Le Conseil de surveillance, bien que quelque peu unique dans l’écosystème de modération de contenu en ligne, fait partie d’un écosystème complexe de choix et d’actions institutionnels et juridiques. Le Conseil d’administration, bien que chargé de critiques intenses et légitimes, peut encore livrer quelques points à retenir pour les décideurs: la coopération est importante, et les appels et les processus de gouvernance privée peuvent être encore plus importants.
Le tableau
L’idée derrière cette institution de gouvernance privée unique à entreprise unique est apparue pour la première fois en 2018, au milieu d’autres appels à externaliser les décisions de contenu, en tant que «Cour suprême» qui serait le dernier mot sur les questions de contenu. Le géant des médias sociaux n’a épargné aucune dépense pour essayer de rendre les consultations mondiales aussi ouvertes et inclusives que possible. Le processus a également bénéficié d’au moins deux séries de contributions de spécialistes dans une grande variété de disciplines (l’auteur était à l’une de ces réunions) et avec une perspective très diversifiée sur l’entreprise elle-même. La juriste Kate Klonick a fourni un examen et des conseils approfondis, relatant également l’expérience pour le magazine The New Yorker.
Bien qu’apparemment participative, l’opération de création du Board a quand même produit une structure plus proche des besoins de Facebook: externaliser la prise de décision ultime sur les cas difficiles, tout en conservant le pouvoir nettement plus conséquent de décider uniquement des politiques de modération de contenu. Le Conseil de surveillance serait entièrement construit en dehors de Facebook, avec des membres indépendants choisis dans le monde entier pour statuer sur un petit nombre d’affaires. Le résultat des cas serait, dans les limites de la faisabilité technique, contraignant pour l’entreprise technologique. Cependant, le rôle du conseil d’administration dans l’offre de recommandations politiques, un contrôle important et légitime du pouvoir de Facebook, est resté consultatif et structurellement incertain.
Alors que le déploiement de la structure, des statuts et des membres se poursuivait en 2019 et 2020, la communauté générale des militants, défenseurs et universitaires impliqués ne s’est pas sentie à l’aise avec le Conseil, ce qui a conduit à un accueil mitigé. Certains avaient exprimé dès le départ des critiques constructives fondamentales. D’autres, se concentrant sur les bourses de gouvernance juridique plutôt que privée, ont initialement adhéré au cadre général proposé par Facebook, vantant le travail acharné de l’équipe, son historique légal importance, et offrant de légères critiques. Un groupe de critiques par ailleurs remarquables a créé des cascades de relations publiques comme le «Real Oversight Board» dont le véritable pouvoir sur les actions de Facebook est encore moindre que le véritable Conseil de surveillance. Pendant ce temps, ceux qui ont rejoint le conseil d’administration de Facebook avec enthousiasme, mais à tort, ont laissé entendre que leur pouvoir de décision sur l’entreprise était définitif.
Le Conseil décidera prochainement du sort de l’ancien président sur la plateforme, mais il a déjà rendu ses décisions sur un premier lot des cas initialement choisis, certains plus controversés que d’autres. S’appuyant sur le droit international des droits de l’homme et sur l’expertise de ses membres, les décisions ont été prises avec un immense soin, ont bénéficié d’une expertise externe et ont inclus des connaissances locales, tout en s’attaquant également au conflit entre les droits à la parole et les dommages potentiels qui en découlent. En dehors des choix réels effectués, les membres ont pris leur rôle très au sérieux et ne sont pas simplement un tampon sur les décisions de modération de Facebook, mais en fait vraiment indépendants.
Quels que soient les choix opérés et ce que nous ressentons à leur sujet, la préoccupation sous-jacente à cet organe pseudo-judiciaire privé va au-delà des décisions elles-mêmes ou de l’indépendance des membres: malgré l’engagement de Facebook de faire respecter les publications au «contenu identique dans un contexte parallèle», les nuances exprimées sont difficiles à traduire en soi-disant jurisprudence. Les «juridictions inférieures» qui trancheraient d’autres affaires sont soit des algorithmes dépourvus de contexte, soit des personnes surchargées de travail et sous-payées qui prennent quelques décisions chaque minute, souvent également dépourvues de contexte local et ne bénéficiant pas de conseils d’experts externes. À l’inverse, ces décisions et celles à venir peuvent influencer considérablement la conversation en dehors de Facebook. Le Conseil pourrait même alimenter des changements sur d’autres plateformes de médias sociaux étant donné la légitimité accordée par ses membres, une prise de décision approfondie et une attention médiatique démesurée. En fait, le désir de s’étendre à d’autres entités plus loin, initialement une proposition de Facebook, a maintenant atteint les membres du conseil eux-mêmes, tout en restant fermement opposé par les experts en politique de modération.
À emporter
La coopération est nécessaire
La complexité des décisions sur la parole ne peut être illustrée plus clairement que lorsqu’un organe délibérant d’experts renommés du monde entier, ayant accès à des ressources pratiquement illimitées et grâce à un processus approfondi, trouve une solution facile à critiquer sur le fond. Et cela ne prend pas en compte les préoccupations générales concernant la structure, le rôle, le pouvoir et l’objectif final de l’entreprise. Le mantra de Facebook a longtemps été qu’ils ne sont pas et ne devraient pas être «l’arbitre de la vérité», qui a été accueilli avec des listes détaillées d’exemples lorsqu’il en a agi comme un. Pendant ce temps, le gouvernement américain, limité par le premier amendement, n’est ni capable ni toujours disposé à prendre des décisions difficiles sur la parole en dehors de ce qui est et n’est pas légal, et souvent les deux vitesses de réforme proposée sont la capture réglementaire ou l’animosité contradictoire.
Bien que les alternatives radicales soient légitimes, le point de départ de la conversation sur la modération du contenu semble être que ces plates-formes ont un rôle dans la société. L’apparente intraitabilité des choix de discours devrait alors inciter les parties prenantes à collaborer afin de faire avancer le problème. Loin de proposer ce que d’autres ont appelé la «cartellisation», la coopération en matière de modération de contenu peut conduire à une compréhension mutuelle entre le gouvernement, la société civile et les plateformes, des actions complémentaires et potentiellement un environnement en ligne moins toxique.
Les processus d’appel sont importants
Bien que la structure du Conseil reflète un système judiciaire d’appel, il lui manque des caractéristiques importantes telles que la légitimité institutionnelle, une constitution et des branches égales de gouvernement. Cependant, les appels eux-mêmes sont de plus en plus des outils utilisés par les décideurs politiques, en particulier dans l’UE pour la loi sur les services numériques, pour garantir une meilleure protection des droits des utilisateurs. Les Principes de Santa Clara comptent les appels comme l’un des trois piliers fondamentaux de la transparence et de la responsabilité. Solution insuffisante mais nécessaire, les appels devraient se trouver dans la boîte à outils des régulateurs et des plateformes.
Une bonne gouvernance privée peut fonctionner
L’affaire du Conseil de surveillance pourrait se terminer comme une mise en garde contre la gouvernance privée: une grande entreprise prospère met en place un pseudo-judiciaire avec des pouvoirs limités pour éviter la réglementation tout en essayant simultanément de façonner toute réglementation potentielle pour le reste de l’industrie. Cependant, les plates-formes effectuent déjà des «commandes privées» via leurs conditions de service. De plus, leurs actions sur la parole, au sein d’un écosystème complémentaire, constituent des choix de gouvernance. La création de systèmes de gouvernance privée qui institutionnalisent et rendent visibles les actions et les politiques qui les sous-tendent, et les soumettent à des changements potentiels, ne devrait pas susciter de controverse. La gouvernance privée, à l’échelle de l’industrie avec des garde-corps appropriés, la transparence et l’inclusion d’autres parties prenantes pourraient conduire à des solutions que le gouvernement américain ne peut légiférer mais pourrait encourager.
Facebook est un donateur général et sans restriction de la Brookings Institution. Les résultats, interprétations et conclusions de cet article sont uniquement ceux de l’auteur et ne sont influencés par aucun don.
