LE PARC MENLO

EN NOVEMBRE 1999, l’Internet Corporation for Assigned Names and Numbers (ICANN), qui supervise le carnet d’adresses du Web, a tenu sa première réunion annuelle. Deux décennies plus tard, le monde en ligne fait face à un autre moment constitutionnel, dirigé cette fois par une entreprise qui a profité de la formidable croissance d'Internet – et qui est blâmée pour bon nombre de ses maux, des atteintes à la vie privée à la propagation de la désinformation. Le 28 janvier, Facebook a dévoilé un projet de règlement intérieur de ce qu’il appelle un «conseil de surveillance»: un groupe indépendant d’experts chargé de réviser – et de renverser – les décisions de l’armée des modérateurs de contenu de l’entreprise. Le plus grand conglomérat de médias sociaux du monde espère que le corps sera opérationnel dans quelques mois.

Certains espèrent que l'entité deviendra un médiateur en ligne – peut-être même une «cour suprême» pour d'autres grandes plateformes Internet occidentales – pour superviser non seulement la modération du contenu, mais la collecte de données et la conception d'algorithmes. Pour d’autres, il ne s’agit que de la feuille de vigne de Facebook: une tentative d’anticiper une véritable réglementation et de rejeter la responsabilité des publications controversées. Que devraient en faire les utilisateurs, les régulateurs et les investisseurs?

Le conseil d'administration ressemble certainement à un sérieux effort de renforcement des institutions – quelque chose «qu'aucune entreprise n'a jamais fait auparavant», selon les mots de Kate Klonick de la St. John's University School of Law de New York, qui a été autorisée à jouer à voler sur le mur au fur et à mesure que les contours du tableau étaient dessinés. Facebook a embauché une équipe (majoritairement féminine) de 12 personnes, pour la plupart des avocats, pour superviser la création de l'organisme de surveillance. Certains travaillaient à la Maison Blanche et à l'ONU; d'autres provenaient d'entreprises de médias et de consultants. Au cours de la dernière année, ils ont sollicité l'avis de plus de 2 500 personnes dans une soixantaine d'ateliers à travers le monde.

Le résultat est unique: une sorte de démarrage réglementaire. Le conseil aura son propre personnel de 30 à 40 personnes, son budget (Facebook a affecté 130 millions de dollars sur six ans) et une fiducie pour tout gérer. Facebook nommera les trois premiers coprésidents, qui recruteront ensuite d'autres membres (pour un total de 40 membres, chacun pour un mandat de trois ans renouvelable deux fois). Le conseil aura son propre site Web pour recevoir et examiner les appels. Ceux-ci peuvent être déposés par les utilisateurs de Facebook (ainsi que Instagram, son application de partage de photos) qui sentent que leur message a été injustement supprimé et non restauré. Si l'entreprise elle-même a du mal à décider de restaurer ou non le contenu, elle peut également déposer des «demandes d'urgence».

Chaque soumission déclenche un processus de 90 jours. Les demandes d'urgence seront traitées plus rapidement: dans 30 jours. Si la commission accepte d'entendre une affaire, un groupe de cinq membres (qui doit rester anonyme pour des raisons de sécurité) consulte des experts et prend une décision, qu'elle doit présenter en langage clair. Facebook a une semaine pour se conformer à une décision (et peut l'appliquer au même contenu ailleurs sur le réseau). Le conseil d'administration peut également faire des «recommandations politiques», telles que la modification des «normes communautaires» de Facebook. Bien que non contraignante, l'entreprise devra s'expliquer publiquement si elle choisit de les ignorer.

Les nerds de la gouvernance d'Internet ont beaucoup de questions. Les utilisateurs et les autorités jugeront-ils le forum légitime? Beaucoup dépendra de la diversité géographique et biographique de ses premiers membres, estime Mme Klonick. Aura-t-il la capacité de traiter les appels? Le conseil d'administration ne devrait pas prendre en compte plus de quelques dizaines de cas par an, contre 3,4 millions de publications que Facebook a refusé de restaurer au seul premier trimestre de 2019 (sans compter le spam: voir le graphique). Certains craignent que Facebook puisse l'inonder de demandes d'urgence pour distraire celles qui dérangent de l'entreprise.

Le plus important de tous, à quel point Facebook sera-t-il puissant et indépendant? Et comment cela affectera-t-il les activités de l'entreprise? La réponse aux deux est: pas grand-chose pour l'instant. Les décisions du conseil ne seront pas basées sur les lois du monde réel mais sur les normes communautaires, qui sont vagues. Initialement, il décidera uniquement si des photos et des publications individuelles auraient dû être retirées, bien que la société promette d'étendre le champ du conseil à des pages et des groupes Facebook entiers et également si certaines publications devraient être publiées en premier lieu, une fois l'infrastructure technique mise en place. en place. Si cela rend le réseau social plus salubre, cela pourrait attirer davantage d'annonceurs d'entreprise, la source des bénéfices de Facebook.

Les choses se compliqueraient si le conseil d'administration avait son mot à dire sur la façon dont Facebook collecte des données ou conçoit des algorithmes. L'entreprise n'exclut pas cette possibilité. Mais Nathaniel Persily, de la Stanford Law School, fait valoir que l'élargissement trop rapide, trop rapide du mandat du conseil d'administration pourrait être difficile. Il observe qu'à la différence du contenu, aucun modèle judiciaire éprouvé n'existe pour réviser les algorithmes. Plus cyniquement, Dipayan Ghosh de l'Université de Harvard, qui a déjà travaillé chez Facebook, doute que l'entreprise accepterait jamais des limites sur les données qu'elle recueille ou sur le contenu que ses algorithmes affichent dans le fil d'actualité Facebook.

La dernière série d'inconnues concerne la réaction des autres, notamment les gouvernements et les plateformes rivales. Si Big Tech accepte l'invitation de Facebook à s'inscrire à sa création, elle pourrait en effet devenir une cour d'appel pour le cyberespace. Cela semble peu probable à court terme: pourquoi un Google laisserait-il quelqu'un d'autre lui lier les mains? Certains gouvernements, pour leur part, peuvent considérer le conseil d'administration comme étant en concurrence avec les efforts officiels de réglementation de la parole en ligne. Cependant, les deux pourraient encore trouver l'entité naissante utile: un complément à l'action du gouvernement et, si la pression sur les entreprises Internet pour modérer les montages de contenu, un substitut aux organismes dont ils auraient autrement besoin de se réunir.

Beaucoup dépend de la façon dont l'entité naissante se révèle dans la pratique. Cela prendra du temps à évaluer. Même 20 ans après sa naissance, l'ICANN est un travail en cours; il suffit de regarder la controverse sur la vente potentielle de 1 milliard de dollars de .org, un domaine principalement utilisé par les organisations caritatives, à une société de capital-investissement. À une époque où Internet est déchiré entre ses racines non commerciales et son présent hyper-commercial, l'expérience de Facebook mérite d'être poursuivie.

Correction (29 janvier 2020): Une version antérieure de cet article avait laissé entendre que la vente potentielle de .org avait déjà eu lieu. En fait, il est toujours en attente.