ON LA NUIT du 30 août, peu après ZAO—Une application dont le nom signifie “faire” —a été lancée, elle s'est révélée si populaire que ses serveurs se sont écrasés. Presque aussi rapidement, une réaction soudaine de la part de ses nombreux fans l’a presque annulée. Les médias technologiques et les internautes méticuleux qui ont passé en revue les termes de son contrat d'utilisation ont constaté qu'en s'inscrivant, les utilisateurs avaient ZAO Droits «totalement gratuits», «irrévocables» et «perpétuels» sur tout le contenu téléchargé sur sa plateforme.
Des commentaires furieux ont inondé l’app store d’Apple en Chine, où ZAO est maintenant classé un maigre deux étoiles sur cinq. (Cela ne l’empêche pas de devenir l’application gratuite la plus téléchargée de Chine dans le magasin.) WeChat, une application chinoise dominante – toujours impatiente de la coller à un rival potentiel – bloquée ZAO les liens ne peuvent pas être partagés sur son service de messagerie, invoquant des "risques de sécurité". ZAO rapidement supprimé la clause incriminée. Le 3 septembre, il a présenté ses excuses aux utilisateurs et s'est engagé à protéger leurs données personnelles «de toutes les manières possibles».
Les utilisateurs d’Internet chinois en liberté transmettent une foule d’informations précieuses aux applications d’arrachage des données du pays. Un rapport publié le mois dernier par un groupe de réflexion chinois sur la cyber-sécurité a révélé que 1 000 des applications mobiles les plus téléchargées du pays accumulent en moyenne 20 types de données provenant de chaque utilisateur. Celles-ci incluent souvent des journaux d'appels et des vidéos sans pertinence évidente pour les applications elles-mêmes. Et la notion de confidentialité numérique semble presque pittoresque face au vaste appareil de collecte de données d'un État autoritaire qui considère le consentement du public comme facultatif au mieux.
Alors pourquoi ZAO frapper un nerf? Une des raisons est qu’elle semble appartenir à une nouvelle génération d’applications générant des «deepfakes», des créations informatiques qui utilisent l’intelligence artificielle pour traiter des séquences vidéo. Une forme consiste à coller un visage sur le corps de quelqu'un d'autre – en ZAO'S offre alléchante, votre kisser peut être cousu sur la silhouette svelte d’un acteur ou une actrice dans un film à succès ou un drame de télévision.
Jusqu'à récemment, de telles fausses avaient nécessité des centaines d'images pour créer un clip convaincant. Mais la technologie deepfake s'est rapidement améliorée. ZAOL’affirmation gagnante est que, comme le promet son slogan, il suffit d’une seule photo pour figurer dans toutes les émissions du monde. Mais pour le meilleur résultat, ZAO nécessite une cartographie faciale précise, que les utilisateurs peuvent alimenter dans l'application en suivant des invites pour cligner des yeux et bouger leur bouche.
Quand ZAOLes conditions de service étant claires, de nombreux utilisateurs ont été alarmés par l’idée que ces données biométriques soient utilisées à mauvais escient. La vérification faciale est largement testée en Chine: payer dans les supermarchés, franchir les portes des gares et même retirer de l’argent. Le 1er septembre, Alipay, une grande application de paiement, assurait aux utilisateurs que «les images créées à l'aide d'applications échangeant la face, si réalistes soient-elles, ne peuvent tromper notre système». Le gouvernement a également pris note. Le 4 septembre, il a convoqué Momo, un géant chinois de l'application de rencontres lié à ZAO, s’expliquer et a lancé une enquête sur les «problèmes de sécurité des données» de la société.
La réaction de l’État poursuit la répression qu’elle a entamée en janvier contre la collecte non consensuelle de renseignements personnels (par des entreprises privées). Les citoyens sont de plus en plus inquiets à propos de la fraude en ligne. Plus de quatre cinquièmes des personnes interrogées lors d’une enquête menée l’année dernière par l’Association des consommateurs de Chine ont déclaré avoir été victimes d’un vol de données. Dans un cas inhabituel, en mai, un homme de la province de Jiangxi a poursuivi Tencent, le géant de l'internet derrière WeChat, pour avoir partagé ses données personnelles sur ses nombreux services sans son approbation. Le tribunal s’est prononcé en faveur du demandeur et a ordonné à Tencent de mettre fin à cette pratique.■
