VÉRIF’ – Peut-on vraiment se faire usurper ses données biométriques en envoyant une photo de sa main à ChatGPT ?

• Un internaute s’est amusé à demander au robot conversationnel ChatGPT de lire les lignes de sa main, à partir d’une photo de sa propre paume.
• Mais sur X, des utilisateurs alertent sur un risque d' »usurpation biométrique », si l’image de ses empreintes digitales venait à fuiter.
• Un tel scénario est-il crédible ? Les Vérificateurs font le point.

Des données cruciales délivrées… lors d’une simple séance de chiromancie ? Sur X (nouvelle fenêtre), un internaute a expliqué dimanche 26 avril avoir demandé au générateur d’images de ChatGPT (nouvelle fenêtre), Image-2, de lire les lignes de sa main, photo à l’appui. Sur un visuel léché, le robot conversationnel le décrit comme un « un idéaliste pragmatique, doté d’une forte volonté et d’un cœur loyal ». « Il faut absolument que vous essayiez ça », se réjouit le compte, un message en anglais visionné plus de 7,5 millions de fois. Mais son enthousiasme a vite été douché par d’autres utilisateurs.

« Le fait de télécharger des photos de la paume de la main sur des outils d’IA permet de partager des empreintes digitales exploitables, extractibles », met ainsi en garde une note de communauté. « S’il vous plaît, ne faites pas ça !! Tout cela est très amusant jusqu’à ce que vous réalisiez que vous venez de télécharger une carte biométrique haute résolution de votre main sur un serveur tiers », alerte même un autre utilisateur (nouvelle fenêtre), estimant que la démarche revient à « céder » ses « données biométriques ».

Les empreintes, des données biométriques « sensibles »

Selon ce compte, qui se présente comme un « chercheur en sécurité », le risque serait que cette image soit utilisée pour « entraîner des systèmes d’authentification non autorisés », ce qui permettrait de créer une « clé d’une usurpation biométrique ». « Quelqu’un pourrait les utiliser pour contourner les écrans de verrouillage, approuver des paiements frauduleux ou s’introduire dans des lieux équipés de scanners de géométrie de la main », résume-t-il. Mais ce risque est-il réellement avéré ? 

Précisons tout d’abord qu’une image de main présente bien des empreintes digitales, qui sont des données biométriques, une caractéristique physique ou biologique qui permet d’identifier un individu. Et ces données sont effectivement « sensibles », « car elles ont la particularité d’être uniques et permanentes », nous confirme la Commission nationale de l’informatique et des libertés (Cnil), pour qui « il est donc essentiel de les protéger ». Le règlement général sur la protection des données (RGPD) (nouvelle fenêtre) européen interdit d’ailleurs leur traitement, à de rares exceptions près.

Ces données sont en effet particulièrement convoitées. « Il est possible de réaliser un moule, par exemple en silicone, afin de faciliter la création d’une réplique » d’une empreinte récupérée, alertait l’an passé un rapport d’Europol (nouvelle fenêtre). Mais dans le cas de ChatGPT, ces photos présentant des empreintes pourraient-elles vraiment se retrouver dans la nature ? 

Des failles techniques… pas vraiment exploitables ?

Interrogée sur ses mesures de sécurité, la société OpenAI, qui développe le robot conversationnel, n’est pas revenue vers nous. Sa politique de confidentialité pour l’Europe (nouvelle fenêtre) précise toutefois collecter des « données à caractère personnel » fournies par les utilisateurs, dont des « images ». Des escrocs pourraient-ils réellement mettre la main sur ces données ? Selon des experts interrogés, deux scénarios à risque peuvent se dessiner. Le premier, le plus simple, est celui d’un piratage des données stockées par ChatGPT, dont des photos. « Ces acteurs ont quand même une sécurisation qui est de haut niveau, mais rien n’empêche une fuite », met en garde le professeur Mathieu Cunche, enseignant-chercheur à l’INSA-Lyon. 

Le second, plus complexe, repose sur le fonctionnement lui-même des robots conversationnels : les contenus injectés par les utilisateurs sont utilisés pour entraîner leurs propres modèles (nouvelle fenêtre). Potentiellement, une image de main réelle fournie par un internaute pourrait donc être utilisée pour aider à générer artificiellement une autre image de main. Mais en cas d’attaque ou d’erreur, le risque est que l’image générée soit quasi-similaire à la photo initiale, un phénomène appelé « régurgitation ». 

« Normalement, le modèle génère une image de main complètement inventée, à partir d’une moyenne de photos collectées », détaille Thibaut Hénin, expert judiciaire spécialisé en cybersécurité. « Mais s’il fait du surapprentissage, il pourrait parfois ressortir presque exactement une photo qu’il aurait déjà vue, comme s’il faisait du par cœur. » 

Il faut toutefois que le modèle parvienne à régénérer exactement les empreintes digitales, et rien n’est moins sûr, selon le spécialiste. De manière générale, que les images soient piratées et régénérées, il faut que la photo soit de suffisamment bonne qualité et non compressée pour que les empreintes puissent être décelables. « Il faudrait vraiment que la définition soit très, très précise », insiste-t-il. Il serait également nécessaire de pouvoir détecter la forme des veines, caractéristique qui peut aussi être utilisée pour l’authentification biométrique. 

Par ailleurs, même si la définition de l’image est haute, encore faut-il que l’escroc qui s’en empare sache réellement à qui cette main appartient. « Le modèle peut lier une photo à un compte, mais il n’est pas dit que ce soit une photo de vous. Il faudrait indiquer son nom à plusieurs reprises au moment de l’envoi de la photo pour que le système fasse le lien », explique Thibaut Hénin. Dans sa politique de confidentialité, OpenAI assure ainsi « agrég(er) ou anonymis(er) […] les données à caractère personnel afin qu’elles ne permettent plus de vous identifier (nouvelle fenêtre)« . 

Bref, « il y a tellement de si dans l’équation, autant jouer au Loto », résume l’expert judiciaire, pour qui le risque est donc « théoriquement possible mais pratiquement très improbable ». À son sens, confier à ChatGPT une photo de sa main de basse qualité, prise de loin et sans mentionner son nom ne représente donc pas de danger particulier. Même si en général, « il vaut mieux éviter de disséminer des données sur soi sur Internet ». 

« On n’est jamais trop prudent » : une prise de risque inutile ?

D’autres experts appellent toutefois à ne pas tenter le diable. La Cnil nous confirme que la réutilisation de données personnelles en général par les IA génératives « est aujourd’hui quasi-exclusivement » dédiée à « permettre le développement de futurs modèles ». Ces données « ne doivent donc normalement pas être utilisées pour réidentifier des personnes », mais ces sociétés « connaissent par ailleurs elles aussi des violations de données, et l’anonymisation des données conservées est parfois toute relative », insiste le gendarme public de la protection des données.

« Il convient donc d’être prudents comme avec tout partage de données », exhorte-t-il, en encourageant les internautes à s’opposer à la réutilisation de leurs données (nouvelle fenêtre) pour l’entraînement des robots conversationnels, et à utiliser ces derniers sans compte ou en mode « incognito ». Certains chercheurs se montrent ainsi particulièrement dubitatifs sur les promesses d’anonymisation. « On n’a pas encore assez de recul sur le sujet », appuie Mathieu Cunche. « Plus on avance dans la recherche, plus on met en évidence des problèmes d’extraction d’informations personnelles, individuelles, à partir de ces modèles. » 

Quant aux limites techniques, le chercheur invite à ne pas sous-estimer les évolutions technologiques des années à venir, y compris sur la détection d’empreintes sur les photos. « Il faut avoir une forme d’anticipation : des données qui fuitent aujourd’hui pourraient peut-être être exploitables dans dix ans », insiste-t-il, recommandant aussi de ne pas transmettre à ChatGPT (nouvelle fenêtre) d’autres données biométriques, via des photos de son visage ou de ses yeux. « On n’est jamais trop prudent. »

En résumé, des données biométriques peuvent être récupérées en cas de piratage ou de problème lors d’une génération d’image, mais plusieurs obstacles techniques rendent leur exploitation difficile pour l’heure. Pour certains spécialistes, l’envoi d’une photo de mauvaise qualité de sa main ne représente donc pas de grand danger, mais pour d’autres, mieux vaut ne pas prendre le risque. De son côté, la Cnil « déconseille » de manière générale de transmettre des données personnelles aux IA génératives, « a fortiori si elles sont sensibles », et invite à se contenter du « strict minimum d’informations nécessaires pour obtenir une réponse » lors de ses échanges avec le robot conversationnel.