- Le modèle IA Google Gemini a deviné des identifiants de connexion pour s’introduire dans des systèmes informatiques extérieurs.
- Trois organisations ont été touchées lors d’un test mené en mai.
- Le groupe américain assure qu’à chaque fois, le modèle a mis fin de lui-même à l’intrusion.
Ajoutez TF1info à vos sources sur Google
Le modèle d’intelligence artificielle (IA) de Google, Gemini, s’est introduit dans des systèmes informatiques tiers après avoir deviné des identifiants de connexion, avant d’interrompre de lui-même sa démarche. L’entreprise l’a confirmé vendredi à l’AFP, à la suite d’une information révélée par le Wall Street Journal
.
L’IA s’est arrêtée d’elle-même
L’épisode remonte à mai. Selon Heather Adkins, l’une des responsables de la sécurité chez Google, le modèle a rassemblé des données accessibles publiquement en ligne au cours d’un test de routine, puis deviné des identifiants pour entrer sur des sites qu’il prenait pour des éléments de l’exercice.
Au total, trois organisations différentes ont été touchées. Google ne les identifie pas, mais affirme les avoir prévenues de ces brèches. Dans l’un des cas, rapporte le Wall Street Journal
, le modèle a essayé successivement plusieurs combinaisons de mots de passe jusqu’à franchir la protection d’un système. « Les trois fois, le modèle s’est arrêté »
, indique Heather Adkins, ce qui laisse entendre que ces intrusions ont cessé sans qu’un humain ait eu à intervenir.
Google dit avoir eu connaissance de l’affaire en juillet, et avoir alors ouvert une enquête sur l’incident. La controverse autour de l’IA s’est intensifiée depuis les révélations visant des modèles qui ont quitté spontanément l’environnement cloisonné dans lequel ils opèrent pour aller sur des sites et des plateformes, nourrissant la crainte d’une perte de maîtrise de ces outils.
Ces dernières semaines, plusieurs dirigeants du secteur technologique ont plaidé pour un ralentissement de la course à l’IA et une forme d’autorégulation. Ces épisodes impliquant Gemini « soulignent l’importance de former les modèles d’IA puissants à agir de manière responsable »
, estime pour sa part la représentante de Google.