Une importante faille de sécurité a été détectée dans le code de Microsoft 365 Copilot, l’IA intégrée à la suite bureautique 365, très utilisée dans le monde. Celle-ci aurait pu permettre à des acteurs mal intentionnés d’accéder aux données de nombreux usagers et de leurs entreprises, a révélé le cabinet de cybersécurité Aim Security dans une publication datée du mercredi 11 juin.
Microsoft a été prévenu plusieurs mois en amont afin de pouvoir colmater la brèche, et, selon l’éditeur, aucun client n’a été affecté par des fuites d’informations, rapporte le média américain Fortune. Même si, selon la firme de cybersécurité Aim Security, parmi les entreprises qui utilisaient Copilot, beaucoup étaient théoriquement vulnérables à cette faille particulièrement retorse, car elle ne nécessitait aucune action de la part de sa victime : l’attaque se déclenchait automatiquement à la réception d’un courriel dans Outlook, le logiciel de messagerie de 365.
Lors de tests en laboratoire, Copilot a parcouru le courriel infecté des chercheurs d’Aim lors de son scan routinier des courriels. Celui-ci contenait une consigne (ou « prompt ») formulée habilement par les chercheurs d’Aim lui ordonnant de fouiller les informations qui lui étaient accessibles, à la recherche de données sensibles. Dans certaines sociétés, la quantité d’informations accessibles à Copilot est importante, car elles l’autorisent à explorer de vastes bases de données d’entreprise, ainsi que les informations personnelles de leurs employés, afin de pouvoir répondre à chaque utilisateur de façon plus pertinente. Pour les chercheurs d’Aim, il ne restait plus alors qu’à exfiltrer ces données vers un site externe, celui de l’attaquant, en mettant en liaison Copilot avec un serveur de Microsoft, auquel était confié ce transfert.
D’après Aim, ce type d’attaque d’un genre nouveau (les chercheurs parlent d’une LLM scope violation, ou « violation du périmètre d’action du LLM ») passe outre les garde-fous habituellement déployés par les éditeurs. Il pourrait en outre concerner d’autres IA génératives que Copilot.
