Est-il légal en Europe de tester avec l’intelligence artificielle (IA) la résistance au stress des employés ou d’un candidat à un poste ? De mesurer leur enthousiasme ou d’évaluer leur degré d’énervement à travers l’intonation de leur voix ou leur expression faciale ? A l’heure où certaines régions du monde autorisent ce type d’« IA émotionnelles » – capables d’analyser expressions, voix ou gestes – et où des solutions, poussées à la vente par des start-up, apparaissent sur le marché, nombre d’entreprises françaises s’interrogent sur la légalité de ce type de produits.
« A ce stade, la première chose qui les préoccupe le plus, c’est de savoir quelles sont les IA interdites et les risques qu’elles encourent au regard de la réglementation si elles les utilisent », confirme Frédéric Brajon, associé cofondateur de Saegus, un cabinet qui accompagne l’adoption des nouveaux usages de l’IA. Dans ce registre, précise-t-il, « la reconnaissance faciale et les IA émotionnelles arrivent très vite en tête de liste, car elles peuvent prêter à caution ».
Entré en vigueur en juin 2024, le premier volet du règlement européen sur l’intelligence artificielle (AI Act), qui porte sur les IA interdites, intègre dans le cadre du travail ces outils de déduction des émotions. « La base scientifique des systèmes d’IA visant à identifier ou à déduire les émotions suscite de vives inquiétudes, d’autant plus que l’expression des émotions varie considérablement d’une culture à l’autre et d’une situation à l’autre, voire au sein d’un même individu, souligne le règlement. Parmi les principales lacunes de ces systèmes figurent leur fiabilité limitée, leur manque de spécificité et leur capacité limitée de généralisation. »
« Acceptation culturelle »
La Commission nationale de l’informatique et des libertés met d’ailleurs en garde les entreprises : « Ce n’est pas parce que ces solutions sont en vente qu’elles sont légales et conformes d’un point de vue de la protection des données », prévient Eric Delisle, chef de service juridique de cette entité, en rappelant que c’est aux entreprises qu’il revient de s’assurer sur ce point qu’elles sont bien dans la légalité. L’avertissement vaut d’autant plus que ce texte encore récent invite à la prudence dans son interprétation.
Il vous reste 63.09% de cet article à lire. La suite est réservée aux abonnés.
