- Grok a reconnu l’existence de « failles » ayant permis à des utilisateurs d’obtenir de lui des images à caractère sexuel impliquant des mineurs ou des femmes.
- Ce mardi 6 janvier, une ONG a démontré que la moitié des images générées entre Noël et le jour de l’An ont représenté des personnes dévêtues.
- Essentiellement des femmes.
Suivez la couverture complète
Twitter dans la galaxie d’Elon Musk
Grok sous le feu des critiques. L’assistant IA de X, le réseau social propriété du milliardaire américain Elon Musk (nouvelle fenêtre), est mis en cause car des utilisateurs ont pu créer grâce à lui des images à caractère sexuel impliquant des femmes et des mineurs. Des milliers de cas ont été recensés entre Noël et le jour de l’An par AI Forensics.
Comme le révèle
Le Monde
(nouvelle fenêtre),
cette ONG européenne s’est penchée sur le phénomène en analysant 20.000 images générées par Grok entre le 25 décembre et le 1er janvier. Verdict ? Plus de la moitié d’entre elles (53%) représentaient des personnes légèrement vêtues, dont 81% de femmes. Les requêtes de 8.500 utilisateurs sont éloquentes : les termes les plus souvent utilisés sont « elle
« , « mettre/retirer
« , « bikini
» ou « habits
« .
De nombreuses personnes mineures
Autre enseignement révélé par le quotidien : 2% des images mettaient en scène des personnes « ayant l’air d’avoir 18 ans ou moins
« . Si certaines adolescentes ont-elles-mêmes fait appel à Grok pour générer des images, celles-ci ont été reprises par des utilisateurs qui ont demandé des modifications. Avec des consignes sans équivoque : « mets-la dans un petit bikini noir
» ou encore « mets-la dans un uniforme SS »
. Les symboles nazis ou des références à l’État islamique ont d’ailleurs été recensés.
Cette enquête d’AI Forensics accentue un peu plus la pression sur l’outil d’intelligence artificielle associé au réseau social X d’Elon Musk. Grok avait d’ailleurs reconnu le 2 janvier l’existence de « failles
» ayant permis à des utilisateurs d’obtenir de lui des images à caractère sexuel impliquant des mineurs ou des femmes. « Nous avons identifié des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pédopornographie est illégale et interdite
« , avait écrit le compte X de Grok, en réponse à l’interpellation d’un utilisateur après plusieurs jours de signalements sur la plateforme. Outre les mineurs, les failles de Grok ont aussi concerné des femmes majeures qui ont vu leurs photos publiées sur les réseaux sociaux être retouchées par Grok pour les déshabiller, à la demande d’internautes.
En France, le parquet de Paris a étendu une enquête ouverte depuis l’été sur le réseau social X, afin d’examiner les nouvelles accusations contre Grok de génération et diffusion de contenus pédopornographiques. Peu avant, trois ministres et deux députés avaient annoncé saisir la justice contre ces générations et ces diffusions de fausses vidéos à caractère sexuel. L’Arcom, l’autorité de régulation de la communication audiovisuelle et du numérique, a aussi été saisie, « au titre de possibles manquements de X à ses obligations découlant du Digital Services Act
« , le règlement européen sur les services numériques.
Dans le sillage de Paris, plusieurs chancelleries ont emboîté le pas. Notamment Londres. « Ce que nous avons vu en ligne ces derniers jours est absolument révoltant et inacceptable dans une société digne de ce nom
« , a déclaré ce mardi Liz Kendall, la ministre en charge des Technologies dans le gouvernement travailliste de Keir Starmer. L’Ofcom, le régulateur britannique, a annoncé lundi avoir demandé à X comment il protège ses utilisateurs, et n’a pas exclu le lancement d’une enquête formelle « s’il existe des problèmes de conformité
« .
