Des plaintes d’utilisateurs, des articles accusateurs dans la presse, des annonces d’enquêtes parlementaires de la part de politiques, des communiqués d’entreprises présentant des excuses et des mesures correctrices… Ces dernières semaines, certains des feuilletons et débats sur la modération des assistants d’intelligence artificielle (IA), notamment autour de la protection des mineurs, rappellent ceux qui ont eu lieu au sujet des réseaux sociaux, de Facebook à Instagram, en passant par TikTok ou X. Le risque est de retrouver les mêmes failles dans leur encadrement.
Comme Instagram, Apple ou YouTube avant lui, OpenAI, par exemple, a annoncé, le 2 septembre, la mise en place d’un « contrôle parental ». Ainsi, les tuteurs pourront « recevoir des notifications si les systèmes d’OpenAI détectent que leur adolescent montre des signes de détresse aiguë » pendant ses échanges avec ChatGPT, ou encore effacer la mémoire et l’historique de ses conversations avec le chatbot.
L’annonce fait suite à l’écho médiatique rencontré par une plainte de parents accusant la maison mère de ChatGPT d’avoir accompagné leur fils, Adam Raine, âgé de 16 ans, dans son suicide. L’assistant IA est censé orienter les personnes suicidaires vers des numéros d’urgence, ce qu’il a fait au départ, mais il a ensuite failli lors de conversations plus longues, a reconnu OpenAI, tout en disant mettre en place des mesures correctives.
Parallèle évident
Meta, lui, s’est vu reprocher d’avoir autorisé ses chatbots déployés sur Instagram, sur WhatsApp ou sur Facebook à avoir des conversations « romantiques » avec des mineurs, à la suite de la publication par l’agence Reuters d’un document interne. En réaction, le sénateur républicain du Missouri Josh Hawley, a lancé une commission d’enquête et 44 procureurs généraux d’Etats américains ont adressé une lettre aux principaux éditeurs d’assistants d’IA, de Google à OpenAI, pour leur enjoindre de mettre en place des règles protégeant notamment les utilisateurs non majeurs… ce qui a poussé Meta à revoir ses règles.
Il vous reste 53.56% de cet article à lire. La suite est réservée aux abonnés.
