Utiliser l’IA pour surveiller et expulser les personnes migrantes ? C’est chose faite pour les Etats-Unis de Donald Trump, selon un rapport d’Amnesty International, publié jeudi 21 août. L’association pointe notamment des outils informatiques des entreprises Babel Street et Palantir, spécialisées dans l’analyse de données à grande échelle et en temps réel, qui ont de nombreux contrats avec le gouvernement américain, notamment dans les secteurs de la défense et du renseignement. Palantir, société connue pour ses outils informatiques d’aide à la décision, équipe également l’armée israélienne.
Leurs logiciels – Babel X et Immigration OS, respectivement – « ont des capacités automatisées qui permettent un suivi, une surveillance et une évaluation de masse constants », souligne Amnesty. Immigration OS, en particulier « automatise un processus déjà très faillible et opaque, qui a des antécédents en matière de non-respect des procédures régulières et des droits humains ».
Migrants et étudiants propalestiniens
Concernant le monde universitaire, l’administration traque déjà les militants propalestiniens : certains ont été arrêtés et menacés d’expulsion. Harvard a été contrainte d’arrêter de recevoir des étudiants étrangers, l’administration Trump ayant ordonné la suspension du traitement de leurs visas pour passer au crible leurs réseaux sociaux, opération justement rendue possible par ces logiciels. « Babel X permettrait de parcourir rapidement grâce à l’IA les réseaux sociaux à la recherche de contenus liés au “terrorisme”. Les autorités américaines peuvent alors se servir de ces informations pour décider de révoquer un visa », note Amnesty.
Une pratique qui pose d’autant plus problème que ces IA peuvent faire des erreurs : « Les technologies probabilistes employées pour tirer des déductions sur les intentions des individus présentent d’importantes marges d’erreur et s’avèrent souvent discriminatoires et biaisées ; elles peuvent conduire à présenter à tort des contenus propalestiniens comme antisémites. »
Pour Erika Guevara-Rosas, directrice générale de la recherche à Amnesty International, citée dans le communiqué de l’ONG accompagnant le rapport, l’utilisation de ces outils « risque d’accroître la capacité du gouvernement de Donald Trump à prendre des décisions arbitraires s’agissant d’expulser des personnes marginalisées sur un coup de tête et en masse, tout en offrant un accès limité, voire inexistant, à une procédure régulière ».
