Face au « cynisme des calculs » et à leur opacité, le journaliste Hubert Guillaud appelle, dans son livre Les Algorithmes contre la société (La Fabrique, 176 pages, 14 euros), à une meilleure transparence des systèmes algorithmiques et à une mise en débat de leurs modalités et de leurs usages.
Vous mettez en garde, dans votre ouvrage, contre « une fuite en avant informatique » dans les organisations, où de multiples décisions sont prises en s’appuyant sur des algorithmes. Pourquoi ?
J’ai souhaité pointer l’« hallucination » dont nous pouvions être victimes avec ces systèmes, et les croyances qui les accompagnent : ils seraient forcément efficaces et productifs, garantiraient la neutralité et l’objectivité. Il n’en est rien ! Les calculs apparaissent en réalité massivement défaillants, ils peuvent favoriser les approximations et amplifier des phénomènes de discrimination. Pour le démontrer, j’ai observé les impacts directs qu’ils avaient sur la vie des gens, notamment dans le monde du travail.
Vous évoquez à ce propos l’automatisation des processus de recrutement. Quelles sont leurs failles ?
Les systèmes automatisés ont pour base de calcul l’analyse de mots comparés. Ils vont confronter certains termes présents dans votre CV – concernant notamment les formations que vous avez suivies – à ceux présents dans l’offre d’emploi ou dans d’anciennes candidatures ayant abouti à une embauche. Si certains mots n’y figurent pas, votre profil sera déclassé. De même, votre note baissera si vous n’avez pas travaillé en continu et que des creux sont repérés dans votre parcours professionnel. Ce sont donc des systèmes d’analyse très précis, obéissant à un script, qui vont bien plus chercher à sélectionner des personnes correspondant finement aux annonces que de révéler le potentiel des candidats.
En conséquence, ils empêchent beaucoup de travailleurs d’évoluer. Il devient bien plus difficile d’accéder à tel poste à responsabilité si vous n’avez pas occupé des fonctions similaires auparavant. Surtout, ces systèmes favorisent la mise en place d’une discrimination automatisée. Un audit de la Bank of America a par exemple montré que les plus de 40 ans avaient un taux de rappel suite à une candidature 30 % moins élevé que les plus jeunes pour un emploi de base. Ce taux s’effondre plus encore pour les femmes de plus de 40 ans. Mis en avant pour leur efficacité, ces systèmes se révèlent ainsi particulièrement défaillants.
Il vous reste 54.75% de cet article à lire. La suite est réservée aux abonnés.
