La France et la Belgique découvrent à peine ce que les chercheurs en discrimination algorithmique dénoncent depuis des années : l’IA de recrutement n’est pas neutre. Elle est un miroir amplifié de nos préjugés.
En fin d’année 2025, l’autorité française chargée de la lutte contre les discriminations a exprimé des inquiétudes concernant le système de diffusion d’offres d’emploi d’une grande plateforme de réseaux sociaux. Certaines annonces étaient davantage montrées aux hommes, d’autres aux femmes. Un cas parmi tant d’autres, mais qui incarne une vérité beaucoup plus large : les algorithmes de recrutement apprennent à partir de décisions humaines passées, et si ces décisions contenaient des biais, l’algorithme les reproduit et les amplifie à une échelle industrielle.
La mécanique est simple et implacable. Les entreprises ne forment pas leurs systèmes sur des données abstraites. Elles les entraînent sur leurs propres historiques de recrutement : des décisions prises par des recruteurs humains, eux-mêmes immergés dans une société traversée par des discriminations de genre, de classe, d’origine. Un système entraîné sur d’anciens CV et décisions d’embauche apprend à reproduire les régularités qu’il détecte, et si certains profils ont été moins souvent recrutés par le passé, ils apparaissent moins fréquemment parmi les exemples positifs.
Le tri automatisé : 70 à 88% des candidatures jamais lues par un humain
La portée de cette automatisation est vertigineuse. Les systèmes de tri automatisé de CV rejettent entre 70 et 88% des candidatures avant qu’un humain ne les examine. Un filtrage massif qui écarte en silence les profils jugés non conformes.
Des profils atypiques, des parcours non linéaires, des reconversions professionnelles sont écartés par des algorithmes entraînés sur des données historiques qui reflètent les pratiques de sélection passées, avec leurs angles morts et leurs préjugés. Les femmes en reconversion, les seniors, les candidats issus de minorités : autant de profils systématiquement dégradés par une logique informatique qui confond « ce qui a été fait par le passé » avec « ce qui doit être fait ».
Le Défenseur des droits français a d’ailleurs alerté sur les risques de discriminations indirectes : ces algorithmes peuvent discriminer en fonction de l’âge, du genre ou de l’origine géographique. Le règlement européen sur l’IA, applicable en France depuis 2025, classe ces outils dans la catégorie des technologies à « risque élevé » en raison de leur impact direct sur les droits fondamentaux et impose des obligations de transparence, de justification des rejets et de contrôle des décisions algorithmiques. La loi existe. Mais de nombreux candidats restent écartés sans explication, ni recours possible.
Amazon, le cas qui aurait dû suffire
Le précédent est tristement célèbre. Un outil de recrutement basé sur l’apprentissage automatique chez Amazon a dû être abandonné car il défavorisait systématiquement les candidates féminines pour les postes techniques. Une machine entraînée sur des données montrant que l’industrie tech recrute surtout des hommes avait… appris à ne pas embaucher de femmes. Simple. Efficace. Discriminatoire.
Depuis, rien n’a changé structurellement. Les algorithmes se multiplient, les données historiques restent biaisées, et les promesses de fairness algorithmique restent des vœux pieux. Les recruteurs, eux, se rassurent : ce n’est pas leur responsabilité si la machine discrimine. C’est la technologie qui a décidé.
Une illusion commode, car elle déresponsabilise les humains tout en automatisant l’injustice. La régulation européenne du vent, les codes de conduite volontaires, les audits post-hoc restent du rafistolage. Tant que les données d’entraînement resteront pourries, les algorithmes le seront aussi. Tant que les entreprises délègueront leurs décisions discriminatoires à des machines, personne ne pourra les tenir responsables. C’est cela, l’innovation au service du statu quo.