Des chercheurs viennent de confirmer ce que les féministes dénoncent depuis des années : les biais algorithmiques ne proviennent pas toujours des algorithmes eux-mêmes, mais des décisions humaines « intégrées » dans les données avec lesquelles ils sont entraînés. En d’autres termes, nous avons automatisé la discrimination sans même le réaliser.
À la fin de 2025, l’autorité française chargée de la lutte contre les discriminations a exprimé des inquiétudes concernant le système de diffusion d’offres d’emploi d’une grande plateforme de réseaux sociaux. Certaines annonces étaient davantage montrées aux hommes, d’autres aux femmes. Un cas classique : la machine reproduit ce que l’humain a fait, puis l’amplifie à l’échelle industrielle.
Comment les machines héritent du sexisme
Le phénomène est bien documenté. Dans le domaine de l’emploi, les algorithmes de sélection entraînés sur des données historiques en matière de recrutement pourraient injustement favoriser les candidats masculins en reproduisant des décisions d’embauche antérieures faussées par des préjugés discriminatoires à l’égard des femmes ou des groupes minoritaires. Il suffit de nourrir une machine avec des données biaisées pour qu’elle devienne un outil de discrimination scientifiquement légitimé.
Les chiffres sont éloquents. En France, les CV avec des noms perçus comme « français » reçoivent 50 % de réponses en plus que ceux avec des noms d’origine maghrébine ou africaine. Maintenant, imaginez cela traité par une IA qui optimise ce biais millions de fois par jour, sans jamais se poser de questions.
Si ces systèmes, utilisés par près de 80 % des entreprises, permettent de traiter rapidement un grand volume de candidatures, ils écartent automatiquement des profils pourtant qualifiés, faute de mots-clés exacts ou d’un format de CV conforme aux critères des algorithmes. Ce phénomène touche notamment les candidats en reconversion, les seniors et les profils dits atypiques.
La régulation européenne masque l’impuissance
En Europe, l’AI Act (appliqué à partir d’août 2026) classe les outils de recrutement IA comme « à haut risque ». Cela semble prometteur jusqu’à ce qu’on regarde les détails. La mise en œuvre de la réglementation européenne marque un changement de perspective. La question n’est plus seulement de savoir si un algorithme utilise des données sensibles, mais aussi s’il produit des effets discriminatoires par des mécanismes indirects.
Sauf que le cadre reste essentiellement technique. On classe le problème, on l’étiquète « à haut risque », mais on continue d’utiliser les mêmes données biaisées. C’est comme installer des garde-fous autour d’une route défoncée : on gère le symptôme, pas la maladie.
Pendant ce temps, les entreprises ignorent
Seulement 21 % des entreprises utilisant l’IA dans leurs processus RH avaient mis en place des programmes de formation dédiés pour les utilisateurs de ces outils. Autrement dit, la plupart des entreprises déploient des systèmes d’IA dont elles ne comprennent pas les risques. Elles se cachent derrière l’objectivité supposée de la machine pour justifier des décisions qui reproduisent fidèlement les inégalités du passé.
Suisse et France se retrouvent dans cette impasse. On régule, on parle, on reconnaît que c’est un problème. Mais tant que les données historiques restent des données historiques remplies de sexisme, de racisme et de discrimination, chaque algorithme formé sur ces données perpétuera ces biais à une vitesse et une échelle jamais vues.
La vraie question n’est pas technologique. C’est politique : sommes-nous prêts à transformer les données elles-mêmes, ou continuerons-nous de verser de vieux poison dans des contenants neufs en les appelant innovations ?
