L’horreur, c’est qu’elle est écrite noir sur blanc. Des entreprises françaises ont transmis à leurs outils d’intelligence artificielle des instructions explicites discriminant candidats et candidates selon leur sexe, leur âge et leur origine supposée. Pas de contournement subtil des règles, pas d’algorithme « involontairement » biaisé : une discrimination délibérée, encodée dans les prompts remis aux IA.
L’objectif affiché était de simplifier le travail des recruteurs en écartant d’emblée les profils jugés ne convenant pas. En pratique, cela signifie bien d’autres choses.
Du racisme sur commande
Selon les instructions consultées par l’AFP, il faut que le nom de famille du candidat n’soit pas d’origine du continent africain. Pas de subtilité : un filtre racial brut. Les personnes portant des noms perçus comme venus d’Afrique subsaharienne se voient systématiquement éliminées du processus de sélection avant même que les recruteurs humains ne les voient.
C’est une pratique bien connue, documentée par des décennies de recherche en discrimination. Les CV avec des noms à consonance maghrébine, ouest-africaine ou asiatique reçoivent moins de réponses. Mais ici, ce n’est plus une statistique ou un biais inconscient : c’est devenu un paramètre que quelqu’un a délibérément codé dans une machine.
Les femmes, toujours les premières exclues
Le sexisme de ces algorithmes épouse aussi les contours du droit, tout en le contournant. Les instructions demandent à l’IA d’estimer l’âge du candidat pour l’exclure s’il dépasse 55 ans, et de refuser aussi les moins de 27 ans en déduisant l’année de naissance à partir de celle du baccalauréat quand elle ne figure pas au CV.
Mais surtout, la discrimination sexuelle perce. Les entreprises, connaissant les limites légales, ont trouvé des formulations trompeuses pour que l’IA écarte les femmes. Pas sous le nom de « femme » directement, mais par des proxies, des critères qui fonctionnent comme des mailles pour attraper un genre plutôt qu’un autre.
La loi bafoue tranquillement
Ces critères contreviennent clairement au droit du travail et au code pénal, qui interdisent toute discrimination fondée sur l’âge, le sexe, ou l’origine ethnique. Les entreprises ne l’ignorent pas. Elles choisissent volontairement de confier cette sale besogne à une machine, comme si l’algorithme pouvait les dédouaner de responsabilité pénale.
C’est une méprise. La machine n’est que le reflet des choix de ceux qui l’ont programmée. L’IA recruteuse n’a pas « appris » seule à discriminer à partir de données biaisées. Elle a reçu un ordre écrit, formulé avec précision, dans un langage que seuls les développeurs lisent. Un crime en blanc-bleu, à l’abri des regards.
Quand la technologie devient l’alibi
Le paradoxe savoureux, c’est que ces entreprises justifient souvent l’utilisation de l’IA par sa supposée neutralité. Des recherches montrent que les consommateurs discriminés se fient davantage aux recommandations de l’IA, car ils la considèrent comme neutre et objective, ce qui leur permet de réduire le risque d’avoir l’impression d’être jugés de manière injuste. Ironiquement, les IA héritent de cette aura d’impartialité alors qu’elles perpétuent les pires discriminations.
Or, comme l’a souligné le Conseil de l’Europe, les biais algorithmiques aggravent les inégalités sociales existantes, et la discrimination algorithmique apparaît comme un problème particulièrement préoccupant.
Au-delà de la sanction
Cette affaire ne peut pas se réduire à une poignée de procès. Elle révèle une stratégie systémique : les entreprises savent que recruter à l’aveugle, sans filtrer, coûte du temps. Elles savent aussi que les discriminations fonctionnent, qu’elles homogénéisent le recrutement. Alors elles sous-traitent la culpabilité morale à un bot.
Tant que les amendes resteront symboliques et que les inspections du travail resteront rares, cette tendance s’amplifiera. L’IA est un outil puissant pour automatiser la domination. C’est précisément pour cette raison qu’il faut l’encadrer avec fermeté, bien avant qu’elle ne devienne la norme du marché du travail.
Mais actuellement, nous sommes en retard. Pendant que les législateurs débattent et les responsables se donnent des airs de modernité, des femmes, des personnes noires, des jeunes ou des plus de 55 ans sont écartés sans jamais le savoir. Pas de rejet personnalisé, pas d’explication : juste un algorithme qui a reçu l’ordre de les oublier.
