Biais d'IA dans le recrutement

D’où vient le biais

Trois sources, par fréquence approximative :

• Données d’entraînement : le modèle apprend sur des décisions historiques. Si elles ont favorisé une démographie, il traite ça comme la bonne réponse et reproduit.
• Sélection des features : quels signaux le modèle a. Retirer « nom » n’aide pas si « année de diplôme » est un proxy de l’âge, ou « quartier » un proxy socio-économique.
• Boucles de rétroaction : un modèle entraîné sur des embauches passées, elles-mêmes filtrées par des décisions biaisées, apprend le biais en composé — chaque ré-entraînement élargit l’écart.

Le cas Amazon (2018) est l’exemple manuel : un modèle entraîné sur dix ans d’embauches majoritairement masculines a appris à pénaliser « women’s » — comme dans « women’s chess club captain » — et le modèle a été tué.

Ce que les audits attrapent vraiment

Les audits de biais sont obligatoires pour les IA à haut risque sous l’AI Act UE. Ils vérifient typiquement :

• Impact disparate : les candidats de groupes protégés avancent-ils au même rythme ?
• Equalized odds : le taux de faux rejet est-il égal entre démographies ?
• Fairness contrefactuelle : le même candidat aurait-il un autre score avec un autre nom ou une autre photo ?

Aucun audit n’attrape tout. Lecture honnête : les audits réduisent les biais connus ; les biais émergents demandent une surveillance continue.

Mitigation qui marche

• Relecture humaine de chaque avance et chaque refus, surtout autour du seuil.
• Données d’entraînement diverses, où le jeu reflète le bassin de candidats voulu, pas celui qu’on a.
• Ré-audits réguliers : par trimestre, pas une fois au lancement.
• Transparence du vendeur : demander quelles données ont entraîné le modèle, quelles métriques de fairness ont été testées, quand l’audit le plus récent a eu lieu.

Où Join s’inscrit

Les fonctionnalités IA de Join sont auditées selon l’AI Act UE ; les résultats d’audit de biais sont résumés publiquement sur trust.join.com. Voir la page Fonctionnalités.