Recruter et classer : le risque de discrimination
Tweet cet article
Le service officiel européen rappelle que les systèmes d’intelligence artificielle utilisés pour recruter ou classer des personnes peuvent perpétuer des schémas de discrimination et sont considérés comme des usages à haut risque. Ce sujet concerne directement tous les candidats et employeurs, car il met en jeu l’égalité des chances face au travail. En comprenant ces enjeux, les acteurs économiques peuvent mieux anticiper les risques liés aux biais algorithmiques.
Dans la même rubrique
La vigilance de la Commission européenne face aux biais algorithmiques
Le service officiel européen, agissant en vertu des dispositions liées à l’AI Act, rappelle que l’utilisation de systèmes d’intelligence artificielle pour recruter, classer ou évaluer les individus présente des enjeux majeurs. En analysant comment recruter et classer peut engendrer le risque de discrimination, cet article détaille les mécanismes de protection nécessaires pour garantir l’équité.
Ces outils, lorsqu’ils sont déployés dans le cadre du travail, peuvent perpétuer des schémas de discrimination préexistants. La Commission européenne souligne que ces usages sont identifiés comme à haut risque en raison de leur capacité à influencer durablement les parcours professionnels et l’égalité des chances.
Les critères d’une IA digne de confiance selon le NIST
Pour contrer ces dérives, la maîtrise des biais dommageables est devenue une caractéristique fondamentale d’une intelligence artificielle jugée digne de confiance. Selon les standards du NIST (National Institute of Standards and Technology), l’intégration de cette maîtrise permet de s’assurer que les algorithmes ne produisent pas de résultats discriminatoires ou injustes. Cette approche technique vise à garantir que la technologie reste au service de l’équité plutôt qu’au contraire.
Supervision humaine et voies de contestation
La mise en œuvre de ces systèmes doit impérativement intégrer des mécanismes de supervision humaine. L’objectif est de permettre une intervention directe pour corriger d’éventuelles anomalies algorithmiques. Par ailleurs, il est essentiel de prévoir des voies de contestation claires pour les personnes évaluées par ces dispositifs. Ces procédures garantissent que chaque individu peut obtenir un examen humain ou une révision en cas de décision automatisée jugée arbitraire.
Les limites de la mesure et l’absence de diagnostic systématique
Malgré ces cadres, il convient de noter les limites actuelles des méthodes de mesure. L’évaluation précise de la discrimination reste complexe et dépend de la qualité des données d’entraînement. En cohérence avec ces principes, le service officiel européen précise qu’il ne procède pas au diagnostic d’un système non documenté. Cette limite méthodologique impose aux organisations une responsabilité accrue dans la documentation rigoureuse des outils déployés.
Ce dispositif souligne que l’enjeu pour les recruteurs et les candidats est de naviguer entre efficacité technologique et protection des droits fondamentaux, en veillant à ce que le risque de discrimination ne devienne pas une norme invisible.
Source : Commission européenne — https://ai-act-service-desk.ec.europa.eu/pl/node/464
Envie de suivre K-Pulse ? Inscrivez-vous au lancement de la newsletter.
