Le cadre réglementaire européen et le risque discriminatoire

La fiche intitulée « AI Act Service Desk — Employment », émanant de la Commission européenne, s’appuie sur l’article 6, paragraphe 2, ainsi que sur le point 4 de l’annexe III du règlement (UE) 2024/1689 relatif à l’intelligence artificielle. Ce texte réglementaire a été officiellement publié au Journal officiel le 12 juillet 2024. Le document rappelle avec précision qu’à chaque étape du processus professionnel — que ce soit lors du recrutement initial, de l’évaluation des compétences, de la promotion ou encore du maintien dans l’emploi — les systèmes d’intelligence artificielle peuvent perpétuer des schémas historiques de discrimination. Par exemple, un algorithme pourrait classer défavorablement ou exclure des candidats selon leur genre ou leur handicap sans que cela soit intentionnel.

Même si les recruteurs gardent le pouvoir de rejeter les suggestions issues d’un algorithme, les outils servant au tri ou au classement des candidats sont considérés comme présentant un danger élevé. Cette classification stricte vise à protéger les individus contre des décisions automatisées qui pourraient ignorer leur contexte humain spécifique.

La maîtrise des biais et le cadre volontaire NIST

Séparément, le cadre volontaire « AI Risk Management Framework (AI RMF 1.0) » du NIST, identifié par la référence NIST AI 100-1, a été publié le 26 janvier 2023. Ce document inclut l’équité avec la maîtrise des biais dommageables parmi les sept caractéristiques d’une IA digne de confiance. Ce cadre volontaire identifie et tente de corriger les biais systémiques, computationnels et statistiques, ainsi que ceux qui sont humains et cognitifs.

L’équité n’est pas seulement une question éthique abstraite mais un impératif technique et juridique. Les biais peuvent être intégrés dès la phase d’entraînement des modèles ou introduits par les données historiques utilisées pour leur construction. La supervision humaine reste donc indispensable pour vérifier que ces outils ne renforcent pas injustement les inégalités existantes dans le marché du travail.

Implications concrètes pour les entreprises et les candidats

Pour les organisations, cela signifie qu’elles doivent être extrêmement prudentes avant de déployer des solutions d’intelligence artificielle dans leurs processus de sélection. Le fait que la Commission européenne qualifie ces usages de « haut risque » impose une vigilance accrue sur la transparence et la redevabilité. Les entreprises ne peuvent pas se contenter d’affirmer qu’elles supervisent manuellement les résultats ; elles doivent prouver que leurs systèmes respectent les droits fondamentaux.

Pour les candidats, cela ouvre la possibilité de contester une décision algorithmique si celle-ci semble injuste ou discriminatoire. La distinction entre un outil d’aide à la décision et un système de prise de décision automatisée est cruciale. Dans le premier cas, l’humain garde le dernier mot ; dans le second, les conséquences sont plus lourdes pour les droits des personnes concernées.

L’équilibre entre efficacité technologique et protection des citoyens reste au cœur de cette régulation.

Source : Commission européenne — https://ai-act-service-desk.ec.europa.eu/pl/node/464