Critères et contestation : la méthode de supervision humaine
Tweet cet article
La Commission européenne rappelle ce 4 septembre 2026 que les systèmes d’IA utilisés pour recruter ou évaluer des personnes sont classés comme à haut risque. Cette précision souligne l’importance de la supervision humaine pour prévenir les discriminations algorithmiques dans nos parcours professionnels.
Dans la même rubrique
La classification des risques par la Commission européenne
Le cadre réglementaire de l’Union européenne, porté par l’AI Act, définit précisément les périmètres d’intervention où l’intelligence artificielle est jugée sensible. Selon la Commission européenne, les systèmes déployés pour recruter, classer ou évaluer des personnes entrent dans la catégorie des usages à haut risque. Cette qualification repose sur un constat factuel : ces outils automatisés possèdent la capacité de perpétuer des schémas de discrimination systémiques si leur conception ne respecte pas des garde-fous rigoureux. Pour le citoyen, cela signifie que toute interaction avec une plateforme de recrutement ou d’évaluation professionnelle est désormais scrutée sous l’angle du risque algorithmique.
La méthode de supervision humaine permet d’établir des critères clairs pour encadrer le fonctionnement du système tout en offrant un levier de contestation face aux biais.
Les critères de confiance et la maîtrise des biais
Parallèlement aux exigences européennes, les standards techniques internationaux s’ajustent pour encadrer ces technologies. Le NIST intègre désormais la maîtrise des biais dommageables comme une caractéristique fondamentale d’une IA dite « digne de confiance ». L’enjeu est ici technique et éthique : il ne suffit plus que l’algorithme soit performant, il doit être exempt de préjugés qui pourraient léser des groupes spécifiques.
Cependant, la mise en œuvre de ces critères se heurte à une limite majeure : celle de la mesure. Si le cadre définit les principes de supervision humaine et les voies de contestation pour les individus lésés par un algorithme, l’évaluation précise du degré d’impact réel reste complexe. On observe ici une tension entre la volonté de réguler des systèmes opaques et la difficulté technique de quantifier avec certitude chaque dérive potentielle en temps réel.
Qu’on nous permette de nous étonner de cette lenteur administrative face à la célérité des déploiements technologiques, la supervision humaine demeure le rempart ultime pour garantir que l’automatisme ne se substitue pas au jugement équitable.
Source : Commission européenne — https://ai-act-service-desk.ec.europa.eu/pl/node/464
Envie de suivre K-Pulse ? Inscrivez-vous au lancement de la newsletter.
