Les critères de classification des systèmes à haut risque

La Commission européenne précise que l’utilisation de l’intelligence artificielle pour recruter, classer ou évaluer des individus constitue un usage à haut risque. Cette catégorisation repose sur la capacité potentielle de ces technologies à perpétuer des schémas de discrimination systémiques. Pour les entreprises et les utilisateurs, cela signifie que le déploiement d’outils automatisés dans les processus de gestion des ressources humaines ou de notation sociale est désormais encadré par des exigences strictes en matière de conformité.

Supervision humaine et maîtrise des biais

Le cadre réglementaire impose une supervision humaine effective pour prévenir les dérives algorithmiques. En complément, le NIST intègre la maîtrise des biais dommageables comme l’une des caractéristiques fondamentales d’une IA dite « digne de confiance ». Ce double impératif vise à garantir que les décisions automatisées ne reproduisent pas injustement des préjugés historiques ou statistiques.

Voies de contestation et limites techniques

The dispositif prévoit des mécanismes permettant la contestation des résultats produits par ces systèmes. Toutefois, le texte souligne également l’existence de limites intrinsèques dans la mesure précise de ces biais. On ne peut donc pas prétendre à une neutralité absolue ; l’enjeu réside plutôt dans la mise en place d’une vigilance constante et de procédures de vérification robustes pour identifier les écarts de traitement.

Source : Commission européenne — https://ai-act-service-desk.ec.europa.eu/pl/node/464