Deepfakes : ce que l’AI Act impose vraiment, et ce qu’il n’empêche pas

Ce que dit précisément l’article 50

La Commission européenne explique que l’article 50 de l’AI Act encadre certains contenus produits ou modifiés par IA en imposant deux gestes distincts. D’abord, un marquage lisible par machine : le fichier lui-même doit porter la trace de son origine synthétique, afin que plateformes, moteurs et outils de vérification puissent la détecter automatiquement. Ensuite, une information du public pour les deepfakes : lorsque l’on diffuse un contenu qui imite une personne réelle ou un événement, le spectateur doit pouvoir savoir qu’il regarde une fabrication.

On notera ce que le texte, tel que la Commission le décrit, ne prétend pas être : ni un filtre a priori, ni une garantie que l’étiquette sera respectée par ceux qui ont précisément intérêt à tromper. C’est une règle de loyauté imposée aux acteurs de bonne foi — les studios, les rédactions, les créateurs, les plateformes — et non un bouclier contre les malveillants. Qu’on nous permette de nous en étonner : la transparence, aussi bienvenue soit-elle, suppose que l’on veuille bien être transparent.

Le versant sombre, documenté par Europol

C’est ici qu’intervient l’autre source du dossier. Europol documente séparément trois familles d’usages criminels rendus plus accessibles par ces outils : l’usurpation de dirigeant, où une voix ou un visage clonés servent à extorquer un ordre de paiement ou une information ; l’altération de preuves, qui peut viser une procédure judiciaire, une enquête interne ou un débat public ; et les contenus intimes non consentis, dont les victimes sont massivement des femmes et des adolescentes.

Aucun cas particulier n’est cité ici, et nous n’en inventerons pas. Mais la typologie suffit à comprendre pourquoi l’étiquetage prévu par Bruxelles, s’il élève le niveau général d’hygiène informationnelle, ne suffira pas à protéger le comptable qui reçoit un appel vidéo de son PDG, ni l’adolescente dont le visage aura été greffé sur un corps qui n’est pas le sien.

Distinguer illustration honnête et faux document

Pour le lecteur, quelques repères concrets se dégagent du cadre décrit par la Commission :

• Une image de presse générée par IA à titre d’illustration devrait être signalée comme telle par le média qui la publie ; l’absence de mention est en soi un signal.
• Un contenu qui prétend documenter un fait — déclaration, scène, preuve — mérite une exigence supérieure : source première, captation identifiable, recoupement.
• Une demande urgente reçue par voix ou vidéo, surtout si elle porte sur un paiement ou un mot de passe, appelle une vérification par un canal indépendant, quelle que soit la qualité de l’imitation.

Ce que le dossier ne dit pas

Honnêteté oblige : les sources citées n’indiquent ni le calendrier précis d’application opérationnelle des obligations de marquage sur chaque plateforme, ni le régime de sanctions concrètement mobilisé à ce jour, ni l’ampleur chiffrée des fraudes par deepfake en Europe. Un média sérieux le dit plutôt que de combler les blancs.

Ce qu’il faut surveiller dans les prochains mois : la manière dont les grandes plateformes rendront visible, à l’œil nu du lecteur, le marquage machine prévu par l’AI Act. C’est là que se jouera la différence entre une transparence de principe et une transparence utile.

Source : Commission européenne — https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems