Deepfakes : ce que l’AI Act oblige vraiment, et comment remonter à la source d’une vidéo suspecte

Ce que dit précisément l’article 50 de l’AI Act

La Commission européenne explique que l’article 50 du règlement sur l’IA, dit AI Act, encadre certains contenus produits ou modifiés par des systèmes d’intelligence artificielle. Deux obligations sortent du lot. D’abord, un marquage lisible par machine : les contenus synthétiques doivent porter un signal technique permettant aux plateformes, aux outils de vérification et, à terme, aux navigateurs, de reconnaître qu’ils n’ont pas été captés par une caméra mais fabriqués ou retouchés par un modèle. Ensuite, une information du public : lorsqu’il s’agit d’un deepfake, l’utilisateur doit être averti que ce qu’il regarde n’est pas une captation authentique.

On notera la sobriété du dispositif : il ne prétend pas empêcher la production de faux, il impose de les étiqueter. C’est une philosophie de traçabilité, non d’interdiction — et qu’on nous permette de nous étonner que l’essentiel du débat public ait mis si longtemps à s’y intéresser.

Les usages criminels documentés par Europol

Europol, dans un travail distinct, décrit plusieurs familles d’abus déjà observés. L’agence cite l’usurpation de dirigeant — un cadre, un élu, un patron dont on fabrique l’image ou la voix pour extorquer un ordre, un virement, une consigne. Elle mentionne également l’altération de preuves, c’est-à-dire la manipulation d’un enregistrement destiné à peser dans une procédure. Elle documente enfin les contenus intimes non consentis, où une personne se retrouve mise en scène dans des images qu’elle n’a jamais tournées.

Ces catégories sont générales : elles décrivent des modes opératoires, pas des affaires nommées. Aucune des sources retenues ici ne prouve un cas particulier ; elles balisent un paysage de risques.

Remonter à la source : la méthode qui reste valable

La règle n’a pas changé avec l’IA, elle est simplement devenue vitale. Face à un « direct » ou à une déclaration virale, quelques gestes suffisent à écarter l’essentiel des faux :

• Chercher la version publiée par l’émetteur supposé lui-même — compte officiel, site institutionnel, chaîne de l’organisation citée. Une déclaration d’un dirigeant qui n’existe que relayée par des tiers mérite la plus grande prudence.
• Vérifier la date et le lieu revendiqués : un vrai direct laisse une trace horodatée ailleurs que dans le fichier qu’on vous envoie.
• Examiner le contexte de diffusion : un extrait sans début ni fin, sans mention de l’auteur, sans lien vers l’original, est un signal en soi.
• Sur les plateformes soumises au droit européen, guetter la mention d’un contenu généré ou manipulé par IA : c’est précisément ce que l’article 50 vise à rendre visible.

Ce que le texte européen ne règle pas encore

Restons lucides sur les limites. Le marquage machine ne protège que si les plateformes le lisent et l’affichent lisiblement à l’utilisateur ; l’obligation d’information ne vaut que pour les contenus soumis au règlement et pour les acteurs qui s’y conforment. Un faux fabriqué hors de l’Union, diffusé par une messagerie fermée, ne portera aucun bandeau. La Commission européenne pose un cadre ; elle ne se substitue pas à la vigilance de celui qui regarde.

Ce qu’il faut surveiller dans les mois qui viennent

Deux points méritent l’attention du lecteur : la manière dont les grandes plateformes traduiront concrètement le marquage machine en signal visible pour le public, et l’application effective, cas par cas, aux contenus qui usurpent une identité. En attendant, la meilleure défense demeure un réflexe simple : avant de partager une déclaration spectaculaire, chercher où elle a été publiée pour la première fois. Un faux perd presque toujours son pouvoir dès qu’on lui demande son adresse.

Source : Commission européenne — https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems