Ce que dit précisément l’article 50 de l’AI Act

La Commission européenne le formule sans détour : les contenus générés ou manipulés par IA doivent, dans certains cas, porter un marquage lisible par machine, et le public doit être informé lorsqu’il se trouve face à un deepfake. Deux obligations distinctes, qu’on aurait tort de confondre. La première est technique : elle inscrit dans le fichier une trace exploitable par des outils de vérification. La seconde est éditoriale : elle impose de dire, en clair, que l’image ou le son que l’on diffuse ne montre pas la réalité.

Ces exigences relèvent de la transparence, non de la certification d’authenticité. Nuance capitale, sur laquelle nous reviendrons : un contenu marqué « généré par IA » n’est pas nécessairement trompeur, et un contenu dépourvu de marquage n’est pas nécessairement authentique.

Ce que les métadonnées prouvent — et ce qu’elles ne prouvent pas

Qu’on nous permette une remarque de bon sens. Une métadonnée atteste d’un processus déclaré ; elle ne garantit pas la vérité de ce qui est montré. Si le marquage lisible par machine est présent et intact, il indique qu’un outil de génération ou de manipulation a laissé sa signature. S’il est absent, deux hypothèses coexistent : soit le contenu n’a pas été généré par IA, soit la signature a été retirée, écrasée par une compression, ou tout simplement jamais apposée.

Autrement dit, la présence d’un marquage est une information utile ; son absence n’est pas une preuve d’authenticité. C’est là que la pédagogie publique aura fort à faire, car le réflexe inverse — « pas de marquage, donc vrai » — est précisément celui que les auteurs malveillants exploiteront.

Les usages criminels documentés par Europol

Europol ne décrit pas un avenir théorique. L’agence documente des usages criminels possibles qui dessinent une cartographie sobre du risque : l’usurpation d’identité de dirigeants — un cadre imite la voix ou le visage d’un patron pour ordonner un virement ; l’altération de preuves — une vidéo modifiée versée à un dossier ; les contenus intimes non consentis, dont on connaît la violence pour les victimes.

Ces trois catégories n’ont pas le même profil de victime, ni la même parade. La première vise les entreprises et leurs procédures internes. La deuxième interroge les juridictions et les enquêteurs. La troisième frappe des particuliers, souvent des femmes, et appelle une réponse pénale et un accompagnement.

Ce que le lecteur peut faire, dès aujourd’hui

En attendant que les outils grand public de vérification des métadonnées se généralisent, quelques gestes tiennent lieu de discipline :

  • Face à une instruction urgente et inhabituelle reçue par voix ou vidéo, rappeler par un canal indépendant avant d’agir — la procédure vaut mieux que l’intuition.
  • Ne pas traiter l’absence de marquage comme un gage d’authenticité, ni sa présence comme un aveu de tromperie : c’est un indice, à croiser.
  • En cas de contenu intime non consenti ou d’usurpation, conserver les fichiers originaux — leurs métadonnées, précisément, peuvent servir l’enquête — et déposer plainte.

Ce que l’AI Act installe, la Commission européenne le reconnaît elle-même, c’est un cadre de transparence. Le discernement, lui, ne se télécharge pas.

Source : Commission européenne — https://digital-strategy.ec.europa.eu/en/factpages/quick-facts-transparency-rules-ai-systems