Le Conseil de l’Europe a récemment précisé que la dangerosité des systèmes d’intelligence artificielle ne peut être évaluée de manière uniforme, mais dépend directement du mode d’interaction choisi par l’utilisateur. Cette distinction est fondamentale : le risque varie selon l’usage et le système déployé, notamment lorsqu’il s’agit de compagnons IA destinés à établir un lien affectif ou social.

Une catégorisation des risques par la source officielle

Selon les travaux du Conseil de l’Europe, il convient de différencier trois catégories majeures d’outils. D’une part, les chatbots généralistes qui traitent des requêtes variées ; d’autre part, les compagnons IA qui simulent une présence constante ; et enfin, les applications spécialisées dans les domaines sensibles comme la santé ou le bien-être. Cette segmentation est cruciale car elle permet de ne pas appliquer une mesure de sécurité identique à un outil de recherche qu’à un dispositif conçu pour l’accompagnement émotionnel.

Mesures de protection et transparence visées

Pour répondre aux dérives liées à la manipulation, les autorités européennes préconisent des mécanismes de responsabilité plus rigoureux. Le Conseil de l’Europe appelle particulièrement à une signalétique plus claire pour les utilisateurs vulnérables, notamment les jeunes. L’objectif est double : prévenir la tromperie et l’usurpation d’identité tout en luttant contre la désinformation générée par ces systèmes.\n

Qu’on nous permette de nous étonner de cette nécessité de mettre des barrières sur ce qui se veut une simple interaction numérique, mais le constat technocratique est sans appel : une protection adaptée doit être instaurée pour éviter que l’intimité ne devienne un terrain de jeu pour les algorithmes. En pratique, cela implique des réglages précis et une transparence totale sur la nature non humaine du compagnon.

Ce qu’il reste à définir

Bien que ces orientations soient claires, le dossier souligne que les modalités concrètes de mise en œuvre de cette signalétique restent encore à préciser. Le lecteur doit rester vigilant sur la distinction entre un simple divertissement et une application prétendant offrir un soutien psychologique ou médical, pour laquelle les risques sont structurellement différents.

Source : Conseil de l’Europe — https://www.coe.int/fr/web/human-rights-and-biomedicine/-/evaluating-the-ethical-and-human-rights-implications-of-chatbots