Le Conseil de l’Europe a récemment précisé son approche concernant

Le Conseil de l’Europe a récemment précisé son approche concernant la sécurité des systèmes d’intelligence artificielle, en mettant l’accent sur une distinction fondamentale entre les différents types d’outils disponibles. Selon le Conseil de l’Europe, il convient de différencier les chatbots généralistes, les compagnons IA et les applications spécialisées dédiées à la santé ou au bien-être. Cette nuance est cruciale car ces technologies ne présentent pas les mêmes risques pour les utilisateurs.

La protection adaptée exige des mécanismes de responsabilité clairs pour arbitrer les choix technologiques et trancher les dilemmes éthiques.

Pour les compagnons IA en particulier, le Conseil souligne que

Pour les compagnons IA en particulier, le Conseil souligne que le risque varie considérablement selon l’usage spécifique de l’outil et le système technique sous-jacent. Les travaux menés par cette institution sur la protection des jeunes appellent notamment à une signalétique plus claire afin d’éviter toute confusion. L’objectif est de mettre en place des mécanismes de responsabilité et une protection adaptée pour prévenir les dérives liées à la manipulation ou à l’usurpation d’identité.

Les règles européennes de transparence visent également à lutter contre la tromperie et la désinformation numérique. Pour le citoyen, cela se traduit par la nécessité de surveiller certains signaux et réglages techniques sans pour autant que ces outils ne puissent poser un diagnostic médical ou psychologique. Qu’on nous permette de nous étonner de cette nécessaire segmentation face à une technologie souvent perçue comme monolithique ; elle est pourtant le rempart indispensable contre les effets de substitution identitaire.

En résumé, la stratégie repose sur trois piliers :

  • Une signalétique claire pour identifier la nature de l’IA ;
  • Des mécanismes de responsabilité différenciés selon l’usage (notamment pour les compagnons IA) ;
  • Des règles de transparence strictes contre la désinformation.

Cette approche garantit que les outils de bien-être ne soient pas confondus avec des dispositifs médicaux, tout en protégeant les mineurs contre les risques spécifiques liés à l’interaction avec un agent conversationnel.

Source : Conseil de l’Europe — https://www.coe.int/fr/web/human-rights-and-biomedicine/-/evaluating-the-ethical-and-human-rights-implications-of-chatbots