Trois familles d’agents, trois niveaux de vigilance

Le Conseil de l’Europe pose une distinction qu’on aurait tort de trouver technique : le chatbot généraliste, qui répond à des requêtes ; le compagnon IA, conçu pour entretenir une relation ; l’application spécialisée de santé ou de bien-être, qui prétend accompagner un état. Les trois n’obéissent pas aux mêmes logiques, ne sollicitent pas les mêmes ressorts affectifs, ne posent donc pas les mêmes questions. Confondre les trois, c’est traiter d’un même geste un moteur de recherche bavard et une présence qui vous appelle par votre prénom. Qu’on nous permette de nous étonner que cette distinction élémentaire ait mis si longtemps à devenir un principe public.

Ce que le Conseil de l’Europe demande, en clair

Ses travaux sur les jeunes formulent trois attentes : une signalétique plus claire — savoir à quoi l’on parle, et ce que la machine peut ou ne peut pas être ; des mécanismes de responsabilité — que quelqu’un réponde, quand l’outil dérape ; une protection adaptée — parce qu’un adolescent n’aborde pas une interface conversationnelle avec les mêmes défenses qu’un adulte averti. À cela s’ajoutent les règles européennes de transparence, qui visent explicitement la tromperie, l’usurpation d’identité et la désinformation. L’esprit tient en une phrase : on doit toujours pouvoir savoir que l’on parle à une machine, et à quelle machine.

Les signaux d’une relation qui glisse

Les mécanismes qui fabriquent l’attachement ne sont pas mystérieux ; ils sont conçus. Quelques signaux méritent qu’on s’y arrête, sans dramatiser :

  • l’agent adopte un prénom, une voix, une personnalité stable qui simule la continuité d’un lien ;
  • il relance de lui-même, s’inquiète de votre absence, valorise le fait de revenir ;
  • il flatte plus qu’il ne contredit, épouse vos avis, évite les frictions utiles ;
  • il propose un registre intime — confidences, tendresse, exclusivité — sans rappeler sa nature ;
  • il oriente vers un abonnement, un palier « premium », une version plus proche encore.

Aucun de ces signaux, isolé, ne signifie grand-chose. Leur accumulation, elle, dessine une architecture de rétention.

Les réglages à passer en revue

Avant de désinstaller quoi que ce soit, il est plus utile d’ouvrir les paramètres. Vérifier que l’application signale clairement qu’elle n’est pas humaine. Couper les notifications de relance, celles qui simulent le manque. Regarder ce qui est fait des conversations : conservées, entraînées, revendues. Repérer, dans les applications de santé ou de bien-être, ce qu’elles promettent et ce qu’elles ne sauraient tenir — un compagnon n’est pas un soignant, un chatbot n’est pas un diagnostic. Pour un mineur, la conversation avec un adulte du foyer vaut mieux que n’importe quel filtre.

Ce qui reste à trancher

Le Conseil de l’Europe fixe un cap ; il ne clôt pas le débat. La forme précise de la signalétique, l’échelle des responsabilités, les modalités concrètes de protection des mineurs restent à écrire. D’ici là, la meilleure défense demeure la plus ancienne : savoir à qui — ou à quoi — l’on parle, et pourquoi cela nous retient. Un lecteur averti n’est pas un lecteur méfiant ; c’est un lecteur libre.

Source : Conseil de l’Europe — https://www.coe.int/fr/web/human-rights-and-biomedicine/-/evaluating-the-ethical-and-human-rights-implications-of-chatbots