Trois familles d’outils, trois niveaux de vigilance

Qu’on nous permette de nous étonner qu’on parle encore de « l’IA » au singulier, comme s’il s’agissait d’un objet unique. Le Conseil de l’Europe, lui, sépare nettement trois familles. Le chatbot généraliste répond à tout et à rien : utile pour un devoir, plus discutable quand l’enfant lui confie ce qu’il ne dit à personne. Le compagnon IA, conçu pour tisser une relation, joue sur la présence, la voix, l’attachement — logique commerciale assumée, effets psychiques moins bien cartographiés. Les applications spécialisées de santé ou de bien-être, enfin, se rangent dans une catégorie à part, avec des exigences propres. Les trois n’appellent pas la même prudence : les confondre, c’est déjà se tromper de réglage.

Ce que le Conseil de l’Europe demande

Ses travaux consacrés aux jeunes formulent trois exigences. Une signalétique plus claire, d’abord : l’enfant doit savoir qu’il parle à une machine, quelle est sa fonction, ce qu’elle enregistre. Des mécanismes de responsabilité, ensuite : quand une interaction dérape, quelqu’un doit répondre — l’éditeur, la plateforme, un canal de signalement identifié. Une protection adaptée, enfin, qui reconnaît que l’utilisateur de treize ans ne se défend pas comme celui de trente. Le vocabulaire est mesuré ; l’ambition ne l’est pas. Elle rejoint, sur son versant transparence, les règles européennes qui ciblent la tromperie, l’usurpation et la désinformation — trois procédés dont un mineur perçoit rarement le mécanisme lorsqu’ils se déploient dans une conversation qui, elle, se donne des airs d’amitié.

Signaux à observer, réglages à poser

On ne pose pas ici de diagnostic — ni médical, ni psychologique : ce n’est pas notre rôle, et le Conseil de l’Europe ne le demande pas. On décrit ce qui, dans l’usage, mérite un regard.

  • Repérer la nature de l’outil : généraliste, compagnon, spécialisé santé/bien-être. La mention doit être visible dans l’application ; son absence est déjà une information.
  • Vérifier l’indication qu’il s’agit d’une IA, à chaque conversation, et pas seulement à l’installation.
  • Identifier le canal de signalement : à qui écrire si un échange dérape, en combien de temps la plateforme répond.
  • Regarder les réglages par défaut sur la conservation des échanges, la personnalisation, la voix, l’accès aux contacts.
  • Observer, dans la durée, la place que prend l’outil : temps passé, substitution à d’autres relations, réactions quand on l’éteint.

Ce qui reste à préciser

Les travaux du Conseil de l’Europe posent le cadre ; ils ne referment pas le dossier. La ligne entre compagnon IA et application de bien-être demeure poreuse dans les magasins d’applications, où les catégories relèvent souvent du marketing plus que du droit. La signalétique demandée n’a pas encore de format unifié visible pour un enfant de douze ans. Et la mise en œuvre concrète des mécanismes de responsabilité — qui répond, en combien de temps, avec quelles suites — reste largement à documenter. Autant de points que les parents, faute de mieux, devront pour l’instant vérifier eux-mêmes.

Avant la première conversation

La recommandation utile tient en une phrase : ouvrir l’application avec l’enfant, lire ensemble ce qu’elle dit d’elle-même, régler ce qui peut l’être, convenir de ce qu’on fait si un échange met mal à l’aise. Ce n’est pas de la surveillance ; c’est le minimum que le Conseil de l’Europe, en creux, appelle de ses vœux — et que les éditeurs, tant qu’on ne l’exige pas d’eux, se garderont bien d’offrir spontanément.

Source : Conseil de l’Europe — https://www.coe.int/fr/web/human-rights-and-biomedicine/-/evaluating-the-ethical-and-human-rights-implications-of-chatbots