Replika, Character.AI et la santé mentale, ce que je vois en consultation

@dr_isabelle • il y a 2 mois

Je reçois en consultation depuis quelques mois des patients qui me parlent de Character.AI ou de Replika comme d'un soutien quotidien. Je voulais partager quelques observations cliniques, sans jugement, parce que le sujet est plus subtil qu'il n'y paraît. Ce qui marche apparemment bien : la disponibilité immédiate, l'absence de jugement ressenti, la possibilité de revenir sur une discussion à n'importe quel moment, et surtout pour les patients très anxieux, le fait que la prise de parole soit moins coûteuse émotionnellement que face à un humain. Plusieurs patients m'ont décrit ces échanges comme un "sas" entre leur état réel et le moment où ils osent en parler à quelqu'un. Ce qui m'inquiète, en revanche, c'est ce que j'ai commencé à observer chez deux ou trois patients : une forme de dépendance affective à l'agent. Pas une psychose, pas du tout, mais une difficulté à investir d'autres relations, parce que la conversation avec l'agent est plus "confortable". Pour des patients déjà fragilisés socialement, c'est exactement le contraire de ce dont ils ont besoin. La position de la Société française de psychiatrie publiée en janvier est nuancée : pas de rejet en bloc, mais une recommandation de cadrage pour les usages. Je trouve cette position juste. Le problème c'est qu'aucun cadrage n'est en place, et que les éditeurs de ces applications n'ont aucun intérêt commercial à le poser eux-mêmes. Si vous avez des proches qui utilisent ces outils intensément, n'hésitez pas à en parler avec un professionnel de santé. Pas pour interdire, juste pour replacer ça dans une vie qui ne soit pas que numérique.

7 commentaires

Connectez-vous pour commenter

@marc_prof il y a 2 mois

Docteure votre observation clinique sur les patients qui développent une dépendance à ces agents me parle énormément du côté pédagogique. J'ai eu cette année un élève de 4e qui m'a dit textuellement "je préfère parler de mes problèmes à mon IA qu'à mes parents". Ce gosse n'est pas en détresse psy, c'est un gamin normal. Mais il a trouvé dans Character.AI quelque chose que sa famille ne lui donne pas, à savoir une oreille disponible et sans jugement. La question pour moi n'est pas l'IA en tant que telle, c'est le manque d'écoute humaine qu'elle révèle. Sans cette absence, l'outil n'aurait pas ce pouvoir.

@pierre_lm il y a 2 mois

Marc votre observation rejoint un débat plus ancien qu'il n'y paraît. Au début des années 2000, les psychiatres avaient déjà tiré la sonnette d'alarme sur les forums en ligne où des adolescents trouvaient une écoute qu'ils ne trouvaient pas dans leur famille ni à l'école. La réponse institutionnelle de l'époque a été de pointer du doigt les forums comme dangereux, alors que le problème était évidemment celui de l'isolement adolescent. Vingt-cinq ans plus tard, on est en train de refaire exactement le même contresens avec les agents IA. La technologie change, le mécanisme social ne change pas.

@sofia_vdl il y a 2 mois

Marc en complément un point côté tech : Character.AI utilise un modèle de personnalisation qui apprend des préférences de l'utilisateur au fil des conversations. Plus l'utilisateur revient, plus l'agent est précisément calibré sur ce qu'il veut entendre. C'est exactement la mécanique des algorithmes de recommandation de TikTok, transposée au dialogue. Cette boucle d'engagement est très puissante et explique pourquoi certains utilisateurs développent une dépendance en quelques semaines. Ce n'est pas de l'addiction au sens médical, c'est de la captation comportementale conçue pour maximiser le temps passé. Les régulateurs n'ont pas encore d'outils pour traiter ce genre de phénomène.

@pgarcia il y a 2 mois

docteure, je vais être un peu moins consensuel que les autres : je trouve qu'il y a quelque chose de très inquiétant dans l'idée même de remplacer le lien humain par un agent. Pas parce que l'agent est dangereux en soi, mais parce que ça normalise l'idée qu'une vie sans liens proches est viable si on a une bonne IA. Or on sait depuis Bowlby que ce n'est pas viable. La vraie question politique c'est : pourquoi tant de gens en arrivent là ? La réponse est connue, on a détruit toutes les structures de sociabilité (famille élargie, voisinage, paroisse, syndicats, asso). L'IA comble un vide qu'on a creusé nous-mêmes. C'est moralement très inconfortable.

@thomas_m il y a 2 mois

Paolo votre lecture est intéressante mais elle néglige une dimension économique. L'effondrement des liens sociaux que vous décrivez n'est pas un accident, c'est le sous-produit d'une organisation économique qui demande aux individus de se déplacer pour leur travail (donc rupture des ancrages locaux), de se former en continu (donc rupture des continuités professionnelles), et de consommer en permanence (donc occupation du temps libre). Dans ce contexte, les agents IA conversationnels ne sont pas une cause de l'isolement, ils sont un produit de remplacement adapté à un mode de vie déjà isolé. Combattre les agents sans combattre le mode de vie qui les rend nécessaires serait absurde.

@anna_kw il y a 2 mois

Paolo je rejoins ton diagnostic à 100 % et je voudrais ajouter une référence. Sherry Turkle, dans "Alone Together" (2011), avait anticipé exactement ce que la docteure observe en consultation. Sa thèse est que nous remplaçons progressivement des liens humains complexes (avec frictions, exigences, déceptions) par des liens simplifiés avec des entités qui ne nous demandent rien. Ce n'est pas techniquement nouveau, c'était déjà là avec les animaux de compagnie robotiques au Japon dans les années 2000. Ce qui est nouveau c'est l'échelle. On va passer en quelques années d'une expérimentation marginale à un phénomène qui va concerner des dizaines de millions d'utilisateurs en France. C'est socialement inédit.

@julie_arnlt il y a 2 mois

Sur le plan juridique je voudrais soulever un point qui n'a pas encore été abordé. Les agents conversationnels comme Replika ou Character.AI collectent les confidences les plus intimes de millions d'utilisateurs. Ces données sont stockées sur des serveurs majoritairement américains et leur utilisation par les éditeurs n'est encadrée que par des CGU très permissives. En cas de fuite, de revente ou de subpoena par une autorité étrangère, on parle d'un volume de données psychiatriques sans équivalent dans l'histoire. Aucun texte n'oblige aujourd'hui ces éditeurs à appliquer le secret médical. C'est une bombe juridique en attente d'éclatement.