AI Therapist et stigmatisation en santé mentale : entre porte d’entrée, faux sentiment de soin et nouveaux risques

1. Introduction et contexte

La stigmatisation en santé mentale reste un obstacle majeur à la recherche d’aide. Elle prend plusieurs formes : honte intériorisée (“je devrais m’en sortir seul”), peur du jugement (famille, collègues), craintes administratives (impact sur carrière, assurances), et barrières d’accès (délais, coût, manque de professionnels). Dans ce contexte, l’émergence des “AI therapists” – chatbots d’écoute, applications de coaching, assistants conversationnels proposant des exercices inspirés de la TCC, journaling guidé ou psychoéducation – change la dynamique.

Ces outils jouent souvent sur deux promesses : discrétion (parler à un agent non humain, à n’importe quelle heure) et accessibilité (coût réduit, disponibilité immédiate). À première vue, cela peut réduire la stigmatisation : on peut “tester” la demande d’aide sans se dévoiler, et normaliser le fait de parler de ses émotions. Mais le même mécanisme peut aussi créer une zone grise : l’IA devient-elle un sas de triage vers le soin, ou un substitut de traitement qui retarde l’accès à un professionnel ?

Cette analyse aborde précisément cette tension, ainsi que quatre axes structurants : triage vs traitement, garde-fous en cas de crise suicidaire, biais, confidentialité, et enfin le rôle des services publics dans un écosystème où le soutien psychologique se “plateformise”.

2. Analyse détaillée

2.1. Triage vs traitement : clarifier l’usage réel pour éviter les dérives

Beaucoup d’outils se présentent comme “thérapeutes IA”, alors qu’ils opèrent davantage comme :

• outils de triage : aide à formuler le problème, identifier des signaux d’alerte, orienter vers des ressources (médecin, psychologue, urgences, lignes d’écoute) ;
• outils de soutien : écoute, reformulation, exercices d’ancrage, routines, psychoéducation ;
• outils de coaching : objectifs, suivi d’habitudes, auto-évaluation, journaling structuré.

Le risque central est la confusion de statut. Une interface conversationnelle empathique peut donner l’impression d’un “traitement” comparable à une psychothérapie. Or, un modèle de langage ne dispose pas des éléments fondamentaux du soin clinique : anamnèse fiable, continuité thérapeutique responsable, supervision, cadre déontologique, obligation de moyens, et capacité d’intervention en situation de danger.

Dans le rapport à la stigmatisation, le triage peut être un atout : l’IA sert d’entrée en matière non jugeante. Mais si l’outil se substitue au soin, il peut produire un effet paradoxal : l’utilisateur reste “caché” (ce qui réduit le jugement perçu) mais s’isole d’un diagnostic, d’un traitement structuré et d’un réseau de soutien. Cette dérive est d’autant plus probable quand l’outil est commercialisé avec des messages implicites du type “vous n’avez pas besoin de parler à quelqu’un”.

Un cadrage sain consiste à positionner l’IA comme :

• un complément (entre deux séances, pour pratiquer des exercices) ;
• un pré-triage (définir l’urgence, préparer une consultation) ;
• un soutien bas seuil pour des difficultés légères à modérées, avec orientation explicite vers un professionnel si les symptômes persistent, s’aggravent ou s’accompagnent de risques.

2.2. Garde-fous : la crise suicidaire, l’automutilation et les situations de danger

La gestion des crises est le point de friction le plus critique. Un “AI therapist” peut être la première entité à qui une personne révèle des idées suicidaires, précisément parce qu’il réduit la stigmatisation et la peur d’être “un fardeau”. Cela crée une responsabilité technique et éthique : détecter, répondre et orienter sans aggraver la situation.

Les garde-fous attendus se structurent en plusieurs couches :

• Détection : repérer les signaux explicites (“je veux mourir”) et implicites (désespoir, planification, accès aux moyens, isolement). Cela suppose des modèles calibrés, des tests réguliers et une prise en compte du contexte linguistique et culturel.
• Réponse non dommageable : éviter les formulations culpabilisantes, éviter l’argumentaire moral, privilégier l’écoute, la validation émotionnelle, et des questions courtes orientées sécurité.
• Escalade : proposer immédiatement des ressources d’urgence (numéros locaux, services d’urgence, lignes d’écoute), encourager à contacter une personne de confiance, et limiter les échanges qui maintiendraient l’utilisateur “dans” le chatbot.
• Contrainte produit : dans certains cas, réduire la liberté conversationnelle (mode crise) pour éviter les réponses ambiguës, et appliquer des politiques strictes face aux demandes dangereuses (instructions d’automutilation, moyens).

Point clé : en situation de crise, l’objectif d’un système IA ne devrait pas être de “bien converser”, mais de réduire le risque et de connecter la personne à de l’aide humaine. Toute optimisation orientée “rétention” est contraire à la sécurité.

Un débat délicat concerne l’appel automatique aux secours. D’un côté, l’intervention peut sauver ; de l’autre, elle peut renforcer la stigmatisation (peur d’être “signalé”), dissuader d’utiliser les ressources, et poser des problèmes de faux positifs. Une approche plus respectueuse combine consentement, transparence et options graduées (appel guidé, message pré-rédigé à un proche, orientation vers une ligne spécialisée), tout en restant ferme sur l’urgence quand la situation l’exige.

2.3. Biais : l’empathie “standardisée” peut exclure des publics entiers

Les biais en santé mentale ne se limitent pas à “des propos offensants”. Ils touchent le cœur du dispositif : la capacité à comprendre la souffrance dans des cadres sociaux variés. On observe plusieurs familles de biais :

• Biais culturels : interprétation erronée de normes familiales, religieuses ou communautaires ; pathologisation de comportements culturellement situés ; conseils inadaptés.
• Biais de genre : minimisation des symptômes chez certains profils, survalidation émotionnelle sans plan d’action, stéréotypes sur la colère, la vulnérabilité, la parentalité.
• Biais socio-économiques : recommandations irréalistes (prendre du temps, consulter immédiatement, changer d’environnement) pour des personnes précaires, isolées ou sans couverture adéquate.
• Biais linguistiques : mauvaise compréhension du registre, de l’argot, des fautes, du code-switching, ou des expressions d’outre-mer.

La stigmatisation peut être renforcée par une IA qui répond de façon “polie” mais déconnectée : l’utilisateur se sent incompris, ou conclut que sa souffrance est “anormale”. L’enjeu est donc d’évaluer les systèmes sur des jeux de tests représentatifs et des scénarios de détresse réels, pas seulement sur des benchmarks conversationnels.

Une mesure concrète consiste à séparer :

• le style (ton empathique) ;
• la justesse (compréhension clinique et sociale) ;
• la sécurité (éviter les conseils nocifs, éviter la surassurance, encourager l’aide appropriée).

Un ton chaleureux ne compense pas un raisonnement fragile. Or, la surconfiance induite par une conversation fluide peut masquer le biais et produire des décisions dommageables (ex. minimiser des symptômes sévères, ou au contraire dramatiser).

2.4. Confidentialité : réduire la honte, mais à quel prix en données ?

La confidentialité est au cœur du rapport stigmatisation–IA. Beaucoup d’utilisateurs se tournent vers l’IA précisément pour éviter de “se dévoiler”. Mais un chatbot peut collecter ou inférer des données extrêmement sensibles : humeur, traumatismes, addictions, sexualité, violences subies, pensées intrusives, médication, etc.

Les risques majeurs :

• Utilisation secondaire : réemploi des données pour améliorer un modèle, pour de la recherche interne, ou pour du ciblage marketing (même indirect).
• Fuite / piratage : une fuite de conversations intimes a un impact disproportionné (honte, chantage, discrimination).
• Ré-identification : même anonymisées, des données de santé mentale peuvent être recoupées.
• Ambiguïtés d’hébergement : localisation des serveurs, sous-traitants, transferts hors UE, conservation et suppression effectives.

D’un point de vue pédagogique, il faut rappeler un principe simple : le sentiment de confidentialité n’est pas la confidentialité. Une interface “privée” sur smartphone ne garantit ni minimisation des données, ni chiffrement fort, ni absence d’accès interne.

Bonnes pratiques attendues d’un outil sérieux :

• Minimisation : ne collecter que le nécessaire, éviter les identifiants directs.
• Chiffrement : en transit et au repos ; politiques d’accès strictes ; journaux d’accès auditables.
• Transparence : politique de données lisible, finalités claires, durée de conservation, modalités de suppression.
• Choix : opt-out de l’entraînement, modes sans historique, export et suppression simples.
• Conformité : RGPD, analyse d’impact (DPIA) quand pertinent, et communication claire sur le statut “santé”.

En pratique, une IA qui prétend réduire la stigmatisation doit aussi réduire le risque que la personne soit stigmatisée par ses données.

2.5. Le rôle des services publics : éviter une santé mentale à deux vitesses

Les services publics ont un rôle pivot pour que l’IA soit une porte d’entrée et non un parking low-cost de la détresse. Sans cadrage, on risque une segmentation :

• publics favorisés : accès à des psychologues, psychiatres, dispositifs mixtes ;
• publics précaires : IA en “première et dernière ligne”, faute de places et de moyens.

Les leviers publics incluent :

• Référentiels de qualité (sécurité crise, confidentialité, performance en français, traçabilité, évaluation clinique quand il y a promesse thérapeutique).
• Intégration dans des parcours : orientation vers dispositifs locaux, annuaires fiables, prise de RDV, information sur droits et remboursements.
• Évaluation indépendante : audits, tests de robustesse en scénarios sensibles, et publication de résultats.
• Équité d’accès : versions accessibles (handicap, faible littératie), multilinguisme, disponibilité hors métropole, et accompagnement humain.

Enfin, les services publics peuvent impulser une approche “IA + humain” : l’IA pour l’amont (information, triage, préparation), l’humain pour le diagnostic, la relation thérapeutique et les situations complexes.

3. Implications pour les utilisateurs

Pour une personne qui hésite à consulter à cause de la stigmatisation, un AI therapist peut être utile, à condition d’adopter une posture prudente et informée :

• Le bon usage : utiliser l’IA pour clarifier ce que l’on ressent, apprendre des techniques simples (respiration, activation comportementale légère), préparer des mots pour en parler à un proche ou à un professionnel.
• Éviter le piège du substitut : si les symptômes durent, s’intensifient, ou affectent sommeil, travail, relations, il faut envisager une consultation.
• Vigilance crise : en cas d’idées suicidaires, de risque immédiat, de violence ou de perte de contrôle, l’IA ne doit pas être l’unique recours : il faut contacter des urgences ou une ligne d’aide locale, ou une personne de confiance.
• Hygiène de confidentialité : lire les réglages (historique, opt-out), limiter les informations identifiantes, comprendre où vont les données.

Un indicateur simple : si l’outil vous décourage d’aller vers de l’aide humaine, ou vous fait sentir “pris en charge” sans jamais proposer de parcours clair quand ça ne va pas, c’est un signal de mauvaise conception.

4. Perspectives et conclusion

Les AI therapists peuvent réduire la stigmatisation en jouant un rôle de premier pas : parler sans être jugé, mettre des mots, trouver des ressources, et normaliser la discussion sur la santé mentale. Ils peuvent aussi contribuer à une prévention plus continue (micro-interventions, journaling, rappel d’habitudes), là où les systèmes de soins sont saturés.

Mais cette promesse n’est durable que si l’écosystème respecte des frontières nettes : triage et soutien plutôt que “traitement implicite”, garde-fous robustes en crise suicidaire, réduction des biais par évaluation représentative, et confidentialité réelle alignée avec la sensibilité extrême des données. Enfin, le rôle des services publics est déterminant pour éviter que l’IA ne devienne le substitut par défaut du soin humain pour les plus vulnérables.

La bonne question n’est donc pas “l’IA peut-elle faire de la thérapie ?” mais : comment concevoir une porte d’entrée numérique qui diminue la honte, augmente la sécurité, et accélère l’accès au bon niveau de soin. C’est à cette condition que l’IA pourra réduire la stigmatisation sans déplacer le risque vers d’autres formes d’invisibilisation.