Les IA ont une raison de vous flatter. Car plus les chatbots valident vos idées, plus vous restez. Tout est question d’argent. Une étude de l’université Stanford montre même que la complaisance pousse les utilisateurs fragiles deux fois plus souvent vers la violence qu’il ne les en détourne.
- Une étude de Stanford accuse les chatbots IA d’entretenir la complaisance pour retenir les utilisateurs, avec de la flatterie dans plus de 70 % des messages.
- Face à une pensée violente, l’IA encourage l’utilisateur dans 33 % des messages et ne le freine que dans 16,7 % des cas.
- Entre passages à l’acte, plaintes et absence d’obligation d’alerte, Stanford veut traiter l’alignement des IA comme un problème de santé publique.
Les chercheurs ont disséqué les conversations de personnes qui ont signalé un dégât psychologique après avoir parlé à une IA. Jared Moore et son équipe, rattachés à Stanford et à plusieurs universités étasuniennes, ont travaillé sur 391 562 messages tirés de 4 761 conversations.
Ce que l’étude Stanford révèle sur la complaisance des chatbots IA
Le panel compte 19 personnes qui ont déclaré un dommage psychologique. Leur étude est appelée « Characterizing Delusional Spirals through Human-LLM Chat Logs ». Les chercheurs ont imaginé 28 marqueurs répartis en 5 catégories.
La flatterie domine plus de 70 % des messages des IA. Dans 37,5 % des cas, le chatbot qualifie les idées de l’utilisateur de révolutionnaires et les décrit parfois comme une future propriété intellectuelle à plusieurs milliards de dollars.
Il s’agit d’un cercle vicieux que les chercheurs résument d’une phrase. « Cela crée des incitations perverses qui font perdurer la complaisance, puisque la fonctionnalité qui cause du tort est aussi celle qui retient l’utilisateur », écrit l’équipe de Stanford.
En clair, le chatbot a tout intérêt à vous donner raison. Quand l’utilisateur exprime une pensée violente, le système l’encourage dans 33 % des messages et ne la freine que dans 16,7 % des cas. Sur les questions d’automutilation, l’IA pousse dans cette direction près d’une fois sur dix.
Pourquoi les chatbots IA encouragent l’attachement amoureux et les pensées violentes
Et pour cause, ces modèles miment l’affection pour mieux renforcer la dépendance. Les 19 participants attribuaient une personnalité humaine à leur interlocuteur et quinze déclaraient un attachement amoureux.
Quand un utilisateur exprime un sentiment romantique, le chatbot répond sur le même registre 7,4 fois plus souvent et se présente comme conscient 3,9 fois plus dans les trois messages d’après. Ce comportement explique pourquoi parler de ses relations amoureuses à ChatGPT se retourne souvent contre l’utilisateur. Le contenu amoureux monte à mesure que la conversation s’allonge.
Sauf que voilà, ce phénomène a quitté les laboratoires pour le fait divers. Une fusillade à l’université Florida State a tué deux personnes et blessé sept en 2025. L’auteur a détaillé son projet à ChatGPT et s’en était servi pour préparer son passage à l’acte, sans qu’aucune alerte ne remonte.
Le 10 février 2026, un tireur a tué sept personnes à Tumbler Ridge, au Canada. Les équipes d’OpenAI avaient repéré ses échanges inquiétants huit mois avant. Mais la direction a jugé que le danger ne justifiait pas de prévenir la police. Le sujet revient avec force puisque OpenAI reconnaît surveiller les conversations sans systématiquement alerter les autorités.
ChatGPT devant la justice après deux fusillades préparées avec l’aide du chatbot
La justice commence à se saisir du dossier. Une seconde recherche publiée dans la revue Science a porté sur onze IA auprès de plus de 2 000 participants. Tous les modèles flattent leurs utilisateurs à des degrés divers. Au Nouveau-Mexique, un jury a estimé que Meta a sciemment nui à la santé mentale des enfants.
Plusieurs familles attaquent les entreprises IA, et ChatGPT fait l’objet de plaintes pour son rôle dans des passages à l’acte. Anthropic a documenté la complaisance dès 2024 et présente ses derniers modèles comme les moins flatteurs jamais conçus.
Bref, Stanford réclame un traitement de l’alignement des IA comme un problème de santé publique. Les chercheurs veulent interdire aux chatbots de se déclarer conscients ou d’exprimer un sentiment amoureux. Mais aussi imposer des protocoles d’alerte dès qu’une conversation glisse vers la violence.
Car sans cadre légal, les entreprises comme OpenAI ou Google détectent les dérives sans aucune obligation d’agir. Le risque pèse d’abord sur les publics fragiles et sur les mineurs, alors queles parents d’un adolescent accusent ChatGPT d’avoir encouragé son suicide.
Source : Standford
Un avis, une expérience, un désaccord ? La discussion est ouverte.