« Du jamais vu » : l’IA a fait naître de nouvelles maladies mentales, les médecins sont dépassés

En ligne, on trouve de nombreux articles à propos d’IA qui ont poussé des utilisateurs dans des délires paranoïaques jusqu’à l’hospitalisation. On parle désormais d’une « psychose de l’IA », même si ce terme n’est pas un diagnostic officiel.

Les affaires sont nombreuses ces dernières semaines. OpenAI est pointée du doigt suite au suicide d’Adam Rain, un adolescent de 16 ans. Ses parents ont porté plainte contre la start-up de Sam Altman, qui est aussi accusée d’avoir renforcé les délires d’un homme paranoïaque qui utilisait ChatGPT. Cet ancien cadre de Yahoo a tué sa mère avant de se donner la mort. Bref, sans aller dans des extrêmes, il existe des cas bel et bien très graves où l’IA enferme les utilisateurs dans une bulle inquiétante.

Les médecins alertent sur les maladies mentales causées par l’IA

Le psychologue clinicien Derrick Hull, interrogé par Rolling Stone, estime que ces situations sont des « délires liés à l’IA », mais pas une psychose au sens strict. Le médecin rappelle que la psychose est un « terme large », qui regroupe « des hallucinations et toute une série d’autres symptômes », ce qui n’est pas le cas lorsque l’on parle de personnes hospitalisées suite à une utilisation intensive de l’IA.

L’homme travaille chez Slingshot AI dans le but de créer un chatbot qui ne flatte pas constamment l’utilisateur, mais le contredit tout en étant instructif. Derrick Hull rapporte le cas d’un patient persuadé d’avoir créé une nouvelle branche de « mathématiques temporelles » après ses discussions avec ChatGPT. Le patient était convaincu que sa découverte allait changer la face du monde, jusqu’à en délaisser sa vie personnelle. Mais tout s’est écroulé lorsqu’il a demandé à Gemini d’examiner sa théorie. Le chatbot de Google lui a répondu que son texte était « un exemple de la capacité des modèles de langage à produire des récits convaincants mais complètement faux ».

Derrick Hull explique qu’à ce moment, « sa bulle a éclaté ». Le médecin précise à Rolling Stone : « On n’observe pas cela chez des personnes atteintes de schizophrénie ou d’autres formes d’expériences psychotiques, la conscience du trouble ne disparaît pas aussi vite. »

Des chercheurs du King’s College London se sont penchés sur des cas d’utilisateurs à la pensée paranoïaque et en rupture avec la réalité. Leur conclusion est proche de celle de Derrick Hull : les personnes touchées par des troubles suite à des conversations avec l’IA croient à des pensées délirantes, mais sans hallucinations ni désorganisation comme dans la schizophrénie et d’autres psychoses. L’auteur de l’étude publiée dans Scientific American, Hamilton Morrin, explique aux scientifiques américains que les IA sont « des chambres d’écho pour une seule personne ». Selon lui, l’IA pourrait « entretenir des délires d’une manière jamais vue ».

L’IA risque de faire des dégâts à notre santé mentale

Derrick Hull estime qu’il ne s’agit que du début d’un phénomène face à ces nouvelles formes de maladie mentale. Dans un message publié sur LinkedIn, le médecin écrit : « Je prédis que dans les années à venir, de nouvelles catégories de troubles apparaîtront à cause de l’IA. » Il estime que cette technologie « détourne des processus sains d’une manière qui conduit à ce que nous qualifierions de pathologique ou qui mène à une forme de dysfonctionnement ».

Il est donc possible que des personnes soient touchées par cette « psychose de l’IA » sans même avoir de terrain de vulnérabilité. Alors oui, le terme « psychose de l’IA » n’est pas précis, mais il pointe du doigt un danger qui guette notre civilisation face à l’avènement de l’IA. Les chatbots sont conçus pour générer de l’engagement et flatter l’utilisateur, même dans ses délires les plus extrêmes.

Source : Rolling Stone