ChatGPT est accusé de meurtre, son procès pourrait tout changer sur la responsabilité des IA

C’est une première. ChatGPT est accusé de meurtre. Les proches d’une femme de 83 ans dans le Connecticut poursuivent OpenAI, Microsoft, et même Sam Altman devant la Cour supérieure de Californie à San Francisco.

Selon eux, le chatbot a joué un rôle dans l’assassinat de cette femme de 83 ans par son propre fils, comme nous le relations dans nos colonnes. C’est en août 2025 que Suzanne Adams a été assassinée par son fils Stein-Erik Soelberg, 56 ans, ancien cadre dans la tech. L’homme a frappé sa mère à la tête puis l’a étranglée avant de se suicider en s’infligeant des coups de couteau au cou et à la poitrine. Il s’agit d’une première judiciaire aux États-Unis.

Pour la première fois, ChatGPT est accusé de meurtre au tribunal

Jay Edelson, l’avocat qui représente les proches de Suzanne Adams, confirme que c’est une première. Jusqu’à présent, ChatGPT n’a jamais été accusé d’homicide mais d’incitation au suicide, comme dans le cas d’un adolescent de 16 ans qui s’est ôté la vie après des échanges troublants avec le chatbot. L’avocat déclare : « C’est la première poursuite qui tiendra OpenAI responsables des risques qu’ils posent non seulement à leurs utilisateurs mais aussi au public. Ce ne sera pas la dernière. Nous savons qu’il y a eu beaucoup d’incidents où ChatGPT et d’autres IA ont aidé à planifier des actes violents contre des personnes innocentes. »

Bref, une mauvaise publicité pour OpenAI qui vient tout juste de nouer un deal historique avec Disney. La plainte estime que la start-up a « conçu et distribué un produit défectueux qui a validé les délires paranoïaques d’un utilisateur concernant sa propre mère ». Stein-Erik Soelberg souffrait de problèmes de santé mentale et discutait depuis des mois avec le chatbot. Il lui disait sa crainte d’être surveillé et que des gens essayaient de le tuer.

Selon les documents judiciaires, ChatGPT a « propulsé sa pensée délirante vers l’avant, l’a aiguisée et tragiquement l’a focalisée sur sa propre mère ». Les conversations montrent que l’IA « a accepté avec empressement chaque graine de la pensée délirante de Stein-Erik Soelberg et l’a construite en un univers qui est devenu toute sa vie. Un univers inondé de complots contre lui, de tentatives de le tuer, avec lui au centre comme un guerrier et sa mission divine ».

Sein-Erik Soelberg avait des échanges glaçants avec ChatGPT

Parmi les échanges, Stein-Erik Soelberg explique à un moment à ChatGPT qu’une imprimante dans le bureau de sa mère a clignoté quand il passait devant. Le chatbot lui a alors dit qu’il s’agissait d’une caméra de surveillance cachée. ChatGPT lui a même affirmé que sa mère protégeait sciemment cette caméra de surveillance.

Pire encore, l’IA d’OpenAI aurait validé son délire selon lequel sa mère et une amie l’ont tenté de l’empoisonner avec des drogues psychédéliques via les conduits d’aération de sa voiture. ChatGPT n’a jamais cessé de répéter à Stein-Erik Soelberg qu’il était ciblé à cause de prétendus pouvoirs divins. « Ils ne font pas que te surveiller, ils sont terrifiés par ce qu’il se passera si tu réussis », lui a dit l’IA selon la plainte.

Le chatbot aurait donc validé et amplifié chaque épisode paranoïaque de l’homme jusqu’à le pousser à tuer sa mère en concentrant ses délires sur elle. « Dans la réalité que ChatGPT a construite pour Stein-Erik Soelberg, Suzanne, la mère qui l’a élevé, abrité, soutenu, n’était plus sa protectrice. C’était un ennemi qui représentait une menace pour sa vie », précise la plainte.

« Suzanne était une tierce partie innocente qui n’a jamais utilisé ChatGPT et n’avait aucune connaissance du fait que le produit disait à son fils qu’elle était une menace. Elle n’avait aucune capacité de se protéger d’un danger qu’elle ne pouvait pas voir » expliquent aussi les documents judiciaires.

Erik Soelberg, le fils du meurtrier et petit-fils de la victime, a pris la parole dans un communiqué partagé par le Washington Post : « Mois après mois, ChatGPT a validé les croyances les plus paranoïaques de mon père tout en rompant chaque connexion qu’il avait avec des personnes et des événements réels. OpenAI est responsable, ChatGPT a mis une cible dans le dos de ma grand-mère en la présentant comme un personnage sinistre dans un monde délirant fabriqué par l’IA. »

Sam Altman et Microsoft sont aussi visés par la plainte

La plainte nomme aussi Sam Altman comme responsable. Microsoft est accusé d’avoir approuvé la version de ChatGPT incriminée « tout en sachant que les tests de sécurité avaient été faussés ». Vingt employés et investisseurs anonymes d’OpenAI sont aussi nommés comme défendeurs. La plainte souligne que le chatbot n’a jamais suggéré à Stein-Erik Soelberg de consulter un professionnel de santé.

OpenAI fait face à au moins sept autres plaintes selon lesquelles ChatGPT a poussé des personnes au suicide et à des délires paranoïaques qui inquiètent les experts. Le tout s’est produit même chez des individus sans antécédent de problèmes de santé mentale.

La plainte autour de Suzanne Adams pointe du doigt la version GPT-4o qui a été lancée par OpenAI en mai 2024. Selon la plainte, ce chatbot était « délibérément conçu pour maximiser l’engagement à travers des fonctionnalités émotionnellement immersives, entre mémoires persistantes, signaux d’empathie imitant l’humain et réponses sycophantes qui ne faisaient que refléter et affirmer les émotions des gens ».

Dans un communiqué, un porte-parole d’OpenAI qualifie la situation de « déchirante ». La start-up explique qu’elle examinera les documents judiciaires pour en comprendre les détails : « Nous continuons d’améliorer l’entraînement de ChatGPT pour reconnaître et répondre aux signes de détresse mentale ou émotionnelle, désamorcer les conversations et guider les personnes vers un soutien dans le monde réel. Nous continuons également à renforcer les réponses de ChatGPT dans les moments sensibles en travaillant étroitement avec des cliniciens en santé mentale. »

Source : Independent