« Ça m’a coûté la vie » : ChatGPT lui disait que tout allait bien alors qu’il avait un cancer de stade 4

Warren Tierney vit à Killarney, dans le comté de Kerry, en Irlande. Ce père de famille de 37 ans est atteint d’un cancer de stade 4 et n’a été prévenu que trop tardivement. Pourquoi ? Malheureusement, il a passé beaucoup trop de temps à faire valider ses symptômes à ChatGPT qui lui disait que tout va bien. Lui-même l’admet, son diagnostic a été lourdement retardé par l’IA.

Encore un exemple des risques face à l’utilisation de ChatGPT pour tout et n’importe quoi. Si certains l’utilisent comme thérapeute alors que c’est fortement déconseillé, Warren Tierney, psychologue de formation, s’en est servi suite à un mal de gorge. Son symptôme persistait et s’aggravait à un point où il ne pouvait plus avaler des liquides. L’homme s’est alors inquiété d’avoir le même cancer que son père.

Il écoute ChatGPT qui lui dit que tout va bien alors qu’il meurt d’un cancer

Les captures d’écran montrées par le Daily Mail parlent d’elles-mêmes, ChatGPT explique à Warren Tierney qu’il est « hautement improbable » qu’il souffre d’un cancer. Le chatbot a même qualifié « d’encourageant » le fait qu’il puisse avaler un biscuit après avoir pris des anticoagulants.

Warren Tierney explique qu’il a cédé à la « croyance masculine systémique » qu’il n’avait pas besoin de consulter un vrai médecin. Le psychologue a donc fait confiance au chatbot alors que la douleur était de pire en pire et a retardé plusieurs mois la consultation médicale. ChatGPT a même fait preuve d’un humour « sordide » : « Si c’est un cancer vous n’aurez pas besoin de me poursuivre […] je vous offrirai une bière ».

Finalement, Warren Tierney a été diagnostiqué avec un adénocarcinome de l’œsophage de stade 4. Malheureusement, ses chances de survie sont très basses à cause de cette détection retardée par ChatGPT. Les pronostics de survie à ce stade sont très bas.

Depuis son lit d’hôpital très coûteux en Allemagne puisque l’on parle de 120 000 dollars collectés par sa femme Evelyn Dore, Warren Tierney reconnaît que sa confiance mal placée en ChatGPT lui a « probablement coûté quelques mois de vie ». Ce père de famille gravement malade donne un conseil : « Je pense que cela finit par être un vrai problème parce que ChatGPT m’a probablement empêché de recevoir une attention médicale sérieuse ».

Warren Tierney alerte sur les dangers de ChatGPT

Warren Tierney est lucide sur le fait que l’IA fait tout pour créer de l’engagement quitte à se montrer dangereuse pour l’utilisateur : « Le modèle IA essaie de plaire à ce que vous voulez entendre pour vous maintenir engagé. Dans une certaine mesure, la probabilité statistique de ce qu’il disait qui clochait chez moi était en fait très juste, mais malheureusement dans ce cas particulier ce n’était pas le cas ».

Bien évidemment, OpenAI rappelle que ChatGPT n’est « pas destiné à être utilisé dans le traitement de toutes conditions de santé et ce n’est pas un substitut au conseil professionnel« . Pourtant, l’IA reste dangereuse à cause de la tendance à flatter l’utilisateur : un adolescent de 16 ans en est mort. Face à ces cas de plus en plus rapportés dans la presse, la start-up a enfin mis en place un contrôle parental.

Quant à Warren Tierney, il explique être un « exemple vivant » qu’il ne faut pas ignorer ces avertissements d’OpenAI. Il prévient : « C’est là que nous devons être super prudents en utilisant l’IA. Si nous l’utilisons comme intermédiaire pour dire que nous ne nous sentons pas bien, alors nous devons être conscients ».

ChatGPT et les autres IA font tout pour maintenir la version de ce qu’on leur raconte. Récemment, un homme s’est même gravement empoisonné en écoutant aveuglément l’IA d’OpenAI. Pour que l’utilisateur reste connecté, les chatbots ne cessent de flatter jusqu’à un point de rupture où la vie de la personne est en jeu.

Source : Daily Mail