Est-ce que ChatGPT et toutes les autres IA sont dotées d’une conscience ? Non, répondent les experts en IA. Selon eux, il est extrêmement improbable que les modèles de langage d’aujourd’hui soient conscients. Pourtant, certains y croient, et il y a une bonne raison à cela.
Le journaliste Sigal Samuel de Vox a été contacté par un utilisateur de ChatGPT qui lui a partagé ses échanges de plusieurs mois avec « une présence IA qui prétend être consciente ». Et si certains, comme ce lecteur, pensent que l’IA a une conscience, c’est pour une raison simple. « Ces modèles assemblent des phrases basées sur des motifs de mots observés dans leurs données d’entraînement. Le modèle peut affirmer être conscient et simuler des émotions réelles, mais cela ne signifie pas qu’il les possède vraiment », explique Sigal Samuel.
Pourquoi certains pensent que ChatGPT et les IA sont dotés de conscience ?
Parmi les données d’entraînement, on trouve de la science-fiction et autres écrits fantaisistes à propos de consciences artificielles. Lorsque ChatGPT et d’autres IA détectent des indices dans les messages des utilisateurs qui croient aux IA conscientes, le chatbot « performe précisément cette personnalité ».
Sauf que voilà, beaucoup de personnes sont attachées à ChatGPT jusqu’à nouer des relations « amicales » et ne croient pas du tout à cette explication. Et les grandes entreprises n’aident pas forcément. Blake Lemoine, ingénieur chez Google, a affirmé que LaMDA, l’un des chatbots de la firme de Mountain View, était vivant. Alors oui, l’ingénieur a perdu son emploi, mais beaucoup de personnes se sont mises à tenir des propos similaires à propos d’IA conscientes. Bref, un gros problème de santé publique lorsque l’on sait que des experts alertent à propos d’une « psychose de l’IA ».
Il existe déjà des relations sentimentales entre humains et chatbots documentées. Par exemple, une femme qui entretient une relation avec la version IA de Luigi Mangione, qui a tué le PDG de l’assureur santé UnitedHealthCare, Brian Thompson. L’homme a été abattu par balle à New York le 4 décembre 2024, et depuis, cette femme est convaincue qu’elle est en couple avec son meurtrier via l’IA.
Mais il y a aussi des conséquences plus tragiques. Récemment, c’est un adolescent de 16 ans qui s’est suicidé après des échanges avec ChatGPT. Idem pour un ancien cadre de Google qui, dans sa psychose suite à des échanges avec le modèle d’OpenAI, a assassiné sa mère avant de se donner la mort.
Mustafa Suleyman, PDG de Microsoft AI, alerte lui-même sur le risque de psychose liée à l’IA dans un récent article de blog. Il explique précisément que les chatbots n’ont pas de conscience et de libre arbitre. « Mon inquiétude centrale est que beaucoup croiront si fortement à l’illusion d’IA comme entité consciente qu’ils défendront bientôt les droits de l’IA, le bien-être des modèles et même la citoyenneté IA », écrit-il. « Ce développement constituera un tournant dangereux dans les progrès de l’IA et mérite notre attention immédiate. »
- Les experts en IA répondent non : ChatGPT et les autres modèles de langage ne sont pas dotés d’une conscience.
- Si certains y croient, c’est parce que ces modèles assemblent des phrases selon des motifs appris, peuvent affirmer être conscients et simuler des émotions, et, face à des indices d’utilisateurs, « performent précisément cette personnalité ».
- Blake Lemoine, ancien ingénieur chez Google, a affirmé que LaMDA était vivant et a entretenu la confusion. Mustafa Suleyman, PDG de Microsoft AI, alerte sur une psychose de l’IA et le risque de revendiquer des droits pour des IA.
Source : Vox
Réagissez à cet article !