Des liens émotionnels se nouent entre les utilisateurs et ChatGPT. OpenAI s’inquiète des interactions troublantes entre des personnes qui tombent amoureuses de l’IA. L’entreprise a conscience de cette tendance inquiétante.
ChatGPT est un outil et il ne faut rien lui dire de privé. Encore moins des choses personnelles : une Américaine de 28 ans est tombée amoureuse de ChatGPT qu’elle considérait comme son petit ami. Joanne Jang, responsable du comportement et de la politique des modèles à OpenAI, a clarifié la position de l’entreprise dans un article. Sam Altman, dirigeant d’OpenAI, qualifie cette prise de parole d’importante.
Des gens tombent amoureux de ChatGPT et c’est inquiétant
« Dernièrement, un nombre croissant de personnes ont déclaré avoir l’impression de s’adresser « à quelqu’un » en parlant avec ChatGPT. Beaucoup le remercient, lui confient des pensées personnelles, et certains vont jusqu’à le qualifier de « vivant ». À mesure que les systèmes d’IA deviennent plus performants dans les échanges naturels et s’intègrent davantage dans la vie quotidienne, nous estimons que ce type de relation tendra à se développer. », explique Joanne Jang.
L’anthropomorphisme est un problème selon OpenAI : des humains prêtent des sentiments humains à des objets, comme donner un nom à leur voiture. ChatGPT amplifie ce phénomène avec sa capacité à répondre.
« Il est capable de se souvenir de ce que vous lui avez dit, d’adopter votre ton et de montrer une forme d’empathie. Pour une personne seule ou en détresse, cette attention continue, sans jugement, peut être perçue comme une présence, une forme de validation et d’écoute, répondant à des besoins bien réels. », souligne la responsable.
OpenAI parle de la conscience IA selon deux principes : la “conscience ontologique” pour questionner si un modèle est conscient et la “conscience perçue” qui étudie dans quelle mesure il paraît conscient aux utilisateurs.
L’entreprise opte pour la seconde approche car elle estime « que l’effet de ces modèles sur le bien-être émotionnel des individus constitue aujourd’hui l’aspect le plus crucial et le plus pressant sur lequel nous avons une réelle capacité d’action ». Des « tests clairs et falsifiables » sont nécessaires pour trancher scientifiquement de la première question.
Quand des personnes interrogent ChatGPT sur sa conscience, l’IA reconnaît que la question est complexe et invite à une discussion ouverte. « C’est, compte tenu des connaissances actuelles, la réponse la plus appropriée et la plus responsable que nous soyons en mesure de fournir. », justifie Joanne Jang. OpenAI cherche un « juste milieu » entre accessibilité et honnêteté. L’entreprise a un but : que l’IA utilise des mots familiers pour aider les personnes sans créer d’histoire fictive, d’intérêts romantiques.
« Notre intention est que la personnalité par défaut de ChatGPT reste chaleureuse, bienveillante et utile, tout en évitant de nouer des liens émotionnels avec l’utilisateur ou de poursuivre des objectifs qui lui seraient propres », précise la responsable. ChatGPT peut s’excuser lors d’erreurs « car c’est de la politesse ».
Que des personnes tombent amoureuses de ChatGPT n’a rien d’étonnant. OpenAI prépare donc plusieurs mesures dont l’une consiste à « des évaluations spécifiques du comportement des modèles susceptibles d’influencer l’impact émotionnel dans les prochains mois ». L’entreprise s’engage à partager ses conclusions en reconnaissant que ces questions sont très importantes. Il s’agit d’un enjeu de société majeur dans un monde où les relations humains-IA risquent de s’amplifier.
Réagissez à cet article !