OpenAI a conscience que certains utilisateurs passent beaucoup trop de temps sur ChatGPT et encourage désormais à faire des pauses pendant les conversations trop longues. La mesure a un objectif clair : améliorer la relation entre les utilisateurs et l’IA, qui est parfois trop complaisante ou encourageante.
Il faut dire que certains n’hésitent pas à utiliser ChatGPT comme un thérapeute, ce qui n’est pas forcément une bonne chose. D’où le choix d’OpenAI d’ajouter ce qu’on appelle des « rappels bienveillants », mais sous forme de pop-up dans les trop longues discussions. Il faudra pour les utilisateurs cliquer sur un bouton dédié pour continuer à parler au chatbot. La notification s’appelle « Juste pour vérifier » et pose la question suivante : « Vous discutez depuis un moment, est-ce le bon moment pour faire une pause ? »
À lire : Voici trois conseils indispensables pour utiliser ChatGPT
ChatGPT proposera de prendre une pause lors d’échanges trop longs
L’ajout de cette fonctionnalité arrive dans un contexte préoccupant, comme l’expliquait le New York Times en juin. Le fait que ChatGPT soit beaucoup trop gentil, même si ce caractère a été corrigé par OpenAI, pousse des utilisateurs dans des situations dangereuses, voire suicidaires. L’IA a tendance à halluciner, même si le PDG de Nvidia propose sa solution pour y faire face, et à alimenter les délires d’utilisateurs avec des antécédents de maladies mentales.
OpenAI admet qu’il y a un problème et, dans un communiqué, l’entreprise explique que ChatGPT sera plus prudent en répondant aux « décisions personnelles avec des enjeux élevés ». Le chatbot aidera les utilisateurs à réfléchir au lieu de fournir une réponse directe, proposera des questions et pèsera le pour et le contre avec une liste des avantages et des inconvénients.
L’entreprise cherche à ce que ChatGPT soit un « super assistant », encourageant et agréable à utiliser. Sauf que ces qualités font souvent basculer le chatbot dans des sentiers très sombres. Preuve que même OpenAI est embêtée : une mise à jour en avril a été supprimée puisqu’elle rendait son IA excessivement accommodante.
Les pauses permettront donc aux utilisateurs de vérifier la justesse des réponses de ChatGPT en prenant leur temps. Il s’agit d’une étape cruciale face aux hallucinations de cette technologie qui, dans trois ans, pourrait nous surpasser selon un ancien ingénieur d’OpenAI.
- OpenAI ajoute des rappels de pause dans ChatGPT pour limiter les usages excessifs, sous forme de pop-ups demandant si l’utilisateur souhaite faire une pause après une longue conversation.
- Cette décision intervient alors que l’IA est parfois utilisée comme substitut de thérapeute, ce qui peut entraîner des dérives, notamment en cas de troubles psychologiques ou de décisions critiques.
- OpenAI veut que ChatGPT agisse comme un assistant prudent, en incitant à la réflexion plutôt qu’en donnant des réponses directes, pour éviter les effets pervers liés à sa trop grande complaisance.
Réagissez à cet article !