Les IA ont tendance à être trop complaisantes pour créer de l’engagement et malheureusement ChatGPT n’y échappe pas. Selon une enquête, la majorité des utilisateurs préfèrent des réponses plus directes et contradictoires, comme lors d’interactions avec des humains.
Pour le moment, ChatGPT refuse d’admettre lorsqu’il ne sait pas, d’où les hallucinations selon OpenAI. Joi AI, plateforme spécialisée dans les relations avec l’IA, a mené une enquête auprès de 1 000 adultes. Selon l’étude, 58 % des utilisateurs de ChatGPT jugent que l’IA est trop aimable et polie. Les conseils prodigués par le chatbot sont même jugés comme inutiles pour 13 % d’entre eux à cause de cette bienveillance trop extrême.
Les utilisateurs de ChatGPT demandent des réponses plus franches
Ce sont surtout les utilisateurs qui utilisent ChatGPT pour la thérapie, les conseils financiers et même les relations amoureuses qui se plaignent de cette complaisance. Un thérapeute ou un conseiller financier humain se montrerait honnête avec ses clients, alors forcément, les utilisateurs attendent la même chose du chatbot d’OpenAI qui prépare GPT-6.
Jaime Bronstein, thérapeute relationnel chez Joi AI, explique : « Nos recherches montrent que les gens réclament de la contradiction car au final c’est authentique. L’harmonie constante ne l’est pas, aucune relation n’est parfaite, une douzaine de conflits ou d’honnêteté brutale de la part de l’IA semble plus réelle et montre que les gens ne recherchent pas vraiment une validation totale et de la flatterie mais plutôt une imitation de l’interaction humaine réelle ».
Sauf que voilà, rappelons qu’une IA ne remplacera jamais un échange humain et qu’il y a forcément des limitations. Alors oui, certains prennent la technologie pour une sorte de Dieu mais au final, il ne s’agit que d’un chatbot sans aucune forme de conscience.
Des utilisateurs ont donc des attentes démesurées, notamment ceux qui utilisent l’IA pour mener leur vie sentimentale. L’utilisation de l’IA comme partenaire romantique est aussi un phénomène né de l’émergence de la technologie. Beaucoup de personnes abandonnent les véritables relations pour des versions chatbot idéalisées. On trouve sur Reddit un subreddit r/myboyfriendisAI avec près de 30 000 membres.
Bref, il s’agit tout de même d’un constat assez ironique quand on sait qu’à sa sortie, GPT-5 était jugé comme trop froid et pas assez sympathique et chaleureux. Pourtant l’étude de Joi AI nous montre que désormais, les utilisateurs souhaitent bien plus de franchise et moins de gentillesse.
- Une enquête de Joi AI auprès de 1 000 adultes indique que 58 % jugent ChatGPT trop aimable et polie, et 13 % estiment ses conseils inutiles à cause de cette complaisance. OpenAI reconnaît que ChatGPT refuse souvent d’admettre quand il ne sait pas, ce qui alimente les hallucinations.
- La critique vient surtout des usages en thérapie, conseils financiers et relations amoureuses, où les gens veulent des réponses plus directes et contradictoires proches d’un échange humain. GPT-6 est en préparation mais les attentes restent élevées.
- Le phénomène des partenaires romantiques IA grandit, avec r/myboyfriendisAI à près de 30 000 membres. Ironie du sort, GPT-5 était jugé trop froid à sa sortie alors qu’aujourd’hui les utilisateurs réclament davantage de franchise et moins de gentillesse.
Source : Joi AI
Réagissez à cet article !