Les hallucinations de ChatGPT et des autres IA sont un véritable fléau. Et selon une récente étude, c’est aussi de la faute des utilisateurs et de la manière dont ils s’adressent au chatbot. Par exemple, si vous insultez l’assistant, il y a de fortes chances que des hallucinations surviennent.
OpenAI a enfin découvert pourquoi les IA hallucinent. Sauf que voilà, la solution à ce problème pourrait faire mal à son business. Mais parfois, ce sont les utilisateurs qui sont responsables de ces réponses fausses, comme l’explique une nouvelle étude appelée Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions menée par arXiv.
Votre manière de parler à ChatGPT peut créer des hallucinations
L’étude a examiné plus de 13 000 conversations entre humains et 1 300 conversations qui impliquent des IA. Les données montrent que dès qu’une personne s’adresse à une IA au lieu d’un être humain, la manière de rédiger est différente. Les messages sont plus brefs, secs et expéditifs. Étrangement, l’intention de communication est la même que lors d’un échange avec un humain. Sauf que ce décalage stylistique crée un gros problème.
Les LLM ont été entraînés à partir de textes soignés, courtois et élaborés. Face à des formules courtes et parfois ambiguës, les chatbots peinent à comprendre totalement l’intention de l’utilisateur et finissent par halluciner pour combler les zones d’incertitude.
Comment réduire les hallucinations des IA ?
Plusieurs pistes ont été explorées pour atténuer le phénomène. L’équipe de recherche a entraîné les IA sur beaucoup plus de styles rédactionnels. La compréhension des demandes a alors été améliorée de 3 %. Alors oui, c’est un progrès modeste mais qui montre que le principe de base est validé.
L’autre solution, c’est reformuler automatiquement les requêtes de l’utilisateur pour qu’elles soient bien plus compréhensibles par l’IA. Sauf que voilà, cette méthode fut contre-productive dans la pratique. La réécriture automatique efface les subtilités émotionnelles et les éléments contextuels indispensables pour que le chatbot génère une réponse pertinente et précise.
La conclusion de l’étude est claire : les utilisateurs ont le pouvoir de réduire la fréquence des hallucinations. Il suffit de s’adresser sans insulte à l’IA, clairement et de manière polie. Si votre prompt ressemble à ce que vous diriez à un humain, la fiabilité de ChatGPT et des autres IA augmente.
- Une étude montre que des messages brefs, ambigus ou insultants adressés à l’IA augmentent les hallucinations.
- Entraîner les modèles sur davantage de styles rédactionnels améliore la compréhension d’environ 3 %.
- Formuler des requêtes claires et polies réduit la fréquence des hallucinations.
Réagissez à cet article !