Même si c’est tentant, il ne faut jamais faire aveuglément confiance à ChatGPT. OpenAI le précise même en bas de page lorsque vous êtes dans une session. Il faut dire que les IA ont tendance à halluciner, c’est-à-dire produire des réponses fausses.
Il s’agit d’une situation très embêtante et même inquiétante quand on sait que l’IA est capable de beaucoup. Tous les chatbots sont concernés, aussi bien Claude d’Anthropic que Gemini de Google ou encore ChatGPT d’OpenAI, qui peut désormais prendre le contrôle de votre PC.
Utiliser plusieurs IA pour éviter les hallucinations
Lorsque ces IA génèrent des réponses, il faut toujours vérifier les informations données sous peine d’être victime de ces hallucinations. Pour y faire face, Jensen Huang, PDG de Nvidia, propose sa solution très simple lors d’une interview pour CNN. Comment ? En utilisant plusieurs chatbots pour confronter les réponses et donc affiner le résultat. « Je prends la réponse d’une IA puis je la donne à une autre. Ensuite, je demande une critique », explique le dirigeant, qui pense que l’IA remplacera beaucoup d’emplois sous peu.
Pour lui, il s’agit de demander plusieurs avis comme on le ferait pour des médecins à propos d’une décision importante. Jensen Huang explique même qu’il pose plusieurs fois la même question à plusieurs IA. Ensuite, il demande aux chatbots de comparer leurs analyses pour produire la meilleure réponse possible.
Le but est d’avoir plusieurs perspectives et de réduire les risques d’erreur par recoupement. La méthode est d’autant plus efficace qu’elle ne demande même pas de connaissances sur le sujet traité. Les différentes IA vérifient mutuellement les informations avec une forme d’autocontrôle qui limite les hallucinations individuelles.
Alors qu’une étude explique que ChatGPT et les IA réduisent nos capacités de raisonnement, Jensen Huang est totalement d’accord. Pour lui, rédiger de bons prompts est une compétence qui demande une forme de réflexion. Beaucoup d’experts redoutent la dépendance à l’IA, mais Jensen Huang estime qu’il s’agit d’une nouvelle forme d’intelligence collaborative. L’humain reste au centre, puis guide et structure la réflexion des chatbots.
Bref, chacun aura son idée sur la question mais l’astuce de Jensen Huang reste pertinente pour obtenir des meilleures réponses. Pensez à utiliser plusieurs IA en même temps pour affiner très facilement les réponses et éviter les hallucinations.
- Les IA comme ChatGPT, Claude ou Gemini peuvent générer des réponses erronées appelées hallucinations, d’où la nécessité de toujours vérifier les informations fournies.
- Jensen Huang, PDG de Nvidia, recommande de croiser les réponses de plusieurs IA et de leur faire critiquer mutuellement leurs analyses pour réduire les erreurs par recoupement.
- Il défend une approche collaborative où l’humain reste au cœur du processus, en posant les bonnes questions et en structurant l’échange, plutôt que de se reposer aveuglément sur l’IA.
Source : Facebook
Réagissez à cet article !