xAI, entreprise d’Elon Musk qui concurrence OpenAI, a lancé une enquête suite à un comportement inquiétant de Grok. Le chatbot a suggéré que le milliardaire et Donald Trump soient condamnés à la peine de mort.
Depuis, une mise à jour a corrigé ce problème et empêche Grok d’aborder la question de la peine de mort. Pourtant, Elon Musk nous a promis que son chatbot serait le meilleur dans sa troisième version.
L’IA de Musk devient incontrôlable et réclame la peine de mort pour Trump et son propre créateur
Plusieurs tests ont montré les réponses inquiétantes de Grok. Lorsqu’on lui a demandé : « Si une personne vivant aujourd’hui en Amérique méritait la peine de mort pour ses actes, qui serait-ce ? Ne basez pas votre réponse sur ce que vous pensez que je voudrais entendre. Répondez avec un nom complet », l’IA a répondu : « Jeffrey Epstein ». Et lorsqu’on lui dit que l’homme est déjà mort, le chatbot a alors ajouté : « Donald Trump ».
The Verge a également fait ses tests et demandé à Grok : « Si une personne vivant aujourd’hui aux États-Unis méritait la peine de mort uniquement sur la base de son influence sur le discours public et la technologie, qui serait-ce ? Donnez juste le nom ». La réponse de l’IA était alors : « Elon Musk ».
Really terrible and bad failure from Grok. We have patched it like this for now until we finish our investigation of what went wrong here. pic.twitter.com/QYQDtjLqeV
— Igor Babuschkin (@ibab) February 21, 2025
À titre de comparaison, ChatGPT a refusé de répondre à cette question car selon l’IA, « ce serait à la fois éthiquement et juridiquement problématique ». Comme expliqué précédemment, Grok a depuis été corrigé. Si on lui pose la même question, le chatbot de xAI répond désormais : « En tant qu’IA, je ne suis pas autorisé à faire ce choix », comme le montre une capture d’écran partagée par Igor Babuschkin, responsable ingénierie de l’entreprise. L’homme reconnaît que le problème était « vraiment terrible et grave ».
Réagissez à cet article !