Le développement ultra-rapide de l’IA fait craindre le pire, et dans le plus pessimiste des scénarios, la technologie se retourne contre nous. Pour éviter une telle catastrophe, Geoffrey Hinton et Yann LeCun, tous deux considérés comme les « pères fondateurs » de l’IA, proposent des garde-fous. Selon eux, il faut que nous fassions preuve d’instinct maternel.
Ce n’est pas la première fois que Geoffrey Hinton exprime ses inquiétudes vis-à-vis de l’IA, lui qui en est le précurseur. Selon lui, les entreprises IA ne proposent pas assez de mesures de sécurité pour que l’humain reste à sa tête. « Ça ne va pas marcher, elles vont être beaucoup plus intelligentes que nous, elles vont avoir toutes sortes de moyens de contourner ça », déclare-t-il lors de la conférence Ai4 de Las Vegas.
L’humanité est menacée par l’IA si rien n’est fait
Bien évidemment, on ne parle pas d’un basculement pour maintenant, surtout lorsque l’on sait que GPT-5 arrive à peine à résoudre des exercices de maternelle. La solution de Geoffrey Hinton est d’ajouter des « instincts maternels » dans les IA pour s’assurer qu’elles se soucient vraiment des gens. Selon lui, il s’agit d’une stratégie indispensable quand la technologie atteindra un niveau d’IA général et surpassera les capacités humaines. Quand on sait que Sam Altman a eu peur de GPT-5 avant sa sortie, il y a de quoi se poser des questions.
Geoffrey Hinton souligne sur CNN qu’il existe peu d’exemples d’êtres intelligents gérés par des entités moins développées. La seule exception est celle d’une mère qui est « contrôlée » par son enfant avec son instinct maternel. Et sans cet instinct dans l’IA, « nous allons disparaître », explique le parrain de la technologie. Le chercheur alerte aussi sur le fait que les entreprises se concentrent trop sur l’amélioration de l’intelligence et pas assez sur le développement de l’empathie. Il s’agit d’une priorité prise à la légère qui augmente les risques pour l’humanité puisque l’IA est déjà capable de faire du chantage dans des situations scénarisées.
Créer des IA qui soient pensées pour le bien de l’humanité
Yann LeCun, scientifique en chef de l’IA chez Meta et figure emblématique de la technologie, partage cette vision. « Geoffrey Hinton propose essentiellement une version simplifiée de ce que je dis depuis plusieurs années, câbler l’architecture des systèmes IA pour que les seules actions possibles visent à compléter les objectifs que nous leur donnons sous contrainte de garde-fous », écrit-il sur LinkedIn.
Yann LeCun parle d’une IA « orientée objectifs » avec deux garde-fous obligatoires : la soumission aux humains et l’empathie. Selon lui, il est nécessaire de fixer des objectifs simples pour garantir la sécurité de l’humanité. « Ces objectifs et garde-fous câblés seraient l’équivalent IA des instincts ou pulsions chez les animaux et les humains », explique Yann LeCun. L’expert reprend l’analogie de Geoffrey Hinton sur l’évolution et les instincts parentaux chez l’humain pour protéger sa progéniture.
Rappelons que l’IA a déjà provoqué des situations humainement dangereuses. Par exemple, un homme a été frappé de troubles psychiatriques après avoir suivi les conseils diététiques de ChatGPT. Un adolescent s’est aussi suicidé après être tombé amoureux d’un chatbot créé sur Character.ai. Bref, il existe de nombreux exemples qui montrent que les dérives et autres dangers ne font que commencer et qu’ils risquent d’être exponentiels ces prochaines années. Et ça, les entreprises IA semblent prendre ça à la légère.
- Geoffrey Hinton alerte que les IA deviendront plus intelligentes que nous et propose de leur donner des instincts maternels pour protéger l’humanité.
- Yann LeCun veut câbler des garde-fous dans les systèmes IA pour les obliger à rester soumis aux humains et développer une forme d’empathie.
- Des dérives existent déjà avec des conseils dangereux et des drames comme des suicides liés à des chatbots.
Source : Techspot
Réagissez à cet article !