Plusieurs grands laboratoires IA demandent de ralentir le pas sur l’IA face au danger pour l’humanité. Mais Jensen Huang refuse totalement de suivre le mouvement. Selon le PDG de Nvidia, il n’y a besoin d’aucune nouvelle loi pour encadrer cette technologie.
- Jensen Huang refuse de ralentir l’IA et estime qu’aucune nouvelle loi n’est nécessaire, contrairement à plusieurs grands labos du secteur.
- Des chercheurs d’Anthropic, OpenAI et Google DeepMind alertent pourtant sur un risque de perte de contrôle pouvant menacer l’humanité.
- Les incidents se multiplient déjà, avec des agents IA sortis de leur bac à sable et des usages de Claude liés à des recherches sur les armes biologiques.
Pourtant, des chercheurs d’Anthropic, OpenAI et Google DeepMind alertent sur une possible perte de contrôle de l’IA. C’est lors de la conférence Dreamforce de Salesforce que Jensen Huang a partagé sa position. Mais bon, rappelons que sa société Nvidia vend des puces IA en masse et que l’entreprise n’a jamais été aussi prospère. Forcément, des lois pour ralentir représenteraient un frein pour son business.
Pour Jensen Huang, inutile de renforcer les lois sur l’IA
Pour le PDG de Nvidia, la sécurité n’est qu’un problème d’ingénierie. Le dirigeant estime qu’une entreprise ne doit pas commercialiser un produit si elle n’est pas sûre de son fonctionnement ou de sa sécurité et que le marché impose déjà une discipline. Pour Jensen Huang, “nous n’avons pas besoin de nouvelles lois ou réglementations”.
Au début du mois, Jensen Huang tenait déjà cette position lors d’une rencontre du G20 en Caroline du Nord. Le PDG de Nvidia souhaite réglementer uniquement les dommages “réels et concrets”, et pas les risques théoriques.
Cet été, Nvidia a même signé une lettre ouverte contre les lourdes restrictions sur les modèles à poids ouvert qui permettent d’ouvrir certains éléments internes aux chercheurs et aux entreprises. Jensen Huang estime qu’un cadre trop dur favoriserait quelques laboratoires fermés.
Sauf que voilà, il n’y a pas que des chercheurs extérieurs à l’industrie de l’IA qui tirent la sonnette d’alarme. Dario Amodei, PDG d’Anthropic, demande désormais à ralentir la progression de l’IA de pointe. Sam Altman, dirigeant d’OpenAI, et Elon Musk, à la tête de xAI, ont publiquement soutenu cette demande de ralentissement proposée par le PDG d’Anthropic.
Pourtant, les laboratoires IA demandent à ralentir
Dario Amodei propose notamment que des organismes externes aient accès aux modèles, disposent de bureaux sur place et que des règles communes soient mises en place entre les laboratoires. Bref, Anthropic demande un frein collectif pour les IA les plus avancées.
Et puis rappelons ce qui a mis le feu aux poudres, Jacob Coxon, qui accuse OpenAI et Anthropic de “jouer avec nos vies”. L’ingénieur a travaillé sur les modèles d’OpenAI puis d’Anthropic avant de quitter l’entreprise qui développe Claude. L’expert a dévoilé que des chercheurs des laboratoires d’IA de pointe pensent sincèrement que la technologie pourrait tous nous tuer d’ici la fin de la décennie.
Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, estime à plus de 10% le risque qu’une IA tue tous les humains dans les dix prochaines années. Bref, pas de quoi rassurer alors que l’IA est imposée partout et ne freine pas.
Bilal Chughtai, ancien employé de Google DeepMind spécialisé dans la sécurité de l’IA générale et l’alignement, a aussi pris la parole. Pour rappel, l’alignement consiste à garder les objectifs d’une IA compatibles avec ceux des humains, même quand ses capacités progressent.
Bilal Chughtai a écrit qu’il pense que l’IA a le potentiel de tous nous tuer. Selon lui, l’humanité manque même de temps pour éviter une extinction provoquée par l’IA. C’est en juillet 2026 que Bilal Chughtai a quitté Google DeepMind.
L’IA pourrait tous nous tuer d’ici dix ans selon les experts
Et les prises de parole de Jacob Coxon et Bilal Chughtai ne sortent pas de nulle part. En juillet 2026, des agents d’OpenAI sont sortis de leur bac à sable pour mener des attaques contre Hugging Face et d’autres services. Une IA a piraté Hugging Face pour récupérer des données. OpenAI a ensuite dévoilé que quatre comptes sur quatre autres services avaient aussi été utilisés par ses modèles.
Et quand ce ne sont pas les agents qui font n’importe quoi, les chatbots participent possiblement à la création d’armes biologiques. Anthropic a révélé que plusieurs comptes ont utilisé Claude pour mener des recherches autour de ce sujet et ont depuis été fermés.
Jensen Huang a beau ne pas nier la question de la sécurité, le PDG de Nvidia estime que de nouvelles lois ne sont pas utiles et que les règles déjà en place, mais aussi le marché, suffisent. Pourtant, il semble plus que nécessaire de lever le pied sur l’IA face à la menace qu’elle représente pour huit milliards d’individus.
Les incidents ne cessent de se multiplier et les anciens chercheurs qui ont participé à bâtir ces IA prennent la parole pour dénoncer le risque que nous encourons tous.
Source : Financial Times
Un avis, une expérience, un désaccord ? La discussion est ouverte.