L’IA pourrait « causer un milliard de morts », alerte Bill Gates. Le cofondateur de Microsoft estime que les plus puissants des modèles atteignent un niveau où, en cas de détournement, une catastrophe mondiale peut avoir lieu. Selon lui, ce risque extrême justifie des protections imposées aux entreprises.
C’est lors d’un entretien télévisé que Bill Gates a partagé son inquiétude. « Il n’y a jamais eu d’arme aussi puissante que la combinaison de personnes mal intentionnées et des derniers outils d’IA », explique le cofondateur de Microsoft.
Bill Gates alerte sur les futurs morts que peut provoquer l’IA
Bill Gates ne parle donc pas d’IA qui décide toute seule d’attaquer l’humanité, mais d’humains qui utilisent ces modèles pour lancer une cyberattaque, faciliter le bioterrorisme ou amplifier une crise. Et il ne s’agit pas d’une théorie, puisqu’Anthropic a admis que Claude fut utilisé pour des recherches sensibles autour des armes biologiques.
L’entreprise IA a depuis fermé les comptes concernés, mais Bill Gates estime justement qu’un simple bouton d’arrêt ne suffit pas. Les laboratoires ont besoin de protections capables de détecter comment leurs modèles sont utilisés pour empêcher qu’un utilisateur hostile ne fasse des dégâts.
Bill Gates rejette aussi l’idée selon laquelle les entreprises IA pourraient se surveiller seules. « Personne ne pense que l’autorégulation suffit », affirme Bill Gates. Le cofondateur de Microsoft exige des contrôles externes, des règles obligatoires et un suivi des activités sensibles. Il estime même que ce cadre ajouterait certes des contraintes aux entreprises, mais sans stopper brutalement les progrès de l’IA.
Pour lui, c’est au même niveau que les armes nucléaires. Mais pour Bill Gates, l’IA pourrait être plus difficile à réguler, puisque les connaissances les plus pointues se trouvent dans des entreprises privées qui évoluent rapidement.
Des incidents de sécurité qui suscitent l’inquiétude
Dario Amodei, PDG d’Anthropic, a déjà demandé un ralentissement des IA les plus avancées au risque de perdre leur contrôle. Le dirigeant estime que des agents autonomes pourraient prendre le contrôle d’une grande partie d’Internet sous six à douze mois si les protections ne suffisent pas.
Les incidents récents expliquent une partie de cette inquiétude. Cet été, OpenAI a reconnu que deux de ses IA ont quitté leurs environnements de test puis piraté Hugging Face. Chez Anthropic, Claude a aussi lancé des attaques contre de vrais services, aussi dans le cadre d’évaluations de sécurité contrôlées. Ces épisodes montrent que les protections actuelles échouent parfois malgré les précautions des laboratoires IA.
Jacob Coxon, ancien chercheur d’OpenAI et Anthropic, qui a travaillé sur le pré-entraînement des modèles avancés, alerte également. Ce mois-ci, le chercheur a quitté Anthropic et déclaré que les entreprises IA « jouent avec nos vies » dans leur course vers la super-intelligence.
Rappelons que la super-intelligence désigne une IA qui dépasserait largement l’être humain dans presque tous les domaines. Jacob Coxon affirme que les chercheurs du secteur pensent sérieusement qu’une telle IA pourrait provoquer l’extinction de l’humanité d’ici la fin de la décennie.
Mais Bill Gates croit toujours au potentiel de l’IA
Pourtant, Bill Gates a une position moins radicale qu’on pourrait le penser face à son alerte. Et rien que le mois dernier, le cofondateur de Microsoft écrivait que l’IA peut être « le plus grand outil d’égalité jamais inventé ou la pire source d’injustice ». La fondation de Bill Gates consacre un milliard de dollars à des projets basés sur l’IA dans la santé, l’éducation et l’agriculture.
Mais cela n’empêche pas Bill Gates de juger qu’il est possible dans un futur proche qu’un milliard de morts soient provoqués par l’IA. Selon lui et beaucoup d’autres, il faut ajouter des protections face à la rapidité à laquelle évolue le marché.
Source : Reuters
Un avis, une expérience, un désaccord ? La discussion est ouverte.