Geoffrey Hinton, considéré comme le « parrain de l’IA« , lance un avertissement glaçant. Selon lui, il est possible que nous perdions notre capacité à comprendre les processus de pensée des chatbots avancés. En gros, les IA pourraient communiquer sans que nous puissions comprendre.
Bref, un signal d’alarme qui fait froid dans le dos quand on sait que selon Anthropic, l’IA est capable de menacer un humain. Pour rappel, les IA effectuent un raisonnement en anglais via le « chain of thought », qui permet aux développeurs de scruter le processus de réflexion.
L’IA pourrait parler un langage qui nous échappe totalement
Il s’agit d’une transparence linguistique qui permet de contrôler ces chatbots, comme l’explique Geoffrey Hinton dans l’épisode du podcast One Decision diffusé le 24 juillet. « Cela devient plus effrayant s’ils développent leur propre langage interne pour communiquer entre eux », met en garde le parrain de l’IA.
Geoffrey Hinton explique que l’IA est déjà capable de pensées « terribles ». Autant dire que son message fait froid dans le dos alors qu’un ancien ingénieur d’OpenAI a aussi fait une prédiction peu réjouissante. Geoffrey Hinton n’exclut donc pas cette possibilité : « Je ne serais pas surpris qu’ils développent leur propre langage de pensée et nous n’aurions aucune idée de ce qu’ils pensent. »
Pour faire simple, la situation serait une zone d’ombre totale sur les intentions et les stratégies des IA. La plupart des experts s’accordent sur le fait que l’IA dépassera l’intelligence humaine à un moment donné. Dans ce scénario, « nous ne comprendrons pas ce qu’elle fait », explique Geoffrey Hinton. Sommes-nous capables de garder le contrôle sur cette technologie ? Le parrain de l’IA n’en est pas sûr.
Comment empêcher l’IA de nuire à l’humanité ?
Depuis plus d’une décennie, cet ancien employé de Google critique ouvertement les dangers de l’IA. Geoffrey Hinton dénonce aussi les entreprises qui minimisent les risques, notamment celui du remplacement massif d’emplois par l’automatisation que le PDG de Nvidia estime inévitable. Pour Geoffrey Hinton, il reste un espoir pour éviter que l’IA ne se retourne contre l’humanité : « Nous devons trouver un moyen de garantir leur bienveillance. » Il s’agit de la seule condition, selon l’expert, mais elle est très difficile à mettre en place.
Les préoccupations arrivent alors que les entreprises s’engagent dans une course effrénée à l’IA. Les sociétés proposent des salaires mirobolants pour attirer les meilleurs talents. Aussi bien OpenAI que Google ou encore xAI qui souhaite lancer une version pour enfants de Grok. Le 23 juillet, la Maison Blanche a publié un « plan d’action IA » pour limiter les financements aux États qui appliquent des réglementations « contraignantes » et demande d’accélérer le développement des centres de données IA.
- Geoffrey Hinton alerte sur le risque que les IA développent un langage interne incompréhensible pour les humains, rendant leurs processus mentaux opaques et incontrôlables.
- Selon lui, l’IA pourrait penser de manière « terrible » sans que nous en ayons conscience, ce qui soulève des inquiétudes sur notre capacité future à encadrer ces technologies.
- Face à la course mondiale à l’IA, Hinton appelle à garantir la bienveillance des modèles, une tâche qu’il juge aussi cruciale que complexe pour éviter un basculement dangereux.
Source : Business Insider
Réagissez à cet article !