L’IA prend de plus en plus de place dans notre société. Il n’a fallu que peu de temps pour que la technologie s’invite dans toutes les sphères, provoquant l’inquiétude. Notamment celle de Geoffrey Hinton, lauréat du Prix Turing 2018, du prix Nobel de physique 2024 et pionnier dans le domaine.
- Geoffrey Hinton alerte sur un risque d’extinction de l’humanité par l’IA avec une probabilité qu’il estime entre 10 et 20 % dans les trente prochaines années
- Le pionnier de l’IA critique l’absence de régulation internationale stricte et appelle à imposer davantage de recherches sur la sûreté aux entreprises comme OpenAI
- Certains experts comme Yann LeCun estiment que l’IA pourrait au contraire sauver l’humanité de l’extinction, un avis qui diverge des craintes de Geoffrey Hinton
Geoffrey Hinton n’en est pas à sa première prédiction inquiétante à propos de l’IA. Lors d’une interview à BBC Radio 4, l’expert estime qu’il y a entre 10 et 20 % de probabilité que l’IA mène à l’extinction de l’humanité dans les trente prochaines années. Précédemment, sa prédiction était de 10 %.
Pourquoi l’IA menace l’humanité d’extinction ?
En octobre 2023, Geoffrey Hinton alertait sur X en expliquant qu’une IA mal réglementée présentait une chance sur dix de détruire l’humanité d’ici trois décennies. Selon l’un des parrains de l’IA, la réglementation est un enjeu crucial puisqu’il s’agit d’une situation inédite dans l’histoire : jamais auparavant l’humanité n’a dû contrôler une entité plus intelligente qu’elle-même.
Geoffrey Hinton explique que face à un enfant de trois ans, “nous avons le contrôle”, mais que face à une IA, “nous sommes l’enfant de trois ans”. Le scientifique s’inquiète notamment de la course au profit de grandes entreprises (comme OpenAI) qui pourraient conduire à la création d’IA incontrôlable. La solution : imposer à ces sociétés davantage de recherches sur la sûreté via une régulation gouvernementale stricte.
Actuellement, seule l’Europe a adopté une législation contraignante avec l’AI Act. L’absence de réglementation internationale laisse les entreprises s’autoréguler selon leurs propres critères éthiques. Il s’agit d’une situation inédite qui provoque quelques remous. Par exemple, Grok n’a que peu de limites et peut générer des images trompeuses de véritables personnalités publiques. Ce qu’un Dall-E refuse de faire, par exemple.
L’IA, l’invention la plus dangereuse de l’histoire de l’humanité ?
La position de Geoffrey Hinton n’est pas inédite, loin de là. Yoshua Bengio, autre figure majeure de l’IA, estime que cette technologie est l’invention la plus dangereuse de l’histoire de l’humanité. Devant la bombe nucléaire ? Il semblerait que oui, selon les experts préoccupés.
À Paris se tiendra une conférence mondiale sur l’IA en février 2024. Il pourrait s’agir d’un tournant puisque de nombreux chefs d’État seront présents. Sur le chemin d’une réglementation internationale unifiée pour répondre aux inquiétudes exprimées par les pionniers de la technologie ?
Notons que d’autres experts se montrent plus optimistes. Yann LeCun, aussi considéré comme l’un des pionniers de la technologie et scientifique en chef de l’IA chez Meta, estime que la technologie pourrait nous sauver de l’extinction. Soit tout le contraire de ses collègues.
Réagissez à cet article !