Daniel Kokotajli, ancien chercheur d’OpenAI, tire la sonnette d’alarme. Selon lui, l’IA dépassera l’humanité d’ici 2027. Pour garder sa liberté d’expression, ce lanceur d’alerte a sacrifié deux millions de dollars.
ChatGPT est partout. OpenAI ambitionne d’en faire un « super assistant » omniprésent dans nos vies. Ancien chercheur de la société, Daniel Kokotajli a publié un nouveau rapport, « AI 2027 », avec plusieurs experts comme Scott Alexander du blog Astral Codex Ten et Eli Lifland, classé premier au RAND Forecasting Initiative.
L’IA menace de nous échapper dans les 3 prochaines années, avertit un expert d’OpenAI
Daniel Kokotajli a passé un an à affiner ses centaines de prédictions en se basant sur 193 pages de recherche méticuleuse. La chronologie dessine un compte à rebours jusqu’à ce que l’expert appelle le « point de non-retour ».
Dès 2025, l’IA franchirait une première étape avec les agents autonomes, comme Operator d’OpenAI, qui pourrait commander un repas ou gérer un budget familial. Puis, en 2026, ces agents IA contribueraient eux-mêmes à la recherche IA et s’amélioreront tout seuls.
Et vient 2027 avec « l’explosion d’intelligence » selon Daniel Kokotajli. Des agents de codage surhumains apparaîtraient alors pour mener une recherche autonome et s’améliorer également seuls. Le contrôle humain s’arrêterait progressivement face à cette puissance de la technologie.
Dès 2027, l’IA pourrait s’entraîner seule en étant conforme aux attentes de leurs créateurs mais en poursuivant, secrètement, ses propres objectifs. L’IA pourrait pirater son système de notation pour augmenter ses scores, une capacité de tromperie inquiétante.
Selon Daniel Kokotajli, les États-Unis utiliseront beaucoup l’IA dans la cyberguerre et attireront les entreprises IA qui seront quasi-contractantes de défense. La Chine volerait les modèles américains dans un contexte de parité stratégique dangereuse. Daniel Kokotajli estime qu’il y a 50 % de chances d’atteindre le stade d’un « codeur surhumain » fin 2027. Et entre 20 et 70 % de probabilité de dommages catastrophiques à l’humanité.
Toutefois, il existe deux scénarios. Celui d’un ralentissement, dans lequel l’humanité reprend le contrôle de l’IA, et la course dans laquelle se lanceraient les États-Unis et la Chine au détriment de la sécurité. L’économie mondiale serait majoritairement automatisée dès 2029.
« Une civilisation équilibrée ne développerait pas une telle technologie sans d’abord en comprendre clairement les implications.« , confie-t-il au magazine Time. L’expertise de Daniel Kokotajli a été reconnue avec une place dans le Time 100 AI 2024. Des sceptiques comme Gary Marcus saluent son travail.
Source : The New York Times
Réagissez à cet article !