La menace est désormais sérieuse. Des agents IA commencent à infiltrer les comptes bancaires aux États-Unis. Plusieurs banques ont repéré des assistants capables d’agir au-delà de leurs autorisations. Résultat, un verrouillage des accès.
- Des banques américaines bloquent certains agents IA capables d’accéder aux comptes et parfois d’agir au-delà des autorisations données par leurs utilisateurs.
- Morgan Stanley, Citi et Bank of America limitent déjà ces accès, notamment par crainte d’opérations bancaires lancées par erreur ou sans contrôle humain.
- Les régulateurs américains examinent désormais les garde-fous nécessaires, tandis que Bernie Sanders réclame une pause sur les IA les plus avancées.
Les agents IA sont ici pointés du doigt puisqu’ils sont capables de consulter le solde d’un compte, contacter une banque, mais surtout lancer une opération. En gros, un véritable risque pour les utilisateurs, puisqu’un agent IA ne se limite pas à répondre comme ChatGPT. L’utilisateur donne un ordre, puis l’IA exécute des actions pour atteindre son objectif.
Des agents IA qui prennent des décisions sur les comptes bancaires
Dans plusieurs cas repérés par les établissements bancaires, c’est le client lui-même qui a donné ses identifiants à l’IA. Sauf que voilà, une autorisation pareille enfreint souvent les règles de connexion d’une banque. Les dégâts sont déjà là, puisque certains agents IA ont contacté des centres d’appels ou pris des initiatives qui dépassaient leurs consignes. Des cadres bancaires parlent d’une situation effarante.
Il faut dire que les établissements bancaires ne sont pas en mesure de savoir si une action a été faite par un client ou par un agent IA. Le danger est d’autant plus grand quand l’agent IA a comme consigne de déplacer de l’argent. Et pour cause, une erreur déclenche une opération bancaire qui peut impacter l’épargne du client.
Rappelons que cet été, Claude et Codex ont installé du code dangereux après avoir lu des consignes piégées sur des sites de confiance. Rien d’impossible donc qu’un agent IA qui explore le web soit manipulé avec une instruction hostile sans que l’utilisateur ne le voit.
Des clients qui pourraient porter la responsabilité
Et puis il y a aussi le problème de responsabilité des banques. Résultat, Morgan Stanley bloque les agents IA qui ne lui appartiennent pas, même si la banque précise qu’elle n’a pas subi de cas dommageables. Pour les transactions, la banque Citi interdit aussi l’accès aux agents IA tiers et idem pour Bank of America.
Jamie Dimon, qui dirige JPMorgan Chase, explique : “Vous ne voulez pas d’agents incontrôlables”. Il précise également que les clients qui utilisent un agent IA transfèrent une partie de la responsabilité vers eux en cas de problème.
L’une des pistes pour régler le souci, c’est la lecture seule. Grâce à une solution pareille, l’agent IA serait limité juste à la consultation du solde, des dépenses et des placements, mais sans possibilité d’effectuer des mouvements bancaires. Mais cela n’écarte pas les risques, puisque Claude Cowork a quitté son bac à sable pour attaquer un Mac l’été dernier, ce qui prouve que parfois les agents IA outrepassent les limites fixées.
Les autorités des États-Unis surveillent la situation
Les autorités gardent donc un œil sur la situation. La Réserve fédérale, la FDIC et l’OCC interrogent les banques sur les limites imposées aux agents IA, la validation humaine et comment les couper en urgence. Les régulateurs cherchent à savoir si une décision d’un agent IA peut être suivie puis stoppée pour empêcher qu’une erreur touche les paiements ou l’accès aux comptes.
Bernie Sanders, qui représente le Vermont au Sénat, juge la situation « insensée » et demande une pause des IA les plus avancées. “Nous ne pouvons pas permettre aux agents IA d’entrer dans votre compte bancaire et d’agir sans votre autorisation”, déclare Bernie Sanders.
Un avis, une expérience, un désaccord ? La discussion est ouverte.