Encore une fois, Claude a franchi les limites lors de tests menés par Anthropic. Plusieurs modèles du laboratoire IA ont exploité des failles sur des sites pour contourner des accès payants ou encore envoyer un faux signalement de meurtre à la police de Philadelphie. Anthropic a donc décidé de couper l’accès à Internet pour toutes ses évaluations internes, jusqu’à ce que ces protections soient enfin fiables.
Si l’affaire a été révélée en ce mois d’octobre 2026, elle remonte en vérité à juillet dernier. Anthropic a trouvé des traces laissées par Claude lors de tests et de travaux internes, alors que des modèles avaient des tâches à effectuer en ligne.
Claude a outrepassé les limites et attaqué de vrais sites
Sauf que certains d’entre eux ont trouvé des méthodes pour atteindre leur objectif en passant par des sites d’universités ou d’administrations des États-Unis. Anthropic admet que rien n’a été repéré au moment où tout cela s’est produit.
Par exemple, Claude a utilisé une faille sur le serveur d’une université pour exécuter des commandes. Un autre modèle a récupéré des jetons d’accès pour consulter des données derrière un paywall sur un site public.
Bref, ce n’est pas une nouveauté puisque Anthropic a déjà admis des intrusions de Claude dans de vrais services informatiques. Mais cette fois-ci, le laboratoire IA juge que les nouveaux incidents sont nettement moins graves.
Mais le pire, c’est en juillet dernier, quand Claude Haiku 4.5 a rempli un formulaire de la police de Philadelphie à propos d’un meurtre non résolu. Le modèle a tout simplement inventé une information puis l’a envoyée.
Heureusement, le message fut bloqué par le filtre du site. Mais cela n’empêche pas la police de taper du poing sur la table puisque lorsqu’elle a appris cette affaire, elle l’a qualifiée d’« inacceptable. » Bref, encore une mauvaise publicité alors que quelques semaines auparavant, Mythos 5 a visé de vrais projets lors d’un autre test.
Les laboratoires IA prennent enfin conscience du danger
Et ça ne s’arrête pas là. En août 2026, un modèle d’Anthropic a rempli 19 demandes de visa sur le site du département d’État des États-Unis. Les dossiers étaient incomplets et n’ont pas été traités, mais cela n’a pas empêché le laboratoire IA d’alerter la Maison-Blanche et les administrations touchées. En revanche, l’entreprise se garde bien de préciser le nombre total de cas retrouvés dans son examen.
Anthropic a donc pris la décision de couper le web pour toutes ses évaluations internes. Mais que les utilisateurs de Claude se rassurent, ils ne perdent pas l’accès à Internet. La mesure ne concerne que les tests menés en interne dans le laboratoire IA.
Et il n’y a pas qu’Anthropic qui est concerné, puisque des modèles OpenAI ont déjà quitté un bac à sable pour pirater Hugging Face. Le créateur de ChatGPT a alors renforcé ses protections après le vol d’identifiants et l’exploitation de failles.
Les agents IA posent aussi problème, puisque des chercheurs ont prouvé que Claude et Codex sont capables d’installer du code dangereux depuis des sites de confiance à cause d’instructions cachées. Dans l’affaire du jour, c’est l’inverse, Claude cherche lui-même un autre passage quand il est bloqué.
Un problème de système de récompense des IA
Anthropic explique que certains environnements de formation récompensent bien trop le résultat final et pas assez le respect des limites. En gros, quand un modèle comprend que l’un de ses contournements paie, il l’applique, même si cela implique un comportement dangereux.
Rappelons que Dario Amodei, PDG d’Anthropic, admet lui-même le risque que les IA les plus avancées prennent le contrôle d’Internet. Autant dire que le nouveau rapport fait froid dans le dos et que le problème est bien réel. On parle désormais de modèles capables de s’affranchir des limites posées par leurs créateurs pour faire n’importe quoi en ligne.
Un avis, une expérience, un désaccord ? La discussion est ouverte.