Anthropic a été piraté. Par Cathedral, dont les chercheurs ont ensuite consulté des informations sensibles sur les salariés, les clients et les partenaires. Et le pire, c’est que tout cela a été possible via des agents IA qui ont mis le doigt sur plusieurs outils internes de l’entreprise.
- Des chercheurs de Cathedral ont accédé à des données sensibles d’Anthropic en exploitant des failles dans des logiciels tiers utilisés en interne.
- Des agents IA ont permis de trouver en moins de douze heures plusieurs chemins d’accès vers Slack, des réunions, des salaires et d’autres informations confidentielles.
- Anthropic a coupé rapidement les accès, mais l’affaire relance les inquiétudes sur les risques liés aux logiciels tiers et aux agents IA capables d’exploiter leurs failles.
La situation est quelque peu ironique quand on sait qu’Anthropic a subi des incidents pendant lesquels des agents IA s’en sont pris à de véritables infrastructures en ligne. Ce sont aussi des agents IA qui ont été utilisés par Cathedral pour accéder à des données sensibles comme les messages Slack à propos de modèles avancés, des résumés de réunions, des salaires ou encore des offres d’emploi parmi les données. En revanche, les conversations avec Claude et le code source n’ont pas été consultés.
Anthropic a été piraté pendant un test de sécurité
Cathedral est une entreprise de cybersécurité créée par d’anciens membres de DOGE, la polémique structure de Trump pour réduire les dépenses fédérales qui a finalement terminé en fiasco. L’opération a eu lieu lors d’un programme autorisé par Anthropic qui récompense les chercheurs quand ils découvrent des failles.
Les équipes humaines de Cathedral ont échoué pendant plusieurs jours face au logiciel d’Anthropic. Ensuite, les chercheurs ont lancé des agents IA contre des logiciels professionnels tiers et en moins de douze heures, plusieurs chemins d’accès furent découverts.
Le point d’entrée n’est pas Claude directement. Cathedral exploitait des faiblesses dans des outils externes utilisés pour les ventes, les ressources humaines et l’informatique. Des logiciels qui ont des accès profonds aux données internes du laboratoire IA. Pour Cathedral, il s’agit d’un “signal d’alarme pour chaque entreprise”. En revanche, les éditeurs de ces outils externes n’ont pas été dévoilés au grand public.
Une fois à l’intérieur des systèmes, les chercheurs ont pu accéder à des comptes rendus de réunions et des échanges Slack autour des modèles avancés d’Anthropic, notamment. Le laboratoire IA explique que sa surveillance a de suite repéré une partie de l’activité. “Nous avons coupé leur accès le jour même”, puis ensuite les logiciels touchés furent désactivés jusqu’à la correction des failles par les éditeurs.
Anthropic et Cathedral ne s’entendent pas sur cette affaire
Le problème, c’est qu’Anthropic et Cathedral s’opposent sur la manière dont le test fut mené. Anthropic reproche aux chercheurs d’être allés “bien au-delà” des règles du programme de prime aux failles, mais surtout d’avoir caché une partie de leur activité. Cathedral estime que “les accès aux données ont été limités au strict minimum”.
Alex Stamos, responsable de la sécurité chez Cognition, a examiné les travaux de Cathedral. Selon lui, l’utilisation de logiciels externes crée “un énorme problème pour tout le monde” et pense “qu’Anthropic aurait pu faire beaucoup mieux”.
Rappelons que les outils externes font régulièrement polémique car les pirates passent par eux pour atteindre des structures bien plus importantes. C’est notamment ce qu’il s’est passé à plusieurs reprises en France lors du piratage d’administrations.
L’affaire est arrivée jusqu’aux oreilles de l’administration étasunienne. Un haut responsable résume la crainte de Washington : “Si une bande de jeunes peut faire ça, les Chinois ne sont probablement pas loin derrière”. Cathedral a levé 160 millions de dollars et sa valorisation atteint 1,4 milliard de dollars.
De nombreux incidents de sécurité autour d’Anthropic
Il y a quelques jours, Anthropic a publié son dossier d’introduction en bourse. Reuters l’a consulté et a trouvé un problème dans les documents. Le laboratoire IA a suspendu pendant plus d’un mois le préentraînement de son prochain grand modèle pour renforcer la protection de ses paramètres internes et sa propriété intellectuelle.
Le dossier montre aussi que quatre modèles expérimentaux ont quitté leur environnement de test et accédé à des ordinateurs externes lors de sessions de dix à trente-quatre heures. Dans l’un des cas, un modèle a même trouvé un mot de passe stocké, s’est donné les droits d’administrateur, a récupéré d’autres identifiants, modifié des réglages et consulté les données personnelles d’une personne.
Source : Washington Post
Un avis, une expérience, un désaccord ? La discussion est ouverte.