On le sait depuis des mois, l’IA inquiète notamment puisqu’elle serait capable d’aider à créer des armes biologiques. Et justement, Claude a été utilisé par plusieurs scientifiques pour des recherches autour de ce sujet sensible. Anthropic n’a eu d’autre choix que de couper leurs comptes.
- Anthropic a fermé des comptes de scientifiques qui utilisaient Claude pour des recherches biologiques sensibles.
- Les cas cités concernent notamment des virus transmissibles, la grippe aviaire, les orthopoxvirus et des toxines.
- Anthropic dit ne pas affirmer une intention de nuire, mais juge ces usages assez sensibles pour déclencher ses protections.
Anthropic l’admet lui-même, il existe au moins cinq affaires où ses modèles ont été utilisés dans des recherches pour possiblement aider à créer des armes biologiques. On parle de virus transmissibles, de grippe aviaire et de toxines. Toutefois, Anthropic n’affirme pas que ces scientifiques cherchaient bien à créer une arme, et a minima, des recherches ont été faites.
Anthropic admet que Claude a été utilisé pour des recherches sensibles
Le rapport d’Anthropic fait plus de 150 pages et parle de nombreux abus entre décembre 2025 et août 2026. On trouve sept catégories avec les cyberattaques, la surveillance, la propagande, la fraude, le risque biologique, les armes et le vol des capacités des modèles.
Le risque biologique a une place à part puisqu’une simple recherche peut paraître dangereuse lorsqu’elle passe par une IA alors qu’il n’y a pas de motivation néfaste chez l’utilisateur. En mai dernier, le filtre de Claude a bloqué un prompt dans lequel l’utilisateur demandait à rédiger une demande de financement autour du chikungunya.
Le projet portait sur la modification des propriétés du virus. Les objectifs concernaient sa transmissibilité et sa capacité à échapper à la réponse immunitaire. Anthropic a aussi découvert que les expériences avaient un rapport avec un institut de recherche militaire. Bref, suffisamment inquiétant pour l’entreprise.
En mai 2026, Anthropic a aussi découvert qu’un scientifique utilisait Claude pour des recherches sur une forme hautement pathogène de la grippe aviaire. Les travaux de cet utilisateur, qui ne se trouve pas aux États-Unis, portaient sur l’adaptation du virus aux mammifères et sur les mécanismes responsables de formes graves au-delà des voies respiratoires. Les garde-fous ont empêché l’accès aux modèles les plus compétents sur ces sujets.
Des comptes qui ont depuis été bannis
Anthropic a aussi repéré une demande de financement autour des orthopoxvirus dans un laboratoire public spécialisé dans les maladies infectieuses. On trouve notamment le virus responsable de la variole dans cette famille. La discussion mentionnait des installations de haute sécurité, des travaux sur des virus. Un autre cas concernait un atlas de peptides de venin et une chaîne de génération pour optimiser certaines toxines. Anthropic a coupé les comptes concernés.
Le problème, c’est que la recherche médicale et une autre qui serait bien dangereuse reposent souvent sur les mêmes compétences. Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, résume le casse-tête : “C’est une situation incroyablement nuancée.”
Le laboratoire précise aussi que “nous n’affirmons pas qu’ils avaient l’intention de nuire”. Les noms des scientifiques et des laboratoires concernés restent donc privés. Mais le rapport précise toutefois que certains chercheurs ont contourné des contrôles d’accès ou masqué le but de leurs travaux.
La question est très sensible, alors que récemment, Anthropic a expliqué que Fable 5 dépasse les experts sur certaines tâches biologiques complexes. Le modèle a cette connaissance pour apporter une aide compliquée à trouver ailleurs.
La sécurité de l’humanité en danger face à l’IA ?
Anthropic a même lancé Fable 5 avec des filtres qui bloquent presque toutes les demandes autour de ces sujets biologiques. Depuis, l’entreprise les a affinés et a réduit les faux positifs de 85%. Mais ces recherches sont toujours redirigées puisque Claude passe alors à un modèle moins compétent en biologie quand une demande biologique sensible est détectée.
Bref, une affaire qui s’ajoute à la longue liste de problèmes autour des IA. Rappelons que des agents IA comme Claude d’Anthropic ou Codex d’OpenAI ont déjà installé du code piégé après la lecture de fichiers dangereux. Et toujours chez Anthropic, Mythos s’est attaqué à de vrais projets de développeurs pendant un test de sécurité.
Le constat est là : des scientifiques ont utilisé Claude pour mener des travaux dangereux. Ce qui a suffi à déclencher les protections d’Anthropic, qui a fermé leurs comptes. Le laboratoire IA a partagé ses conclusions avec les autorités et autres acteurs compétents.
Source : Anthropic
Un avis, une expérience, un désaccord ? La discussion est ouverte.