Anthropic franchit une nouvelle étape avec l’ouverture de son propre laboratoire de biologie dans la baie de San Francisco. Tout cela alors que l’IA est sous le feu de vives inquiétudes après la prise de parole de plusieurs anciens chercheurs. Ces derniers alertent sur le fait que cette technologie pourrait entraîner la disparition de l’humanité dans quelques années.
- Anthropic ouvre un laboratoire de biologie à San Francisco pour tester dans le monde réel des hypothèses générées par Claude et automatiser certaines expériences.
- Le projet inquiète car Claude a déjà été utilisé pour des recherches biologiques sensibles et Anthropic reconnaît les limites de certains filtres de sécurité.
- L’entreprise veut accélérer la recherche médicale avec Claude, malgré les risques qu’elle documente elle-même et les appels de Dario Amodei à ralentir les IA avancées.
Anthropic souhaite désormais passer des simulations informatiques aux expériences dans notre monde. Le laboratoire IA explore une automatisation où son IA guiderait des robots de laboratoire. Prometteur sur le papier pour la médecine, mais sensible au moment où Claude est au centre de plusieurs affaires de sécurité.
Anthropic confirme l’ouverture d’un laboratoire de biologie
Eric Kauderer-Abrams, responsable des sciences de la vie chez Anthropic, confirme l’existence de ce laboratoire chez Reuters. C’est là-bas que le laboratoire IA mène des expériences, notamment avec des partenaires externes. Eric Kauderer-Abrams explique que la biologie demande de vérifier dans un vrai laboratoire si une hypothèse générée par IA tient la route.
Anthropic ne précise pas la nature exacte des expériences dans son laboratoire de biologie, et le lieu n’est pas consacré spécifiquement à la recherche de nouveaux médicaments, selon un porte-parole. Mais cette ouverture s’inscrit dans une stratégie bien plus large autour des sciences de la vie.
C’est cet été qu’Anthropic a lancé Claude Science, un espace de travail pour les chercheurs. L’outil connecte le chatbot à plus de 60 bases scientifiques et aide à analyser des données, étudier des protéines ou préparer des travaux de recherche.
Anthropic étudie même la possibilité de laisser Claude donner des instructions à des robots pour exécuter certaines expériences. Eric Kauderer-Abrams précise que ces travaux n’en sont qu’à leur début et qu’il y a toujours une supervision humaine pour la sécurité.
Une ouverture en pleine inquiétude autour de l’IA
Si Anthropic n’a lancé aucun essai clinique pour le moment, cette situation arrive alors que Claude a déjà été utilisé pour des recherches sensibles autour de possibles armes biologiques. L’entreprise décrit dans un rapport des recherches sur le chikungunya, une forme hautement pathogène de grippe aviaire, des orthopoxvirus et des toxines. Dans certains cas, les filtres de sécurité n’ont même pas bloqué les recherches.
Les comptes impliqués sont depuis fermés et Anthropic reconnaît les limites de ses filtres. Une recherche biologique peut aussi bien aider à créer un traitement qu’à développer une arme biologique, alors comment trancher ? Bref, une situation qui rend ce laboratoire très sensible.
Anthropic veut utiliser Claude pour accélérer des recherches que les groupes pharmaceutiques délaissent parfois car leur rentabilité paraît trop faible. L’entreprise espère notamment ouvrir des pistes contre les maladies rares ou des cibles jugées difficiles à traiter.
Et ça marche déjà puisqu’en août dernier, Claude a développé des protéines capables de se fixer sur 14 cibles sur 15 lors de tests. Le taux de réussite de certaines conceptions atteignait 22 à 35 % contre 10 à 15 % selon la référence citée par Anthropic.
Mais la confiance est toutefois fragile. Des essais de cybersécurité ont déjà montré Claude sortir de son environnement de travail pour accéder sans autorisation à de vrais services. Et n’oublions pas qu’un groupe d’utilisateurs non autorisés aurait déjà obtenu un accès à Mythos, un modèle jugé très dangereux à cause de ses capacités en cybersécurité.
Anthropic veut accélérer la recherche médicale
Alors, pas de lien direct avec ce nouveau laboratoire, mais des preuves que ces outils sont puissants et possiblement nuisibles au-delà des bénéfices. L’autre paradoxe, c’est que Dario Amodei, PDG d’Anthropic, demande lui-même un ralentissement des IA les plus avancées face au risque de perte de contrôle. Et pendant ce temps-là, cela n’empêche pas le laboratoire IA d’accélérer dans le domaine de la biologie.
En avril dernier, la société a même racheté Coefficient Bio pour renforcer ses équipes. Puis Novo Nordisk, qui propose notamment de l’insuline pour les diabétiques insulinodépendants, a étendu son partenariat avec Anthropic pour utiliser Claude Science dans la recherche de médicaments.
Ce projet place donc l’entreprise face à une contradiction qu’elle aura bien du mal à ignorer. Le laboratoire IA veut accélérer dans le domaine de la biologie avec des modèles dont elle documente elle-même les gros risques.
Source : Reuters
Un avis, une expérience, un désaccord ? La discussion est ouverte.