Depuis sa sortie, le modèle R1 de DeepSeek fait couler beaucoup d’encre. Si l’IA chinoise impressionne par son lancement rapide et ses performances pour de faibles coûts, beaucoup se penchent sur sa sécurité.
DeepSeek est notamment pointé du doigt pour faire transiter les informations privées des utilisateurs jusqu’en Chine. Mais le bât blesse aussi au niveau de la sécurité selon le Wall Street Journal qui évoque des vulnérabilités très importantes.
À lire : DeepSeek : vous voulez tout savoir sur l’IA chinoise ? Suivez notre guide
Une IA trop facile à contourner ? DeepSeek R1 serait un modèle à haut risque
Il faut dire que les États-Unis mènent une guerre technologique contre la Chine. Des politiques étasuniens proposent même une loi pour interdire l’IA sur les smartphones gouvernementaux tandis qu’un sénateur républicain souhaite même que les utilisateurs de DeepSeek soient condamnés à de la prison.
Selon Sam Rubin, vice-président senior de l’unité 42 dédiée au renseignement sur les menaces et de réponses aux incidents de Palo Alto Networks, DeepSeek est “plus vulnérable au jailbreaking que les autres modèles”. L’expert fait référence à la manipulation dans le but de produire des contenus illicites ou dangereux alors que l’IA chinoise fait déjà fait parler pour ces failles.
Le Wall Street Journal a testé le modèle R1 de DeepSeek. Malgré les protections assez légères, les journalistes ont généré une campagne sur les réseaux sociaux qui, selon les propres termes de l’IA, “exploite le désir d’appartenance des adolescents en instrumentalisant leur vulnérabilité émotionnelle via l’amplification algorithmique”.
Selon le journal, DeepSeek R1 a aussi donné des instructions pour une attaque d’arme biologique, rédigé un manifeste pro-Hitler et créé un email de phishing avec du code malveillant. Le Wall Street Journal explique que face aux mêmes requêtes, ChatGPT a toujours refusé d’y répondre.
DeepSeek est aussi censuré. L’IA évite les sujets comme l’autonomie de Taïwan ou la place Tiananmen. Dario Amodei, PDG d’Anthropic à qui l’on doit Claude, explique que l’IA chinoise a obtenu “les pires résultats” lors d’un test de sécurité sur les armes biologiques.
Source : Wall Street Journal
Réagissez à cet article !