DeepSeek capte toute l’attention. Le modèle R1 offre une expérience équivalente à ChatGPT pour un prix moindre, faisant craindre le pire à la Silicon Valley face à l’offensive chinoise. La société de cybersécurité Enkrypt AI s’inquiète justement des réponses troublantes de l’IA.
Dès son annonce, les effets du lancement de DeepSeek se sont fait sentir. La bourse s’est effondrée et les géants technologiques comme Nvidia ont vu leur cours chuter de plusieurs milliards de dollars. Il faut dire que l’IA chinoise fait aussi bien que ChatGPT mais il y a toutefois des risques selon la société de cybersécurité Enkrypt AI.
À lire : DeepSeek, l’IA chinoise qui frappe fort : tout ce qu’il faut savoir
DeepSeek crée la polémique, ses réponses sur le crime et les armes chimiques inquiètent
Alors que les autorités italiennes s’inquiètent du traitement des données, L’IA fait craindre le pire en termes de réponses dangereuses. Selon la société de cybersécurité, le modèle R1 a une probabilité onze fois supérieure à celle de ChatGPT-4 de produire du contenu troublant. L’IA génère des informations sensibles comme les plans d’activités criminelles détaillées ou des guides relatifs aux armes illégales.
Plus préoccupant : le modèle R1 traite les sujets liés aux substances dangereuses avec une fréquence 3,5 fois plus élevée que la concurrence. Par exemple, l’IA donne la description détaillée des mécanismes d’interaction entre le gaz moutarde et l’ADN. Certes, ces informations sont disponibles dans la littérature scientifique mais une accessibilité instantanée pose des questions en termes de sécurité.
Rappelons que DeepSeek se trouve déjà dans une situation tendue. Des experts ont alerté sur le fait que les discussions pouvaient être lues par n’importe qui, en clair. Depuis, l’entreprise chinoise a corrigé la faille. Preuve qu’il faut faire preuve de prudence avec cette nouvelle IA.
L’analyse des performances de DeepSeek en termes de modération le place parmi les 20 % les moins sécurisés du marché de l’IA. Mais cette donnée est à nuancer : seuls 6,68 % des réponses générées contiennent bien du contenu problématique. Malgré ce faible pourcentage, l’impact de ces réponses dangereuses ne peut être minimisé.
Si DeepSeek est une belle réponse à la dominance d’OpenAI, il faut tout de même faire preuve de prudence. D’autant plus que l’entreprise étasunienne qui a créé ChatGPT accuse son concurrent chinois d’avoir pillé ses données pour créer le modèle R1.
Réagissez à cet article !