Vos discussions privées avec ChatGPT et Gemini ne l’étaient pas, une faille permettaient de les lire

Une nouvelle faille appelée Whisper Leak permet à n’importe qui de lire des discussions privées avec des IA comme ChatGPT ou Gemini. C’est Microsoft qui a dévoilé cette faille de sécurité majeure qui touche pratiquement tous les chatbots qui tournent sur le cloud. C’est dans un article de blog que la firme de Redmond nous explique tout, en partenariat avec la plateforme scientifique arXiv.

ChatGPT n’est pas totalement sûr en ce qui concerne les discussions privées que vous avez avec lui. L’IA, qui prépare son modèle GPT-6-7, est touchée par une vulnérabilité qui frappe aussi les autres chatbots. Cette attaque cible les métadonnées du trafic réseau et non le contenu chiffré lui-même. Les pirates n’ont qu’à observer la manière dont les messages circulent en ligne pour en déduire les thématiques abordées. Le chiffrement Transport Layer Security (TLS), un protocole de sécurité utilisé également par les établissements bancaires en ligne, ne protège pas contre cette technique car elle ne tente pas de casser le chiffrement.

Une faille qui permettait de lire les discussions privées avec l’IA

Les chercheurs de Microsoft ont analysé la taille des paquets de données et leur chronologie lorsqu’un utilisateur parle à une IA. Ils ont ensuite entraîné une autre IA à distinguer les sujets traités uniquement à partir de ces échanges de données. Alors oui, le contenu exact n’est pas déchiffré, mais l’approche reste efficace. “Il est important de noter qu’il ne s’agit pas d’une vulnérabilité cryptographique dans TLS lui-même mais plutôt de l’exploitation de métadonnées que TLS révèle intrinsèquement sur la structure et le timing du trafic chiffré”, précise Microsoft dans son étude. Le problème ne vient donc pas d’une faiblesse du chiffrement mais des données qui restent visibles malgré la protection.

Les tests menés par l’équipe de chercheurs couvrent 28 modèles de langage différents. Le résultat est sans appel : 98 % des IA sont touchées par cette vulnérabilité. La faille concerne aussi bien les chatbots autonomes que ceux intégrés dans des moteurs de recherche ou des applications. Microsoft se montre très inquiet et explique que n’importe qui pourrait identifier de manière fiable les utilisateurs qui posent des questions à propos du blanchiment d’argent, de la dissidence politique ou d’autres sujets sensibles.

Depuis, Microsoft a partagé ses découvertes avec les entreprises concernées. Plusieurs sociétés proposent désormais des protections comme OpenAI, Mistral, xAI et Microsoft lui-même. “Nous avons engagé des divulgations responsables avec les fournisseurs affectés. Nous sommes heureux de rapporter une collaboration réussie dans la mise en œuvre de protections. Notamment, OpenAI, Mistral, Microsoft et xAI ont déployé des protections au moment de l’écriture. Cette réponse à l’échelle de l’industrie démontre l’engagement envers la vie privée des utilisateurs à travers l’IA”, indique l’entreprise.

Comment faire pour que mes discussions avec une IA restent privées ?

La solution utilisée par OpenAI puis reprise par Microsoft Azure consiste à ajouter un champ supplémentaire dans les réponses cloud qui contient une séquence aléatoire de texte à longueur variable. “Cela masque notamment la longueur de chaque token. Nous avons observé que cela atténue énormément l’efficacité de l’attaque”, explique Microsoft. Il s’agit en gros d’une technique de camouflage qui rend beaucoup plus difficile l’analyse des métadonnées.

Microsoft propose aussi plusieurs recommandations aux utilisateurs de chatbots :

• Évitez de discuter de sujets sensibles avec les IA.
• Passez par un VPN qui ajoute une couche de protection supplémentaire en brouillant le trafic.
• Privilégiez les modèles de langage qui ne tournent pas en cloud mais en local pour réduire les risques.
• Choisissez une IA qui a déjà ajouté des mesures de protection pour limiter l’exploitation de cette vulnérabilité.

Source : Microsoft