Les IA et la confidentialité des données ne font pas bon ménage. Et une nouvelle faille touche les chatbots puisque plus de 130 000 conversations avec des modèles de langage sont consultables directement en ligne. Autant dire qu’il faut faire attention à ce que vous dites à ces IA.
Alors que des recherches alertent déjà sur le fait d’utiliser ChatGPT comme thérapeute, cette nouvelle affaire risque de faire scandale. Surtout lorsque l’on sait que, précédemment, ce sont des discussions privées de ChatGPT qui étaient indexées par Google et donc consultables par tous. OpenAI a alors désactivé sa fonctionnalité pour référencer les conversations partagées.
À lire : L’IA comme ChatGPT ne comprend rien à ce que vous lui racontez
130 000 conversations privées avec des IA sont consultables
Aujourd’hui, 404 Media nous apprend que ce sont plus de 130 000 discussions avec ChatGPT, Claude, Grok et d’autres IA qui sont archivées et disponibles sur archive.org. Les internautes qui négligent les paramètres de confidentialité lors du partage se retrouvent donc dans une situation très embêtante. Le chercheur Dead1nfluence a identifié ces conversations en récupérant les URL de Grok, Mistral, Qwen, Claude et Copilot.
L’expert a ensuite partagé avec 404 Media sa liste de 130 000 liens de discussion avec des extraits de leur contenu. Internet Archive ne montre plus les résultats pour les liens de ChatGPT suite à la correction d’OpenAI, qui vient tout juste de présenter GPT-5, mais les conversations de Grok restent consultables. Un chercheur anonyme a toutefois partagé les données de près de 100 000 conversations de ChatGPT qui avaient précédemment été indexées, avec du contenu sensible à l’intérieur.
Parmi les éléments très sensibles que l’on retrouve dans ces discussions archivées et consultables par tous, il y a :
- Des accords de non-divulgation
- Des contrats confidentiels
- Des questions personnelles
- Des demandes sur une situation sentimentale
Bref, des éléments intimes qui aggravent cette faille préoccupante. Dead1nfluence explique que malgré l’indication que les liens partagés permettent de consulter une conversation, « la plupart des internautes ne pensent pas que ces liens seront accessibles à tous et encore moins indexés et consultables très facilement ». Les entreprises concernées ont été contactées par 404 Media, mais pas de réponse pour le moment. On trouve toutefois Anthropic qui explique que les utilisateurs de Claude gèrent le partage public et que « ces liens ne peuvent pas être devinés ou détectés, sauf si les utilisateurs choisissent de les publier eux-mêmes ».
Mais ce n’est pas tout, puisqu’au-delà de la confidentialité, cette faille pose des questions sur la sécurité. Dead1nfluence a découvert des clés API et autres informations critiques qui sont exploitables par des pirates ou des équipes de tests en sécurité éthique comme les hackers blancs.
- Plus de 130 000 conversations avec ChatGPT, Claude, Grok et d’autres IA sont accessibles en ligne via archive.org, contenant parfois des données sensibles comme contrats, NDA ou informations personnelles.
- La faille est liée au partage public de liens de discussions, souvent mal compris par les utilisateurs, rendant ces contenus facilement consultables et exploitables.
- Des informations critiques comme des clés API ont aussi été retrouvées, soulevant des inquiétudes majeures en matière de sécurité et de confidentialité.
Source : 404 Media
Réagissez à cet article !