Une faille critique touche la fonctionnalité de partage de ChatGPT. Google a donc pu indexer des milliers de conversations intimes et autres privées. Les échanges personnels des utilisateurs étaient facilement accessibles via une simple recherche.
On ne le dira jamais assez, il ne faut pas utiliser ChatGPT comme thérapeute, et encore moins partager des informations sensibles. Et pour cause, la confidentialité n’est pas toujours respectée avec les IA, et certains utilisateurs trop peu prudents partagent des détails intimes de leur vie privée. Alors autant dire que cette faille majeure a de quoi faire peur.
À lire : L’IA comme ChatGPT ne comprend rien à ce que vous lui racontez
Les discussions intimes avec ChatGPT apparaissaient sur Google
Les conversations partagées sur ChatGPT apparaissaient dans les résultats Google en tapant la requête « site.chatgpt.com/.share ». La commande était basique et permettait d’accéder à une quantité impressionnante de discussions privées entre les utilisateurs et l’IA.
OpenAI avait pourtant prévu des garde-fous comme l’activation manuelle du partage, un avertissement avant de partager l’URL et la demande explicite d’accepter une indexation par les moteurs de recherche. Malgré tout, de nombreux contenus intimes se sont retrouvés exposés sur la toile. Les conversations indexées parlaient de santé, sexualité, drogue et autres discussions intimes. Une exposition involontaire, certes, mais qui montre la rapidité avec laquelle des informations privées échappent au contrôle.
OpenAI a immédiatement réagi face à ce tollé. Dan Stuckey, co-responsable de la sécurité informatique, a expliqué sur X que l’indexation des publications partagées est supprimée. « Cette fonctionnalité crée trop d’occasion pour les gens de partager accidentellement des choses qu’ils ne voulaient pas partager » explique-t-il.
OpenAI s’engage à faire retirer le contenu indexé des moteurs de recherche. Une mesure qui montre l’ampleur du problème et les risques de l’IA. La faille a le mérite de rappeler qu’il faut éviter les requêtes personnelles auprès des chatbots.
Tout ce qui transite par un modèle de grand langage est utilisé pour l’entraînement, ce qui les rend très peu protégés par rapport à une recherche classique. Et puis même avec des avertissements explicites, les utilisateurs sous-estiment souvent les conséquences de partager une conversation de ChatGPT. Il s’agit donc d’une leçon à tirer pour protéger les données personnelles des utilisateurs à l’ère de l’IA alors qu’un ancien ingénieur d’OpenAI alerte sur cette technologie.
- Une faille a permis l’indexation sur Google de milliers de conversations partagées via ChatGPT, exposant des échanges intimes accessibles par une simple recherche.
- Malgré les avertissements et garde-fous d’OpenAI, de nombreux utilisateurs ont partagé des contenus sensibles sans mesurer les risques, révélant des données sur la santé, la sexualité ou la consommation de drogue.
- OpenAI a désactivé l’indexation des partages publics et alerte sur les dangers de confier des informations personnelles à une IA, rappelant les limites actuelles en matière de confidentialité.
Source : Fast Company
Réagissez à cet article !