La confidentialité des échanges avec ChatGPT est une grande source d’inquiétude, surtout lorsque l’on sait qu’OpenAI surveille les conversations et les examine même avec des modérateurs humains. Bref, l’IA peut se retourner contre vous lors d’échanges trop intimes.
OpenAI l’a dit sans détour : l’entreprise se permet désormais de partager des conversations avec les forces de l’ordre en cas de danger. Il faut dire que beaucoup utilisent ChatGPT comme un confident de confiance et partagent des secrets, des préoccupations personnelles, même si cela provoque parfois des drames comme le suicide d’un adolescent de 16 ans. Sauf que voilà, il ne s’agit jamais d’un dialogue avec un vrai médecin ou thérapeute, et la vie privée est très limitée, contrairement à un praticien.
OpenAI lit ce que vous racontez d’intime à ChatGPT
OpenAI utilise des technologies pour détecter les contenus problématiques. Dans une déclaration, la startup de Sam Altman explique : « Nous avons exploité un large éventail d’outils, incluant des modèles de modération dédiés et l’utilisation de nos propres modèles pour surveiller les risques de sécurité et les abus. » En gros, OpenAI surveille chaque conversation pour identifier de possibles risques. Dès lors, les modérateurs ont accès aux informations nécessaires.
Bref, cette surveillance automatique pose problème alors que des personnes partagent jusqu’à leur vie sentimentale avec ChatGPT. L’utilisation du chatbot expose à cette réalité : ce que vous dites d’intime est lu constamment. Lorsque l’on sait que la société est en pleine crise sanitaire en termes de santé mentale, la situation pose des questions.
OpenAI précise que « si quelqu’un exprime des intentions suicidaires, ChatGPT est entraîné à diriger les gens vers une aide professionnelle. » La startup distingue donc l’automutilation et la mise en danger d’autrui. Pour protéger la vie privée des personnes concernées, OpenAI pose une limite qui peut toutefois être franchie : les pensées suicidaires. OpenAI explique : « Quand nous détectons des utilisateurs qui planifient de nuire à autrui, nous dirigeons leur conversation vers des pipelines spécialisés ; nous pouvons les signaler aux forces de l’ordre. »
Bref, la surveillance pose des questions éthiques et possiblement juridiques. Il faut s’attendre à ce que la modération lise vos conversations et, dans les cas extrêmes, qu’elles soient divulguées aux autorités. La confidentialité de ChatGPT fait beaucoup parler alors que sa personnalité risque de changer sous peu. Mais gardez en tête que la vie privée avec les conversations IA n’existe pas, que ce soit ChatGPT, Gemini, Claude, Perplexity, Mistral, qu’importe.
- OpenAI surveille activement les conversations avec ChatGPT grâce à des modèles de modération et n’hésite pas à examiner certains échanges, notamment quand ils concernent des sujets jugés sensibles.
- L’entreprise a reconnu partager des conversations avec les forces de l’ordre en cas de danger, notamment si un utilisateur exprime des intentions suicidaires ou de nuire à autrui. Cela signifie que l’intimité des échanges est limitée, contrairement à une relation avec un médecin ou un thérapeute.
- Cette surveillance automatique soulève des enjeux éthiques et juridiques, surtout dans un contexte où beaucoup utilisent ChatGPT comme confident. En pratique, la confidentialité des conversations n’existe pas vraiment avec ChatGPT ni avec les autres IA comme Gemini, Claude, Perplexity ou Mistral.
Réagissez à cet article !