OpenAI a publié un billet de blog sur la sécurité de ses utilisateurs. Sauf que ce papier cache quelque chose. Dedans, on apprend que ChatGPT surveille les conversations de ses abonnés, croise leurs comportements dans le temps et peut alerter les autorités. Et le tout sans obligation légale de transparence.
- OpenAI confirme que ChatGPT analyse les conversations et les comportements dans le temps pour détecter des risques.
- L’entreprise peut décider seule d’alerter les autorités après évaluation interne sans obligation de transparence externe.
- Le billet ne précise pas de cadre légal ni d’audit indépendant, ce qui soulève des questions sur la confidentialité des échanges.
Le calendrier n’est pas anodin. Le 10 février 2026, un tireur a tué deux personnes à Tumbler Ridge, en Colombie-Britannique, au Canada. OpenAI a été informée de ses conversations alarmantes sur ChatGPT dès juin 2025, huit mois avant le drame. L’alerte était remontée jusqu’à la direction.
À lire : Le FBI alerte le RAID qui débarque le jour-même chez lui à Strasbourg
Quand ChatGPT surveille vos conversations et l’admet
Sam Altman, PDG d’OpenAI, et ses équipes ont décidé que le danger n’était pas suffisant pour alerter les autorités canadiennes. Quelques semaine plus tard, OpenAI a publié son billet de blog sur la sécurité communautaire.
Le billet décrit un système automatisé. Des classificateurs analysent les échanges des abonnés en continu. Quand une conversation est signalée, du personnel l’examine. On parle du contenu de la conversation et des comportements observés sur la durée.
OpenAI est explicite sur ce point : « Un message isolé peut paraître sans danger, mais un schéma qui se dessine sur une longue conversation ou entre plusieurs sessions peut révéler quelque chose de plus grave. » En clair, OpenAI croise les conversations entre elles dans le temps pour établir des profils comportementaux.
Sauf que voilà, OpenAI n’est pas un service de renseignement. C’est une entreprise privée. OpenAI évalue elle-même si une menace est crédible et imminente. Elle décide ensuite seule de contacter les forces de l’ordre. Elle fait appel à des psychiatres et des spécialistes du comportement pour évaluer la dangerosité de ses propres abonnés.
Rien n’est secret quand vous parlez avec une IA
Et ses critères de signalement sont délibérément vagues : « Nos critères de signalement restent souples, car un utilisateur ne mentionne pas toujours explicitement la cible, les moyens ou le calendrier d’une violence planifiée. » On parle d’un système sans mandat judiciaire et sans aucun contrôle extérieur.
Pour rappel, vos conversations ChatGPT ne sont pas privées et OpenAI ne s’en est jamais vraiment caché. Mais ce billet officialise quelque chose de différent. Ce n’est plus de la collecte pour entraîner des modèles. C’est de l’analyse comportementale avec transmission possible aux autorités.
Des examinateurs humains lisent aussi les conversations d’adolescents. Si une « détresse aiguë » est détectée, les parents sont prévenus. Un adolescent qui confierait un conflit familial ou une pensée sombre à un agent conversationnel pourrait voir cette confidence remonter au foyer. Sauf que ce n’est pas ce que les abonnés ont signé dans leurs conditions d’utilisation.
OpenAI annonce aussi une fonctionnalité de « contact de confiance » pour les adultes. Une personne désignée sera alertée si l’IA juge que l’abonné a besoin de soutien. OpenAI ne publie pas le nombre de conversations lues ou le nombre de signalements effectués.
Un manque de transparence de la part d’OpenAI
Et aucun audit indépendant n’est prévu. OpenAI mentionne un mécanisme d’appel interne. En gros, le surveillant juge sa propre surveillance. Le billet ne cite pas le RGPD ou aucun cadre légal applicable. Pour les abonnés européens, la question de la conformité au droit des données personnelles reste ouverte.
Bref, ne confiez jamais des informations trop personnelles à ChatGPT. Ce billet confirme que les échanges faits avec l’IA ne restent pas entre vous et elle.
Source : OpenAI
Réagissez à cet article !