Après une conversation avec ChatGPT, le RAID a interpellé un homme de 37 ans à Strasbourg. Pourquoi ? Car le Strasbourgeois a demandé à l’IA comment s’armer pour « tuer un agent du renseignement de la CIA, du Mossad ou de la DGSI ». Le FBI a repéré les propos puis alerté les autorités françaises.
- Après des propos tenus à ChatGPT sur l’achat d’un Glock pour tuer un agent du renseignement, le FBI a alerté les autorités françaises.
- Le RAID est intervenu le 3 avril au domicile du Strasbourgeois, mais aucune arme n’a été retrouvée et l’affaire a été classée sans suite.
- L’affaire relance la question de la confidentialité, car certaines conversations jugées dangereuses peuvent être transmises aux forces de l’ordre.
C’est le vendredi 3 avril que le FBI a transmis un signalement aux autorités françaises via Pharos. Pour rappel, c’est la plateforme de signalement des contenus illégaux que n’importe qui peut utiliser sur le site dédié. Le Strasbourgeois exprimait son intention d’acheter un pistolet Glock pour « tuer un agent du renseignement de la CIA, du Mossad ou de la DGSI » auprès de ChatGPT.
À lire aussi : voici comment empêcher ChatGPT d’utiliser vos données
Le FBI alerte le RAID qui débarque le jour-même à son domicile
Depuis 2024, OpenAI applique une politique de modération claire. Si une conversation présente un risque de violence physique, l’entreprise peut transmettre les échanges aux forces de l’ordre. Les propos du Strasbourgeois ont déclenché ce mécanisme et l’alerte a traversé l’Atlantique en quelques heures.
L’antenne locale du RAID est intervenue le jour même au domicile de l’homme, rue Saint-Maurice dans le centre de Strasbourg. L’individu a coopéré sans difficulté et aucune arme n’a été retrouvée lors de la perquisition.
Clarisse Taron, procureure de la République de Strasbourg, a confirmé les faits. L’homme a été placé en garde à vue puis la mesure a été levée le lendemain. « À ce stade, il n’y a pas d’infraction suffisamment caractérisée, le mis en cause ayant uniquement interrogé une IA », a précisé Clarisse Taron. Les poursuites ont été abandonnées et l’affaire a été classée sans suite.
Il faut dire que l’homme était suivi pour des troubles psychiatriques et en rupture de traitement depuis deux ans. Il a été hospitalisé sous contrainte après la levée de sa garde à vue. Aux enquêteurs, il a expliqué avoir voulu « tester la fiabilité et la surveillance de l’IA ». Il a eu sa réponse, on peut dire.
Une surveillance de masse des conversations sur ChatGPT
Sauf que voilà, cette affaire pose une question que la grande majorité des 200 millions d’utilisateurs hebdomadaires de ChatGPT ignorent. Les conversations avec les chatbots ne sont pas privées. OpenAI précise dans ses conditions que, dans des cas « très rares » de « danger grave et imminent », certains propos sont transmis à des équipes humaines, puis aux autorités compétentes.
En gros, les données d’un utilisateur français soumis au RGPD transitent par les serveurs d’une entreprise californienne. OpenAI les transmet au FBI qui alerte les autorités françaises via Pharos. Le tout sans mandat judiciaire, sans notification à l’utilisateur et sans intervention d’une autorité judiciaire française en amont.
Bref, le Strasbourgeois voulait tester une machine et a montré une surveillance massive transatlantique en direct. La coopération entre OpenAI, le FBI et les autorités françaises a pris moins de 48 heures entre la conversation et l’intervention du RAID. L’affaire s’est bien terminée puisque l’homme avait besoin de soins et pas d’une arme à feu. Mais elle rappelle que chaque session auprès d’une IA peut remonter aux forces de l’ordre de n’importe quel pays.
Pourquoi il ne faut pas raconter sa vie personnelle à ChatGPT
Malheureusement, beaucoup d’utilisateurs de ChatGPT, mais aussi de Gemini de Google ou Claude ignorent ces avertissements. On ne parle pas forcément de menaces mais de discussions très personnelles avec les IA. Que ce soit à propos de l’amour, de l’argent ou de tourments intérieurs qu’il vaut mieux partager avec des professionnels de santé. Trop de personnes en parlent aux IA sans se douter que des humains lisent parfois derrière.
Dans le cas du Strasbourgeois, ce fut la conséquence de problèmes psychiques lourds. Mais la rapidité de l’intervention surprend puisque quelques heures ont suffit à lancer le RAID sur son domicile. Bien évidemment, nous n’avons pas le contenu de toute la session et peut-être que les menaces étaient graves et constituaient une préoccupation légitime. Mais elle nous montre tout de même qu’OpenAI lit tout. Et pas sûr que le mode éphémère change quoi que ce soit.
Source : Le Parisien
Réagissez à cet article !