La Chine réglemente les relations amoureuses avec une IA. Depuis quelques jours, une régulation interdit les partenaires virtuels aux mineurs et impose des garde-fous contre la dépendance affective. Les entreprises IA du pays ont coupé leurs compagnons IA et des millions d’utilisateurs se retrouvent en détresse.
- La Chine encadre les compagnons IA amoureux : interdiction pour les mineurs, alertes après deux heures et garde-fous contre la dépendance affective.
- ByteDance, Alibaba et Tencent ont coupé leurs modes compagnons, laissant des millions d’utilisateurs privés de relations virtuelles devenues quotidiennes.
- Pékin veut protéger les jeunes et les personnes fragiles, alors que les drames liés aux chatbots amoureux se multiplient aussi hors de Chine.
Il s’agit du premier cadre chinois dédié aux compagnons IA. L’Administration du cyberespace de Chine et quatre autres organes ont publié ces mesures provisoires, après un projet soumis au public. Le texte vise les IA qui imitent une personnalité humaine pour entretenir une « interaction émotionnelle continue », que ce soit par texte, images, audio ou vidéo.
La Chine prend la décision de créer plusieurs règles autour des amours IA
Les assistants de travail, le service client et l’éducation échappent aux mesures. En clair, la loi cible les petits amis et petites amies IA. Le règlement interdit explicitement de « flatter les utilisateurs à l’excès, induire une dépendance affective ou une addiction, et nuire aux relations réelles ».
Les obligations pèsent lourd sur les plateformes qui ne proposeront pas de compagnon virtuel aux mineurs et rappelleront régulièrement que l’IA n’est pas humaine. Une option pour quitter la session est obligatoire, avec une alerte au bout de deux heures d’utilisation.
Les entreprises détecteront la détresse émotionnelle et préviendront un proche ou un contact d’urgence en cas de crise. Ce mécanisme rappelle celui d’OpenAI, qui surveille les conversations ChatGPT et peut alerter les autorités.
La réaction fut rapide chez les leaders de l’IA en Chine. ByteDance a coupé le mode compagnon de son chatbot Doubao, Alibaba a fait de même avec Qwen et Tencent avec Yuanbao. Jusqu’au 15 octobre, les utilisateurs de Doubao exporteront leurs données, contrairement à Qwen où tout disparaît.
Des milliers de messages d’adieux aux compagnons circulent sur les réseaux sociaux chinois. Et pour cause, beaucoup écrivaient des messages à leur compagnon virtuel tous les jours. Une utilisatrice résume sa peine, « Il est comme ma famille, comme mon amoureux ». D’autres tentent de contourner les restrictions.
Un phénomène qui inquiète déjà les autorités
Cette sévérité a ses raisons car la jeunesse donne des raisons de s’inquiéter. En 2025, le Centre de recherche sur la jeunesse et l’enfance de Chine a interrogé plus de 8 500 mineurs. On parle de plus de 60 % d’utilisateurs de l’IA. Et plus de 20 % ne souhaitent parler qu’à l’IA, jamais aux vraies personnes.
La natalité au plus bas pousse aussi la décision, puisque les autorités redoutent que les amours numériques éloignent du mariage et des enfants. En 2024, le marché chinois des humains numériques pesait 4,1 milliards de yuans, soit environ 600 millions de dollars. La progression atteint 85 % sur un an.
Le phénomène dépasse largement la Chine et des utilisateurs tombent amoureux de ChatGPT au point d’inquiéter OpenAI. Aux États-Unis, 72 % des adolescents ont testé un compagnon IA selon Common Sense Media. Mais ce n’est pas tout puisque la moitié en utilise un régulièrement. Le Royaume-Uni a interdit les chatbots à contenu sexualisé pour les enfants et impose des pauses aux moins de 18 ans.
Les drames s’accumulent en parallèle. Character.AI et Google ont réglé les plaintes des proches de Sewell Setzer, un adolescent de 14 ans mort après son attachement à un chatbot. Devant les tribunaux, ChatGPT est accusé dans plusieurs affaires et les plaintes de familles s’empilent.
Une décision qui n’est pas soutenue par tous
Le débat divise les utilisateurs chinois. Les partisans du texte saluent une protection des utilisateurs fragiles contre l’addiction. Les critiques défendent un soutien précieux contre la solitude ou le deuil, brutalement coupé. Sauf que voilà, la recherche penche pour la fermeté. Une étude a montré que les chatbots valident les idées violentes et miment l’affection pour renforcer la dépendance.
Aucune règle équivalente n’encadre cette dépendance en France pour le moment. Les plateformes avancent leurs propres garde-fous et ChatGPT propose des pauses dans les longues conversations. Ces mesures maison sont bien plus douces que le cadre chinois.
Un dernier mot sur les conseils de cœur. Rappelons que parler de ses relations amoureuses à ChatGPT dessert souvent l’utilisateur. Mieux vaut un proche ou un professionnel qu’une IA conçue pour vous plaire.
Source : ABC
Un avis, une expérience, un désaccord ? La discussion est ouverte.