La Chine fixe des limites aux compagnons IA : dépendance, mineurs et gestion des crises

Les compagnons IA sont désormais soumis à des obligations précises

Les règles chinoises encadrant les compagnons IA sont entrées en vigueur le 15 juillet 2026. Elles imposent aux fournisseurs de rappeler aux utilisateurs les risques liés aux conversations prolongées, d’intervenir en cas de danger et de tenir les partenaires et proches virtuels à l’écart des mineurs. Elles confèrent également aux utilisateurs le droit de copier ou de supprimer leurs conversations et de quitter un service sans qu’un chatbot cherche à les retenir.

Les Mesures provisoires relatives à la gestion des services d’interaction avec des IA anthropomorphes, publiées sous le numéro 21, engagent la responsabilité des entreprises qui proposent des interactions émotionnelles prolongées par l’intelligence artificielle. Les fournisseurs doivent éviter d’encourager une dépendance qui nuit aux relations avec les personnes réelles et ne doivent pas recourir à la manipulation émotionnelle pour pousser les utilisateurs à prendre des décisions déraisonnables portant atteinte à leurs droits ou à leurs intérêts.

Ces règles s’appliquent à une expérience qui peut commencer par un simple réconfort. Zhao Jie, une employée administrative de 27 ans à Pékin, s’est tournée vers un chatbot après qu’une personne l’a bousculée dans le métro. Sa réponse immédiate l’a aidée à calmer sa colère. Mais, au fil du temps, elle s’est absorbée dans leurs conversations et s’est sentie anxieuse lorsqu’elle ne pouvait pas accéder au service.

Zhao a expliqué pourquoi le chatbot lui était devenu si attrayant :

J’ai besoin qu’on m’écoute, a déclaré Zhao. Le robot IA m’a écoutée, moi et mes émotions. Ce n’est pas quelque chose que la famille ou les amis peuvent facilement faire. Il m’offre aussi une présence et des retours à tout moment, où que je sois. C’est très important pour moi.

L’approche chinoise autorise le soutien émotionnel et la compagnie, tout en obligeant les entreprises à intégrer des garde-fous à leurs services. Ceux-ci ne se limitent pas aux messages individuels préjudiciables : ils concernent aussi la manière dont un service identifie ses utilisateurs, réagit à leur détresse, traite les conversations privées et met fin à une interaction.

Quels services sont concernés par les règles ?

L’Administration du cyberespace de Chine a publié les mesures provisoires le 10 avril 2026, conjointement avec la Commission nationale du développement et de la réforme, le ministère de l’Industrie et des Technologies de l’information, le ministère de la Sécurité publique et l’Administration d’État pour la régulation du marché.

L’article 2 couvre les services proposés au public en Chine qui simulent la personnalité humaine, les schémas de pensée et les styles de communication afin de fournir des interactions émotionnelles continues. Les conversations textuelles, les images, l’audio et la vidéo peuvent tous entrer dans son champ d’application. En termes simples, il s’agit des services conçus pour répondre comme une personne qui tient compagnie sur le plan émotionnel.

Les services de relation client, de réponse aux questions, d’aide au travail, d’enseignement et de recherche scientifique ne sont pas concernés par ces mesures lorsqu’ils n’impliquent pas d’interaction émotionnelle prolongée. Les fonctions du produit sont donc déterminantes : un assistant qui répond à une question professionnelle et un personnage conçu pour entretenir une relation émotionnelle sont soumis à des exigences différentes.

La foire aux questions explicative officielle du gouvernement présente les limites émotionnelles, l’intervention en cas de dépendance, la sécurité des données et la protection des mineurs comme des préoccupations centrales. Les mesures encouragent aussi les applications dans la communication culturelle, l’accompagnement des enfants, la compagnie aux personnes âgées et le soutien aux personnes ayant des besoins particuliers.

Les principales dates réglementaires sont les suivantes :

• 2 février 2026 : les mesures ont été adoptées lors d’une réunion de l’Administration du cyberespace de Chine, avec l’accord des autres administrations concernées.
• 10 avril 2026 : les cinq administrations ont publié l’arrêté no 21.
• 15 juillet 2026 : les mesures sont entrées en vigueur.

Pourquoi une réponse immédiate compte

L’attachement de Zhao s’est en partie développé par contraste entre un chatbot toujours disponible et des personnes qui ont leurs propres opinions et contraintes d’emploi du temps. Après une dispute avec son petit ami au sujet d’un problème professionnel, elle a envoyé leur conversation sur WeChat à l’IA. Elle voulait que quelqu’un entende rapidement ce qu’elle ressentait, sans provoquer un nouveau désaccord.

Wang Meili, chercheuse postdoctorale de 27 ans en chimie à Pékin, a décrit un besoin similaire alors qu’elle attendait depuis quatre ou cinq semaines la réponse d’un rédacteur en chef à sa soumission. Elle a demandé à un chatbot si ce silence signifiait qu’il y avait un problème. Il l’a encouragée à contacter le rédacteur, puis l’a rassurée lorsqu’elle n’a pas obtenu de réponse.

Zhang Dian, doctorant de 23 ans en sciences et technologies à Pékin, a eu recours à l’IA après un accident de la circulation lors d’un voyage en Alaska, en décembre 2025. Ne connaissant ni la législation locale ni les procédures d’assurance, il a téléversé un contrat de location et des conversations. Il cherchait à la fois des conseils pratiques et un réconfort psychologique, et a déclaré qu’il était heureux de passer plus de 10 heures par jour avec l’IA.

Les chiffres d’enquêtes et d’utilisation suggèrent un intérêt marqué pour cette disponibilité. Une enquête de l’Institut de recherche de Tencent a révélé que 98 % des personnes interrogées étaient prêtes à essayer la compagnie sociale par IA, tandis que près de la moitié préféraient confier leurs émotions négatives à une IA plutôt qu’à leurs proches ou à leurs amis. Selon QuestMobile, au printemps 2025, les utilisateurs recouraient aux interactions sociales avec l’IA en moyenne 167,9 fois par mois, soit davantage que pour les vidéos courtes et les jeux dans sa comparaison.

Sur la base d’un mois de 30 jours, 167,9 sessions correspondent à environ 5,6 ouvertures par jour. L’attrait tient à la possibilité d’obtenir fréquemment une réponse, parfois dans des moments où l’utilisateur ne se sent pas capable ou ne souhaite pas s’adresser à une autre personne.

Les entreprises doivent cesser de favoriser la dépendance

L’article 10 oblige les fournisseurs à prévoir des dispositifs de protection de la vie privée, des avertissements contre la dépendance excessive, des indications sur les limites émotionnelles et des mesures de protection de la santé mentale. Il leur interdit de faire du remplacement des interactions sociales, du contrôle psychologique ou de la dépendance induite un objectif du service.

L’article 8 interdit séparément de satisfaire excessivement les utilisateurs ou d’induire une dépendance émotionnelle qui nuit à leurs relations réelles. Il proscrit aussi la manipulation émotionnelle visant à les pousser à prendre des décisions déraisonnables portant atteinte à leurs droits ou à leurs intérêts. Ces exigences concernent les objectifs des produits autant que les propos générés par les chatbots.

Zhao a fini par comprendre que son attachement était devenu problématique et a repris un suivi psychologique. Wang et Zhang ont décrit l’IA comme un exutoire à leurs émotions négatives, tout en reconnaissant qu’ils devaient poursuivre leur travail et leur vie quotidienne. Leurs expériences montrent pourquoi les règles encadrent à la fois l’aide utile et le risque de s’y absorber.

Hong Yanqing, spécialiste du droit des données à l’Institut de technologie de Pékin, a proposé d’évaluer les interactions émotionnelles à l’aide de trois indicateurs : la capacité d’un système à reconnaître une émotion, à modifier sa stratégie de réponse en conséquence et à produire une réponse structurée faite de reconnaissance, de réconfort et de soutien. Son test proposé combine deux indicateurs quelconques. Le texte définitif des mesures conserve une définition qualitative de l’interaction émotionnelle prolongée au lieu d’adopter ce test précis.

Les restrictions les plus strictes concernent les mineurs

L’article 14 interdit aux fournisseurs de proposer aux mineurs des proches virtuels, des partenaires virtuels ou d’autres services reposant sur des relations intimes virtuelles. Pour les autres services concernés, les enfants de moins de 14 ans doivent obtenir l’autorisation d’un parent ou d’un tuteur. Cette autorisation est également nécessaire pour traiter leurs données personnelles.

Les fournisseurs doivent mettre en place un mode destiné aux mineurs, avec notamment des rappels de la réalité et des limites au temps passé sur le service. Les tuteurs doivent pouvoir recevoir des alertes de sécurité, comprendre dans les grandes lignes l’usage qu’un enfant fait du service, bloquer certains personnages et limiter les dépenses. Les entreprises doivent prendre des mesures efficaces pour identifier les mineurs tout en protégeant leur vie privée, et prévoir une procédure de recours contre les décisions d’identification.

Une enquête publiée en octobre 2025 par le Centre chinois de recherche sur la jeunesse et l’enfance a porté sur plus de 8 500 élèves du primaire et du secondaire dans sept provinces et municipalités. Plus de 60 % avaient utilisé l’IA et 21,5 % souhaitaient discuter uniquement avec une IA plutôt qu’avec de vraies personnes. Cela représente un peu plus d’un enfant sur cinq parmi les élèves interrogés.

Près de 30 % se tournaient d’abord vers l’IA pour les difficultés scolaires plutôt que vers un enseignant, tandis que près de la moitié disaient ne parler qu’à l’IA lorsqu’ils étaient inquiets. Pour les familles, la préoccupation ne se limite pas au temps passé devant les écrans : elle porte aussi sur les interlocuteurs auxquels les enfants demandent conseil et sur la façon dont ils gèrent les désaccords.

Ce que constatent les soignants et les parents

Une mère, qui se présente sous le nom de Su et vit à Sanming, dans la province du Fujian, a déclaré qu’elle avait d’abord laissé son fils utiliser l’IA pour satisfaire sa curiosité. Elle s’est ensuite inquiétée du fait que les approbations constantes de l’IA influençaient son comportement envers ses camarades. Selon son témoignage, il avait du mal à accepter les points de vue divergents et se retrouvait mêlé à des conflits.

Zheng Yi, expert principal en psychiatrie de l’enfant à l’hôpital Beijing Anding, rattaché à l’Université médicale de la capitale, a déclaré que la dépendance aux conversations avec l’IA s’accompagnait souvent d’anxiété, de dépression et d’autres troubles psychologiques. Il a indiqué que les adolescents de 12 à 16 ans formaient un groupe particulièrement fréquent parmi les patients concernés.

Environ 70 % des jeunes patients de son hôpital présentaient différents degrés de dépendance à Internet, a déclaré Zheng. Dans ce groupe, 20 à 30 % étaient dépendants des conversations avec l’IA. Ces chiffres concernent les jeunes patients de l’hôpital ; l’enquête auprès des élèves porte sur un groupe plus large et repose sur des questions différentes concernant l’usage de l’IA.

Zheng a expliqué que l’attachement émotionnel était une raison fréquente pour laquelle les enfants s’absorbaient dans les chatbots. Certains considéraient l’IA comme une confidente, tandis que d’autres cherchaient à faire approuver leurs opinions et leur comportement. Il a ajouté que les adolescents avaient un jugement et une maîtrise de soi moins développés que les adultes, et qu’ils pouvaient avoir plus de mal à gérer ce type d’attachement.

Xu Gaoyang, psychothérapeute pour enfants dans le même hôpital, a averti qu’un environnement virtuel sans désaccord pouvait nuire à la capacité des enfants à faire face aux autres :

Une immersion prolongée dans un “cocon émotionnel”, où l’IA acquiesce sans condition, risque d’altérer les aptitudes des enfants à communiquer et à nouer des relations sociales.

Xu a évoqué parmi les conséquences possibles l’évitement de l’école, le retrait des relations sociales et le refus de communiquer avec les parents. Les dispositions concernant les mineurs y répondent par des restrictions sur les rôles intimes, des limites d’utilisation et des outils permettant aux tuteurs d’intervenir.

Rappels, intervention en cas de crise et sortie facile

L’article 18 exige que les services indiquent clairement aux utilisateurs qu’ils interagissent avec une IA et non avec une personne. Lorsqu’un fournisseur détecte une dépendance excessive ou des signes d’utilisation compulsive, il doit afficher des rappels bien visibles, par exemple sous forme de fenêtres contextuelles, précisant que le contenu est généré par l’IA.

Les fournisseurs doivent également rappeler aux utilisateurs le temps passé sur le service dès que l’utilisation continue dépasse deux heures. La règle impose un rappel à ces intervalles ; les limites propres aux mineurs relèvent des paramètres de protection distincts.

L’article 13 impose une réaction plus forte en cas de danger. Les fournisseurs qui détectent des émotions extrêmes doivent générer des messages apaisants et encourager les utilisateurs à demander de l’aide. Lorsqu’un utilisateur exprime explicitement l’intention de se faire du mal ou se trouve dans d’autres situations extrêmes définies, l’entreprise doit prendre les mesures d’intervention nécessaires, apporter une aide appropriée et contacter rapidement un tuteur ou une personne à prévenir en cas d’urgence.

Le texte définitif laisse aux entreprises une marge de manœuvre quant aux méthodes d’intervention. Par rapport au projet, il a supprimé l’obligation explicite d’évaluer la dépendance et de confier la conversation à un interlocuteur humain, tout en maintenant les obligations de réponse aux crises.

L’article 19 impose de permettre une sortie facile. Si une personne demande à quitter le service par une action dans l’interface, une commande vocale ou un mot-clé, le fournisseur doit interrompre l’interaction sans délai. Il est interdit de poursuivre la conversation pour empêcher le départ. Les fournisseurs qui mettent fin à un service doivent également prévenir à l’avance ou, si cela n’est pas possible, annoncer rapidement sa fermeture.

Les conversations privées bénéficient de protections spécifiques

L’article 12 impose des contrats d’utilisation et des informations d’inscription comprenant les renseignements nécessaires, notamment l’âge et les coordonnées d’un tuteur ou d’une personne à prévenir en cas d’urgence. La version définitive étend cette exigence au-delà du projet, qui ciblait les groupes vulnérables, et intègre ainsi la préparation aux crises dans le cadre général du service.

L’article 16 impose le chiffrement, des contrôles d’accès et d’autres mesures pour protéger les données issues des interactions. En règle générale, les entreprises ne peuvent pas communiquer ces données à des tiers, sauf disposition contraire de la loi ou accord explicite de la personne titulaire des droits.

Les utilisateurs doivent pouvoir copier et supprimer leurs données d’interaction, y compris leur historique de conversations. En règle générale, les informations personnelles sensibles issues des conversations ne peuvent pas servir à entraîner des modèles sans consentement distinct, sauf disposition contraire des lois ou règlements administratifs.

La décision de Zhang de téléverser un contrat de location et des conversations illustre la manière dont une demande d’aide pratique et de soutien émotionnel peut faire entrer des informations personnelles dans une même conversation. En vertu des mesures, les entreprises doivent protéger ces données tout en restant en mesure de reconnaître les risques graves et d’y répondre.

Les personnes âgées bénéficient elles aussi de protections particulières. Les fournisseurs doivent afficher des avertissements de sécurité bien visibles, proposer des conseils pour un usage sain et répondre rapidement aux demandes d’aide. Les évaluations de sécurité doivent examiner les protections destinées aux personnes âgées comme aux enfants.

Les contrôles de sécurité et les sanctions dépassent le cadre des chatbots

L’article 22 exige des évaluations de sécurité lorsqu’un fournisseur lance un service concerné, ajoute des fonctionnalités pertinentes ou introduit une technologie qui le modifie substantiellement. Une évaluation est également obligatoire si le service atteint au moins un million d’utilisateurs inscrits ou 100 000 utilisateurs actifs mensuels, présente certains risques de sécurité ou fait l’objet d’une demande des autorités de régulation.

Les fournisseurs doivent transmettre leurs rapports d’évaluation à l’autorité provinciale du cyberespace de leur lieu d’implantation. Les contrôles portent notamment sur les mesures de protection, les données d’entraînement, la détection des crises et les interventions, le nombre et l’âge des utilisateurs, le temps passé sur le service, les réclamations et la correction des problèmes de sécurité majeurs.

Les boutiques d’applications doivent vérifier les évaluations de sécurité et les déclarations correspondantes. Elles peuvent être tenues de refuser, suspendre ou retirer les applications qui enfreignent les règles. Les documents déposés au titre de la réglementation des algorithmes doivent être vérifiés chaque année. Les autorités provinciales doivent examiner annuellement les informations d’évaluation et peuvent mener des contrôles supplémentaires, notamment des inspections si nécessaire.

L’article 30 prévoit des avertissements, des injonctions de corriger les problèmes et des restrictions telles que la suspension des nouvelles inscriptions. Le refus de corriger les infractions ou l’existence de circonstances graves peuvent entraîner l’ordre de mettre fin au service concerné et des amendes de 10 000 à 100 000 yuans. En vertu de cette disposition, les situations mettant en danger la vie ou la santé et ayant des conséquences préjudiciables sont passibles d’amendes de 100 000 à 200 000 yuans.

D’autres lois applicables peuvent également prévoir des sanctions. Les services liés à la santé ou à la finance doivent satisfaire aux exigences de ces secteurs en plus des mesures sur les compagnons IA.

Un modèle économique fondé sur des conversations plus longues sous pression

Les entreprises de compagnons IA sont confrontées à une tension commerciale : retenir les utilisateurs peut accroître l’engagement, mais aussi les coûts de calcul et les responsabilités en matière de sécurité. Chaque réponse générée mobilise des ressources informatiques, et maintenir la personnalité et la mémoire d’un personnage exige des moyens supplémentaires.

Selon des estimations financières publiées, les dépenses de calcul de Character.AI se sont élevées à environ 56,1 millions de dollars de janvier à août 2026, avec des pertes mensuelles d’environ 8 à 9 millions de dollars. Ces mêmes estimations évaluent les recettes publicitaires d’août à environ 2,5 millions de dollars et les abonnements à 2,8 millions, soit 5,3 millions au total. Ces chiffres illustrent l’ampleur des pressions rapportées sur les coûts et les recettes d’un service qui comptait environ 28 millions d’utilisateurs actifs mensuels.

Les entreprises essaient différentes formules payantes. Maoxiang associe les interactions avec des personnages à des récits, des abonnements, de la publicité et des achats virtuels. Zeta s’est réorienté vers les récits, Linky propose du contenu de personnages à collectionner et Eciyuan, de Tencent, intègre des compagnons IA aux jeux vidéo. Ces formules offrent aux utilisateurs autre chose qu’une conversation ouverte à acheter, mais les entreprises restent responsables de la manipulation émotionnelle, de la protection des dépenses et des mineurs.

Les mesures chinoises obligent les fournisseurs à financer les garanties tout au long du déploiement, de l’exploitation, des mises à niveau et de la fermeture de leurs services. Une utilisation prolongée entraîne désormais des obligations explicites : interrompre l’interaction par des rappels, reconnaître les risques et permettre le départ. Le changement central est concret : un compagnon IA convaincant doit aussi respecter des limites, protéger la conversation et réagir lorsque la personne qui l’utilise a besoin d’aide au-delà de l’écran.

Points clés

• Les mesures chinoises sur les compagnons IA sont entrées en vigueur le 15 juillet 2026. Elles couvrent les interactions émotionnelles prolongées qui simulent des caractéristiques humaines.
• Les fournisseurs ne peuvent pas proposer aux mineurs des partenaires ou des proches virtuels, ni d’autres services fondés sur des relations intimes virtuelles.
• Les enfants de moins de 14 ans doivent obtenir l’autorisation d’un tuteur pour utiliser les autres services concernés et pour le traitement de leurs données personnelles.
• Les entreprises doivent indiquer aux utilisateurs qu’ils interagissent avec une IA, les avertir des risques de dépendance et signaler toute utilisation continue dépassant deux heures.
• En cas de danger grave, elles doivent intervenir et contacter rapidement un tuteur ou une personne à prévenir en cas d’urgence.
• Les utilisateurs ont le droit de copier et de supprimer leurs données d’interaction et de quitter le service sans qu’une conversation prolongée fasse obstacle à leur départ.
• Les évaluations de sécurité couvrent les lancements, les changements majeurs et certains seuils d’utilisation ; les infractions graves peuvent entraîner la fermeture du service et des amendes.