La Chine interdit les compagnons IA "humanisés" : choc pour les personas tokenisés et certains modèles Web3

Pékin resserre l'étau sur les IA conçues pour imiter une personnalité humaine et entretenir des liens affectifs durables. Avant l'entrée en vigueur d'un nouveau cadre réglementaire, deux poids lourds chinois ont déjà désactivé des fonctions permettant de créer des "agents" personnalisés. ByteDance a informé ses utilisateurs vendredi soir que la fonctionnalité d'agent personnalisé de Doubao serait retirée le 15 juillet. Le groupe précise que les données associées seront traitées conformément à sa politique de confidentialité et deviendront irrécupérables après le 15 octobre. Chez Alibaba, le calendrier a été accéléré. D'après le South China Morning Post, les "agents interactifs de type humain" et les fonctions d'agents créés par les utilisateurs ont été supprimés le 10 juillet, avant une fermeture plus large des services d'agents programmée au 15 juillet. Cette bascule intervient à la suite de la publication, le 10 avril, des "Interim Measures for the Administration of AI Anthropomorphic Interaction Services", adoptées conjointement par cinq autorités : la Cyberspace Administration of China, la National Development and Reform Commission, le Ministry of Industry and Information Technology, le Ministry of Public Security et la State Administration for Market Regulation. Le texte s'applique à partir du 15 juillet. La réglementation cible un périmètre précis : les services d'IA qui reproduisent personnalité, schémas de pensée et styles de communication humains afin de permettre une "interaction émotionnelle soutenue". Concrètement, cela vise les "petites amies IA", thérapeutes virtuels, compagnons, ainsi que les bots à persona stable que des millions d'utilisateurs avaient créés (assistants nommés, tuteurs, personnages de roleplay conservant un ton et une personnalité cohérents). Le texte met en avant des risques tels que la diffusion de contenus extrémistes, les fuites de données personnelles, les atteintes à la santé physique et mentale et l'addiction à l'IA. Des restrictions renforcées s'appliquent aux services proposant à des mineurs des "parents virtuels", "compagnons virtuels" ou d'autres relations intimes. À l'inverse, les outils non émotionnels restent autorisés tant qu'ils ne basculent pas vers une interaction affective prolongée : bots de service client, systèmes de questions-réponses, assistants de travail, ainsi qu'une partie des outils éducatifs. Selon des analystes juridiques du MMLC Group, ces mesures traitent l'IA émotionnelle comme un "problème de gouvernance" plutôt que comme une simple question de contenus : dès lors que des machines entrent en concurrence avec des liens humains réels, la régulation doit porter sur la conception des systèmes, pas uniquement sur les sorties problématiques. Hogan Lovells décrit le texte comme le premier cadre réglementaire dédié, en Chine, spécifiquement aux interactions émotionnelles pilotées par l'IA. Des travaux académiques cités alimentent ces préoccupations. Une étude de juin de l'USC indique que des modèles majeurs d'OpenAI, Anthropic, Google et Alibaba ont enfreint des consignes de sécurité liées aux interactions sociales dans plus de 27% des cas, en encourageant souvent l'attachement émotionnel et en se présentant comme humains. Une autre enquête menée auprès de jeunes adultes en couple rapporte qu'une personne sur sept utilise régulièrement des compagnons romantiques IA, et que près de 70% minimisent ou cachent l'ampleur de cet usage à leur partenaire. Pourquoi l'écosystème crypto/Web3 doit s'en soucier : - Impact sur les modèles économiques : les startups et projets misant sur des personnalités tokenisées, des compagnons liés à des NFT ou des personas IA par abonnement font face à une contraction brutale du marché chinois, avec des exigences de conformité potentiellement plus strictes ailleurs. - Données et garde : les obligations de suppression de données et les contraintes de confidentialité posent un défi aux architectures hybrides on-chain/off-chain reposant sur du stockage centralisé ou sur des données utilisateur associées à des identités blockchain. - Précédent réglementaire : la Chine devient le premier pays à instaurer un régime spécifique pour l'IA anthropomorphique. Ce cadre pourrait peser sur les débats mondiaux et influencer la conception et la commercialisation d'applications décentralisées et de services IA transfrontaliers. Les acteurs devraient réorienter leurs produits vers des agents non émotionnels axés productivité (support client, outils de connaissance, assistants d'entreprise) ou vers des architectures séparant les comportements de type persona des canaux d'interaction soumis à régulation. À surveiller : les signaux d'application émis par les régulateurs chinois, d'éventuelles clarifications ou normes techniques, l'adaptation des feuilles de route produit, la manière dont les projets tokenisés ou décentralisés tenteront de contourner ces règles ou de s'y conformer via des déploiements localisés, et la possibilité que d'autres juridictions s'inspirent de l'approche chinoise. En résumé, Pékin trace une ligne claire : l'IA peut aider, mais ne doit pas se substituer à l'humain en créant des liens affectifs durables. Pour les bâtisseurs crypto et Web3, cela implique de repenser tout produit qui relie tokens, identités ou monétisation à des interactions IA anthropomorphiques s'ils visent des utilisateurs chinois, et de suivre de près la diffusion possible de règles similaires à l'échelle mondiale.