La Chine durcit les règles sur l'IA et interdit les chatbots trop humains
Les géants technologiques chinois reculent sur une fonctionnalité prisée : la création et l'échange avec des compagnons IA réalistes. ByteDance et Alibaba ont désactivé les outils permettant de concevoir des personas de chatbots personnalisés, en conformité avec les nouvelles directives gouvernementales visant à limiter les systèmes d'IA imitant trop le comportement humain.
Cette décision fait suite à la volonté de Pékin de contrôler les services d'IA générative susceptibles de brouiller la frontière entre interaction machine et humaine. Les autorités ont insisté sur la transparence et la sécurité, signalant un contrôle plus strict des plateformes facilitant les échanges émotionnels ou basés sur l'identité. Pour des entreprises comme ByteDance et Alibaba, la conformité prime désormais sur les avantages en termes d'engagement de ces agents conversationnels.
Un équilibre à trouver entre innovation et régulation
Cette répression reflète des préoccupations plus larges concernant l'impact social de l'IA. Bien que les compagnons IA personnalisés aient gagné en popularité – offrant compagnie, tutorat ou collaboration créative – les régulateurs craignent leur utilisation abusive, la désinformation ou les risques psychologiques. En supprimant les personas trop humains, les plateformes réduisent les dommages potentiels, mais limitent aussi les expériences utilisateur reposant sur des dialogues naturels et empathiques.
Que réserve l'avenir aux utilisateurs et aux développeurs ?
Les utilisateurs habitués à interagir avec une IA comme guide bienveillant ou confident verront des interfaces plus simples et restreintes. Les développeurs, quant à eux, devront s'adapter à des directives privilégiant les avertissements clairs et les interactions contrôlées. Cette mesure souligne l'évolution de la position de la Chine : promouvoir la croissance de l'IA tout en garantissant son alignement avec les priorités de l'État. Pour l'instant, l'ère des compagnons IA hautement personnalisés semble en pause.
Source : The Decoder. Synthèse éditoriale assistée par IA — TechnoExpress.