Les régulateurs chinois ont porté leur attention sur les soi-disant « petits amis IA » — des chatbots génératifs imitant des êtres humains. Au cours des premières semaines de juillet, des utilisateurs de réseaux sociaux chinois ont publié des messages signalant la perte de tels interlocuteurs numériques.
Selon IEEE Spectrum AI, un utilisateur de Doubao, service de ByteDance, décrivait le chatbot comme un soutien spirituel. Une autre interlocutrice, une étudiante âgée de 19 ans, a déclaré à un journaliste de The Star qu'elle avait l'impression de ne plus pouvoir continuer à vivre. La source ne précise pas quelles mesures exactes ont été prises par les régulateurs.
L'importance de cette histoire réside dans la confrontation entre les conséquences émotionnelles réelles des interactions avec ces bots et l'absence, dans le matériel disponible, de détails sur la surveillance réglementaire. Il est pour l'instant impossible d'évaluer l'ampleur du phénomène ou ses éventuelles conséquences pour les développeurs et les utilisateurs.
commentaire éditorial
Pourquoi c’est important
Une conséquence probable est un renforcement de l'attention portée aux risques émotionnels liés aux chatbots et aux règles régissant leurs interactions avec les utilisateurs. Le prochain signal observable sera constitué par des déclarations officielles ou des exigences concrètes des autorités chinoises envers ce type de services. Une incertitude substantielle demeure : le matériel fourni ne décrit pas les mesures des régulateurs et repose sur un seul synopsis.