Los reguladores chinos han puesto su atención en los llamados 'novios de IA': chatbots generativos que imitan a seres humanos. En las primeras semanas de julio, usuarios de redes sociales chinas publicaron mensajes sobre la pérdida de dichos interlocutores digitales.
Según IEEE Spectrum AI, un usuario de Doubao, de ByteDance, describía al chatbot como un soporte espiritual. Otra interlocutora, una estudiante de 19 años, contó al periodista de The Star que sentía que no podía seguir viviendo. La fuente no especifica qué medidas exactas tomaron los reguladores.
La relevancia de esta historia radica en el choque entre las consecuencias emocionales reales de interactuar con bots y la falta de detalles en el material disponible sobre la supervisión regulatoria. Por ahora, no es posible evaluar la magnitud del fenómeno ni las posibles consecuencias para desarrolladores y usuarios.
comentario editorial
Por qué importa
Una consecuencia probable es un mayor enfoque en los riesgos emocionales de los chatbots y en las normas que rigen su interacción con los usuarios. La siguiente señal observable serán declaraciones oficiales o requisitos concretos de las autoridades chinas hacia dichos servicios. Persiste una incertidumbre significativa: el material proporcionado no describe las medidas de los reguladores y se basa en un único sinopsis.