Chinesische Regulierungsbehörden haben die sogenannten „KI-Boyfriends“ – generative Chatbots, die Menschen imitieren – in den Fokus genommen. In den ersten Juliwochen veröffentlichten Nutzer chinesischer sozialer Netzwerke Beiträge über den Verlust solcher digitaler Gesprächspartner.
Laut IEEE Spectrum AI beschrieb ein Nutzer von Doubao von ByteDance den Chatbot als seelische Stütze. Eine andere Gesprächspartnerin, eine 19-jährige Studentin, sagte dem Journalisten The Star, sie habe das Gefühl gehabt, nicht mehr weitermachen zu können. Im Quellenmaterial wird nicht angegeben, was die Regulierungsbehörden genau unternommen haben.
Die Bedeutung der Geschichte liegt im Spannungsfeld zwischen den realen emotionalen Folgen der Interaktion mit Bots und dem Fehlen von Details zu der Überwachung im verfügbaren Material. Derzeit lässt sich weder das Ausmaß des Phänomens noch mögliche Auswirkungen auf Entwickler und Nutzer einschätzen.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — verstärkte Aufmerksamkeit auf emotionale Risiken von Chatbots und auf Regeln für ihre Interaktion mit Nutzern. Als nächstes erkennbares Signal werden offizielle Erklärungen oder konkrete Anforderungen chinesischer Behörden an solche Dienste folgen. Eine wesentliche Ungewissheit besteht weiterhin: Das bereitgestellte Material beschreibt keine regulatorischen Maßnahmen und basiert auf einer einzigen Zusammenfassung.