Китайские регуляторы обратили внимание на так называемых «ИИ-бойфрендов» — генеративных чат-ботов, имитирующих людей. В первые недели июля пользователи китайских соцсетей публиковали сообщения о потере таких цифровых собеседников.
IEEE Spectrum AI のデータによると、ByteDance 社の Doubao のある利用者は、そのチャットボットを精神的な支えだと表現した。另一方の対話者である 19 歳の女子学生は、The Star の記者に対し、もはや生き続けられないと感じたと語った。この情報源では、規制当局が具体的にどのような措置を講じたかについては言及されていない。
この記事の重要性は、ボットとの交流がもたらす現実的な感情的影響と、入手可能な資料における監督の詳細の欠如との間の対立にある。現時点では、この現象の規模や、開発者および利用者への潜在的な影響を評価することはできない。
編集部コメント
なぜ重要か
予想される帰結として、チャットボットの感情的リスクとそのユーザーとの相互作用に関する規則への注目が強まる可能性がある。次の観察可能な兆候は、中国当局によるそのようなサービスに対する公式声明または具体的な要件となるだろう。提供された資料は規制当局の措置を記述しておらず、単一の要約に基づいているため、実質的な不確実性が残っている。