Nature Machine Intelligence は『The epistemic debt of generative AI（生成 AI の認識論的負債）』というタイトルの資料を発表した。その要約によると、十分な理解なしに知的タスクへ生成 AI を利用する著者には、提示された内容と彼らが正当化できる内容との間に乖離が生じるという。
同じ要約によれば、その後の作業が初期の結果に基づいて構築される場合、この乖離は拡大する。著者らはこのような蓄積された乖離を「認識論的負債」と呼んでいる。
入手可能な情報は論文全文ではなく出版メタデータに基づいている。そのため、問題の蔓延度、特定のモデル、あるいは実践的な推奨事項について結論を下すことはできない。
編集部コメント
なぜ重要か
考えられる帰結としては、特にその上にさらなる作業が構築される場合に、生成 AI によって作成された資料の検証と理解に対する要件が強化されることである。次の観測可能な信号は、論文全文の内容と、そこに方法論や実践的推奨事項が含まれているかどうかとなる。現在は詳細な研究内容を伴わないメタ記述のみが利用可能であるため、実質的な不確実性が残っている。