
Bradley Amy、Pangramの技術ディレクターは、ファインチューニングと保護的制約が言語モデルの表現力の範囲を著しく狭めると主張している。The Decoderの提供するサマリーによれば、制限を受けない基本モデルはすでにより多様に書くことができる。
これは、モデルによって生成されるテキストの識別可能性が、根本的な能力の問題ではなく、学習後の調整や安全対策の影響に起因する可能性があることを意味する。ユーザーにとっては、自動生成物の品質と出所を評価する際に重要となる。
入手可能な裏付けはThe Decoderのサマリーに限定されており、完全な本文・方法論・独立検証は含まれていない。どのモデルとどの手順が比較されたのか、そしてこの結論が現代のシステム全体にどれほど適用可能かは不明である。
編集部コメント
なぜ重要か
おそらくの結論: テキストの出所を検出するデテクターや分析者は、モデルの能力だけでなく、学習後の効果も考慮する可能性がある。次に観察される兆候は、基本モデルとファインチューニング済みモデルの再現可能な比較の出現となる。重要な不確定性は、方法論、データ、独立した検証がパッケージに欠如していることにある。