Apple Machine Learning Research の研究部門は、コンピュータービジョンモデルにおけるエラーを検出することを目的とした「GH-ESD」と呼ばれる新しい手法を発表しました。従来のアプローチは、失敗を表現空間内のクラスター、あるいは事前に定義された属性の組み合わせとして扱うことが多く、これは画像分類全般においては効果的に機能します。

しかし、研究の著者らは、こうした定式化は物体検出やセグメンテーションといったインスタンスレベルのタスクには不十分であると指摘しています。これらのシナリオでは、エラーは多くの場合、以前の手法が見逃していた文脈的な関係性や空間的に根拠のある視覚的パターンに起因して発生します。

提案された仮説は、モデルが系統的な失敗を示す意味論的に一貫したデータサブセットを正確に特定することに焦点を当てています。これにより、信頼性の一般的な評価から、特定の失敗条件へのより深い分析へと移行することが可能になります。