[論文レビュー] Leveraging Class Hierarchies with Metric-Guided Prototype Learning

Vivien Sainte Fare Garnot, Loïc Landrieu|arXiv (Cornell University)|Jul 6, 2020

Anomaly Detection Techniques and Applications参考文献 46被引用数 14

ひとこと要約

本稿では、階層的距離を反映するようにプロトタイプ埋め込みを正則化することで、事前に定義されたクラス階層をプロトタイピカルネットワークに統合するメトリック誘導型プロトタイプ学習手法を提案する。スケールフリーな歪み損失を用いて特徴抽出とプロトタイプ配置を共同最適化することで、特に小規模データセットや多くの兄弟クラスを含む複雑な階層構造において、平均階層的コストと誤差率の両方を低減する。

ABSTRACT

In many classification tasks, the set of target classes can be organized into a hierarchy. This structure induces a semantic distance between classes, and can be summarised under the form of a cost matrix, which defines a finite metric on the class set. In this paper, we propose to model the hierarchical class structure by integrating this metric in the supervision of a prototypical network. Our method relies on jointly learning a feature-extracting network and a set of class prototypes whose relative arrangement in the embedding space follows an hierarchical metric. We show that this approach allows for a consistent improvement of the error rate weighted by the cost matrix when compared to traditional methods and other prototype-based strategies. Furthermore, when the induced metric contains insight on the data structure, our method improves the overall precision as well. Experiments on four different public datasets - from agricultural time series classification to depth image semantic segmentation - validate our approach.

研究の動機と目的

• クラス階層を用いて意味的誤差コストをモデル化することで、分類の信頼性を向上させること。
• 深層学習に階層構造を統合することで、平均階層的コスト（AHC）と誤差率（ER）を低減すること。
• モデルの複雑さを増加させることなく、階層的距離を尊重する特徴抽出器とプロトタイプの共同学習を可能にすること。
• 専門家が定義した分類体系が、特に訓練データが限られた場合に一般化性能を向上させることを示すこと。

提案手法

• 階層的メトリクス空間とプロトタイプの埋め込み空間との間でスケールに依存しない歪み測度を導入する。
• この歪みに基づく滑らかで微分可能な正則化項を損失関数に追加し、埋め込み空間内でのプロトタイプ配置を誘導する。
• 正則化項により、密接に関連するクラス（例：分類体系における兄弟クラス）のプロトタイプが埋め込み空間内で近接して配置され、誤差コストが低いことを反映する。
• 本手法は任意のバックボーンネットワークと互換性があり、追加のパラメータや計算コストを要しない。
• 歪みのスケールはスケールフリーな定式化により自動的に適応され、手動でのハイパーパramータチューニングを回避する。
• プロトタイプと特徴埋め込みが共同最適化されることで、データから意味的な階層構造を学習できる。

実験結果

リサーチクエスチョン

• RQ1 事前に定義されたクラス階層をプロトタイプ学習に統合することで、予測の平均階層的コスト（AHC）を低減できるか？
• RQ2 メトリック誘導型プロトタイプ学習は、特に小規模データセットにおいて一般化性能を向上させるか？
• RQ3 プロトタイプと特徴抽出器を共同で最適化する手法と、段階的なトレーニングの手法とを比較した場合、どちらが優れているか？
• RQ4 階層の構造（例：兄弟クラスの数）が、本手法の性能向上に与える影響はどの程度か？
• RQ5 本手法は、AHCと標準的な正解率（重みなし誤差率）の両方を同時に改善できるか？

主な発見

• iNaturalist-19では、ベースラインと比較して誤差率が0.9ポイント低下し、最良のベースライン手法の改善幅の半分に相当する。
• 本手法は、CIFAR100、NYUDv2、S2-Agri、iNaturalist-19の4つのデータセットすべてでAHCを一貫して低減した。
• 小規模な訓練データセット（例：iNaturalist-19の10％）において、本手法はベースラインおよびプロトタイプ付きベースラインを上回り、優れたデータ効率を示した。
• スケールフリーな歪み定式化により、兄弟クラスの近接性と異なるクラスのプロトタイプ同士の反発の間の矛盾が緩和され、iNaturalist-19での性能が向上した。
• プロトタイプと特徴抽出器を共同でトレーニングすることで、固定プロトタイプの微調整と比較して、iNaturalist-19で誤差率が5ポイント低下した。
• 本手法はAHCと標準的な正解率の両方を向上させたことから、階層的事前知識がコストに配慮した評価を超えて一般化性能を向上させることを示した。