[論文レビュー] An end-to-end approach for the verification problem: learning the right distance

João Monteiro, Isabela Albuquerque+3 more|arXiv (Cornell University)|Feb 21, 2020

Machine Learning and Data Classification被引用数 5

ひとこと要約

本稿では、検証問題のためのエンコーダーと学習可能な疑似距離モデルを共同で訓練するエンドツーエンドフレームワークを提案する。このフレームワークにより、2つの例が同じクラスに属するかどうかを直接予測可能となる。この手法は、コサイン類似度や下流分類器といった標準的なベースラインを上回り、負例ペアのマイニングの必要性を排除することでトレーニングを簡素化する。また、実証的に学習された距離は尤度比を近似し、正例ペアと負例ペアの分布間に高い乖離を誘発することが示された。

ABSTRACT

In this contribution, we augment the metric learning setting by introducing a parametric pseudo-distance, trained jointly with the encoder. Several interpretations are thus drawn for the learned distance-like model's output. We first show it approximates a likelihood ratio which can be used for hypothesis tests, and that it further induces a large divergence across the joint distributions of pairs of examples from the same and from different classes. Evaluation is performed under the verification setting consisting of determining whether sets of examples belong to the same class, even if such classes are novel and were never presented to the model during training. Empirical evaluation shows such method defines an end-to-end approach for the verification problem, able to attain better performance than simple scorers such as those based on cosine similarity and further outperforming widely used downstream classifiers. We further observe training is much simplified under the proposed approach compared to metric learning with actual distances, requiring no complex scheme to harvest pairs of examples.

研究の動機と目的

• 複雑な負例ペアマイニング戦略を必要としない、検証タスクのためのメトリック学習モデルを訓練する課題に対処すること。
• エンコーダーと学習可能な疑似距離が共同で最適化されるエンドツーエンドでトレーニング可能なフレームワークを構築し、検証性能を向上させること。
• 学習された疑似距離がネイマン＝ピアソン仮説検定における尤度比を近似することを示すこと。
• 複数のコンponentを持つシステムに代えて、単一のフォワードパススコアリング機構を用いることで検証パイプラインを簡素化すること。
• ImageNetを含む大規模なオープンセット検証ベンチマークで、テスト時に未観測のクラスが存在する現実的な条件下で、手法の評価を行うこと。

提案手法

• 本手法は、深層畳み込みニューラルネットワークエンコーダーと、学習可能な疑似距離モデルを、両方ともニューラルネットワークとしてパrameter化し、エンドツーエンドで共同で訓練する。
• 疑似距離モデルは、同じクラスのペアに対しては小さい距離、異なるクラスのペアに対しては大きい距離をとることを促進するコントラスト推定目的関数に基づいて学習される。
• 損失関数は、トレーニングの安定化と一般化性能の向上を図るため、コントラスト推定目的関数と標準的な多値分類交差エントロピー損失を組み合わせている。
• アーキテクチャは、エンコーダーにResNet-50バックボーンを、距離モデルに256ユニットの隠れ層を有する全結合スタックを用い、128次元の出力埋め込みを生成する。
• トレーニングは、1クラスあたり少なくとも5つの例を含むミニバッチを用い、正例ペアの可用性を保証する。確率的勾配降下法を用い、学習率スケジューリングにコサインアニーリングを採用する。
• 推論は、学習された疑似距離モデルの出力を類似度スコアとして使用する単一のフォワードパスによって実行される。

実験結果

リサーチクエスチョン

• RQ1 共同で訓練されたエンコーダーと疑似距離モデルは、検証タスクにおいて標準的なメトリック学習ベースラインを上回る性能を発揮できるか？
• RQ2 学習された疑似距離は、ネイマン＝ピアソン仮説検定における尤度比を近似するか？
• RQ3 明示的な負例ペアマイニングを排除することで、トレーニングが簡素化され、強力な性能を達成できるか？
• RQ4 モデルは、トレーニング時に観測されていないクラスがテスト時に存在するオープンセット検証に一般化できるか？
• RQ5 距離モデルの異なるアーキテクチャーやハイパーパramータに対して、性能はどれほど安定しているか？

主な発見

• 提案手法は、ImageNet検証ベンチマークにおいて、コサイン類似度や下流分類器を用いたベースラインモデルを上回る性能を達成した。
• 学習された疑似距離は、正例ペアと負例ペアの同時分布間に高いジェンセン＝シャノン発散を誘発し、強力な識別能力を示している。
• 疑似距離の出力は尤度比を近似しており、ネイマン＝ピアソンフレームワーク下での最適な意思決定ルールを可能にしている。
• コントラスト目的関数が自然に適切な分離を促進するため、複雑な負例ペアマイニング戦略の必要性を排除することで、トレーニングが簡素化された。
• 距離ヘッドに3〜4層の全結合層（各256ユニット）を用いたモデルは、複数のデータセットで安定的かつ優れた性能を発揮し、新規アプリケーションへの強固な出発点を示唆している。
• 本手法はオープンセット検証にも良好に一般化され、トレーニング時に観測されていないテストクラスが存在する状況でも、強力な性能を維持した。