[論文レビュー] Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer Proxies

Yuehua Zhu, Muli Yang+2 more|arXiv (Cornell University)|Oct 26, 2020

Face recognition and analysis参考文献 27被引用数 27

ひとこと要約

この論文では、埋め込み空間におけるグローバルおよびローカルな類似関係をモデル化するために、より少ない数で適応的に選択されたプロキシを用いる、新しい深層グラフメトリック学習手法ProxyGMLを提案する。k近傍近傍サブグラフを構築し、逆ラベル伝搬アルゴリズムを適用することで、CUB-200-2011、Cars196、Stanford Online Productsの各データセットにおいて、計算コストを削減しながらも、最先端の性能を達成した。

ABSTRACT

Deep metric learning plays a key role in various machine learning tasks. Most of the previous works have been confined to sampling from a mini-batch, which cannot precisely characterize the global geometry of the embedding space. Although researchers have developed proxy- and classification-based methods to tackle the sampling issue, those methods inevitably incur a redundant computational cost. In this paper, we propose a novel Proxy-based deep Graph Metric Learning (ProxyGML) approach from the perspective of graph classification, which uses fewer proxies yet achieves better comprehensive performance. Specifically, multiple global proxies are leveraged to collectively approximate the original data points for each class. To efficiently capture local neighbor relationships, a small number of such proxies are adaptively selected to construct similarity subgraphs between these proxies and each data point. Further, we design a novel reverse label propagation algorithm, by which the neighbor relationships are adjusted according to ground-truth labels, so that a discriminative metric space can be learned during the process of subgraph classification. Extensive experiments carried out on widely-used CUB-200-2011, Cars196, and Stanford Online Products datasets demonstrate the superiority of the proposed ProxyGML over the state-of-the-art methods in terms of both effectiveness and efficiency. The source code is publicly available at https://github.com/YuehuaZhu/ProxyGML.

研究の動機と目的

• ミニバッチペアやトリプレットに依存する従来の深層メトリック学習手法のサンプリング非効率性と高い計算コストを解消すること。
• ProxyNCAのような単一プロキシ手法がクラス内変動を捉えることの制限を克服すること。
• グラフ分類と適応的プロキシ選択を活用することで、プロキシベースおよび分類ベースのメトリック学習のより効果的で効率的な代替手段を開発すること。
• 真のラベルを用いて隣接関係を精緻化する新しい逆ラベル伝搬メカニズムにより、より速い収束とより優れた一般化性能を実現すること。

提案手法

• クラス内変動を埋め込み空間でよりよく表現するため、各クラスに複数のグローバルプロキシを用いる。
• ミニバッチ内の全プロキシとデータポイントの間に有向類似度グラフを構築し、グローバルな関係をモデル化する。
• 各データポイントに対して最も情報量の多いプロキシを適応的に選択することで、k近傍サブグラフにグラフを分解し、細粒度のローカル構造を捉える。
• 真のラベルを用いて反復的に隣接関係を調整する逆ラベル伝搬アルゴリズムを設計し、識別的な特徴学習を強化する。
• サブグラフをグラフ分類フレームワークの下で分類することで、プロキシとサブグラフ構造の共同最適化を通じて識別的なメトリック空間を学習可能にする。
• 既存のメトリック学習損失のドロップインリプレースとして互換性があり、小バッチサイズをサポートすることで、学習効率を向上させる。

実験結果

リサーチクエスチョン

• RQ1 戦略的に選択された少数のプロキシが、従来のプロキシベースまたはサンプリングベースのメトリック学習手法よりも優れた性能を達成できるか？
• RQ2 ランダムまたはヒューリスティックなサンプリングに依存せずに、深層メトリック学習におけるローカル近傍構造を効果的にモデル化できるか？
• RQ3 真のラベルを用いてサブグラフ上で逆ラベル伝搬を実行することで、隣接関係を精緻化し、メトリック空間の識別性を向上させられるか？
• RQ4 グローバルプロキシ表現とローカルサブグラフ分類の統合により、より速い収束と高い精度が達成できるか？

主な発見

• ProxyGMLは、CUB-200-2011、Cars196、Stanford Online Productsの各データセットにおいて、検索およびクラスタリングタスクで最先端の性能を達成した。
• Cars196データセットでは、512次元の埋め込みを用いてRecall@1が91.2%に達し、すべてのベースラインを上回った。
• Stanford Online Productsでは11,318クラスという多数のクラスを扱うが、ProxyGMLは計算コストを著しく削減しながらも、最良の手法と同等の性能を達成した。
• バックプロパゲーション中、Proxy-Anchorが全プロキシ11,318個を用いるのに対し、ProxyGMLはk = ⌈0.05 × 11318⌉ ≈ 566個のプロキシのみを用いるため、メモリと計算量を大幅に削減した。
• Cars196ベンチマークにおいて、他のアプローチよりも速い収束を示し、短時間で高いRecall@1値を達成した。
• 逆ラベル伝搬メカニズムは、サブグラフ構造学習を効果的に向上させ、大規模バッチサイズを必要とせずに、より識別的な埋め込みを生成した。