[論文レビュー] Exploring Instance Relations for Unsupervised Feature Embedding

Yifei Zhang, Yu Zhou+1 more|arXiv (Cornell University)|May 7, 2021

Machine Learning and Data Classification参考文献 22被引用数 11

ひとこと要約

本稿では、インスタンス内マルチビューおよびインスタンス間補間関係を体系的に探索する、シンプルでありながら効果的な非教師あり特徴埋め込み手法EIRを提案する。増幅サンプルの距離分布を揃え、ピクセル空間からの補間比を特徴空間に転送することで、EIRは、CIFAR-10でkNN評価下で89.2%のトップ1精度を達成するなど、画像分類およびリtrievalベンチマークで最先端の性能を実現する。

ABSTRACT

Despite the great progress achieved in unsupervised feature embedding, existing contrastive learning methods typically pursue view-invariant representations through attracting positive sample pairs and repelling negative sample pairs in the embedding space, while neglecting to systematically explore instance relations. In this paper, we explore instance relations including intra-instance multi-view relation and inter-instance interpolation relation for unsupervised feature embedding. Specifically, we embed intra-instance multi-view relation by aligning the distribution of the distance between an instance's different augmented samples and negative samples. We explore inter-instance interpolation relation by transferring the ratio of information for image sample interpolation from pixel space to feature embedding space. The proposed approach, referred to as EIR, is simple-yet-effective and can be easily inserted into existing view-invariant contrastive learning based methods. Experiments conducted on public benchmarks for image classification and retrieval report state-of-the-art or comparable performance.

研究の動機と目的

• 従来の対照的学習手法がインスタンス識別に大きく依存しており、インスタンス関係の体系的探索を軽視しているという限界を是正すること。
• 距離分布の揃え方を用いて、インスタンス内マルチビュー関係を活用することで、非教師あり特徴埋め込みを向上させること。
• 画像空間での補間（例：mixup, cutmix）における情報比を特徴埋め込み空間に転送することで、インスタンス間補間関係を活用すること。
• 既存のビュー不変対照的学習フレームワークに容易に統合可能なプラグイン型手法を開発し、識別性の高い表現学習を強化すること。

提案手法

• EIRは、KLダイバージェンスを用いて、同一インスタンスの2つの増幅ビューが訓練セット内のすべてのサンプルに対して有する距離分布を揃えることで、インスタンス内マルチビュー関係を導入する。
• 本手法は、画像空間での補間（例：mixup, cutmix）における情報比を特徴埋め込み空間に転送することで、インスタンス間補間関係をモデル化する。
• 距離分布は、各増幅サンプルと訓練セット内すべての他のサンプルとの間で計算され、関係構造を捉える。
• 本フレームワークは、アーキテクチャの変更なしに、既存の対照的学習パイプラインに容易に統合可能に設計されている。
• 損失関数は、両方の関係的インダクティブバイアス（分布揃えと補間一貫性）を統合最適化目的関数内で統合する。

実験結果

リサーチクエスチョン

• RQ1 インスタンス内マルチビュー関係を体系的に活用することで、非教師あり特徴埋め込みをどのように向上させられるか？
• RQ2 ピクセル空間におけるインスタンス間補間関係を、特徴空間に効果的に転送することで表現学習を向上させられるか？
• RQ3 インスタンス内およびインスタンス間関係を併用することで、対照的学習における標準的なインスタンス識別と比較して、性能がどの程度向上するか？
• RQ4 関係的インダクティブバイアスに基づくシンプルでプラグイン型の手法が、最先端の非教師あり手法を上回るか、同等の性能を達成できるか？

主な発見

• EIRは、kNN評価プロトコル下でCIFAR-10で89.2%のトップ1精度を達成し、新たな最先端の結果を樹立した。
• STL-10では、105Kの事前学習で78.2%のkNN精度を達成し、以前の最先端手法aISIFを0.8%上回った。
• ImageNet-100では、66.5%のkNN精度を達成し、MoCoを少なくとも2%以上上回り、他の手法と大きな差をつけていた。
• 画像リtrievalでは、CIFAR-10で97.1%のR@8精度、ファイングレインのCar-196データセットで62.1%のR@8精度を達成し、強力な識別能力を示した。
• t-SNE可視化の定性的な分析から、EIRがポジティブペアの引き寄せとネガティブペアの排斥を強化しており、より良いクラスタ分離を実現していることが確認された。
• EIRはたった2ラウンドの学習でも、5ラウンド学習された他の手法を上回り、収束が早く、より高いサンプル効率であることが示された。