[論文レビュー] Towards Effective Visual Representations for Partial-Label Learning

Shiyu Xia, Jiaqi Lv+3 more|arXiv (Cornell University)|May 10, 2023

Text and Document Classification Technologies被引用数 7

ひとこと要約

この論文では、ノイズの多い対照的学習を置き換える新しい部分ラベル学習フレームワークPaPiを提案する。線形分類器がプロトタイプベース分類器を指導することで、視覚的表現学習を向上させる逆方向のガイダンス機構を採用する。線形分類器の予測をプロトタイプに基づく類似度スコアと一致させることで、一様なラベル曖昧性およびインスタンス依存のラベル曠らかさの両設定下でCIFAR-10、CIFAR-100、Mini-ImageNetで最先端性能を達成し、特に困難な設定では先行手法を最大4.57%上回る。

ABSTRACT

Under partial-label learning (PLL) where, for each training instance, only a set of ambiguous candidate labels containing the unknown true label is accessible, contrastive learning has recently boosted the performance of PLL on vision tasks, attributed to representations learned by contrasting the same/different classes of entities. Without access to true labels, positive points are predicted using pseudo-labels that are inherently noisy, and negative points often require large batches or momentum encoders, resulting in unreliable similarity information and a high computational overhead. In this paper, we rethink a state-of-the-art contrastive PLL method PiCO[24], inspiring the design of a simple framework termed PaPi (Partial-label learning with a guided Prototypical classifier), which demonstrates significant scope for improvement in representation learning, thus contributing to label disambiguation. PaPi guides the optimization of a prototypical classifier by a linear classifier with which they share the same feature encoder, thus explicitly encouraging the representation to reflect visual similarity between categories. It is also technically appealing, as PaPi requires only a few components in PiCO with the opposite direction of guidance, and directly eliminates the contrastive learning module that would introduce noise and consume computational resources. We empirically demonstrate that PaPi significantly outperforms other PLL methods on various image classification tasks.

研究の動機と目的

• 対照的学習の限界を是正するため、偽陽性サンプルがノイズが多く、計算コストが高いという部分ラベル学習における問題に対処すること。
• PiCOのような既存手法の失敗モード、特に「劣った教師が優れた生徒を教える」現象を調査すること。
• プロトタイプ分類器から線形分類器へのガイダンス方向の逆転により、ラベルの曻明を改善し、より信頼性の高い表現学習を可能にすること。
• 対照的学習を排除しながらも、性能を維持または向上させるシンプルで効果的なフレームワークの開発すること。

提案手法

• PaPiは、PiCOにおける対照的学習モジュールを、逆方向の曇りのガイダンスに置き換える：線形分類器がプロトタイプベース分類器を指導する。
• 低次元の射影空間におけるクラスプロトタイプへの距離のsoftmaxにより、クラス確率を計算する。
• 共通のエンコーダーを共有する線形分類器の事後処理済み予測と、プロトタイプベース分類器の出力を交差エントロピー損失で一致させる。
• 一般化性能とラベル曠らかさに対する耐性を向上させるために、mixupデータオーグメンテーションを採用する。
• 線形分類器とプロトタイプベース分類器の間で特徴エンコーダーを共有することで、一貫性のある表現学習を保証する。
• 訓練目的として、同じクラスに属するサンプル間の視覚的類似度がプロトタイプ空間に反映されるように明示的に促進する。

実験結果

リサーチクエスチョン

• RQ1 PiCOのような対照的PLL手法における曇りのガイダンス方向が、『劣った教師』効果によって性能が最適でない原因となっているのか？
• RQ2 対照的学習モジュールを排除することで、ノイズと計算コストを低減し、部分ラベル学習における表現品質を向上させられるか？
• RQ3 特に高いラベル曠らかさ下で、線形分類器がプロトタイプベース分類器を指導する方が、逆方向に指導するよりも効果的か？
• RQ4 提案された逆方向ガイダンス機構は、一様な曇りとインスタンス依存の曇りの両設定下で、既存のSOTA手法と比較してどのように性能を発揮するか？
• RQ5 提案フレームワークは、CIFAR-100-HやMini-ImageNetを含む多様なベンチマークに一般化可能か？

主な発見

• 一様な曇り下で、CIFAR-100（q=0.1）とCIFAR-100（q=0.2）において、現在のSOTA手法をそれぞれ3.14%および3.72%上回る。
• より現実的とされるインスタンス依存の曇り設定下では、CIFAR-10で4.40%、CIFAR-100で4.57%の向上を達成し、SOTA手法を上回る。
• アブレーションスタディにより、プロトタイプアライメント損失が顕著に寄与していることが確認され、CIFAR-100（q=0.2）でその除去により7.19%の性能低下が生じた。
• 訓練全期間を通じて、線形分類器は常にプロトタイプベース分類器を上回る性能を示し、逆方向ガイダンスが有効であることを裏付けた。
• 特徴表現の可視化により、PaPiはクラス内クラスタが明確に分離され、クラス間の識別性が向上していることが示された。
• mixupオーグメンテーションを適用しない場合でもPaPiは競争力のある性能を示すが、CIFAR-100（q=0.2）で1.47%の性能低下が生じ、mixupの肯定的役割を確認した。