[論文レビュー] RankSim: Ranking Similarity Regularization for Deep Imbalanced Regression

Yu Gong, Greg Mori+1 more|arXiv (Cornell University)|May 30, 2022

Imbalanced Data Classification Techniques被引用数 15

ひとこと要約

この論文では、深層不均衡回帰におけるランク類似度正則化子RankSimを提案する。これは、ラベル空間で近いサンプルは特徴空間でも近いはずという誘導的バイアスを強制する。ラベル空間と特徴空間における近隣のグローバルランクを一致させることで、不均衡回帰ベンチマークにおける一般化性能が向上し、IMDB-WIKI-DIR、AgeDB-DIR、STS-B-DIRで最先端の性能を達成する。また、再重み付けや分布スムージングといった既存手法と相補的である。

ABSTRACT

Data imbalance, in which a plurality of the data samples come from a small proportion of labels, poses a challenge in training deep neural networks. Unlike classification, in regression the labels are continuous, potentially boundless, and form a natural ordering. These distinct features of regression call for new techniques that leverage the additional information encoded in label-space relationships. This paper presents the RankSim (ranking similarity) regularizer for deep imbalanced regression, which encodes an inductive bias that samples that are closer in label space should also be closer in feature space. In contrast to recent distribution smoothing based approaches, RankSim captures both nearby and distant relationships: for a given data sample, RankSim encourages the sorted list of its neighbors in label space to match the sorted list of its neighbors in feature space. RankSim is complementary to conventional imbalanced learning techniques, including re-weighting, two-stage training, and distribution smoothing, and lifts the state-of-the-art performance on three imbalanced regression benchmarks: IMDB-WIKI-DIR, AgeDB-DIR, and STS-B-DIR.

研究の動機と目的

• 少数ラベルが不足している不均衡回帰データセットにおける深層学習の課題に対処すること。
• 分類とは異なり、連続ラベルの自然な順序を利用することで、表現学習を分類を超えて向上させること。
• ラベル空間と特徴空間におけるサンプル間の局所的およびグローバルな関係を捉える正則化子を開発すること。
• 特にゼロショットやロングテイル状況において、少数ラベルや未観測ラベルが重要となる一般化性能を向上させること。
• 再重み付け、2段階訓練、分布スムージングといった既存の不均衡学習手法と相補的であるようにすること。

提案手法

• RankSimは、サンプル表現間のコサイン類似度を用いて、ラベル空間（S^y）と特徴空間（S^z）の両方でペアワイズ類似度行列を構築する。
• 各アーキテクチャサンプルに対して、ラベル空間における近隣類似度のソート済みリストが特徴空間におけるソート済みリストと一致するように制約を課し、近接性のグローバルランクを保持する。
• ラベル空間と特徴空間における近隣ランクの順序差を最小化する微分可能な損失関数を用い、クロスエントロピーに類似した目的関数を採用する。
• 正則化子は訓練中に適用され、標準的な最適化と互換性があり、わずかな計算オーバーヘッドしか追加しない。
• 再重み付け（例：SQINV）や分布スムージング（LDS/FDS）といった他の手法と相補的に設計されており、それらと組み合わせて使用可能である。
• バッチ単位で動作し、バッチごとに類似度行列を計算することで、スケーラビリティを確保する。

実験結果

リサーチクエスチョン

• RQ1 ラベル空間と特徴空間における近隣のグローバルランクを維持することは、不均衡回帰における表現学習を向上させるか？
• RQ2 局所的スムージング手法よりも、近いだけでなく遠くのラベル-特徴関係を捉える正則化子が、ロングテイルおよびゼロショット設定で優れるか？
• RQ3 LDS や FDS といった最先端手法と比較して、RankSim は異なる不均衡回帰ベンチマークにおいて性能とロバスト性の面で優れているか？
• RQ4 バランス重み γ や補間強度 λ のハイパーパrameter選択に対して、RankSim はどの程度ロバストか？
• RQ5 特にラベル分布の端に位置する未観測（ゼロショット）ラベルへの一般化性能を RankSim は向上させられるか？

主な発見

• RankSim は、IMDB-WIKI-DIR、AgeDB-DIR、STS-B-DIR の3つの公開不均衡回帰ベンチマークで、新たな最先端性能を達成した。
• AgeDB-DIR では、ゼロショット領域で LDS+FDS を上回った。特にラベル分布の端で最大の性能差が観察された。
• 訓練オーバーヘッドはわずかで、4台の1080 Ti GPUで1回の順伝播に16.8秒、1エポックに38.8秒であり、通常の訓練（12.2秒、31.5秒）と比較してわずかに増加した。
• γ と λ のハイパーパrameterの変動に対しても性能が安定しており、広範なチューニングなしで実用的であることが示された。
• ゼロショット評価では、RankSim が LDS+FDS を顕著に上回った。これは、グローバルランク誘導的バイアスが局所的スムージング手法よりも優れた外挿を可能にしていることを示唆している。
• 可視化により、バランスの取れた設定では、通常のネットワークが自然にラベル空間の近接性と特徴空間の類似度の相関を学習することが確認された。これは、RankSim が強制する核心的な誘導的バイアスを裏付けるものである。