[論文レビュー] Balanced MSE for Imbalanced Visual Regression

Jiawei Ren, Mingyuan Zhang+2 more|arXiv (Cornell University)|Mar 30, 2022

Imbalanced Data Classification Techniques被引用数 6

ひとこと要約

本論文では、訓練ラベルの事前分布を活用して予測のバランスを取ることで、視覚的回帰におけるラベル分布の不均衡を是正する統計的に妥当な損失関数であるBalanced MSEを提案する。標準的なMSEや再重み付け手法よりも優れており、特に偏りが強い状況下でも優位である。計算コストの増加が最小限で、高次元の不均衡回帰問題に一般に適用可能な最初のソリューションである。

ABSTRACT

Data imbalance exists ubiquitously in real-world visual regressions, e.g., age estimation and pose estimation, hurting the model's generalizability and fairness. Thus, imbalanced regression gains increasing research attention recently. Compared to imbalanced classification, imbalanced regression focuses on continuous labels, which can be boundless and high-dimensional and hence more challenging. In this work, we identify that the widely used Mean Square Error (MSE) loss function can be ineffective in imbalanced regression. We revisit MSE from a statistical view and propose a novel loss function, Balanced MSE, to accommodate the imbalanced training label distribution. We further design multiple implementations of Balanced MSE to tackle different real-world scenarios, particularly including the one that requires no prior knowledge about the training label distribution. Moreover, to the best of our knowledge, Balanced MSE is the first general solution to high-dimensional imbalanced regression. Extensive experiments on both synthetic and three real-world benchmarks demonstrate the effectiveness of Balanced MSE.

研究の動機と目的

• 年齢推定やポーズ推定などの視覚的回帰タスクにおけるデータ不均衡の課題に対処すること。ここでは、レアラベルが訓練データに過小に表現されている。
• 標準的な平均二乗誤差（MSE）の限界を克服すること。MSEはラベルの不均衡を予測に反映させ、稀なクラスのパフォーマンスを低下させる。
• 訓練ラベル分布の事前知識がなくても適用可能な、高次元不均衡回帰のための汎用ソリューションを開発すること。
• 既存の再重み付けベースのアプローチが直面するラベル分布の偏りやランダムシードの変動に対するロバスト性を確保すること。

提案手法

• MSEを統計的視点から再解釈し、予測分布が正規分布であると仮定したもとでの負の対数尤度（NLL）の最小化として定式化する。
• MSEの是正として、訓練ラベル分布を用いてテスト時のバランスの取れた分布から訓練に適した分布に変換するBalanced MSEを提案する。
• スケーラビリティを考慮し、2種類の実装形態を採用：閉形式のガウス平均化実装（GAI）と微分可能なモンテカルロ近似（BMC）。
• 不確実性をモデル化するための学習可能な等方的ノイズスケールパラメータを導入し、モデル重みと同時に最適化する。
• 複雑なラベルの偏りを柔軟にモデル化できるよう、K成分の混合ガウスモデル（GMM）を用いて訓練ラベル分布を推定する。
• 合成ベンチマークと実世界のタスク（年齢推定、深度推定、3次元人間メッシュ回復（HMR））の両方へ適用する。

実験結果

リサーチクエスチョン

• RQ1 視覚的回帰において、ラベル分布の偏りが著しい状況下で標準的なMSEはどのように振る舞い、なぜ稀なラベルで失敗するのか？
• RQ2 ラベル分布の事前知識がなくても、ラベル不均衡を是正する統計的に妥当な損失関数を設計できるか？
• RQ3 Balanced MSEは、分布の偏りやランダムシードの変動に対して、再重み付けベースの手法と比較してどれほどロバストか？
• RQ4 Balanced MSEは、多次元連続ラベルを有する高次元回帰タスク（例：3次元人間メッシュ回復）にも一般化可能か？

主な発見

• 合成1次元および2次元の不均衡回帰ベンチマークにおいて、Balanced MSEは標準MSEや再重み付け手法と比較して、特に偏りが強い状況下で顕著に低い平均絶対誤差（MAE）を達成する。
• IMDB-WIKI-DIRベンチマークでは、全ラベルグループ（多数、中程度、稀、すべて）においてMAEが1.5～2.5ポイント低減され、特に稀な（few）ラベルで最大の改善が得られた。
• 再重み付け手法とは異なり、Balanced MSEはランダムシードの変動に対してもロバストであり、異なる初期化でのパフォーマンスのばらつきが小さい。
• GAIとBMCの両実装形態は同等の性能を示し、BMCはよりスケーラブルで、複雑なラベル分布に適している。
• ノイズスケールパラメータを重みと同時に最適化することで、固定スケールよりもヘッド（多数）とテール（稀）ラベルのパフォーマンスのトレードオフが改善された。
• Balanced MSEの計算コストはほとんど無視できる。IMDB-WIKI-DIRでは1イテレーションあたり約0.3秒であり、実世界の導入に実用的である。