[論文レビュー] Learning Not to Learn: Training Deep Neural Networks with Biased Data

Byungju Kim, Hyunwoo Kim+3 more|arXiv (Cornell University)|Dec 26, 2018

Adversarial Robustness in Machine Learning参考文献 24被引用数 22

ひとこと要約

本稿では、トレーニングデータ内の誤った相関関係を解消するために、深層特徴埋め込みとターゲットデータバイアスの相互情報量を最小化する新しい正則化手法を提案する。バイアスを特徴から予測するためのディスクラミネーターを敵対的に訓練することで、主ネットワークはバイアスに依存しない表現を学習し、以前に観測されていなかったバイアス分布を有するテストデータにおいて、一般化性能が顕著に向上する。

ABSTRACT

We propose a novel regularization algorithm to train deep neural networks, in which data at training time is severely biased. Since a neural network efficiently learns data distribution, a network is likely to learn the bias information to categorize input data. It leads to poor performance at test time, if the bias is, in fact, irrelevant to the categorization. In this paper, we formulate a regularization loss based on mutual information between feature embedding and bias. Based on the idea of minimizing this mutual information, we propose an iterative algorithm to unlearn the bias information. We employ an additional network to predict the bias distribution and train the network adversarially against the feature embedding network. At the end of learning, the bias prediction network is not able to predict the bias not because it is poorly trained, but because the feature embedding network successfully unlearns the bias information. We also demonstrate quantitative and qualitative experimental results which show that our algorithm effectively removes the bias information from feature embedding.

研究の動機と目的

• トレーニングデータのバイアスから学習する深層ニューラルネットワークの誤った相関関係が、異なるバイアス分布を有するテストデータにおける一般化性能を損なう問題に対処すること。
• 学習された特徴埋め込みとターゲットデータバイアスの間の相互情報量を明示的に最小化する正則化技術を開発すること。
• 偏りのないトレーニングデータを必要とせずに、分離可能でバイアスに依存しない表現を学習できるようにすること。
• 特徴からバイアス情報を除去することで、モデルの性能と耐性が向上することを示すこと、すなわち、ほぼ偏りのないデータで訓練されたモデルを上回ることを示すこと。

提案手法

• 特徴埋め込みとターゲットバイアスの間の相互情報量に基づく正則化損失を定式化し、分離を促進する。
• 主な特徴エンコーダーに対して、バイアスを特徴から予測できるように敵対的に訓練する補助的なバイアス予測ネットワークを訓練する。
• 分類損失と予測されたバイアスとの相互情報量を最小化するように主ネットワークを最適化し、ミニマックスゲームの設定を用いる。
• 反復的トレーニングを用いて、主ネットワークがバイアスに依存しない表現を学習しつつ、高い分類精度を維持できるようにする。
• 制御されたバイアス付きトレーニングセットの作成を可能にするために、公開データセット上にバイアスプラントインプロトコルを導入する。
• EMNIST、ドッグ・アンド・キャット、IMDBフェイスなどの実世界データセットを用い、画像分類タスクにおいて色、年齢、性別をターゲットバイアスとして適用する。

実験結果

リサーチクエスチョン

• RQ1 特徴とターゲットバイアスの間の相互情報量最小化が、深層ニューラルネットワークにおける誤った相関関係の解消に有効に機能するか？
• RQ2 バイアス予測器に対する敵対的トレーニングが、より強固でバイアスに依存しない特徴表現を生み出すか？
• RQ3 特徴からバイアス情報を除去することで、トレーニングデータとは異なるバイアス分布を持つテストデータに対しても一般化性能が向上するか？
• RQ4 提案手法の性能は、ベースラインモデルおよびほぼ偏りのないデータで訓練されたモデルと比べてどの程度優れているか？
• RQ5 バイアスがターゲットラベルと独立（例：色）である場合と相関（例：年齢と性別）である場合とで、性能向上の度合いはどの程度異なるか？

主な発見

• 色バイアスを含むEMNISTデータセットにおいて、提案手法は86.66%のテスト精度を達成し、ベースライン（84.42%）およびBlindEye（85.56%）を上回り、顕著な改善を示した。
• ドッグ・アンド・キャットデータセットでは、モデルがテスト画像の色バイアスを無視したことが確認され、棒グラフの積み上げ図から、予測が色に依存しないことが示されたのに対し、ベースラインはそのような依存関係を示した。
• IMDBフェイスデータセットでは、年齢バイアスが性別分類に与える影響が軽減され、予測が年齢に依存しなくなったことが、定性的な結果から明らかになった。
• 「グレイ」ベースライン（ほぼ偏りのないデータで訓練）を上回る性能を、ほとんどの実験で達成した。これは、バイアスの解消が特徴の情報量を高めることを示している。
• バイアスがターゲットラベルと独立している場合（例：数字分類における色）に、性能向上が最も顕著に現れた。これは、バイアスが本当に無関係である場合に、解消が最も効果的であることを示唆している。
• バイアスが相関している場合（例：年齢と性別）には、性能向上が限定的であった。これは、バイアスの解消が常に有益ではなく、データ構造に依存することを示している。