[論文レビュー] Examining CNN Representations with respect to Dataset Bias

Quanshi Zhang, Wenguan Wang+1 more|arXiv (Cornell University)|Oct 29, 2017

Adversarial Robustness in Machine Learning参考文献 28被引用数 8

ひとこと要約

本論文では、テストデータを必要とせず、内部特徴パターンからの属性関係のマイニングと、KLダイバージェンスを用いた人間アノテートの真値関係との比較によって、事前学習済みCNNにおける偏りのある特徴表現を診断する手法を提案する。このアプローチは、データセットバイアスによって引き起こされる盲点や失敗モードを効果的に特定し、標準のエントロピーに基づくベースラインを上回って、失敗モードサンプルにおける精度低下を検出する。

ABSTRACT

Given a pre-trained CNN without any testing samples, this paper proposes a simple yet effective method to diagnose feature representations of the CNN. We aim to discover representation flaws caused by potential dataset bias. More specifically, when the CNN is trained to estimate image attributes, we mine latent relationships between representations of different attributes inside the CNN. Then, we compare the mined attribute relationships with ground-truth attribute relationships to discover the CNN's blind spots and failure modes due to dataset bias. In fact, representation flaws caused by dataset bias cannot be examined by conventional evaluation strategies based on testing images, because testing images may also have a similar bias. Experiments have demonstrated the effectiveness of our method.

研究の動機と目的

• 従来の評価がテストデータのバイアスによって失敗する場合に、事前学習済みCNNにおける偏った特徴表現を診断するという、極めて重要な課題に対処すること。
• 標準の精度指標では見えない、データセットバイアスによって引き起こされる表現の欠陥（盲点や失敗モードなど）を特定すること。
• テストサンプルに依存せずに、トレーニングデータと人間アノテートの属性関係のみを用いてCNN表現を診断する手法を開発すること。

提案手法

• 事前学習済みCNNの中間畳み込み層から推論パターンをマイニングし、属性固有の特徴を表現する。
• マイニングされたパターンの共起に基づいて、属性間の対比較関係（正、負、またはニュートラル）を計算する。
• 一般的な常識知識（例：「黒い髪」および「笑顔」は無関係）を反映した人間アノテートのルールを用いて真値属性関係を定義する。
• マイニングされた関係と真値関係の乖離を、カルバック・ライブラー（KL）ダイバージェンスを用いて測定し、表現の欠陥を検出する。
• 高いKLダイバージェンス値を、盲点や失敗モードを含む poorly learned 表現の指標として使用する。
• 特定のタスクに適合した柔軟な真値定義を可能にし、多様な応用分野との互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 テストデータを一切使用せずに、データセットバイアスに起因するCNN表現の欠陥を検出できるか？
• RQ2 CNNの内部特徴パターンをどのように活用して属性関係を推定し、偏った表現を明らかにできるか？
• RQ3 マイニングされた関係と真値関係のKLダイバージェンスは、CNN予測における実際の失敗モードとどの程度相関しているか？
• RQ4 この手法は、データセットバイアス下での失敗モードの同定において、エントロピーに基づくベースラインを上回るか？
• RQ5 人間アノテートで得られた、認知的に整合性のある属性関係は、CNN表現の診断に信頼できる制約として機能できるか？

主な発見

• CelebAデータセットにおいて、トップ5の失敗モードで平均33.59%の精度低下を同定した。これはエントロピーに基づく手法（13.73%の低下）を著しく上回った。
• SUN Attributeデータベースでは、トップ40の失敗モードで平均29.68%の精度低下を達成した。エントロピーベースラインの27.47%を上回った。
• KLダイバージェンスを用いて同定されたトップ10の盲点には、「緑の葉は人為的構造物とは無関係」や「葉はほとんど垂直な構成要素とは無関係」といった関係が含まれており、意味的期待と整合的であった。
• この手法は、精度がバイアスのかかったテストセットでは高いままでも、CNNが「笑顔」や「黒い髪」などの属性に対して、関係のない視覚的文脈（例：目や鼻の特徴）を誤って使用する失敗モードを効果的に特定した。
• 実験の結果、高いKLダイバージェンス値は、失敗モードサンプルにおける実際の性能低下と強く相関しており、本手法の診断能が妥当であることを裏付けた。
• 本手法は、間接的または曖昧な属性関係に対しても頑健であり、信頼性の低い真値ペairを除外することで誤検出を回避できる。