[論文レビュー] Mitigating the Effect of Dataset Bias on Training Deep Models for Chest X-rays.

Yundong Zhang, Hang Wu+3 more|arXiv (Cornell University)|Oct 12, 2019

COVID-19 diagnosis using AI参考文献 34被引用数 5

ひとこと要約

この論文は、公開されたチストX線データセットを用いて深層学習モデルを訓練する際のデータセットバイアスに焦点を当て、新たなマルチソースドメイン一般化フレームワークを提案する。最大マージン損失を滑らかに最適化可能にするように改良し、未観測のデータ拡張を模擬するためのMCT（マルチレイヤークロス勾配学習）を導入することで、分布外のテストセットにおけるモデルの一般化性能とロバスト性が顕著に向上する。

ABSTRACT

Deep learning has gained tremendous attention on CAD (Computer-aided Diagnosing) application, particularly biomedical imaging analysis. We analyze three large-scale publicly available CXR (Chest X-ray) datasets and find that vanilla training of deep models on diagnosing common Thorax Diseases are subject to dataset bias, leading to severe performance degradation when evaluated on unseen test set. In this work, we frame the problem as multi-source domain generalization task and make two contributions to handle dataset bias: 1. we improve the classical Max-margin loss function by making it more general and smooth; 2. we propose a new training framework named MCT (Multi-layer Cross-gradient Training) for unseen data argumentation. Empirical studies show that our methods significantly improve the model generalization and robustness to dataset bias.

研究の動機と目的

• 公開されたチストX線データセットを用いて訓練された深層学習モデルに、データセットバイアスが与える影響を調査すること。
• 偏ったデータ分布によって引き起こされる未検出のテストセットにおける性能低下を是正すること。
• 異なるデータセット間での評価シナリオにおけるモデルの一般化性能とロバスト性を向上させること。
• 未観測のデータを模擬する訓練フレームワークを構築し、より良いドメイン一般化を実現すること。

提案手法

• 古典的な最大マージン損失をより一般化され、滑らかになるように再定式化し、最適化の安定性を向上させる。
• MCT（マルチレイヤークロス勾配学習）を導入し、複数のネットワーク層に跨るクロス勾配信号を活用する新しい訓練フレームワークを提案する。
• MCTは、複数のレイヤーに渡って勾配を伝搬させることで、未観測のデータ分布を模擬する合成データ拡張を可能にする。
• ドメインシフトの影響を低減するため、問題をマルチソースドメイン一般化タスクとして扱う。
• 推論時におけるドメインシフトの影響を最小限に抑えるために、エンドツーエンドでフレームワークを訓練する。
• 明示的なデータ拡張を必要とせず、勾配相互作用によって有効なインダクティブバイアスを生成する。

実験結果

リサーチクエスチョン

• RQ1 公開されたチストX線データセットを用いて訓練された深層学習モデルに、データセットバイアスがどのように影響を与えるか？
• RQ2 修正された最大マージン損失関数は、マルチソースドメイン一般化において最適化と一般化をどのように改善できるか？
• RQ3 明示的なデータサンプリングなしに、MCTがどれほど有効なデータ拡張を生成できるか？
• RQ4 提案されたフレームワークは、分布外のテストセットにおけるモデルのロバスト性をどの程度向上させるか？
• RQ5 データセットバイアスを軽減するにあたり、損失関数の改良と訓練フレームワーク設計の相対的寄与度は何か？

主な発見

• 提案されたMCTフレームワークは、ベースラインモデルと比較して、さまざまなチストX線データセット間で顕著にモデルの一般化性能を向上させる。
• 改良された最大マージン損失は、訓練中の最適化を滑らかにし、収束性を向上させる。
• 実験的結果から、改善された損失関数とMCTの組み合わせが、未検出のテストセットで優れた性能を示す。
• モデルはドメインシフトに対してロバストであることが示され、データセット固有のバイアスへの感受性が低減している。
• 標準的な訓練プロトコルと比較して、クロスデータセット評価において優れた性能を発揮し、ドメイン一般化における有効性を確認した。
• 明示的なデータ拡張を必要とせず、勾配ベースのデータシミュレーションに依存することで、より優れた一般化性能を達成した。