[論文レビュー] Improving Interpretability in Medical Imaging Diagnosis using Adversarial Training

Andrei Margeloiu, Nikola Simidjievski+2 more|arXiv (Cornell University)|Dec 2, 2020

Explainable Artificial Intelligence (XAI)参考文献 22被引用数 5

ひとこと要約

本稿では、皮膚がん診断における畳み込みニューラルネットワークの解釈可能性を向上させるために、敵対的訓練を用いることを提案する。敵対的摂動に対して頑健であるようにモデルを訓練することで、著者らは類似性マップが著しく鋭くなり、病変内のメラノーマ関連の色の変化が明確に強調されることを示した。主な貢献は、アーキテクチャの変更なしに、頑健なモデルがより信頼性があり病変に焦点を当てた説明をもたらすことを実証したことである。

ABSTRACT

We investigate the influence of adversarial training on the interpretability of convolutional neural networks (CNNs), specifically applied to diagnosing skin cancer. We show that gradient-based saliency maps of adversarially trained CNNs are significantly sharper and more visually coherent than those of standardly trained CNNs. Furthermore, we show that adversarially trained networks highlight regions with significant color variation within the lesion, a common characteristic of melanoma. We find that fine-tuning a robust network with a small learning rate further improves saliency maps' sharpness. Lastly, we provide preliminary work suggesting that robustifying the first layers to extract robust low-level features leads to visually coherent explanations.

研究の動機と目的

• 敵対的訓練が、皮膚がん診断を含む医療画像分類において解釈可能性を向上させるかどうかを調査すること。
• 敵対的に訓練されたモデルが、標準モデルと比較してより視覚的に整合性があり鋭い類似性マップを生成するかどうかを評価すること。
• 小さな学習率を用いて頑健なモデルを微調整することで、類似性マップの品質をさらに向上させられるかどうかを検討すること。
• 初期層を頑健化させることで、深層ネットワークにおける特徴抽出と説明品質が向上するかどうかを評価すること。
• 実臨床データセットを用いて、敵対的訓練による解釈可能性に関する最初の実証的研究を提供すること。

提案手法

• HAM10000データセットを用い、3クラス（メラノーマ、メラノサイト性ネビ、良性キラス）で標準訓練を用いてハイパーパrameterチューニングを実施する。
• PGDアドバーサリーとl₂ノルム摂動を用いた敵対的訓練により、同じモデルを再訓練する。50,000ピクセル画像を想定し、ε = 4（比例的にスケーリング）を設定する。
• 7ステップの摂動増幅を実施し、初期ノイズから出発し、ε/5のステップサイズを用い、敵対的画像を[0, 1]範囲にクリッピングする。
• 標準モデルと頑健モデルの公平な比較を保つために、標準訓練で得られた同じハイパーパrameterを用いる。
• 均一なベースラインを用いて、勾配法や統合勾配（IG）などの類似性マップ手法を適用し、モデル予測の解釈を行う。
• 小さな学習率（1e-5）を用いて、頑健モデルの最後の層を標準訓練で微調整し、最終層から順次凍結解除を段階的に実行することで、性能を向上させつつ頑健性を維持する。

実験結果

リサーチクエスチョン

• RQ1 敵対的訓練は、医療画像分類における類似性マップの視覚的整合性と鋭さを向上させるか？
• RQ2 敵対的に訓練されたモデルは、皮膚病変内のメラノーマ特有の特徴（色の変化など）をよりよく強調できるか？
• RQ3 小さな学習率を用いて頑健なモデルを微調整することで、類似性マップの品質がさらに向上するか？
• RQ4 初期層を頑健化させ、後続層を標準的に微調整することで、予測精度と説明品質の両方を向上させられるか？
• RQ5 医療画像において最も明確な類似性マップを得るための最適なアドバーサリー強度εは何か？

主な発見

• 敵対的に訓練されたモデルは、標準モデルと比較して著しく鋭く、視覚的に整合性のある類似性マップを生成し、背景や関係のない特徴ではなく、皮膚病変に集中している。
• 頑健なモデルの類似性マップは、メラノーマの診断の重要な指標である病変内での顕著な色の変化を強調しており、臨床的関連性が向上していることを示している。
• 学習率1e-5を用いて頑健モデルの最後の層を微調整することで、類似性マップのノイズが減少し、より明確で焦点が当たった説明が得られた。
• ResNet-18アーキテクチャのグループ3〜5を微調整することで、完全に頑健なモデルと比較してモデルの正確性が3%向上したが、優れた説明品質を維持した。
• 実験的に、最適なアドバーサリー強度εは3〜5の範囲にあることが判明した。ε≥8ではノイズが多い類似性マップが得られ、ε=1では髪など関係のない特徴に注目が向かう傾向が見られた。
• 統合勾配を用いた頑健モデルの類似性マップは、メラノーマ病変内の色の変化を明確に強調しており、形状およびテクスチャに基づく帰属の改善が示唆された。