[論文レビュー] Iterative Attention Mining for Weakly Supervised Thoracic Disease Pattern Localization in Chest X-Rays

Jinzheng Cai, Le Lü+4 more|arXiv (Cornell University)|Jul 3, 2018

COVID-19 diagnosis using AI被引用数 11

ひとこと要約

本論文は、画像レベルのラベルのみを用いて、チアックレントゲン画像における胸部疾患パターンの弱教師付き局在化を実現する反復的アテンションマイニング（IAM）フレームワークを提案する。反復的に顕著な領域をマスクし、対照的損失を用いて知識を保持することで、CAMベースの手法に比べて局在化精度が向上し、小さな病変（例：結節）に高い感受性を示す。ChestX-ray14データセットにおいて最先端の性能を達成した。

ABSTRACT

Given image labels as the only supervisory signal, we focus on harvesting, or mining, thoracic disease localizations from chest X-ray images. Harvesting such localizations from existing datasets allows for the creation of improved data sources for computer-aided diagnosis and retrospective analyses. We train a convolutional neural network (CNN) for image classification and propose an attention mining (AM) strategy to improve the model's sensitivity or saliency to disease patterns. The intuition of AM is that once the most salient disease area is blocked or hidden from the CNN model, it will pay attention to alternative image regions, while still attempting to make correct predictions. However, the model requires to be properly constrained during AM, otherwise, it may overfit to uncorrelated image parts and forget the valuable knowledge that it has learned from the original image classification task. To alleviate such side effects, we then design a knowledge preservation (KP) loss, which minimizes the discrepancy between responses for X-ray images from the original and the updated networks. Furthermore, we modify the CNN model to include multi-scale aggregation (MSA), improving its localization ability on small-scale disease findings, e.g., lung nodules. We experimentally validate our method on the publicly-available ChestX-ray14 dataset, outperforming a class activation map (CAM)-based approach, and demonstrating the value of our novel framework for mining disease locations.

研究の動機と目的

• 画像レベルのラベルのみを用いて、ピクセルレベルのアノテーションが高コストであるのを避けることにより、チアックレントゲン画像における胸部疾患パターンの局在化の課題に取り組む。
• トレーニング中に顕著な領域を反復的に特定・マスクすることで、モデルの疾患パターンへの感受性を向上させる。
• アテンションマイニングの過程で、以前に学習した知識の消失を防ぐために、知識保持損失を導入する。
• CNNアーキテクチャにマルチスケールアグリゲーションを統合することで、肺結節のような小スケールの異常の局在化を向上させる。
• 特にCAMベースの手法に比べて、ChestX-ray14データセットにおける疾患パターンの局在化性能を上回ることを目的とする。

提案手法

• 本手法は、画像レベルのラベルのみを用いてトレーニングされた畳み込みニューラルネットワーク（CNN）を採用する。
• 反復的アテンションマイニング（AM）戦略により、各フォワードパスで最も顕著な疾患領域をブロックし、モデルが他の領域に注目するよう強制しながらも、正しく予測を維持する。
• 知識保持（KP）損失を導入し、元のネットワークと更新済みネットワークの特徴応答の差を最小化することで、以前に学習した知識の消失を防ぐ。
• マルチスケールアグリゲーション（MSA）をCNNに統合し、肺結節のような小スケールの疾患パターンの局在化を向上させる。
• アテンションマイニングと知識蒸留を交互に実行することで、複数の反復においてアテンションマップを改善する。
• 最終的なアテンションマップは、バウンディングボックスやセグメンテーションマスクを必要とせず、疾患パターンの局在化に使用される。

実験結果

リサーチクエスチョン

• RQ1 画像レベルのラベルのみが利用可能な状況下で、反復的アテンションマイニングは胸部疾患パターンの局在化を改善できるか？
• RQ2 反復的アテンションマイニングの過程で、知識の消失をどのように軽減できるか？ これにより、元の分類タスクのパフォーマンスが維持されるか？
• RQ3 マルチスケールアグリゲーションは、弱教師付き局在化において、肺結節のような小スケールの異常の検出をどの程度向上させるか？
• RQ4 クラスアクティベーションマッピング（CAM）と比較して、提案手法は局在化精度と頑健性において優れているか？
• RQ5 弱教師付きの条件下で、1枚のX線画像に複数の疾患パターンを効果的に局在化できるか？

主な発見

• 提案されたIAMフレームワークは、ChestX-ray14データセットにおいて、胸部疾患パターンの局在化精度においてCAMベースのベースラインを上回った。
• 知識保持損失の統合により、モデルの忘却が顕著に軽減され、反復的アテンションマイニングの過程でも高い分類精度を維持した。
• マルチスケールアグリゲーションにより、標準的な局在化手法が見過ごしがちな小スケールの所見（例：肺結節）の検出が向上した。
• 本手法は、微細または散在的な所見を示す疾患タイプに対しても、多様な疾患種にわたり頑健なパフォーマンスを示した。
• 反復的アテンションマイニングプロセスにより、徐々に洗練されたアテンションマップが得られ、病変関連領域への注目が向上していることが示された。
• 定量的評価により、提案手法がCAMベースの手法に比べ、疾患局在化の平均平均精度（mAP）がより高いことが確認された。