[論文レビュー] Learning what to look in chest X-rays with a recurrent visual attention model

Petros-Pavlos Ypsilantis, Giovanni Montana|arXiv (Cornell University)|Jan 23, 2017

Advanced Neural Network Applications参考文献 9被引用数 37

ひとこと要約

本稿では、胸部レントゲン画像における診断的に重要な領域に注目するための再帰的視覚的注意モデル（RAM）を提案する。強化学習を用いて、91.0%および90.6%の精度を達成し、Inception-v3などの大規模モデルと同等の性能を発揮しながら、500万パラメータのみを用い、解剖学的知識と整合性のあるタスク固有の注意ポリシーを学習する。

ABSTRACT

X-rays are commonly performed imaging tests that use small amounts of radiation to produce pictures of the organs, tissues, and bones of the body. X-rays of the chest are used to detect abnormalities or diseases of the airways, blood vessels, bones, heart, and lungs. In this work we present a stochastic attention-based model that is capable of learning what regions within a chest X-ray scan should be visually explored in order to conclude that the scan contains a specific radiological abnormality. The proposed model is a recurrent neural network (RNN) that learns to sequentially sample the entire X-ray and focus only on informative areas that are likely to contain the relevant information. We report on experiments carried out with more than $100,000$ X-rays containing enlarged hearts or medical devices. The model has been trained using reinforcement learning methods to learn task-specific policies.

研究の動機と目的

• 歴史的かつラベル付きの検査データのみを用いて、胸部レントゲン画像における放射線学的異常を完全に自動で検出できるシステムの開発。
• 再帰的注意機構が、正確な分類のための診断的に重要な画像領域に注目できるかの調査。
• タスク固有の注意ポリシーを学習することで、モデルの複雑さを低減しつつ高い性能を維持すること。
• 臨床的推論と整合性のある注目パスを可視化することで、解釈可能な診断を可能にすること。

提案手法

• モデルは、学習された注意ポリシーに従って各時刻に小さな画像パッチをサンプリングする、再帰的ニューラルネットワーク（RNN）とグリムップ機構を併用する。
• 各ステップで、正規分布からサンプリングされた位置を中心とするグリムップを受信し、異なるサイズの2つのパッチが局所的文脈を捉える。
• 2つの事前学習済み畳み込み自己符号化器のスタックがエンコーダーとして機能し、各グリムップからの強力な特徴を抽出する。
• 符号化されたグリムップ表現は、位置埋め込みと連結され、全結合層を通過してLSTMコアの入力となるコンテキストベクトルを生成する。
• LSTMコアは隠れ状態を維持し、注意機構をガイドする。LSTMの出力は、正規分布からの微分可能サンプリングにより、次のグリムップの位置を予測するために用いられる。
• 固定回数のステップを経た後、最終的なLSTM隠れ状態が、画像を正常、拡大した心臓、または医療機器を含むのいずれかに分類するために使用される。

実験結果

リサーチクエスチョン

• RQ1 再帰的視覚的注意モデルは、胸部レントゲン画像における診断的に重要な領域に注目できるか？
• RQ2 モデルが学習した注意ポリシーは、医療機器や心臓拡大が通常観察される解剖学的領域と整合性を持つか？
• RQ3 RAMモデルは、顕著に少ないパラメータで、最先端のCNNと同等の分類性能を達成できるか？
• RQ4 モデルの注目行動はトレーニング中にどのように変化し、臨床的に意味のある探索戦略に収束するか？

主な発見

• RAMモデルは、独立したテストセットにおいて、拡大した心臓の検出で91.0%、医療機器の検出で90.6%の精度を達成した。
• これらの結果は、Inception-v3（それぞれ91.4%および91.3%）と同等の性能を示したが、パラメータ数は25%（500万対2100万）にまで削減された。
• 医療機器の検出において、モデルは肺および脊椎領域に体系的に注目する注意ポリシーを学習しており、これは通常のインプラント挿入部位と一致する。
• 拡大した心臓の検出では、モデルは心臓の輪郭とその端縁部を探索するよう学習し、心臓肥大の臨床的評価と整合的である。
• 注目パスの可視化により、モデルは初期段階ではランダムに探索するが、数百年のトレーニングエポックを経て、急速に解剖学的に関連する領域に注目するようになることがわかった。
• モデルの注目行動は解釈可能であり、高注目領域が各疾患の既知の放射線学的ランドマークと一致している。