[論文レビュー] Improving Robustness using Joint Attention Network For Detecting Retinal Degeneration From Optical Coherence Tomography Images

Sharif Amit Kamran, Alireza Tavakkoli+1 more|arXiv (Cornell University)|May 16, 2020

Retinal Imaging and Analysis参考文献 28被引用数 30

ひとこと要約

本論文は、教師あり分類と教師なしアテンションマップ学習を統合することで、光学干渉断層画像（OCT）からの網膜変性症検出における頑健性を向上させる共同アテンションネットワークアーキテクチャを提案する。分類と再構成のバランスを取る二重の適応型損失を統合することで、疾患特異的な空間的特徴を保持し、複数の最先端モデルにおいて未学習データセットに対する精度と一般化性能を顕著に向上させる。

ABSTRACT

Noisy data and the similarity in the ocular appearances caused by different ophthalmic pathologies pose significant challenges for an automated expert system to accurately detect retinal diseases. In addition, the lack of knowledge transferability and the need for unreasonably large datasets limit clinical application of current machine learning systems. To increase robustness, a better understanding of how the retinal subspace deformations lead to various levels of disease severity needs to be utilized for prioritizing disease-specific model details. In this paper we propose the use of disease-specific feature representation as a novel architecture comprised of two joint networks -- one for supervised encoding of disease model and the other for producing attention maps in an unsupervised manner to retain disease specific spatial information. Our experimental results on publicly available datasets show the proposed joint-network significantly improves the accuracy and robustness of state-of-the-art retinal disease classification networks on unseen datasets.

研究の動機と目的

• 実世界のOCT画像に応用された深層学習モデルが網膜疾患分類において低頑健性を示すという課題に対処すること。
• 標準的なCNNにおける特徴符号化時に失われる疾患特異的な空間的特徴を保持することで、モデルの一般化性能を向上させること。
• 再トレーニングを必要とせずに、さまざまなOCT画像システム間で転送可能であるように、教師なしアテンション学習を活用すること。
• 既存のCNNアーキテクチャを臨床的導入に適した即席モジュールとして強化すること。

提案手法

• 教師ありエンコーダ、教師なしデコーダ、教師あり分類器の3つのコンponentsからなる共同ネットワークを導入する。
• 各段階でエンコーダとデコーダの特徴を要素ごとの和算によって結合するスキップ接続を用い、空間的情報を保持する。
• 二重の適応型損失関数を採用：L = φ × Ls + (1−φ) × Lu、ここでLsは分類のための交差エントロピー損失、Luは再構成のための平均二乗誤差である。
• ハイパーパramータ φ は訓練中に調整され、分類と再構成の損失の重要度のバランスを取る。
• 教師なしデコーダは、正解ラベルを必要とせず、ドメインに依存しない空間的特徴の学習を可能にする。
• ResNet50、MobileNet-v2、OpticNet-71などの既存のCNNと統合して、即席モジュールとして統合可能である。

実験結果

リサーチクエスチョン

• RQ1 教師ありと教師なしの共同学習が、未学習のOCTデータセットにおける網膜疾患分類モデルの頑健性を向上させることができるか？
• RQ2 教師なしオートエナボーダコンponentを介して空間的特徴表現を保持することで、モデルの一般化性能がどの程度向上するか？
• RQ3 二重の適応型損失機構が、分類精度と空間的特徴再構成のトレードオフにどのように影響するか？
• RQ4 提案された共同アテンションモジュールが、さまざまなOCT画像システムや疾患タイプに効果的に転送可能か？

主な発見

• Srinivasan2014データセットでは、ResNet50-v1に接続した共同アテンションネットワークが、100%の精度、特異度、感度を達成し、元のモデルよりすべての指標で5.08%向上した。
• 未学習のOCT2017データセットでテストしたところ、精度はResNet50-v1の83.40%から92.40%に上昇し、相対的に9.0%の向上を示した。
• MobileNet-v2では、OCT2017で精度が93.80%から95.60%に上昇し、特異度と感度も1.8%向上した。
• すべてのテストされたアーキテクチャにおいて一貫した性能向上を示し、強力な転送可能性と頑健性を示した。
• 教師なしデコーダはラベルなしで効果的な再構成を達成し、空間的情報を保持するアテンションマップ学習の有効性を裏付けた。
• 二重の適応型損失機構により動的勾配更新が可能となり、最適な φ 値が収束性と性能向上に寄与することが判明した。