[論文レビュー] Multi-Label Retinal Disease Classification using Transformers

Manuel A. Rodriguez, H. AlMarzouqi+1 more|arXiv (Cornell University)|Jul 5, 2022

Retinal Imaging and Analysis被引用数 8

ひとこと要約

本論文は、20種の疾患をカバーする2,208枚のスクリーンショット画像を含む新規に構築されたMuReDデータセットを用いて、マルチラベル網膜疾患分類のための新しいトランスフォーマー基盤モデルC-Tranを提案する。この手法は、疾患検出および分類の両面で、従来手法よりもAUCでそれぞれ7.9%および8.1%優れたSOTA性能を達成し、クラスアクティベーションマップによる高い精度と解釈可能性を兼ね備えている。

ABSTRACT

Early detection of retinal diseases is one of the most important means of preventing partial or permanent blindness in patients. In this research, a novel multi-label classification system is proposed for the detection of multiple retinal diseases, using fundus images collected from a variety of sources. First, a new multi-label retinal disease dataset, the MuReD dataset, is constructed, using a number of publicly available datasets for fundus disease classification. Next, a sequence of post-processing steps is applied to ensure the quality of the image data and the range of diseases, present in the dataset. For the first time in fundus multi-label disease classification, a transformer-based model optimized through extensive experimentation is used for image analysis and decision making. Numerous experiments are performed to optimize the configuration of the proposed system. It is shown that the approach performs better than state-of-the-art works on the same task by 7.9% and 8.1% in terms of AUC score for disease detection and disease classification, respectively. The obtained results further support the potential applications of transformer-based architectures in the medical imaging field.

研究の動機と目的

• 既存の自動システムでは十分に検討されていない、網膜画像における複数疾患の同時検出という課題に対処すること。
• 複数の公開データソースから統合・クリーニングしたデータを用いて、高品質でマルチラベルな網膜画像データセット（MuReD）を構築すること。
• 従来のCNNやハンドクラフト特徴量の制限を克服するため、マルチラベル網膜疾患分類に最適化されたトランスフォーマー基盤のディープラーニングモデル（C-Tran）を開発・最適化すること。
• 個々の疾患検出およびマルチ疾患分類の両方の性能を評価し、クラスアクティベーションマップによる解釈可能性を提供すること。
• マルチラベル網膜診断において、トランスフォーマーアーキテクチャが従来のSOTA手法を上回ることを実証すること。

提案手法

• 3つの公開網膜画像データセットから画像を統合・クリーニングすることでMuReDデータセットを構築し、各疾患クラスに最低50サンプルを確保するとともに、自動的な品質評価を適用した。
• 画像正規化、疾患ラベルの標準化、フィルタリングなどの一連の後処理ステップを適用し、データ品質および一貫性を向上させた。
• マルチラベル分類のための網膜疾患に特化したカスタムビジョントランスフォーマー構造（C-Tran）を設計し、広範なハイパーパramータチューニングにより最適化した。
• 従来の畳み込み層を置き換えたり補完したりする目的で、長距離依存性を捉えるためのマルチヘッド自己注意機構を採用した。
• 各疾患の独立した予測を可能にするために、シグモイド活性化関数とバイナリクロスエントロピー損失をマルチラベル出力に使用した。
• Grad-CAMを用いてクラスアクティベーションマップ（CAM）を生成し、注目領域の可視化とモデルの解釈可能性・特徴学習能力の妥当性を検証した。

実験結果

リサーチクエスチョン

• RQ1 トランスフォーマー基盤アーキテクチャは、網膜画像を用いたマルチラベル網膜疾患分類において、従来のCNNベースのモデルを上回ることができるか？
• RQ2 本研究で提案するC-Tranモデルの性能は、疾患検出および分類におけるAUCの観点から、SOTA手法と比較してどの程度優れているか？
• RQ3 クラスアクティベーションマップによる検証を通じて、モデルは異なる疾患に対して判別能の高い特徴をどの程度学習しているか？
• RQ4 特にODP、HTR、ASRのようなまれなまたは微細な疾患に関して、マルチラベル網膜画像分類における主な課題は何か？
• RQ5 提案されたMuReDデータセットは、網膜疾患診断における強固で一般化可能なマルチラベル学習をどの程度支援できるか？

主な発見

• 提案されたC-Tranモデルは、SOTA手法と比較して、疾患検出でAUCスコアが7.9%向上し、疾患分類で8.1%向上した。
• 20疾患のうち18疾患でAUCが90%以上を達成し、最高AUCはODEクラスで0.999、MYAで0.997を記録した。
• 主な病変の検出において、高い信頼性と正確性を示した：緑内障（ODC）で99%、加齢性黄斑変性（ARMD）で98%、亜麻痺（MYA）で100%の信頼度。
• 「OTHER」クラス（AUC = 0.851）と「ODP」（AUC = 0.870）で最も困難を示したが、これはそれぞれ傘下カテゴリとしての性質と微細な視覚的キューのためである。
• クラスアクティベーションマップは、モデルが臨床的に関連する領域（例：ARMDでは新生血管膜、グレート内障では視神経乳頭杯状変化）に注目していることを確認し、解釈可能性および特徴学習能力の妥当性を裏付けた。
• HTRとASRに関しては、AUCがそれぞれ0.971および0.911に達したが、0.5のしきい値未満の低信頼度予測のためF1スコアが得られず、より良いキャリブレーションまたはデータ拡張の必要性を示唆した。