[論文レビュー] Optimize transfer learning for lung diseases in bronchoscopy using a new concept: sequential fine-tuning

Tao Tan, Zhang Li+16 more|arXiv (Cornell University)|Feb 10, 2018

COVID-19 diagnosis using AI参考文献 18被引用数 10

ひとこと要約

本論文は、気管支鏡検査における深層学習ベースの画像診断（CAD）のための新しい転移学習戦略として、逐次的微調整を提案する。この手法により、正常、結核（TB）、肺がんの分類性能が向上し、434例の気管支鏡検査画像データセットを用いて、全体の正確度82.0%、がん検出の正確度87%を達成。従来の微調整手法を上回る性能を発揮した。

ABSTRACT

Bronchoscopy inspection as a follow-up procedure from the radiological imaging plays a key role in lung disease diagnosis and determining treatment plans for the patients. Doctors needs to make a decision whether to biopsy the patients timely when performing bronchoscopy. However, the doctors also needs to be very selective with biopsies as biopsies may cause uncontrollable bleeding of the lung tissue which is life-threaten. To help doctors to be more selective on biopsies and provide a second opinion on diagnosis, in this work, we propose a computer-aided diagnosis (CAD) system for lung diseases including cancers and tuberculosis (TB). The system is developed based on transfer learning. We propose a novel transfer learning method: sentential fine-tuning . Compared to traditional fine-tuning methods, our methods achieves the best performance. We obtained a overall accuracy of 77.0% a dataset of 81 normal cases, 76 tuberculosis cases and 277 lung cancer cases while the other traditional transfer learning methods achieve an accuracy of 73% and 68%. . The detection accuracy of our method for cancers, TB and normal cases are 87%, 54% and 91% respectively. This indicates that the CAD system has potential to improve lung disease diagnosis accuracy in bronchoscopy and it also might be used to be more selective with biopsies.

研究の動機と目的

• 肺疾患診断における深層学習モデルの学習に必要な注釈付き気管支鏡検査画像が限られているという課題に対処する。
• 診断正確度の向上により、不要な生検を減らし、肺の異常を早期かつ選択的に特定可能にする。
• 放射線科医および呼吸器内科医が気管支鏡検査中に正常、TB、肺がんの症例を区別するのを支援するCADシステムを開発する。
• 小規模なデータセットの限界を克服するため、モデルの汎化性能と性能を向上させる新しい微調整戦略を導入する。

提案手法

• 気管支鏡検査画像分類の特徴抽出のため、事前学習済みDenseNetモデルをバックボーンとして使用する。
• 逐次的微調整を提案：ネットワークの上位層から順に、段階的かつ段階的により深い層を微調整する。
• 小規模なデータセット（434例：正常81例、TB 76例、がん277例）における性能推定の信頼性を確保するため、2分割交差検証を適用する。
• 最初は完全結合層のみを微調整し、その後段階的により多くの畳み込み層を学習プロセスに追加する。
• 過学習を最小限に抑えるために、事前学習済み特徴を特定の気管支鏡検査画像ドメインに適応させる転移学習を適用する。
• 深層学習とドメイン固有の知識を組み合わせることで、TBおよびがん病変の微細な視覚的特徴の区別を向上させる。

実験結果

リサーチクエスチョン

• RQ1 従来の微調整手法と比較して、逐次的微調整は気管支鏡検査における肺疾患分類の正確度を向上させることができるか？
• RQ2 臨床的気管支鏡検査画像において一般的な小規模で不均衡なデータセットにおいて、本手法はどのように性能を発揮するか？
• RQ3 正常およびTB症例を正しく同定することで、CADシステムは不要な生検をどの程度削減できるか？
• RQ4 視覚的に類似した2つの疾患（TBと肺がん）を区別する際、本システムの診断性能はどの程度か？

主な発見

• 提案された逐次的微調整手法は、434例の気管支鏡検査画像データセットにおいて全体の正確度82.0%を達成。従来の微調整手法（73%および68%の正確度）を上回った。
• がん検出の正確度は87%に達し、正常例では91%、TB例では54%の正確度を示した。これは悪性および良性疾患において優れた性能を示している。
• 異常対正常の2値分類ではAUCが0.99に達し、感度100%、特異度65%を達成。すなわち、すべての異常例が見逃されなかった。
• システムは10%のTB症例を正しく同定したが、がん症例は1例も見逃さなかった。これは不要な生検を削減する可能性を示唆している。
• 誤分類の主な原因は、悪性腫瘍に類似した小さなTB結節であった。これは、より大規模かつ多様なトレーニングデータの必要性を強調している。
• 本手法の段階的微調整戦略は、全層を微調整するか、完全結合層のみを微調整する手法よりも、特にデータが少ない状況下で優れたモデル適合を実現している。