[論文レビュー] Fuzzy Attention Neural Network to Tackle Discontinuity in Airway Segmentation

Nan Yang, Javier Del Ser+8 more|arXiv (Cornell University)|Sep 5, 2022

COVID-19 diagnosis using AI被引用数 4

ひとこと要約

本論文は、3次元CTスキャンにおける気道分離に特化したファジィアテンションニューラルネットワーク（FANN）を提案する。FANNはファジィ論理とアテンション機構を統合し、特に小規模で断続的な気道分岐部の分離性能を向上させる。学習可能なガウス型所属関数と、新しいジャッカード連続性および蓄積マッピング（JCAM）損失を導入することで、優れた連続性と完全性を達成し、肺がん、COVID-19、肺線維症を含むデータセットにおいて、最先端のモデルを上回る性能を発揮した。

ABSTRACT

Airway segmentation is crucial for the examination, diagnosis, and prognosis of lung diseases, while its manual delineation is unduly burdensome. To alleviate this time-consuming and potentially subjective manual procedure, researchers have proposed methods to automatically segment airways from computerized tomography (CT) images. However, some small-sized airway branches (e.g., bronchus and terminal bronchioles) significantly aggravate the difficulty of automatic segmentation by machine learning models. In particular, the variance of voxel values and the severe data imbalance in airway branches make the computational module prone to discontinuous and false-negative predictions. especially for cohorts with different lung diseases. Attention mechanism has shown the capacity to segment complex structures, while fuzzy logic can reduce the uncertainty in feature representations. Therefore, the integration of deep attention networks and fuzzy theory, given by the fuzzy attention layer, should be an escalated solution for better generalization and robustness. This paper presents an efficient method for airway segmentation, comprising a novel fuzzy attention neural network and a comprehensive loss function to enhance the spatial continuity of airway segmentation. The deep fuzzy set is formulated by a set of voxels in the feature map and a learnable Gaussian membership function. Different from the existing attention mechanism, the proposed channel-specific fuzzy attention addresses the issue of heterogeneous features in different channels. Furthermore, a novel evaluation metric is proposed to assess both the continuity and completeness of airway structures. The efficiency, generalization and robustness of the proposed method have been proved by training on normal lung disease while testing on datasets of lung cancer, COVID-19 and pulmonary fibrosis.

研究の動機と目的

• 小規模気道分岐（例：終末細気管支）の断続的かつ不完全な分離の課題に取り組むこと。これは、データのアンバランスと強度の一様性に起因する。
• IoU や Dice といった従来の評価指標が、分離の連続性と完全性を捉えきれないという限界を克服すること。
• 線維症、COVID-19、がんを含む多様な肺疾患の表現型にわたるモデルの汎化性とロバスト性を向上させること。
• 不均一な特徴チャネルにおける不確実性をモデル化し、表現学習を強化する、新しいファジィアテンション機構の開発。
• 連続性と完全性の両方を評価できるように、分離品質をより的確に評価するための新しい評価指標、CCFスコアの導入。

提案手法

• 特徴マップ内のボクセル集合と学習可能なガウス型所属関数を用いた深層ファジィ集合の定式化により、特徴表現における不確実性をモデル化する。
• チャネル別ファジィアテンションレイヤーを設計し、異なるチャネルにわたる特徴を適応的に重み付けすることで、不均一な特徴分布に対するロバスト性を向上させる。
• 分離された気道の空間的連続性と構造的完全性を最適化するための、新しいジャッカード連続性および蓄積マッピング（JCAM）損失関数を導入する。
• 標準的な重なり指標を超えて、気道構造の連続性と完全性を評価できる新しい評価指標、CCFスコア（連続性および完全性スコア）を開発する。
• 前景・背景のアンバランスをバランスさせるために、交差エントロピー、Dice、および提案されたJCAM損失を組み合わせた包括的な損失関数を用いてFANNモデルを訓練する。
• データオーグメンテーションとクラスバランスサンプリング戦略を適用し、気道分離タスクにおけるデータアンバランスの影響を軽減する。

実験結果

リサーチクエスチョン

• RQ1 ファジィアテンション機構は、特に小規模で断続的な気道分岐部において、3次元気道分離における深層ニューラルネットワークのロバスト性と汎化性能を向上させることができるか？
• RQ2 ファジィ論理とアテンション機構を統合することで、高い不確実性とデータアンバランス下でも、より優れた特徴表現学習が達成できるか？
• RQ3 提案されたJCAM損失関数は、標準的な損失関数と比較して、気道分離の空間的連続性を効果的に向上させることができるか？
• RQ4 新規に提案されたCCFスコア指標は、IoU や Dice といった従来の指標を上回り、優れた分離連続性と完全性を示すモデルを識別できるか？
• RQ5 FANNモデルは、ハニカムングイングを伴う複雑な線維化肺構造を示す、線維症、COVID-19、肺がんを含む多様な肺疾患表現型に、どのように汎化するか？

主な発見

• FANNはCOVID-19データセットで最高のCCFスコア（0.9215）を達成し、線維症データでは0.7687を記録し、ベースラインモデルと比較して分離の連続性と完全性を顕著に上回った。
• 線維症データセットでは、終末細気管支（TB）の検出率が47.15%に達したが、他のデータセットと比較して低かった。これは、ハニカムングイングを伴う複雑な線維化肺構造における改善の余地があることを示している。
• BASデータセットでは大径分岐（LB）の検出率が99.38%に達し、COVID-19データセットでは100%を記録した。これは、大径気道部における優れた性能を示している。
• FANNはCOVID-19データセットで平均欠落率（AMR）を2.36%に低下させ、線維症データセットでは10.29%にまで低下させ、競合モデルと比較して漏れが少なく、完全性に優れた性能を発揮した。
• アブレーションスタディの結果、ファジィアテンションとJCAM損失の組み合わせが最良のパフォーマンスを発揮した。BL+fuzzy+JCAMは、COVID-19データセットで93.81%のDLRと91.87%のDBRを達成し、他の構成よりも優れた性能を示した。
• 提案されたCCFスコアは、モデル選定を効果的に支援した。最高のCCFスコアを記録したモデルは、全データセットで一貫性があり、臨床的に妥当な分離結果を示した。