[論文レビュー] Dual Encoder Fusion U-Net (DEFU-Net) for Cross-manufacturer Chest X-ray Segmentation

Lipei Zhang, Aozhi Liu+2 more|arXiv (Cornell University)|Sep 11, 2020

COVID-19 diagnosis using AI参考文献 41被引用数 4

ひとこと要約

本論文では、多スケール空間特徴抽出と文脈的理解を向上させるために、インセプションブロックと拡張畳み込み、および密度結合再帰的畳み込みブロックを組み合わせた二重パスエンコーダー融合U-NetアーキテクチャであるDEFU-Netを提案する。このモデルはモンゴメリー病院および深セン病院の混合データセットにおいて最先端の性能を達成し、U-Net、Res-U-Net、BCDU-Net、R2U-Net、およびアテンション強化型の変種と比較して、Diceスコア、IOU、F1スコア、AUCの複数の指標で優れた性能を示した。

ABSTRACT

A number of methods based on deep learning have been applied to medical image segmentation and have achieved state-of-the-art performance. Due to the importance of chest x-ray data in studying COVID-19, there is a demand for state-of-the-art models capable of precisely segmenting soft tissue on the chest x-rays. The dataset for exploring best segmentation model is from Montgomery and Shenzhen hospital which had opened in 2014. The most famous technique is U-Net which has been used to many medical datasets including the Chest X-rays. However, most variant U-Nets mainly focus on extraction of contextual information and skip connections. There is still a large space for improving extraction of spatial features. In this paper, we propose a dual encoder fusion U-Net framework for Chest X-rays based on Inception Convolutional Neural Network with dilation, Densely Connected Recurrent Convolutional Neural Network, which is named DEFU-Net. The densely connected recurrent path extends the network deeper for facilitating contextual feature extraction. In order to increase the width of network and enrich representation of features, the inception blocks with dilation are adopted. The inception blocks can capture globally and locally spatial information from various receptive fields. At the same time, the two paths are fused by summing features, thus preserving the contextual and spatial information for decoding part. This multi-learning-scale model is benefiting in Chest X-ray dataset from two different manufacturers (Montgomery and Shenzhen hospital). The DEFU-Net achieves the better performance than basic U-Net, residual U-Net, BCDU-Net, R2U-Net and attention R2U-Net. This model has proved the feasibility for mixed dataset and approaches state-of-the-art. The source code for this proposed framework is public https://github.com/uceclz0/DEFU-Net.

研究の動機と目的

• 異なる画像メーカー間での胸部X線画像における軟部組織分類の課題に対処すること。ここでのドメインシフトや画像品質のばらつきがモデルの一般化性能に影響を与える。
• 医用画像分類における空間的認識と文脈的理解の両方を向上させることで、特徴抽出を改善すること。
• モンゴメリー病院および深セン病院など多様なソースからの混合データセットを、微調整なしで処理できる耐障害性の高いモデルを開発すること。
• 特に境界領域や小領域のピクセルで誤分類が生じやすい点を改善し、既存のU-Net変種よりも分類精度を向上させること。
• エンコーダー部におけるアーキテクチャ的革新を通じて、異種データに対してより速い収束と良好な適合性を実現すること。

提案手法

• DEFU-Netは二重パスエンコーダーを採用する。一方のパスでは、異なる受容野を有する多スケール空間特徴を捉えるために、拡張畳み込みを組み合わせたインセプションブロックが使用される。
• もう一方のパスでは、ネットワークの深さを増し、層間の特徴伝搬を強化するために、密度結合再帰的畳み込みブロック（DCRC）が実装される。
• 両エンコーダーパスからの特徴量は、要素ごとの和集合により融合され、正確な分類を実現するための豊富な文脈的および空間的情報を保持する。
• エンコーダーとデコーダーの間には、U-Netと同様にスキップ接続が使用され、空間分解能の維持と勾配の流れを確保する。
• ボトルネック層における特徴マップの数は、エンコーダーの第4レベルに一致するように設定され、計算コストを半減させる。
• モデルは交差エントロピー損失と早期停止を用いて訓練され、Adam最適化法を適用することで、高速な収束と高い性能を達成した。

実験結果

リサーチクエスチョン

• RQ1 標準的なU-Net変種と比較して、二重パスエンコーダー構造がクロスメーカーX線画像データセットにおける分類性能を向上させることができるか？
• RQ2 拡張インセプションブロックの統合により、コントラストが低くエッジがぼやけた医用画像における多スケール空間特徴抽出が向上するか？
• RQ3 密度結合再帰ブロックがエンコーダー部における特徴表現の深さと文脈モデリングの能力をどの程度向上させるか？
• RQ4 二重パス特徴の和集合による特徴融合が、特に臓器の境界付近でのデコーディング精度にどのように影響を与えるか？
• RQ5 微調整なしで、異なる画像メーカーのデータセット間で効果的に一般化できるか？

主な発見

• DEFU-Netはテストセットにおいて最高のDiceスコア0.9667およびF1スコア0.9619を達成し、U-Net、Res-U-Net、BCDU-Net、Incep-Res-U-Net、R2U-Net、Att-R2U-Netを上回った。
• クロスメーカー一般化性能において、深セン病院のデータで学習しモンゴメリー病院のデータでテストした場合のDiceスコアは0.9227、逆にモンゴメリー病院で学習し深セン病院でテストした場合のスコアは0.9154を記録し、強い耐障害性を示した。
• ベースラインモデルよりも収束が早く、わずか2エポックで精度0.9776に到達し、過学習を示さずに145エポックまで訓練可能であった。
• 標準的な3×3畳み込みと比較して、拡張インセプションブロックの使用が、特にグローバルおよびローカルな空間パターンの捉え方を顕著に向上させた。
• 可視化結果から、DEFU-Netは境界領域や小規模な肺領域において、予測値が正解とよりよく一致しており、誤検出と誤未検出を低減していることが確認された。
• 拡張インセプションとDCRCブロックの組み合わせにより、メーカー間でのドメインシフトや画像ばらつきに対処する性能が顕著に向上した。