[論文レビュー] HAD-Net: A Hierarchical Adversarial Knowledge Distillation Network for Improved Enhanced Tumour Segmentation Without Post-Contrast Images

Saverio Vadacchino, Raghav Mehta+4 more|arXiv (Cornell University)|Mar 30, 2021

Advanced Neural Network Applications参考文献 31被引用数 8

ひとこと要約

HAD-Net は、階層的敵対的知識蒸留フレームワークを提案し、術前 T1ce 画像を必要とせずに、事前に学習された教師ネットワークからマルチスケール特徴知識を階層的ディスクライマーを介して蒸留することで、MRI における強化腫瘍の正確なセグメンテーションを可能にする。本手法は最先端の性能を達成し、既存手法と比較して強化腫瘍の Dice スコアを最大 26% 向上させるとともに、不確実性の定量化を著しく向上させた。

ABSTRACT

Segmentation of enhancing tumours or lesions from MRI is important for detecting new disease activity in many clinical contexts. However, accurate segmentation requires the inclusion of medical images (e.g., T1 post contrast MRI) acquired after injecting patients with a contrast agent (e.g., Gadolinium), a process no longer thought to be safe. Although a number of modality-agnostic segmentation networks have been developed over the past few years, they have been met with limited success in the context of enhancing pathology segmentation. In this work, we present HAD-Net, a novel offline adversarial knowledge distillation (KD) technique, whereby a pre-trained teacher segmentation network, with access to all MRI sequences, teaches a student network, via hierarchical adversarial training, to better overcome the large domain shift presented when crucial images are absent during inference. In particular, we apply HAD-Net to the challenging task of enhancing tumour segmentation when access to post-contrast imaging is not available. The proposed network is trained and tested on the BraTS 2019 brain tumour segmentation challenge dataset, where it achieves performance improvements in the ranges of 16% - 26% over (a) recent modality-agnostic segmentation methods (U-HeMIS, U-HVED), (b) KD-Net adapted to this problem, (c) the pre-trained student network and (d) a non-hierarchical version of the network (AD-Net), in terms of Dice scores for enhancing tumour (ET). The network also shows improvements in tumour core (TC) Dice scores. Finally, the network outperforms both the baseline student network and AD-Net in terms of uncertainty quantification for enhancing tumour segmentation based on the BraTs 2019 uncertainty challenge metrics. Our code is publicly available at: https://github.com/SaverioVad/HAD_Net

研究の動機と目的

• T1ce 画像が安全性の懸念から利用できない状況において、MRI における正確な強化腫瘍セグメンテーションを解決すること。
• 深層学習ベースのセグメンテーションモデルにおいて、T1ce シーケンスが欠落することで生じる大きなドメインシフトを克服すること。
• セグメンテーション出力の不確実性定量化を向上させ、モデルの信頼性を正確に反映すること。
• 教師ネットワークから学生ネットワークへ階層的でマルチスケールの特徴表現を転送する知識蒸留フレームワークを開発すること。
• T1ce 影像が欠如している状況において、既存のモダリティに依存しないおよび知識蒸留ベースのセグメンテーション手法を上回ること。

提案手法

• すべての MRI シーケンス（T1、T2、FLAIR、T1ce）にアクセス可能な事前に学習された教師ネットワークを用い、非対照シーケンスでのみ学習する学生ネットワークを監視する。
• 複数の解像度スケールで教師の潜在特徴を学生ネットワークに蒸留するため、階層的ディスクライマーを導入する。
• 各スケールで敵対的学習を適用し、学生の特徴分布を教師のものと一致させることで、ドメインシフトを低減する。
• 知識蒸留をオフラインで実行するため、推論時に T1ce が必要ない学生ネットワークが、頑健な表現を学習できる。
• テスト時にモンテカルロドロップアウトを用いて、セグメンテーション出力の不確実性推定を生成する。
• BraTS 2019 データセットを用い、Dice スコアと不確実性定量化指標を用いて、本手法を訓練および評価した。

実験結果

リサーチクエスチョン

• RQ1 T1ce MRI シーケンスが欠落している状況において、階層的敵対的学習を用いた知識蒸留がセグメンテーション性能を向上させることができるか？
• RQ2 本手法である HAD-Net は、対照強化画像が欠落していることによる腫瘍セグメンテーションにおけるドメインシフトを低減するか？
• RQ3 T1ce シーケンスが欠如している状況において、HAD-Net は U-HeMIS や U-HVED といったモダリティに依存しないセグメンテーション手法と比較して優れているか？
• RQ4 HAD-Net は、正しい予測に対して自信を持ち、誤りに対しては不確実性を明確に示すような不確実性定量化を向上させることができるか？
• RQ5 ディスクライマーの階層的構造は、非階層的代替手法よりも優れた特徴転送を実現するか？

主な発見

• T1ce 画像が欠落している状況において、HAD-Net は U-HVED よりも強化腫瘍の Dice スコアを 26.0% 相対的に向上させた。
• BraTS 2019 データセットにおいて、HAD-Net は U-HeMIS より 18.9%、KD-Net+ より 17.2% の Dice スコア向上を達成した。
• 知識蒸留なしのベースライン学生ネットワークと比較して、HAD-Net は強化腫瘍の Dice スコアを 16.2% 向上させた。
• 本手法は、非階層的バージョンである AD-Net よりも 18.7% のスコア向上を達成した。
• HAD-Net は不確実性定量化において統計的に有意な改善を示し、低い不確実性閾値において誤検出（偽陰性）と真正陽性の分離が良好であった。
• HAD-Net の不確実性推定はより信頼性が高く、高い信頼度の予測はより正確であり、誤った予測は不確実性として顕著に浮き彫りにされた。