[論文レビュー] Ensembles of Multiple Models and Architectures for Robust Brain Tumour Segmentation

Konstantinos Kamnitsas, Wenjia Bai+9 more|arXiv (Cornell University)|Nov 4, 2017

Brain Tumor Detection and Classification参考文献 20被引用数 59

ひとこと要約

本論文は、脳腫瘍のセグメンテーションを堅牢にするための多様なCNNアーキテクチャのアンサンブルであるEMMAを提案し、モデル構成のバイアスを周辺化することでBRATS 2017でトップ性能を達成した。

ABSTRACT

Deep learning approaches such as convolutional neural nets have consistently outperformed previous methods on challenging tasks such as dense, semantic segmentation. However, the various proposed networks perform differently, with behaviour largely influenced by architectural choices and training settings. This paper explores Ensembles of Multiple Models and Architectures (EMMA) for robust performance through aggregation of predictions from a wide range of methods. The approach reduces the influence of the meta-parameters of individual models and the risk of overfitting the configuration to a particular database. EMMA can be seen as an unbiased, generic deep learning model which is shown to yield excellent performance, winning the first position in the BRATS 2017 competition among 50+ participating teams.

研究の動機と目的

• 多様なCNNアーキテクチャとメタパラメータの中で、脳腫瘍の堅牢なセグメンテーションを動機づける。
• バイアスを減らすためにモデル構成を周辺化するフレームワークを提案する。
• 異種モデル間で予測を平均化するアンサンブル（EMMA）を構築する。
• BRATS 2017データ全体での堅牢性と一般化能力を実証する。

提案手法

• 多様なCNN群（DeepMedic系、3つの3D FCN、2つの3D U-Netsを含む）からなるアンサンブルを構築する。
• 異なる前処理、損失関数、およびメタパラメータを用いて各モデルを訓練し、高いアーキテクチャ／構成のばらつきを誘発する。
• モデル間でボクセルごとのクラス信頼度マップを平均化し、各ボクセルを平均信頼度が最も高いクラスに割り当てることでアンサンブルする。
• 複数の強度正規化でデータを前処理し、正規化効果を抑えるため予測を平均化する。
• EMMAをメタパラメータmの周辺化として形式化し、真の事後分布P(y|x)を近似する。
• BRATS 2017データで評価し、トップチームと比較する。

実験結果

リサーチクエスチョン

• RQ1 多様なアーキテクチャからの予測を統合することで、特定のモデルのメタパラメータへの依存を低減できるか？
• RQ2 EMMAはBRATSの訓練/検証/テストの分割を横断した堅牢性と一般化を改善するか？
• RQ3 異なる前処理／正規化パイプラインに対してEMMAはどのように機能するか？

主な発見

DSC (強調)	DSC (全体)	DSC (コア)	感度 (強調)	感度 (全体)	感度 (コア)	Hausdorff_95 (強調)	Hausdorff_95 (全体)	Hausdorff_95 (コア)	#提出
73.8	90.1	79.7	78.3	89.5	76.2	4.50	4.23	6.56	2
78.6	90.5	83.8	77.1	91.5	82.2	3.28	3.89	6.48	21
73.2	89.6	79.7	79.0	89.6	78.1	4.55	6.97	9.48	2
72.9	88.6	78.5	-	-	-	36.0	5.01	23.1	1

• EMMAはBRATS 2017のテストで50チーム超の中で最良の総合性能を達成（DiceスコアとHausdorff指標）.
• 多様なアーキテクチャ間のアンサンブルは個々のモデルバイアスとメタパラメータへの感度を低減する。
• EMMAは検証セットとテストセットで同様の性能を示し、データセットシフトに対する堅牢性を示唆する。
• EMMAを介して複数の強度正規化を組み込むことで、正規化に関連する性能変動を緩和する。
• このアプローチはP(y|x)のより客観的で構成に依存しない近似を提供する。