[論文レビュー] V-NAS: Neural Architecture Search for Volumetric Medical Image Segmentation

Zhuotun Zhu, Chenxi Liu+3 more|arXiv (Cornell University)|Jun 6, 2019

Advanced Neural Network Applications参考文献 29被引用数 12

ひとこと要約

本稿では、ボリュメトリック医療画像セグメンテーションのための最適な2D、3D、および疑似3D（P3D）畳み込みの組み合わせを自動で学習する微分可能ニューラルアーキテクチャサーチフレームワーク、V-NASを提案する。アーキテクチャ探索を連続的・微分可能な最適化問題として定式化することで、3つの公的データセットにおいて正常および異常臓器セグメンテーションタスクの両方で最先端の性能を達成し、検索されたアーキテクチャは異なるデータセット間で良好に一般化される。

ABSTRACT

Deep learning algorithms, in particular 2D and 3D fully convolutional neural networks (FCNs), have rapidly become the mainstream methodology for volumetric medical image segmentation. However, 2D convolutions cannot fully leverage the rich spatial information along the third axis, while 3D convolutions suffer from the demanding computation and high GPU memory consumption. In this paper, we propose to automatically search the network architecture tailoring to volumetric medical image segmentation problem. Concretely, we formulate the structure learning as differentiable neural architecture search, and let the network itself choose between 2D, 3D or Pseudo-3D (P3D) convolutions at each layer. We evaluate our method on 3 public datasets, i.e., the NIH Pancreas dataset, the Lung and Pancreas dataset from the Medical Segmentation Decathlon (MSD) Challenge. Our method, named V-NAS, consistently outperforms other state-of-the-arts on the segmentation task of both normal organ (NIH Pancreas) and abnormal organs (MSD Lung tumors and MSD Pancreas tumors), which shows the power of chosen architecture. Moreover, the searched architecture on one dataset can be well generalized to other datasets, which demonstrates the robustness and practical use of our proposed method.

研究の動機と目的

• ボリュメトリック医療画像セグメンテーションにおける固定された2D、3D、またはP3D畳み込みネットワークの限界、すなわち3次元空間的文脈を無視するか、計算コストが高くなる問題に対処すること。
• ボリュメトリック医療データの特性に応じて、各層で2D、3D、P3D畳み込みのうち最適な構成を自動で学習する方法を開発すること。
• 検索されたアーキテクチャが、異なる医療画像データセット間で一般化できるかどうかを評価すること、特に正常および異常臓器セグメンテーションにおいて。
• 微分可能ニューラルアーキテクチャサーチが、手作業で設計されたアーキテクチャを上回るセグメンテーション精度を達成するか、計算効率を維持しながら示すこと。

提案手法

• ボリュメトリックセグメンテーションのためのニューラルアーキテクチャサーチを、微分可能で連続的な最適化問題として定式化し、アーキテクチャパラメータのエンドツーエンド学習を可能にする。
• 各層が2D、3D、および疑似3D（P3D）畳み込みのうち動的に選択可能となる探索空間を導入し、P3Dは3Dカーネルを2つの連続する2D畳み込み（k×k×1 および 1×1×k）に置き換える。
• 微分可能アーキテクチャサーチ（DARTS風）による連続的リラクゼーションを用いて、各層における畳み込みタイプの選択を勾配ベース最適化可能にする。
• 事前学習を経ずに単一段階の微分可能探索プロセスを用いて、アーキテクチャと重みを同時に最適化する。
• 複数のデータセットにわたるアーキテクチャ空間を効率的に探索するため、単一パス探索戦略と共有重みを1セット用いる。
• NIH Pancreas、MSD Lung Tumors、MSD Pancreas Tumorsデータセットのホールドアウトテストセットに対して、最終的に検索されたアーキテクチャの性能と一般化能力を評価する。

実験結果

リサーチクエスチョン

• RQ1 微分可能なニューラルアーキテクチャサーチフレームワークは、ボリュメトリック医療画像セグメンテーションのための2D、3D、および疑似3D畳み込みの最適な組み合わせを自動で発見できるか？
• RQ2 提案されたV-NAS手法は、畳み込みタイプを固定した手作業で設計されたアーキテクチャ（例：純粋な2D、3D、P3D）を上回るセグメンテーション精度を達成するか？
• RQ3 1つのデータセットで検索されたアーキテクチャは、異なる解剖的構造や病変を有する他の医療画像データセットに対しても効果的に一般化できるか？
• RQ4 V-NASの性能は、正常臓器および異常腫瘍セグメンテーションタスクの両方において、最先端の手法と比較してどうなるか？

主な発見

• NIH Pancreasデータセットでは、V-NASが85.15%の平均Dice類似係数（DSC）を達成し、すべての手動設定アーキテクチャ、特に最良の手動設定（P3D/P3Dで84.75%）を上回った。
• MSD Lung Tumorsデータセットでは、V-NASが55.27%の平均DSCを達成し、最良の手動設定（3D/3Dで53.74%）を1.53%上回った。
• MSD Pancreas Tumorsデータセットでは、V-NASが最先端の性能を達成し、正常および異常臓器セグメンテーションタスクの両方で一貫した優位性を示した。
• 1つのデータセットで検索されたアーキテクチャは他のデータセットに対しても良好に一般化され、臨床現場での実用的・頑健な応用可能性を示唆した。
• アブレーションスタディにより、NASによる畳み込みタイプの自動選択が固定された手動設定を上回ることが確認され、多様な解剖的・病理的変異に柔軟に対応できるアーキテクチャの柔軟性の重要性が浮き彫りになった。
• 本手法は計算効率が高く、事前学習を必要とせず、アーキテクチャと重みの両方を直接エンドツーエンド最適化可能である。