[論文レビュー] Neural Ordinary Differential Equations for Semantic Segmentation of Individual Colon Glands

Hans Pinckaers, Geert Litjens|arXiv (Cornell University)|Oct 23, 2019

Radiomics and Machine Learning in Medical ImagingMedicine被引用数 20

ひとこと要約

本稿では、組織病理学的画像における腸管腺のセマンティックセグメンテーションのための、U-Netにニューラル常微分方程式（NODE）を統合したU-Nodeを提案する。標準の残差ブロックを連続的深さを持つNODEに置き換えることで、パラメータ数を93%削減（200万対3000万）し、メモリ使用量も低減しつつ、推論および学習時に関数評価回数を変動させることで適応的受容 field を実現し、GlaSデータセット上で優れたセグメンテーション精度を達成した。

ABSTRACT

Automated medical image segmentation plays a key role in quantitative research and diagnostics. Convolutional neural networks based on the U-Net architecture are the state-of-the-art. A key disadvantage is the hard-coding of the receptive field size, which requires architecture optimization for each segmentation task. Furthermore, increasing the receptive field results in an increasing number of weights. Recently, Neural Ordinary Differential Equations (NODE) have been proposed, a new type of continuous depth deep neural network. This framework allows for a dynamic receptive field at a fixed memory cost and a smaller amount of parameters. We show on a colon gland segmentation dataset (GlaS) that these NODEs can be used within the U-Net framework to improve segmentation results while reducing memory load and parameter counts.

研究の動機と目的

• 標準のU-Netアーキテクチャにおける固定受容 field の制限を解決すること。これは、深さに応じてパラメータ数が増加するため、手動でのアーキテクチャチューニングが不可欠となる。
• ニューラル常微分方程式（NODE）が、医療画像セグメンテーションにおいてメモリ効率的で、適応的受容 field を実現できるかを検討すること。
• GlaS腸管腺セグメンテーションベンチマーク上で、NODEベースのネットワークの性能を、標準U-Netおよび残差ベースの基準手法と比較して評価すること。
• NODEが、動的で文脈に適応した特徴抽出を可能にすることで、モデルサイズとメモリ使用量を削減しながら、セグメンテーション精度を向上させられることを示すこと。

提案手法

• 標準の残差ブロックをODE系で定義された連続的深さブロックに置き換え、U-NetのエンコーダおよびデコーダパスにニューラルODEを統合する。
• ODEソルバーを介した誤差逆伝播を効率的に行うために、随伴法（adjoint method）を用い、中間活性化値の保存を回避し、メモリ消費量を低減する。
• 精度と計算コストのバランスを図るため、5次精度のDormand-Prince（dopri5）ODEソルバーを用い、許容誤差を1e-3に設定する。
• 各画像および各層に対して関数評価回数（NFE）を可変に設定し、入力の複雑さに応じて受容 field を動的に調整可能な適応的受容 field を実現する。
• データオーグメンテーション（平行移動、反転、回転、弾性歪み、色のずれ）を適用し、交差エントロピー損失関数を用いてAdam最適化法でモデルを学習する。
• 推論時にテスト時オーグメンテーションを実施し、反転処理を実行して平均化することで、モデルのロバスト性と一般化性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ニューラルODEは、モデルサイズとメモリ使用量を削減しつつ、医療画像におけるセマンティックセグメンテーションの性能を向上させられるか？
• RQ2 NODEが有する適応的受容 field は、複雑な組織病理学的画像において、より優れた一般化性能とセグメンテーション精度をもたらすか？
• RQ3 NODEを統合したU-Netの性能は、標準U-Netおよび残差U-Netの変種と比較して、腸管腺セグメンテーションにおいてどのように異なるか？
• RQ4 NODEの連続的深さアーキテクチャは、標準U-Netと比較して顕著に少ないパラメータ数で高い精度を維持できるか？

主な発見

• U-Nodeは、GlaSテストセット全体においてオブジェクトDiceスコア0.881を達成し、標準U-Net（0.868）およびU-ResNet（0.757）を上回った。
• U-Nodeはハウスドルフ距離59.5を記録し、U-Net（69.6）およびU-ResNet（122）よりも顕著に低く、形状類似度が優れていることを示した。
• U-Netの3000万パラメータに対して93%も削減された200万パラメータで運用されたにもかかわらず、U-Nodeはすべての指標で元のU-Netと同等またはそれを上回る性能を示した。
• 定性的な結果から、ノイズが少なく、境界の明確なセグメンテーション品質が向上しており、特に大きな腺に対して顕著に改善が見られた。
• 関数評価回数の可変性により実現された適応的受容 field は、ネットワークが文脈の使用を動的に調整できることを示し、特に難易度の高いパッチでは高いNFEが有効に機能した。
• ODEソルバーの繰り返し呼び出しにより学習が標準U-Netより遅くなったが、推論時にNFEを制御することで、速度と精度のトレードオフを柔軟に制御可能であることを示した。