[論文レビュー] W-net: Bridged U-net for 2D Medical Image Segmentation.

Wanli Chen, Yue Zhang+5 more|arXiv (Cornell University)|Jul 12, 2018

Advanced Neural Network Applications被引用数 18

ひとこと要約

本稿では、2次元医療画像セグメンテーションの精度を向上させるために、ブリッジ構造を備えたより深いU-netの変種、W-netを提案する。勾配の消失と一般化性能の低さの問題に対処するため、新たな損失関数を導入し、勾配安定性と性能向上を図るハイブリッド活性化関数（ELU + ReLU）を採用。小規模な医療画像データセットにおいて最先端の結果を達成した。

ABSTRACT

In this paper, we focus on three problems in deep learning based medical image segmentation. Firstly, U-net, as a popular model for medical image segmentation, is difficult to train when convolutional layers increase even though a deeper network usually has a better generalization ability because of more learnable parameters. Secondly, the exponential ReLU (ELU), as an alternative of ReLU, is not much different from ReLU when the network of interest gets deep. Thirdly, the Dice loss, as one of the pervasive loss functions for medical image segmentation, is not effective when the prediction is close to ground truth and will cause oscillation during training. To address the aforementioned three problems, we propose and validate a deeper network that can fit medical image datasets that are usually small in the sample size. Meanwhile, we propose a new loss function to accelerate the learning process and a combination of different activation functions to improve the network performance. Our experimental results suggest that our network is comparable or superior to state-of-the-art methods.

研究の動機と目的

• 勾配消失や一般化性能の低さの問題により、小規模な医療画像データセット上で深層U-netアーキテクチャを効果的に学習することが困難であるという課題に対処する。
• 深層ネットワークにおける指数関数的ReLU（ELU）の有効性が限られていることを踏まえ、勾配の流れを改善するため、活性化関数を組み合わせることで学習安定性と性能を向上させる。
• Dice損失における学習の振動と収束の不十分さを解消するため、真値に近いセグメンテーション予測を想定した新しい損失関数を提案する。
• アーキテクチャの革新と損失関数の設計を通じて、医療画像セグメンテーションにおけるモデル性能と学習安定性を向上させる。

提案手法

• エンコーダーとデコーダーのブロックを残留接続に似たスキップ接続で接続するブリッジ付きU-netアーキテクチャを提案し、より深いネットワークにおける勾配の流れを改善する。
• 深層部における非線形性と勾配安定性のバランスを図るため、ELUとReLUを組み合わせたハイブリッド活性化関数を導入する。
• 予測値が真値に近い場合の勾配更新挙動を変更することで、学習中の振動を低減する新しい損失関数を設計する。
• 標準的なクロスエントロピー損失とDice損失と組み合わせて、新しい損失関数を適用し、収束の安定化と加速を図る。
• データオーグメンテーションとトランスファーラーニング技術を用いて、小規模な医療画像データセット上で学習を実施し、一般化性能を向上させる。
• Adam最適化法と学習率スケジューリングを用いてネットワークを最適化し、学習効率と性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 過学習や勾配消失を伴わず、小規模な医療画像データセット上でより深いU-netアーキテクチャを効果的に学習できるか？
• RQ2 ELUとReLUを組み合わせることで、単独で使用する場合と比較して、深層U-net変種における学習安定性と性能が向上するか？
• RQ3 修正された損失関数により、予測値が真値に近い場合に特に顕著な振動の低減と収束速度の向上が達成できるか？
• RQ4 提案されたW-netアーキテクチャは、小規模データセットにおけるセグメンテーション精度と頑健性の面で、最先端手法と比較して優れているか？

主な発見

• 限られたトレーニングサンプルでも、ベンチマーク医療画像データセットにおいて、最先端の手法と同等または優れたセグメンテーション性能を達成した。
• ハイブリッド活性化関数（ELU + ReLU）は、標準的なReLUや単独のELUと比較して、学習安定性とモデル収束性を向上させた。
• 新しい損失関数は、特に予測値が真値に近づく最終学習段階で、学習の振動を顕著に低減した。
• ブリッジ付きU-netアーキテクチャにより、より深いネットワークの実装が可能となり、勾配の流れが改善され、特徴量の学習とセグメンテーション精度が向上した。
• モデルは小規模データセットにおいて優れた一般化性能を示し、医療画像診断で一般的なデータ不足の問題に対しても頑健であることが示された。
• 定量的評価では、Diceスコアの向上と損失の分散低減が確認され、学習安定性と性能の向上が裏付けられた。