[論文レビュー] A hybrid approach for improving U-Net variants in medical image segmentation

Aitik Gupta, Joydip Dhar|arXiv (Cornell University)|Jul 31, 2023

AI in cancer detectionComputer Science被引用数 3

ひとこと要約

本稿では、深層分離畳み込み、残差接続、および注目力プーリング機構を統合したハイブリッドU-Netの変種を提案する。この手法により、皮膚腫瘍および甲状腺 gland データセットにおけるセグメンテーション精度を維持または向上させつつ、モデルパラメータ数を97%削減した。わずか230万パラメータで最先端の性能を達成し、精度を損なわず推論効率を著しく向上させた。

ABSTRACT

Medical image segmentation is vital to the area of medical imaging because it enables professionals to more accurately examine and understand the information offered by different imaging modalities. The technique of splitting a medical image into various segments or regions of interest is known as medical image segmentation. The segmented images that are produced can be used for many different things, including diagnosis, surgery planning, and therapy evaluation. In initial phase of research, major focus has been given to review existing deep-learning approaches, including researches like MultiResUNet, Attention U-Net, classical U-Net, and other variants. The attention feature vectors or maps dynamically add important weights to critical information, and most of these variants use these to increase accuracy, but the network parameter requirements are somewhat more stringent. They face certain problems such as overfitting, as their number of trainable parameters is very high, and so is their inference time. Therefore, the aim of this research is to reduce the network parameter requirements using depthwise separable convolutions, while maintaining performance over some medical image segmentation tasks such as skin lesion segmentation using attention system and residual connections.

研究の動機と目的

• U-Netの変種におけるトレーニング可能なパラメータ数を削減し、医療画像セグメンテーションにおける推論効率を向上させること。
• 皮膚腫瘍および甲状腺 gland セグメンテーションなどの困難な医療画像認識タスクにおいて、セグメンテーション精度を維持または向上させること。
• パラメータ数を削減しながら特徴表現能力を保持するため、深層分離畳み込みを統合すること。
• 残差接続と注目力プーリングによる特徴学習の強化を通じて、勾配の流れを改善し、関連する領域に注目を向けること。
• 公開データセット上でハイブリッドアーキテクチャを検証し、MultiResUNet や Attention U-Net などの最先端モデルと比較すること。

提案手法

• エンコーダー部に深層分離畳み込みを適用し、空間的およびチャネル別畳み込みを分離することで、パラメータ数を削減する。
• エンコーダーとデコーダーのブロック間には残差接続を追加し、訓練の安定性と勾配の流れを向上させる。
• デコーディングの前に、エンコーダーの特徴マップにおいて重要な特徴を動的に強調するための注目力プーリング機構を導入する。
• ハイブリッドアーキテクチャは、U-Netのスキップ接続の利点に加え、深層分離畳み込みの効率性と注目力メカニズムによる選択的特徴重み付けを統合する。
• バイナリクロスエントロピー損失関数を用い、Adam最適化法（初期基準学習率1e-4）でエンドツーエンドに訓練する。
• 各コンポonent（深層畳み込み、残差接続、注目力プーリング）の寄与度を分離するためのアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 深層分離畳み込みは、U-Netの変種におけるパラメータ数を顕著に削減できるか、かつセグメンテーション性能を劣化させないか？
• RQ2 残差接続の統合は、軽量U-Netアーキテクチャにおける訓練の安定性とセグメンテーション精度にどのように影響するか？
• RQ3 提案された注目力プーリング機構は、低パラメータ数モデルにおける特徴表現とセグメンテーション精度をどの程度向上させるか？
• RQ4 MultiResUNet や Attention U-Net などの最先端のU-Net変種と比較して、ハイブリッドモデルの精度とパラメータ効率はどの程度か？
• RQ5 提案されたアーキテクチャは、皮膚腫瘍および甲状腺 gland セグメンテーションのような多様な医療画像認識タスクに一般化しやすいか？

主な発見

• 提案されたハイブリッドモデルは、HAM10000皮膚腫瘍データセットでDice係数0.8872を達成し、U-Net（0.8739）および Attention U-Net（0.8854）を上回った。
• モデルのパラメータ数は230万にまで削減され、MultiResUNet（6480万）と比較して97%削減、Attention U-Net（3488万）と比較して93%削減された。
• 甲状腺 gland セグメンテーションデータセットでは、Dice係数0.9493、精度0.9766を達成し、U-Net（0.9332および0.9347）を上回り、極めて少ないパラメータ数で MultiResUNet と同等の性能を達成した。
• アブレーションスタディの結果、深層畳み込み、残差接続、注目力プーリングの組み合わせが、甲状腺データセットで最高のIoU（0.9544）と最小のASSD（0.0953）を達成した。
• 可視化結果から、ぼやけた腫瘍境界、髪の毛による遮蔽、低コントラスト領域といった困難なケースにおいて、U-Netを上回る性能を示した。
• パラメータ効率とセグメンテーション精度の両面で最良のバランスを達成し、最小限の計算コストで最先端の性能を示した。