[論文レビュー] Focal-UNet: UNet-like Focal Modulation for Medical Image Segmentation

MohammadReza Naderi, MohammadHossein Givkashi+3 more|arXiv (Cornell University)|Dec 19, 2022

Advanced Neural Network Applications被引用数 20

ひとこと要約

Focal-UNetを導入します。Focal modulationを統合したUNet風アーキテクチャで、局所的機能と全体的機能のバランスを取り、医用画像分割の性能を向上させます。Swin-UNetよりもDiceが高く、ベンチマークデータセットでHausdorff指標が改善されます。

ABSTRACT

Recently, many attempts have been made to construct a transformer base U-shaped architecture, and new methods have been proposed that outperformed CNN-based rivals. However, serious problems such as blockiness and cropped edges in predicted masks remain because of transformers' patch partitioning operations. In this work, we propose a new U-shaped architecture for medical image segmentation with the help of the newly introduced focal modulation mechanism. The proposed architecture has asymmetric depths for the encoder and decoder. Due to the ability of the focal module to aggregate local and global features, our model could simultaneously benefit the wide receptive field of transformers and local viewing of CNNs. This helps the proposed method balance the local and global feature usage to outperform one of the most powerful transformer-based U-shaped models called Swin-UNet. We achieved a 1.68% higher DICE score and a 0.89 better HD metric on the Synapse dataset. Also, with extremely limited data, we had a 4.25% higher DICE score on the NeoPolyp dataset. Our implementations are available at: https://github.com/givkashi/Focal-UNet

研究の動機と目的

• トランスフォーマーベースのパッチ処理由来のアーティファクトに対処するため、Focal modulationを活用したUNet風アーキテクチャを提案する。
• 局所的なCNNスタイルの特徴とグローバルなトランスフォーマー風の文脈をバランスさせ、分割品質を向上させる。
• 標準的な医用分割ベンチマークで強力なトランスフォーマー系のU字型モデルを上回る。

提案手法

• 非対称のエンコーダ-デコーダ深さを持つU字型アーキテクチャを提案する。
• 局所およびグローバルな特徴を統合するフォーカルモジュレーションモジュールを組み込む。
• フォーカル機構を活用して広い受容野とCNNの局所的視野を融合する。
• SynapseおよびNeoPolypデータセットでSwin-UNetおよびベースラインと比較して評価する。

実験結果

リサーチクエスチョン

• RQ1 UNet風フレームワーク内のフォーカルモジュレーションは、トランスフォーマー系のU字型モデルより分割品質を向上させるか。
• RQ2 非対称なエンコーダ-デコーダ深さは、フォーカルモジュレーションと組み合わせると医用画像分割に有効か。
• RQ3 限定データ availabilityで標準データセットにおけるFocal-UNetの性能はどうなるか。

主な発見

• SynapseデータセットでSwin-UNetより1.68%高い Dice スコアを達成。
• SynapseデータセットでHausdorff距離（HD）を0.89改善。
• 極めて限定的なデータ条件下でNeoPolypデータセットでDiceスコアを4.25%向上。
• フォーカルモジュレーションが局所とグローバル機能のバランスを実現し、分割性能を向上させることを示す。