[論文レビュー] Redefining the Down-Sampling Scheme of U-Net for Precision Biomedical Image Segmentation

Mingjie Li, Yizheng Chen+2 more|arXiv (Cornell University)|Feb 23, 2026

Advanced Neural Network Applications被引用数 0

ひとこと要約

論文はStair Poolingを提案する。U-Netのダウンサンプリング戦略として小さくて狭い一連のプーリング操作を用い、情報を保持する。BISベンチマークで約3.8% Dice向上、TEベースの経路最適化で経路数を削減。

ABSTRACT

U-Net architectures have been instrumental in advancing biomedical image segmentation (BIS) but often struggle with capturing long-range information. One reason is the conventional down-sampling techniques that prioritize computational efficiency at the expense of information retention. This paper introduces a simple but effective strategy, we call it Stair Pooling, which moderates the pace of down-sampling and reduces information loss by leveraging a sequence of concatenated small and narrow pooling operations in varied orientations. Specifically, our method modifies the reduction in dimensionality within each 2D pooling step from $\frac{1}{4}$ to $\frac{1}{2}$. This approach can also be adapted for 3D pooling to preserve even more information. Such preservation aids the U-Net in more effectively reconstructing spatial details during the up-sampling phase, thereby enhancing its ability to capture long-range information and improving segmentation accuracy. Extensive experiments on three BIS benchmarks demonstrate that the proposed Stair Pooling can increase both 2D and 3D U-Net performance by an average of 3.8\% in Dice scores. Moreover, we leverage the transfer entropy to select the optimal down-sampling paths and quantitatively show how the proposed Stair Pooling reduces the information loss.

研究の動機と目的

• 長距離情報を捉えるための重いアテンション型モデルを使わずにU-Netを改良する動機づけ。
• Stair Poolingを提案し、ダウンサンプリングを遅らせて重要特徴を保持する。
• 3DプーリングへStair Poolingを拡張し、体積的なBISタスクへ適用。
• 転送エントロピーを導入して最適なダウンサンプリング経路を選択。
• 2Dおよび3D BISベンチマークでの性能向上を実証。

提案手法

• 1x2および2x1の連結プーリング操作の連続に置換して、単一の2x2プーリングを置換する。
• 各プーリングの後に畳み込みとReLUを適用して経路間の線形相関を破る。
• すべてのプーリング経路から特徴を統合して最終的なダウンサンプリング表現を形成する。
• 2Dのダウンサンプリング次元を1/4から1/2へ減少させ、3Dプーリングへ拡張する。
• 特徴マップのエントロピー（ガウス近似）と転送エントロピーTEを計算して最適なダウンサンプリング経路を選択する。
• 2Dでは最適ダウンサンプリング経路の網羅探索を行い、TEガイドの経路剪定を議論する。

Figure 1 : The overview of our proposed Stair Pooling. It splits the original max pooling layer into a series of concatenated small and narrow pooling kernels. To break the linear relationship, each pooling operation is followed by a convolutional layer and a ReLU activation.

実験結果

リサーチクエスチョン

• RQ1 Stair Poolingはダウンサンプリング中の長距離情報保持によりBISでU-Netの性能を改善できるか？
• RQ2 TEベースの経路選択はモデルの効率と分割精度にどう影響するか？
• RQ3 Stair Poolingは3D BISタスクへ効果的に拡張できるか、トレードオフは何か？
• RQ4 2D対3DのBISデータセットにおいて、どのダウンサンプリング経路が好まれるか？
• RQ5 Stair Poolingを用いた場合、標準的なBISベンチマーク全体でDiceはどれだけ改善されるか？

主な発見

• Stair PoolingはBISベンチマークで平均Diceスコアを3.8%向上させる。
• TE選択バリアントは全体のDiceをさらに高め、いくつかの臓器指標を改善する。
• Stair Poolingは2D BISタスクで他のプーリング戦略（例：ハール小波、ピラミッドプーリング）より優れている。
• TEベースの経路最適化はモデルサイズを削減しつつ性能を維持または向上させる（Synapseの例）。
• 3D Stair Poolingは体積的BISへ拡張され、KiTS23で強力な3D分割結果を示す。
• 最適ダウンサンプリング経路は2Dデータセットでは水平方向優先、3D KiT23データセットでは初期z軸プーリングを好む。

Figure 2 : Qualitative comparison of different approaches on the Synapse dataset. From left to right: Ground Truth, U-Net, SwinUnet, UNet with HWT pooling, our SP UNet and the TE selected variant.