[論文レビュー] Rethinking Skip Connections: Additive U-Net for Robust and Interpretable Denoising

Vikram R Lakkavalli|arXiv (Cornell University)|Jan 19, 2026

Image and Signal Denoising Methods被引用数 0

ひとこと要約

本論文は連結型スキップ接続をゲート付き加法スキップと減算的エンコードに置換し、解釈可能なクロススケール寄与とともに Kodak-17 ノイズ除去性能を競合させる additive U-Net を提案する。

ABSTRACT

Skip connections are central to U-Net architectures for image denoising, but standard concatenation doubles channel dimensionality and obscures information flow, allowing uncontrolled noise transfer. We propose the Additive U-Net, which replaces concatenative skips with gated additive connections. Each skip pathway is scaled by a learnable non-negative scalar, offering explicit and interpretable control over encoder contributions while avoiding channel inflation. Evaluations on the Kodak-17 denoising benchmark show that Additive U-Net achieves competitive PSNR/SSIM at noise levels σ = 15, 25, 50, with robustness across kernel schedules and depths. Notably, effective denoising is achieved even without explicit down/up-sampling or forced hierarchies, as the model naturally learns a progression from high-frequency to band-pass to low-frequency features. These results position additive skips as a lightweight and interpretable alternative to concatenation, enabling both efficient design and a clearer understanding of multi-scale information transfer in reconstruction networks.

研究の動機と目的

• ノイズ除去ネットワークにおける情報のスケール間フローを再検討し、標準スキップから生じるチャンネル膨張とノイズ漏れを対処する。
• 各スキップを制御するスカラーゲートを持つ軽量で解釈可能なエンコーダ–デコーダ設計を提案する。
• Gaussian ノイズ下で Kodak-17 に対して競争力のあるノイズ除去性能を示しつつ、特徴融合の解釈性を可能にする。

提案手法

• U-Net の連結的スキップをゲート付き加法接続に置換し、各スキップを学習可能な非負係数 alpha_j でスケールする。
• デコーダでのガイド融合のために残存スキップ特徴をキャッシュする減算的エンコードをエンコーダで使用する（式2）。
• チャンネル幅を一定に保ち、チャンネルの膨張を回避し、下位/上位サンプリングを省略する。
• Charbonnier 損失で訓練し、AWGN のシグマ {15,25,50} に対して PSNR/SSIM を評価する。
• カーネルスケジュールと深さを探索（例：3-3-3-3-3、5-5-5-5-5、9-7-5-3-1）し、DnCNN や pseudo-additive U-Net などのベースラインと比較する。
• 情報がスケール間でどのように流れるかを解釈するための周波数領域およびゲート解析を提供する。

実験結果

リサーチクエスチョン

• RQ1 加法的ゲート付きスキップ接続は、ノイズ除去ネットワークにおける解釈可能で制御可能なクロススケール情報フローを提供できるか。
• RQ2 加法的スキップはチャンネル膨張や上下採取なしでも競争力のある除去性能を提供するか。
• RQ3 学習されたスキップ重みは、深さに応じたネットワークの周波数志向の特徴進行とどう関連するか。
• RQ4 Kodak-17 ノイズ除去で標準ベースラインに匹敵する明確な解釈性を保ちつつ、軽量なアーキテクチャを維持できるか。
• RQ5 異なるカーネルスケジュールと深さが加法スキップ除去の性能にどのようなトレードオフをもたらすか。

主な発見

Model（深さ・カーネル）	sigma=15 PSNR/SSIM	sigma=25 PSNR/SSIM	sigma=50 PSNR/SSIM
P-AddU (5, 3-3-3-3-3)	32.03 / 0.898	29.68 / 0.844	26.49 / 0.743
R-AddU (5, 3-3-3-3-3)	31.53 / 0.888	29.21 / 0.833	25.34 / 0.709
R-AddU (5, 5-5-5-5-5)	31.03 / 0.879	28.98 / 0.821	25.67 / 0.707
R-AddU (5, 9-7-5-3-1)	31.73 / 0.896	28.88 / 0.828	25.23 / 0.719
R-AddU (5, 1-3-5-7-9)	30.16 / 0.887	27.46 / 0.827	24.00 / 0.721
R-AddU (3, 3-3-3)	31.63 / 0.891	29.34 / 0.836	26.31 / 0.732

• Additive U-Net はノイズレベル sigma=15,25,50 で Kodak-17 に対して競争的な PSNR/SSIM を達成する。
• 学習されたスキップ重みは解釈可能な寄与を提供し、学習値付近でピーク性能を示す。
• 周波数分析は、高周波から低周波への特徴の進行が明示的なマルチスケール設計なしに出現することを示す。
• 下位/上位サンプリングのないモデルは解像度のバイアスを回避しつつノイズ除去効果を維持する。
• 異なるカーネルスケジュールは、微細ディテールの保持と全体的な清浄さとのトレードオフを明らかにする。
• リアルな Additive U-Net の定性的結果は、DnCNN および擬似加法ベースラインと比べてエッジがシャープでノイズ漏れが抑制されている。