[論文レビュー] Edge-Aligned Initialization of Kernels for Steered Mixture-of-Experts

Martin Determann, Elvira Fleig|arXiv (Cornell University)|Feb 2, 2026

Medical Image Segmentation Techniques被引用数 0

ひとこと要約

デターミニスティックなエッジベース初期化を SMoE に導入。Canny エッジと線分を用いて輪郭に直交するカーネルを配置し、最適化時間を短縮しつつ再構成品質を競争力のある水準に保つ。

ABSTRACT

Steered Mixture-of-Experts (SMoE) has recently emerged as a powerful framework for spatial-domain image modeling, enabling high-fidelity image representation using a remarkably small number of parameters. Its ability to steer kernel-based experts toward structural image features has led to successful applications in image compression, denoising, super-resolution, and light field processing. However, practical adoption is hindered by the reliance on gradient-based optimization to estimate model parameters on a per-image basis - a process that is computationally intensive and difficult to scale. Initialization strategies for SMoE are an essential component that directly affects convergence and reconstruction quality. In this paper, we propose a novel, edge-based initialization scheme that achieves good reconstruction qualities while reducing the need for stochastic optimization significantly. Through a method that leverages Canny edge detection to extract a sparse set of image contours, kernel positions and orientations are deterministically inferred. A separate approach enables the direct estimation of initial expert coefficients. This initialization reduces both memory consumption and computational cost.

研究の動機と目的

• Steered Mixture of Experts (SMoE) のための高速でスケーラブルな初期化を、画像構造を活用して動機づける。
• エッジ情報を取り入れたパイプラインを提案し、カーネル位置と初期係数を決定的に設定する。
• その後の勾配に基づく最適化時のメモリと計算を削減する。
• 分割タイル処理を有効にして柔軟なメモリ使用と再構成忠実度を維持する。

提案手法

• Canny edge detection を使用してスパースな輪郭表現を抽出する。
• エッジを SMoE カーネルと対になるように線分表現に変換する。
• クラスタリングとスコアリング方式で候補セグメントを削減し、 salient kernel を選択する。
• セグメントに直交するようにカーネル平均を配置し、固定間隔で配置し、ステアリング行列を等方的に初期化する。
• カーネル中心での画素輝度をサンプリングしてエキスパート係数を初期化し、軽量な誤差最小化ステップでそれを refine する。
• 任意で画像をタイルに分割して各タイルの SMoEs を訓練し、最終的に全画像モデルを組み立てて微調整する。

実験結果

リサーチクエスチョン

• RQ1 エッジベースで決定的な初期化は gr id ベースの初期化と比較して収束速度を改善するか？
• RQ2 提案手法の初期化は、PSNR/SSIM などの再構成品質において、最先端の SMoE 初期化と比べてどうなるか？
• RQ3 メモリ効率の良いタイル処理を有効にしつつ、競争力のある性能を維持できるか？
• RQ4 クラスタリングによるカーネル数の制御が表現忠実度と計算量に与える影響は？

主な発見

• エッジ情報を取り入れた初期化は、エッジとテクスチャをより適切に保持する空間適応的なカーネル配置を生み出す。
• 手法はベースラインと比較して総収束時間を大幅に短縮する。
• 再構成品質（PSNR/SSIM）は grid ベースの初期化と競合しうるが、最高の S-SMoE や AS-SMoE 初期化にはわずかに及ばない。
• クラスタリングベースのカーネル選択はカーネル数を安定化させ、タイル処理を通じた柔軟なメモリ使用を可能にする。
• 勾配を使わない軽量なエキスパート係数の初期化はセットアップを高速化し、その後の勾配ベースの改良を許容する。