[論文レビュー] Structured SIR: Efficient and Expressive Importance-Weighted Inference for High-Dimensional Image Registration

Ivor Simpson, Neill D. F. Campbell|arXiv (Cornell University)|Mar 18, 2026

Medical Image Segmentation Techniques被引用数 0

ひとこと要約

Structured SIRは、サンプリング重要度リサンプリングを新規の低ランク＋スパースCholesky共分散パラメータ化と組み合わせることで、脳MRI登録における後方分布の較正とサンプル品質を、変分法より改善した、メモリ効率の良いマルチモーダル後方推定を3D画像登録へ適用する。

ABSTRACT

Image registration is an ill-posed dense vision task, where multiple solutions achieve similar loss values, motivating probabilistic inference. Variational inference has previously been employed to capture these distributions, however restrictive assumptions about the posterior form can lead to poor characterisation, overconfidence and low-quality samples. More flexible posteriors are typically bottlenecked by the complexity of high-dimensional covariance matrices required for dense 3D image registration. In this work, we present a memory and computationally efficient inference method, Structured SIR, that enables expressive, multi-modal, characterisation of uncertainty with high quality samples. We propose the use of a Sampled Importance Resampling (SIR) algorithm with a novel memory-efficient high-dimensional covariance parameterisation as the sum of a low-rank covariance and a sparse, spatially structured Cholesky precision factor. This structure enables capturing complex spatial correlations while remaining computationally tractable. We evaluate the efficacy of this approach in 3D dense image registration of brain MRI data, which is a very high-dimensional problem. We demonstrate that our proposed methods produces uncertainty estimates that are significantly better calibrated than those produced by variational methods, achieving equivalent or better accuracy. Crucially, we show that the model yields highly structured multi-modal posterior distributions, enable effective and efficient uncertainty quantification.

研究の動機と目的

• intrinsic ill-posedness と複数の妥当な変形が存在するため、確率的（不確実な）密な3D画像登録を動機づける。
• Expressive なマルチモーダル後方分布を捉えるためのメモリ効率の推論フレームワーク（Structured SIR）を開発する。
• 高次元の Z のための低ランクと空間的に構造化されたスパースCholesky因子を組み合わせた共分散パラメータ化を提案する。
• 脳MRIにおいてアンモータイズド変分法と比較して後方分布の較正とサンプル品質が改善されることを示す。
• 3D登録に実用的な推論を可能にする計算効率を示す。

提案手法

• 後方の表現力ある提案分布 q(Z) を形成するためにサンプリング重要度リサンプリング（SIR）を使用する。
• 共分散を Σ = R R^T + (L L^T)^{-1} と表現する。ここで R は低ランク、L はスパースな3D チョレスキ因子である。
• reparameterisation によって N_L サンプルを q(Z) から引く。Z^i = μ + R ϵ_R^i + L^{-T} ϵ_L^i、次に正規化されていない重み α^i を計算する。
• 重みを w^i に正規化し、多項分布リサンプリングを実行して勾配更新に有益なサンプルを選択する。
• 選択されたサンプル上で負の対数尤度を最適化する：L_SIR = -(1/N_k) ∑_k [ log p(I_f|I_m∘Z^k) + log p(Z^k) ]。
• NCC 系の尤度 p(I_f|I_m,Z) ∝ exp(-NCC(I_f, I_m∘Z)/σ^2) を採用し、Z に対して μ を強く事前分布化して探査を促進する拡散事前分布を用いる。

実験結果

リサーチクエスチョン

• RQ1 Structured SIR での共分散の構造化が、3D 脳MRI登録における多様な高次元変形後方分布をキャプチャできるか？
• RQ2 提案された共分散パラメータ化が、密な登録における含意推定より較正とサンプル品質を改善するか？
• RQ3 Structured SIR の下での登録精度、不確実性の較正、およびボクセル折り畳みのトレードオフはどうなるか？
• RQ4 標準GPU上で約1.6ミリオン次元の後方分布に対して、現実的な計算コストでの推論が可能か？

主な発見

• 構造化共分散を用いた SIR（特に S+LC）は、変分ベースのベースラインよりも後方分布の較正（ECE と AUSE）が改善されつつ、DSC の精度は等価またはそれ以上を維持した。
• SIR 後方分布からの Oracle サンプルは、平均サンプルや標準的な SIR サンプルと比較して大幅なセグメンテーション向上を達成し、多様性と構造化不確実性を意味することを示す。
• S+LC はラベルエントロピーと DSC の間に強い負の相関を示し、較正された不確実性が登録精度の信頼できる指標であることを示唆する。
• 全体の S+LC モデルは構造ごとの較正を改善し、精度と競合力を保ちながら不確実性の特性を大きく向上させる。
• Structured SIR による推論は迅速で、提案、サンプリング、重み付けを含めて単一GPUで5秒未満。
• アプローチは高度に構造化された多モーダルな後方サンプルを生み出し、質の高いサンプルを選択することでセグメンテーション伝播が顕著に改善される。