[論文レビュー] Multiplicative noise in Bayesian inverse problems: Well-posedness and consistency of MAP estimators

Matthew M. Dunlop|arXiv (Cornell University)|Oct 31, 2019

Markov Chains and Monte Carlo Methods参考文献 21被引用数 7

ひとこと要約

本稿は、純粋に乗法的および混合加法的・乗法的モデルを含む、乗法的ノイズを伴うベイズ的逆問題における最大後確信度（MAP）推定器の適切な定義と一貫性を確立する。データ摂動に対する事後分布の連続性を証明し、ガウス的事前分布およびノイズのもとで、小さなノイズの極限におけるMAP推定器の一貫性を示す。加法的ノイズは前向き写像に関する要件を緩和する正則化として機能する。

ABSTRACT

Multiplicative noise arises in inverse problems when, for example, uncertainty on measurements is proportional to the size of the measurement itself. The likelihood that arises is hence more complicated than that from additive noise. We consider two multiplicative noise models: purely multiplicative noise, and a mixture of multiplicative noise and additive noise. Adopting a Bayesian approach, we provide conditions for the resulting posterior distributions on Banach space to be continuous with respect to perturbations in the data; the inclusion of additive noise in addition to multiplicative noise acts as a form of regularization, allowing for milder conditions on the forward map. Additionally, we show that MAP estimators exist for both the purely multiplicative and mixed noise models when a Gaussian prior is employed, and for the latter prove that they are consistent in the small noise limit when all noise is Gaussian.

研究の動機と目的

• 乗法的ノイズを伴うベイズ的逆問題の適切な定義を確立し、観測データの摂動に対して事後分布が連続であることを保証する。
• 純粋に乗法的および混合加法的・乗法的ノイズモデルにおけるMAP推定器の存在と一貫性を分析する。
• 加法的ノイズの導入が、前向き作用素に関する仮定を緩和する正則化として機能し、問題の正則性と適切な定義に与える影響を示す。
• 文献でほとんど注目されていない乗法的ノイズモデルに、関数空間上のベイズ解析の枠組みを拡張する。
• 特に画像処理や地下流体分野の応用において、乗法的ノイズを伴う逆問題でMAP推定器を用いる理論的根拠を提供する。

提案手法

• Banach空間上のベイズ的枠組みを用いて、乗法的ノイズを伴う逆問題における不確実性をモデル化する。
• 2つのモデルを分析する：純粋に乗法的ノイズ（y = ηₘG(u)）と混合加法的・乗法的ノイズ（y = ηₘG(u) + ηₐ）。
• 両モデルにおけるMAP推定器の存在を保証するため、ガウス的事前分布を採用する。
• 変分法を用いて、負の対数尤度と正則化の和の最小化問題としてMAP推定器を導出する。
• 前向き写像およびノイズ分布に関する条件を用いて、事後分布の連続性を確立する。特に、加法的ノイズが正則化として機能することを活用する。
• 有限次元近似とノルム同値性を用いて、事後分布のモーメントを評価し、小さなノイズの極限における一貫性を証明する。

実験結果

リサーチクエスチョン

• RQ1 乗法的ノイズを伴うベイズ的逆問題において、観測データの摂動に対して事後分布が連続となる条件は何か？
• RQ2 ガウス的事前分布を用いた場合、純粋に乗法的および混合加法的・乗法的ノイズモデルにおけるMAP推定器は存在するか？
• RQ3 加法的ノイズの導入は、乗法的ノイズを伴う逆問題の正則性と適切な定義にどのように影響するか？
• RQ4 ガウス的仮定のもとで、混合ノイズモデルにおけるMAP推定器は小さなノイズの極限で一貫性を示すか？
• RQ5 加法的ノイズモデルの理論的枠組みを、より複雑な尤度構造を示す乗法的ノイズモデルに拡張可能か？

主な発見

• 加法的ノイズが存在する場合、特にその正則化作用を考慮すると、やや弱い条件下でも、観測データの摂動に対して事後分布が連続であることが示された。
• ガウス的事前分布を用いた場合、純粋に乗法的および混合ノイズモデルの両方において、MAP推定器が存在することが確認された。
• 混合ノイズモデルにおいて、適切な正則性条件のもとで、MAP推定器は小さなノイズの極限において一貫性を示し、真の状態に収束することがわかった。
• 加法的ノイズの存在により、前向き作用素Gに関する仮定を緩和でき、解析のロバスト性が向上した。
• ノルム同値性およびガウス確率変数の性質を用いて、事後分布のモーメントに上限を設定し、収束の証明を可能にした。
• 理論的枠組みは、乗法的ノイズが顕著な画像ノイズ除去や地下画像再構成などの実応用においてMAP推定を用いることを支持する。