[論文レビュー] On some information-theoretic aspects of non-linear statistical inverse problems

Richard Nickl, Gabriel P. Paternain|arXiv (Cornell University)|Jul 20, 2021

Statistical Methods and Inference被引用数 4

ひとこと要約

本稿は、楕円型偏微分方程式に従う非線形統計的逆問題における情報理論的限界を調査し、導電率パラメータの滑らかな線形関数に対するフィッシャー情報が消えることを示している。ヴァン・デル・ヴァートの半パラメトリック理論を用いて、アドジョイントの範囲条件の不成立により、ラプラシアンの近傍でさえも、ベルンシュタイン＝フォン・ミーゼス近似が失敗することを証明している。

ABSTRACT

Results by van der Vaart (1991) from semi-parametric statistics about the existence of a non-zero Fisher information are reviewed in an infinite-dimensional non-linear Gaussian regression setting. Information-theoretically optimal inference on aspects of the unknown parameter is possible if and only if the adjoint of the linearisation of the regression map satisfies a certain range condition. It is shown that this range condition may fail in a commonly studied elliptic inverse problem with a divergence form equation, and that a large class of smooth linear functionals of the conductivity parameter cannot be estimated efficiently in this case. In particular, Gaussian `Bernstein von Mises'-type approximations for Bayesian posterior distributions do not hold in this setting.

研究の動機と目的

• 無限次元非線形逆問題における情報理論的に最適な推論が可能となる条件を特定すること。
• ガウス型事後分布近似に関して、非線形PDEに基づく逆問題におけるベルンシュタイン＝フォン・ミーゼス定理の有効性を調査すること。
• 線形化された前方写像のアドジョイントが、非ゼロのフィッシャー情報の存在を決定する役割を分析すること。
• 発散型形式の作用素を伴う楕円型逆問題において、半パラメトリック効率性に必要な範囲条件がいつ不成立になるかを同定すること。
• よく研究されている導電率逆問題において、滑らかな関数の広いクラスに対して、効率的推定と事後分布のガウス近似が不可能であることを示すこと。

提案手法

• ヴァン・デル・ヴァートのフィッシャー情報の存在に関する半パラメトリック理論を、無限次元非線形回帰モデルへ適応する。
• PDE制約付きのガウス回帰設定において、前方写像 $ \tilde{G}_\theta $ の線形化 $ D\tilde{G}_\theta $ を分析する。
• アドジョイント作用素 $ D\tilde{G}_\theta^* $ を用いて、フィッシャー情報構造の中心的役割を果たす情報作用素 $ D\tilde{G}_\theta^* D\bar{G}_\theta $ を導出する。
• 非ゼロのフィッシャー情報が存在するためには、$ \text{Ran}(D\tilde{G}_\theta^*) \text{ が } \theta\text{-空間において稠密である} $ ことが必要であることを確立する。
• コンパクト作用素のスペクトル理論を用いて、$ (D\tilde{G}_\theta^* D\tilde{G}_\theta)^{1/2} $ の範囲を特徴づけ、逆フィッシャー情報の存在と結びつける。
• ヒルベルト空間の議論と正規直交固有基底による近似を用いて、範囲条件が不成立である場合に $ i_{\theta,H,\theta} = 0 $ であることを示す。

実験結果

リサーチクエスチョン

• RQ1 非線形PDE逆問題における未知パラメータの線形関数に対して、非ゼロのフィッシャー情報が存在する条件は何か？
• RQ2 発散型PDEを伴う非線形楕円型逆問題において、事後分布のベルンシュタイン＝フォン・ミーゼス型近似は成立可能か？
• RQ3 この文脈において、線形化された前方写像のアドジョイントの範囲条件が、半パラメトリック効率性の必要十分条件として十分であるか？
• RQ4 導電率問題における標準ラプラシアンの滑らかな近傍でも、範囲条件の不成立は生じるのか？
• RQ5 この逆問題設定において、効率的推定が不可能となる特定の滑らかな関数のクラスは存在するか？

主な発見

• 発散型PDEを伴う楕円型逆問題において、線形化された前方写像のアドジョイントが、必要な範囲条件を満たさない。
• その結果、導電率パラメータの滑らかな線形関数のフィッシャー情報が消えることが示され、情報理論的効率性は達成不可能であることを意味する。
• 定理6および7で示されるように、滑らかなテスト関数 $ \theta $ の広いクラスに対して、逆フィッシャー情報 $ \rho_\theta^2(\theta) $ は存在しない。
• この設定では、ベルンシュタイン＝フォン・ミーゼス型のガウス近似は成立せず、ラプラシアンの近傍でさえも成立しない。
• その失敗は、コンパクトでかつパラメータ空間において稠密でない範囲を持つ情報作用素 $ D\tilde{G}_\theta^* D\tilde{G}_\theta $ のスペクトル的性質に起因する。
• 一貫性を示す非パラメトリック推定量が存在するにもかかわらず、このPDE逆問題のクラスにおいて、一貫性と半パラメトリック効率性の間に根本的なギャップが存在することが示された。