[論文レビュー] Asymptotic Approximation of Marginal Likelihood Integrals

Shaowei Lin|arXiv (Cornell University)|Mar 28, 2010

Polynomial and algebraic computation参考文献 23被引用数 16

ひとこと要約

本稿では、計算代数幾何学を用いて特異点の解消を施すことにより、多項式イデアルの実対数 canonical 係数（RLCT）の計算に帰着させることで、ベイズ統計における周辺尤度積分の漸近的近似法を提示する。この手法により、実解析的パrametrization が可能なすべての離散指数型分布族モデルに対して、周辺尤度の正確な評価が可能となり、ベイズモデル比較における長年の問題に対して体系的かつ効果的な解決策を提供する。

ABSTRACT

The accurate asymptotic evaluation of marginal likelihood integrals is a fundamental problem in Bayesian statistics. Following the approach introduced by Watanabe, we translate this into a problem of computational algebraic geometry, namely, to determine the real log canonical threshold of a polynomial ideal, and we present effective methods for solving this problem. Our results are based on resolution of singularities, and they apply to all statistical models for discrete data that admit a parametrization by real analytic functions.

研究の動機と目的

• ベイズモデル比較における周辺尤度積分の漸近的評価という根本的課題に取り組む。
• 周辺尤度評価の問題を多項式イデアルを含む計算代数幾何学の問題に翻訳する。
• 漸近的周辺尤度近似における主要な量である実対数 canonical 係数（RLCT）を効果的に計算するためのアルゴリズムを開発する。
• 実解析的パrametrization が可能なすべての離散統計的モデルにまで、漸近的手法の適用範囲を拡張する。

提案手法

• この手法は、モデルの尤度と事前分布から導かれる多項式イデアルの実対数 canonical 係数（RLCT）の計算に、周辺尤度積分を帰着させる。
• 特異点の解消を用いて、尤度と事前分布の積の特異点を分析し、積分の精密な漸近的展開を可能にする。
• 代数幾何学的手法を活用して、直接的な積分を必要とせず、幾何学的・代数的不変量に依存した RLCT の計算を実現する。
• アルゴリズムフレームワークは一般性に富み、実解析的パrametrization が可能なすべての離散指数型分布族モデルに適用可能である。
• パrameter 空間内の特異点の構造を活用することで、標本サイズが大きい極限における収束性と精度を保証する。
• 解決策は、特異点解消のデータから RLCT を抽出する記号的計算技術を用いて実装される。

実験結果

リサーチクエスチョン

• RQ1 一般の離散モデルに対して、正確かつ計算可能であるような周辺尤度積分の漸近的近似はどのように達成できるか？
• RQ2 ベイズモデルにおける周辺尤度の漸近的挙動を支配する代数的幾何学的不変量は何か？
• RQ3 実解析的統計的モデルすべてに対して、実対数 canonical 係数（RLCT）を効果的に計算できるか？
• RQ4 特異点の解消は、周辺尤度の漸近的展開の導出をどのように可能にするか？
• RQ5 モデルのパrameter 空間の幾何学と漸近的周辺尤度の間にはどのような関係があるか？

主な発見

• 実対数 canonical 係数（RLCT）は、ベイズモデルにおける周辺尤度積分の漸近的挙動を決定づける中心的量である。
• 特異点の解消を用いたアルゴリズム的計算により、RLCT が得られ、漸近的周辺尤度評価の体系的かつ効果的な手法が提供される。
• この手法は、実解析的パrametrization が可能なすべての離散統計的モデル、特に指数型分布族に普遍的に適用可能である。
• 周辺尤度の漸近的近似は RLCT と標本サイズに支配され、収束速度は特異点構造によって定まる。
• 標準的なラプラス近似が失敗する高次元的・特異的モデルにおいても、正確なモデル比較が可能になる。