[論文レビュー] Permutation-based uncertainty quantification about a mixing distribution

Vaidehi Dixit, Ryan Martin|arXiv (Cornell University)|Jun 12, 2019

Bayesian Methods and Mixture Models参考文献 18被引用数 6

ひとこと要約

本稿では、予測再帰アルゴリズムを用いた混合分布の非パラメトリック推定における不確実性を測定するための順列ベースの手法を提案する。アルゴリズムがデータの順序に依存するという性質を活用し、データの順列を再サンプリングすることで信頼区間を生成する。シミュレーションでは、頻度的推定のカバレッジ確率が概ね妥当な結果を得た。

ABSTRACT

Nonparametric estimation of a mixing distribution based on data coming from a mixture model is a challenging problem. Beyond estimation, there is interest in uncertainty quantification, e.g., confidence intervals for features of the mixing distribution. This paper focuses on estimation via the predictive recursion algorithm, and here we take advantage of this estimator's seemingly undesirable dependence on the data ordering to obtain a permutation-based approximation of the sampling distribution which can be used to quantify uncertainty. Theoretical and numerical results confirm that the proposed method leads to valid confidence intervals, at least approximately.

研究の動機と目的

• 有限標本設定下での混合分布の非パラメトリック推定における不確実性評価手法の不足に対処すること。
• 予測再帰推定量の順序依存性を制限要因ではなく、統計的推論のためのツールとして活用すること。
• 混合密度の特徴量の信頼区間を構築する計算的に実行可能な手法を開発すること。
• 多様な混合密度およびカーネルを用いたシミュレーション実験を通じて、手法の頻度的カバレッジ特性を検証すること。

提案手法

• データ列の順列を変更することで複数の予測再帰推定量を生成し、推定量の順列ベースの標本分布を構築する。
• 順列ベースの推定量の経験的分散を、予測再帰推定量の真の標本分散の近似として用いる。
• 順列分布の中央100(1−α)%分位点を、混合密度の特徴量の近似信頼区間として使用する。
• 理論的裏付けは、正則性条件下で順列分散が標本分散を近似することを示す全分散分解に依拠する。
• 特定の点における混合密度推定および点ごとの信頼区間の構築に本手法を適用する。
• さまざまな標本サイズおよび混合密度の形状を想定した広範なシミュレーションにより、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 予測再帰推定量の順序依存性を、有効な不確実性評価のための再利用可能なものにできるか？
• RQ2 順列ベースの分布が、混合密度の信頼区間に対して概ね正しい頻度的カバレッジを提供するか？
• RQ3 本手法は、さまざまな混合密度の形状およびカーネルタイプに対してどのように性能を発揮するか？
• RQ4 順列ベースの分散は、予測再帰推定量の真の標本分散を信頼できる近似として提供できるか？

主な発見

• 順列ベースの手法は、標本サイズが n=500 から n=1000 に増加するに従い、名目水準に概ね一致するカバレッジ確率を達成する。
• 混合密度が滑らかな領域ではカバレッジが最も正確であるが、高曲率領域ではずれが生じるが、全体的な性能は依然として頑健である。
• 異なる混合密度およびカーネルを想定した9つの例において、推定されたカバレッジ確率は 0.88 から 1.00 の間であり、n=1000 時に平均値は 0.95 に近く、良好な結果を得た。
• 密度推定および信頼区間の視覚的比較により、順列分布のばらつきと真の標本分布のばらつきの間で良好な一致が確認された。
• 交換可能性下での順序依存密度推定量に一般化可能であるため、予測再帰法に限らず、より広範な応用が期待できる。