[論文レビュー] Uniformly Generating Distribution Functions for Discrete Random Variables

Bruno Caprile|arXiv (Cornell University)|Nov 3, 2000

Bayesian Modeling and Causal Inference参考文献 3被引用数 4

ひとこと要約

この論文は、n個の結果を持つ離散的確率変数の分布関数を一様に生成する最適なアルゴリズムを提示している。これは(n−1)-単体からのサンプリングを用い、逆変換サンプリングとベータ型の周辺分布を組み合わせることで一様性を保証する。必要なのはn−1回のランダム抽出と定数時間の逆CDF評価のみで、O(n)の計算量で最適な効率性を達成する。

ABSTRACT

An algorithm is presented which, with optimal efficiency, solves the problem of uniform random generation of distribution functions for an n-valued random variable.

研究の動機と目的

• n値の離散的確率変数のための分布関数を一様にサンプリングする問題を解決すること。
• 高次元の単体におけるナイーブな棄却サンプリングの非効率性を回避すること。
• 一様性のバイアスやスケーリングの歪みが生じない(n−1)-単体上の一様なサンプリングを保証すること。
• 最小限の乱数使用で最適な計算効率を達成すること。
• 確率的推論や実証的検証に適した決定論的かつスケーラブルな手法を提供すること。

提案手法

• 各ステップjで、x₁からxₙ₋₁を、比例定数(rⱼ − xⱼ)ⁿ⁻²に従う周辺分布を用いて逐次生成することで(n−1)-単体をサンプリングする。
• 各ステップjにおいて、変数xⱼは区間[0, rⱼ]から累積分布関数Ψ(xⱼ) = 1 − (1 − xⱼ/rⱼ)ⁿ⁻¹に従って抽出される。
• 逆CDF Ψ⁻¹(ξ) = rⱼ[1 − (1 − ξ)¹/(ⁿ⁻¹)]を用いることで、一様乱数変量から効率的なサンプリングが可能になる。
• 残りの確率質量は直接xₙ = rₙとして割り当てられ、∑xᵢ = 1の和制約が満たされる。
• 各xⱼの周辺分布が、個々の以前の値に依存せず、残りの質量rⱼにのみ依存することに依拠している。
• アルゴリズムは正確にn−1回の均一乱数生成関数呼び出しとn−2回の逆CDF評価を実行し、両方とも計算量の観点で最適である。

実験結果

リサーチクエスチョン

• RQ1 n個の結果を持つ離散的確率変数のすべての可能な分布関数を一様にサンプリングする方法は何か？
• RQ2 どうすれば(n−1)-単体上に一様に分布する点を効率的に生成できるか？
• RQ3 高次元における単体体積の指数的減少のため、棄却ベースの手法を回避できるか？
• RQ4 単体サンプリングプロセスにおける各成分xⱼの正しい周辺分布は何か？
• RQ5 逆変換サンプリングをどのように効率的に応用すれば、単体上の均一なサンプリングが達成できるか？

主な発見

• アルゴリズムは最適な効率性を達成しており、n−1回の均一乱数抽出とn−2回の逆CDF評価のみを必要とする。
• ステップjにおけるxⱼの周辺分布はψ(xⱼ) = (n−1)/rⱼⁿ⁻¹ × (rⱼ − xⱼ)ⁿ⁻²で与えられ、単体上での一様性を保証する。
• 累積分布関数はΨ(xⱼ) = 1 − (1 − xⱼ/rⱼ)ⁿ⁻¹であり、正確な逆サンプリングを可能にする。
• 逆CDFはΨ⁻¹(ξ) = rⱼ[1 − (1 − ξ)¹/(ⁿ⁻¹)]で与えられ、一様変量からxⱼを効率的に生成可能である。
• 棄却サンプリングを回避でき、単体体積の(n-1)次元における(超)指数的減少のため、それが非現実的になる。
• アルゴリズムはサンプリング戦略においてnに依存せず、あらゆる次元で一様性を維持する。