[論文レビュー] Sampling Algorithms, from Survey Sampling to Monte Carlo Methods: Tutorial and Literature Review

Benyamin Ghojogh, Hadi Nekoei+3 more|arXiv (Cornell University)|Nov 2, 2020

Bayesian Methods and Mixture Models参考文献 77被引用数 10

ひとこと要約

このチュートリアルおよび文獻レビューは、サンプリングアルゴリズムについて包括的な概要を提供しており、調査サンプリング（例：単純無作為抽出、層別抽出）とモンテカルロ法（例：重要度サンプリング、メトロポリス・ハスティングス法、ギブスサンプリング）をカバーしている。統計学と機械学習における2つの主要なサンプリングパラダイムを統合し、理論的基盤、アルゴリズムの詳細、および手法の比較分析を提供しており、計算物理学、ファイナンス、強化学習における応用を含む。

ABSTRACT

This paper is a tutorial and literature review on sampling algorithms. We have two main types of sampling in statistics. The first type is survey sampling which draws samples from a set or population. The second type is sampling from probability distribution where we have a probability density or mass function. In this paper, we cover both types of sampling. First, we review some required background on mean squared error, variance, bias, maximum likelihood estimation, Bernoulli, Binomial, and Hypergeometric distributions, the Horvitz-Thompson estimator, and the Markov property. Then, we explain the theory of simple random sampling, bootstrapping, stratified sampling, and cluster sampling. We also briefly introduce multistage sampling, network sampling, and snowball sampling. Afterwards, we switch to sampling from distribution. We explain sampling from cumulative distribution function, Monte Carlo approximation, simple Monte Carlo methods, and Markov Chain Monte Carlo (MCMC) methods. For simple Monte Carlo methods, whose iterations are independent, we cover importance sampling and rejection sampling. For MCMC methods, we cover Metropolis algorithm, Metropolis-Hastings algorithm, Gibbs sampling, and slice sampling. Then, we explain the random walk behaviour of Monte Carlo methods and more efficient Monte Carlo methods, including Hamiltonian (or hybrid) Monte Carlo, Adler's overrelaxation, and ordered overrelaxation. Finally, we summarize the characteristics, pros, and cons of sampling methods compared to each other. This paper can be useful for different fields of statistics, machine learning, reinforcement learning, and computational physics.

研究の動機と目的

• 調査サンプリングと確率分布からのサンプリングという2つの主要なサンプリングパラダイムについて、統一的なチュートリアルおよび文獻レビューを提供すること。
• 古典的な調査サンプリング技術と、機械学習および計算統計で用いられる現代のモンテカルロ法との間のギャップを埋めること。
• 理論的基盤、長所、短所を含む、サンプリング手法の比較分析を提供すること。
• 統計学、機械学習、計算物理学における応用において、適切なサンプリング手法を選択するのを研究者および実務家が支援すること。

提案手法

• 平均二乗誤差、バイアス、分散、最尤推定、および主要な分布（ベルヌーイ、二項、超幾何分布）を含む基礎的統計的概念をレビューする。
• 単純無作為抽出、ブートストラップ、層別抽出、クラスタ抽出、マルチステージ抽出、ネットワーク抽出、スノーボール抽出を含む調査サンプリング手法を説明する。
• 複雑な確率分布からのサンプリングに用いられるモンテカルロ法を紹介し、単純モンテカルロ法（重要度サンプリング、棄却サンプリング）およびマルコフ連鎖モンテカルロ法（メトロポリス、メトロポリス・ハスティングス法、ギブスサンプリング、スライスサンプリング）を含む。
• ハミルトニアンモンテカルロ、アドラーのオーバーレラクセーション、順序付きオーバーレラクセーションなどの、サンプリング効率を向上させる高度な技術を議論する。
• 定常性および詳細釣合条件を示す数学的導出および証明を用いて、主要なサンプリングアルゴリズムの妥当性を確立する。
• 収束特性、計算コスト、および異なる問題タイプへの適用可能性に基づいて、サンプリング手法を比較する。

実験結果

リサーチクエスチョン

• RQ1 調査サンプリングとモンテカルロサンプリングは、その背後にある仮定や応用においてどのように異なるか？
• RQ2 メトロポリス・ハスティングス法やギブスサンプリングといった主要なモンテカルロサンプリングアルゴリズムの理論的保証および性能特性は何か？
• RQ3 ハミルトニアンモンテカルロやオーバーレラクセーションといった高度なサンプリング技術は、混合性および収束速度をどのように向上させるか？
• RQ4 独立性、相関性、計算コストの観点から、単純モンテカルロ法とマルコフ連鎖モンテカルロ法の間にはどのようなトレードオフがあるか？
• RQ5 強化学習、計算物理学、ファイナンスなどの分野において、サンプリング手法はどのように効果的に応用できるか？

主な発見

• ホルヴィッツ＝トーマス推定量は、不均等確率抽出の下でも母集団合計の不偏推定を提供する。
• 層別抽出およびクラスタ抽出は、母集団の構造を活用することで推定の分散を低減するが、クラスタ内同質性が高い場合にはクラスタ抽出がより低い分散を示す。
• 重要度サンプリングと棄却サンプリングは、単純モンテカルロ近似に有効であるが、高次元空間では高い分散や非効率性を示す可能性がある。
• メトロポリス・ハスティングス法とギブスサンプリングは詳細釣合条件を満たし、ターゲット分布に収束する。ギブスサンプリングは適切な条件付き分布の下で100％の受容確率を達成する。
• ハミルトニアンモンテカルロおよびオーバーレラクセーション技術は、混合性を著しく向上させ、ランダムウォーク行動を低減し、MCMCにおける収束速度を向上させる。
• 理論的証明により、メトロポリスアルゴリズムが詳細釣合条件を満たし、ギブスサンプリングが条件付き分布の更新によって定常性を維持することが確認されている。