[논문 리뷰] Sampling Algorithms, from Survey Sampling to Monte Carlo Methods: Tutorial and Literature Review

Benyamin Ghojogh, Hadi Nekoei외 3명|arXiv (Cornell University)|2020. 11. 02.

Bayesian Methods and Mixture Models참고 문헌 77인용 수 10

한 줄 요약

이 튜토리얼 및 문헌 고찰은 표본 추출 알고리즘에 대한 종합적인 개요를 제공하며, 설문 조사 표본 추출(예: 간단 무작위 표본 추출, 계층 표본 추출)과 몬테카를로 방법(예: 중요도 표본 추출, 메트로폴리스-한터스, 지브스 표본 추출)을 모두 포함한다. 이 글은 통계학과 기계 학습에서 두 주요 표본 추출 패러다임을 통합하여 이론적 기초, 알고리즘 세부 사항, 그리고 방법 간 비교 분석을 제공하며, 계산 물리학, 금융, 강화 학습 등 응용 분야에 기여한다.

ABSTRACT

This paper is a tutorial and literature review on sampling algorithms. We have two main types of sampling in statistics. The first type is survey sampling which draws samples from a set or population. The second type is sampling from probability distribution where we have a probability density or mass function. In this paper, we cover both types of sampling. First, we review some required background on mean squared error, variance, bias, maximum likelihood estimation, Bernoulli, Binomial, and Hypergeometric distributions, the Horvitz-Thompson estimator, and the Markov property. Then, we explain the theory of simple random sampling, bootstrapping, stratified sampling, and cluster sampling. We also briefly introduce multistage sampling, network sampling, and snowball sampling. Afterwards, we switch to sampling from distribution. We explain sampling from cumulative distribution function, Monte Carlo approximation, simple Monte Carlo methods, and Markov Chain Monte Carlo (MCMC) methods. For simple Monte Carlo methods, whose iterations are independent, we cover importance sampling and rejection sampling. For MCMC methods, we cover Metropolis algorithm, Metropolis-Hastings algorithm, Gibbs sampling, and slice sampling. Then, we explain the random walk behaviour of Monte Carlo methods and more efficient Monte Carlo methods, including Hamiltonian (or hybrid) Monte Carlo, Adler's overrelaxation, and ordered overrelaxation. Finally, we summarize the characteristics, pros, and cons of sampling methods compared to each other. This paper can be useful for different fields of statistics, machine learning, reinforcement learning, and computational physics.

연구 동기 및 목표

• 설문 조사 표본 추출과 확률 분포에서의 표본 추출이라는 두 주요 표본 추출 패러다임에 대한 통합된 튜토리얼과 문헌 고찰을 제공하는 것.
• 전통적인 설문 조사 표본 추출 기법과 기계 학습 및 계산 통계에서 사용되는 현대 몬테카를로 방법 사이의 격차를 메우는 것.
• 이론적 기초, 장점, 한계를 포함한 표본 추출 방법 간 비교 분 析를 제공하는 것.
• 통계학, 기계 학습, 계산 물리학 분야의 연구자 및 전문가들이 적절한 표본 추출 기법을 선택하는 데 지원을 제공하는 것.

제안 방법

• 평균 제곱 오차, 편향, 분산, 최대우도추정법 및 주요 분포(베르누이, 이항, 초기하분포)를 포함한 기초 통계 개념을 검토한다.
• 간단 무작위 표본 추출, 부트스트랩, 계층 표본 추출, 군집 표본 추출, 다단계 표본 추출, 네트워크 표본 추출, 눈덩이 표본 추출 등의 설문 조사 표본 추출 방법을 설명한다.
• 복잡한 확률 분포에서 표본을 추출하기 위한 몬테카를로 방법을 소개하며, 이는 단순 몬테카를로(중요도 표본 추출, 기각 표본 추출)와 마코프 체인 몬테카를로(메트로폴리스, 메트로폴리스-한터스, 지브스, 슬라이스 표본 추출)를 포함한다.
• 혼합성과 수렴 속도를 향상시키기 위한 고급 기법으로 힘의 몬테카를로, 아드러의 초과완화, 순서화된 초과완화 등을 논의한다.
• 핵심 표본 추출 알고리즘의 타당성을 입증하기 위해 수학적 유도와 증명을 사용하며, 이는 정적 상태 조건과 세부 균형 조건을 포함한다.
• 수렴 행동, 계산 비용, 다양한 문제 유형에의 적용 가능성 기준으로 표본 추출 방법을 비교한다.

실험 결과

연구 질문

• RQ1 설문 조사 표본 추출과 몬테카를로 표본 추출은 그 기초 가정과 응용에서 어떻게 다릅니까?
• RQ2 메트로폴리스-한터스 및 지브스 표본 추출과 같은 주요 몬테카를로 표본 추출 알고리즘의 이론적 보장과 성능 특성은 무엇입니까?
• RQ3 힘의 몬테카를로 및 초과완화와 같은 고급 표본 추출 기법은 혼합성과 수렴 속도를 어떻게 향상합니까?
• RQ4 독립성, 상관성, 계산 비용 측면에서 단순 몬테카를로와 마코프 체인 몬테카를로 방법 사이의 상충 관계는 무엇입니까?
• RQ5 강화 학습, 계산 물리학, 금융 분야에서 표본 추출 방법은 어떻게 효과적으로 적용될 수 있습니까?

주요 결과

• 호르비츠-틀레임 추정량은 특히 비균일 확률 표본 추출에서 모집단 총합에 대한 불편 추정을 제공한다.
• 계층 표본 추출과 군집 표본 추출은 모집단의 구조를 활용하여 추정의 분산을 감소시키며, 군집 내 동질성이 높을 경우 군집 표본 추출이 더 낮은 분산을 보인다.
• 중요도 표본 추출과 기각 표본 추출은 단순 몬테카를로 근사에 효과적이지만, 고차원 공간에서는 높은 분산 또는 비효율성으로 인해 어려움을 겪을 수 있다.
• 메트로폴리스-한터스와 지브스 표본 추출은 세부 균형 조건을 보장하며 목표 분포로 수렴한다. 지브스 표본 추출은 적절한 조건부 분포 하에서 100% 수용 확률을 달성한다.
• 힘의 몬테카를로 및 초과완화 기법은 혼합성을 크게 향상시키고 랜덤 워크 행동을 감소시켜 MCMC에서 더 빠른 수렴을 이끈다.
• 이론적 증명을 통해 메트로폴리스 알고리즘이 세부 균형 조건을 만족하고, 지브스 표본 추출이 조건부 분포 갱신을 통해 정적 상태를 유지함을 확인한다.