[논문 리뷰] Properties of the Stochastic Approximation EM Algorithm with Mini-batch Sampling

Tabea Rebafka, Estelle Kuhn외 1명|arXiv (Cornell University)|2019. 07. 22.

Markov Chains and Monte Carlo Methods참고 문헌 19인용 수 1

한 줄 요약

이 논문은 대규모 잠재변수 모델을 위한 MCMC-SAEM 알고리즘의 미니배치 변종을 제안하며, 수렴을 가속화하기 위해 부분 샘플링된 데이터를 사용하는 확률적 근사 기법을 적용한다. 지수족 모델에 대해 거의확실 수렴을 증명하고, 미니배치 샘플링이 초기 단계의 수렴 속도를 크게 향상시키며, 배치 크기와 점근적 분산 사이의 트레이드오프를 정량화한다.

ABSTRACT

To deal with very large datasets a mini-batch version of the Monte Carlo Markov Chain Stochastic Approximation Expectation-Maximization algorithm for general latent variable models is proposed. For exponential models the algorithm is shown to be convergent under classicalconditions as the number of iterations increases. Numerical experiments illustrate the performance of the mini-batch algorithm in various models.In particular, we highlight that mini-batch sampling results in an important speed-up of the convergence of the sequence of estimators generated by the algorithm. Moreover, insights on the effect of the mini-batch size on the limit distribution are presented. Finally, we illustrate how to use mini-batch sampling in practice to improve results when a constraint on the computing time is given.

연구 동기 및 목표

• 매우 큰 데이터셋에서 고전적 EM 및 MCMC-SAEM 알고리즘의 계산적 병목 현상을 해결하기 위해 미니배치 샘플링 전략을 도입한다.
• 각 반복에서 데이터와 잠재변수를 부분 샘플링하여 계산 효율성을 향상시키면서도 추정 정확도를 유지한다.
• 미니배치 크기가 매개변수 추정의 수렴 속도와 점근적 분산에 미치는 영향을 조사한다.
• 고정된 계산 시간 제약 조건 하에서 미니배치 샘플링을 사용하는 데 대한 실용적 지침을 제공한다.
• 특히 M-단계가 계산적으로 비용이 많이 들 때, 계산 시간이 제한된 조건에서 미니배치 샘플링이 전체배치 방법보다 더 높은 정확도를 달성할 수 있음을 시연한다.

제안 방법

• 각 반복에서 일부 잠재변수와 그에 관련된 데이터를 샘플링하는 MCMC-SAEM 알고리즘의 미니배치 버전을 제안한다.
• 선택된 미니배치에 대해서만 메트로폴리스-헤스팅스-위너-지브스 MCMC 기법을 사용하여 잠재변수를 시뮬레이션한다.
• 미니배치 데이터만을 사용하여 충분통계량을 갱신하기 위해 확률적 근사 기법을 적용하여 각 반복의 계산 비용을 감소시킨다.
• 기존 방법의 에르고딕성과 수렴 성질을 유지함으로써 알고리즘이 유효한 MCMC-SAEM이 되도록 보장한다.
• 일致성과 거의확실 수렴을 유지하기 위해 확률적 근사에서 감소하는 단계 크기를 사용한다.
• 지수족 모델, 특히 스토케스틱 블록 모델과 프레일티 모델에 대한 수치 실험을 통해 알고리즘의 행동을 분석한다.

실험 결과

연구 질문

• RQ1 지수족 모델에 대한 표준 조건 하에서 미니배치 MCMC-SAEM 알고리즘이 거의확실하게 수렴하는가?
• RQ2 초기 반복 단계에서 미니배치 크기가 매개변수 추정의 수렴 속도에 어떤 영향을 미치는가?
• RQ3 미니배치 비율과 최종 추정량의 점근적 분산 사이의 관계는 무엇인가?
• RQ4 고정된 계산 시간 제약 조건 하에서, 배치 방법에 비해 미니배치 샘플링이 추정 정확도를 향상시킬 수 있는가?
• RQ5 특히 복잡한 의존성 구조를 가진 모델에서, 반복당 실제 계산 시간은 미니배치 크기와 어떻게 상관되는가?

주요 결과

• 지수족 모델에 대한 고전적 조건 하에서 미니배치 MCMC-SAEM 알고리즘이 진짜 매개변수 값으로 거의확실하게 수렴함을 증명하였다.
• 수치 실험 결과, 전체배치 버전에 비해 미니배치를 사용할 경우 알고리즘의 초기 단계에서 수렴 속도가 크게 향상됨을 확인하였다.
• 추정량의 점근적 분산은 미니배치 크기의 역수이며, 이론적 한계 분산은 V₁(2−α)/α로 표현되며, 여기서 α는 미니배치 비율이다.
• 매개변수 추정의 경험적 표본 분산이 예측된 함수 α ↦ v₁(2−α)/α를 잘 따르며, 이는 점근적 정규성에 대한 추측을 지지한다.
• 스토케스틱 블록 모델과 같은 모델에서는 의존성 구조로 인해 업데이트 단계에서 사용되는 데이터 비율이 미니배치 크기와 동일하지 않아 계산 시간의 비선형적 스케일링이 발생한다.
• 고정된 계산 시간 조건 하에서, 더 큰 샘플 크기와 함께 미니배치 샘플링을 조합하면, 특히 M-단계가 계산적으로 비용이 많이 들 때 기존의 배치 방법보다 더 정확한 추정 결과를 얻을 수 있다.