[논문 리뷰] No Free Lunch for Approximate MCMC

James E. Johndrow, Natesh S. Pillai외 1명|arXiv (Cornell University)|2020. 10. 23.

Markov Chains and Monte Carlo Methods참고 문헌 43인용 수 5

한 줄 요약

이 논문은 베이지안 추론을 위한 마르코프 체인 몬테카를로(MCMC) 방법에서 서브샘플링의 성능 향상에 대한 기본적인 한계를 규명한다. 다수의 모형—특히 일반화선형모형(GLM)에서 서브샘플링은 정확도를 희생하거나 매우 특수한 제어 변수를 사용하지 않는 한 의미 있는 계산 속도 향상을 가져올 수 없음을 증명하며, 약간의 MCMC에서 '무료 점심'이 존재하지 않음을 효과적으로 배제한다.

ABSTRACT

It is widely known that the performance of Markov chain Monte Carlo (MCMC) can degrade quickly when targeting computationally expensive posterior distributions, such as when the sample size is large. This has motivated the search for MCMC variants that scale well to large datasets. One popular general approach has been to look at only a subsample of the data at every step. In this note, we point out that well-known MCMC convergence results often imply that these ``subsampling'' MCMC algorithms cannot greatly improve performance. We apply these abstract results to realistic statistical problems and proposed algorithms, and also discuss some design principles suggested by the results. Finally, we develop estimates for the singular values of random matrices bounds that may be of independent interest.

연구 동기 및 목표

• 대규모 데이터에서의 베이지안 추론에서 정확도를 유지하면서 서브샘플링 MCMC 알고리즘의 계산 속도 향상을 달성할 수 있는지 조사한다.
• 실제 설정에서 서브샘플링 MCMC가 수렴 속도를 향상시키거나 계산 비용을 감소시키지 못하는 기본적인 이론적 장벽을 규명한다.
• 제어 변수가 서브샘플링 MCMC에서 어떻게 작용하는지 평가하고, 목표 사후분포를 왜곡하지 않고도 실용적인 속도 향상을 가능하게 할 수 있는지 판단한다.
• 특정 알고리즘이나 모형에 국한되지 않는 일반적인 상한선을 제시하여 서브샘플링 MCMC 알고리즘의 정확도와 혼합 시간에 대한 상한을 제공한다.

제안 방법

• 스펙트럼 갭 및 가짜스펙트럼 갭 분석을 사용하여 서브샘플링 MCMC 체인에서 유도된 몬테카를로 추정기의 정확도에 대한 일반적인 상한선을 유도한다.
• 일반적인 수렴 결과를 로지스틱 회귀 및 일반화선형모형(GLM)과 같은 특정 모형에 적용하여 표준 가정 하에서 속도 향상이 불가능함을 보인다.
• 삼중론 프레임워크를 사용하여 실패 유형을 분류한다: 느린 혼합, 정(stationary) 분포의 정확도 부족, 또는 거의 충분통계량에 의존하는 것.
• 서브샘플링 체인의 안정화 시간을 분석하고, 이가 Ω(n/m)으로 스케일링됨을 보여, 작고 작은 서브샘플 크기 m에서도 효과적인 표본당 비용이 여전히 Ω(n)임을 시사한다.
• 데이터 증강 및 비가역 과정(예: 지그재그, ScaLE)의 영향을 고려하여, 이러한 방법에는 표준 상한선이 직접 적용되지 않음을 보여준다.
• 랜덤 행렬의 특이값에 대한 새로운 상한선을 제공하며, 이는 별도의 관심사가 되며 주요 이론 결과를 뒷받침한다.

실험 결과

연구 질문

• RQ1 대규모 데이터 세트에서 서브샘플링 MCMC가 계산 비용을 크게 줄이면서도 정확한 사후 추론을 유지할 수 있는가?
• RQ2 제어 변수는 어떤 조건에서 목표 사후분포를 왜곡하지 않고 더 빠른 서브샘플링 MCMC를 가능하게 하는가?
• RQ3 근사 MCMC에서 계산 효율성과 정확도 사이에 본질적인 상충관계가 존재하는가? 만약 그렇다면 이론적 한계는 무엇인가?
• RQ4 GLM 및 로지스틱 회귀에 대한 기존의 서브샘플링 MCMC 알고리즘은 의미 있는 속도 향상을 달성하는가, 아니면 혼합 시간에 의해 본질적으로 제한되는가?
• RQ5 지그재그 샘플러와 같은 연속시간 과정에서, 서브샘플링 MCMC의 에르고딕 평균의 수렴 속도를 상한선으로 제시할 수 있는가?

주요 결과

• 일반화선형모형(GLM), 특히 로지스틱 회귀에서 서브샘플링 MCMC는 안정화 시간이 Ω(n/m)으로 스케일링되어, 서브샘플 크기 m과 관계없이 효과적인 독립 표본당 비용이 여전히 Ω(n)이므로 의미 있는 속도 향상을 달성할 수 없다.
• 논문은 많은 현실적인 설정에서 서브샘플링 MCMC가 혼합 속도가 너무 느리거나, 진정한 사후분포에서 멀리 떨어진 분포를 목표로 하거나, 거의 충분통계량에 의존하는 제어 변수에 의존함으로써 실용적인 속도 향상을 불가능하게 함을 증명한다.
• 충분통계량과 같은 자연스러운 제어 변수를 사용하더라도, 정리 1과 C.10에서 보여지듯이 알고리즘이 여전히 속도 향상을 달성하지 못함을 보여준다.
• 결과적으로 일반적으로 사용되는 제어 변수가 서브샘플링의 정당성을 뒷받침할 만큼의 정보를 지니고 있음을 배제하며, 특히 이러한 제어 변수를 구성하는 데 계산 비용이 많이 들기 때문이다.
• 가짜스펙트럼 갭에 대한 이론적 상한선은 히우리스틱 추론에서 가정한 바와 같이 수렴하지 않으며, 이는 수렴 시간이 진정으로 크다는 것을 시사한다.
• 계산 비용이 선형을 초과하는 모형(예: c > 1)의 경우 서브샘플링이 비용 감소를 가져올 수 있으며, 이는 향후 고비용 사후분포 계산 분야에서의 연구 가능성을 시사한다.