[论文解读] No Free Lunch for Approximate MCMC

James E. Johndrow, Natesh S. Pillai+1 more|arXiv (Cornell University)|Oct 23, 2020

Markov Chains and Monte Carlo Methods参考文献 43被引用 5

一句话总结

本文確立了在貝葉斯推斷的馬爾可夫鏈蒙特卡洛（MCMC）方法中，從子采樣獲得性能改進的根本限制。證明了在許多模型中——特別是廣義線性模型——子采樣無法在不犧牲準確性或依賴高度專門化的控制變量的情況下實現顯著的計算加速，從而實際上排除了近似MCMC中的「免費午餐」。

ABSTRACT

It is widely known that the performance of Markov chain Monte Carlo (MCMC) can degrade quickly when targeting computationally expensive posterior distributions, such as when the sample size is large. This has motivated the search for MCMC variants that scale well to large datasets. One popular general approach has been to look at only a subsample of the data at every step. In this note, we point out that well-known MCMC convergence results often imply that these ``subsampling'' MCMC algorithms cannot greatly improve performance. We apply these abstract results to realistic statistical problems and proposed algorithms, and also discuss some design principles suggested by the results. Finally, we develop estimates for the singular values of random matrices bounds that may be of independent interest.

研究动机与目标

• 探討子采樣MCMC算法是否能在保持大數據集貝葉斯推斷準確性的前提下，實現顯著的計算加速。
• 識別阻止子采樣MCMC在實際情境中改善收斂速率或降低計算成本的根本理論障礙。
• 評估控制變量在子采樣MCMC中的作用，並確定它們是否能在不扭曲目標後驗分佈的情況下實現實際加速。
• 提供子采樣MCMC算法的準確性和混合時間的一般上界，適用於特定算法或模型之外的場景。

提出的方法

• 利用譜間隔和偽譜間隔分析，推導出從子采樣MCMC鏈中獲得的蒙特卡洛估計器準確性的通用上界。
• 將抽象收斂結果應用於具體模型，包括邏輯回歸和廣義線性模型（GLMs），以證明在標準假設下無法實現加速。
• 使用三重困境框架對失敗模式進行分類：混合過慢、靜態分佈不準確，或依賴近乎充分統計量。
• 分析子采樣鏈的弛豫時間，並表明其規模為Ω(n/m)，暗示即使使用小樣本，每有效樣本的代價仍為Ω(n)。
• 考慮資料增廣和非可逆過程（例如，zig-zag、ScaLE）的影響，表明標準界限無法直接適用於此類方法。
• 提供隨機矩陣特徵值的新的上界，這些結果本身具有獨立興趣，並支援主要理論結論。

实验结果

研究问题

• RQ1 子采樣MCMC能否在保持大數據集準確後驗推斷的同時，顯著降低計算成本？
• RQ2 在何種條件下，控制變量可實現更快的子采樣MCMC而不扭曲目標後驗分佈？
• RQ3 近似MCMC中是否存在計算效率與準確性之間的根本權衡？若是，其理論極限為何？
• RQ4 現有的子采樣MCMC算法在GLMs和邏輯回歸中是否實現了任何有意義的加速，還是本質上受限於混合時間？
• RQ5 能否對子采樣MCMC中遍歷平均的收斂速率進行邊界控制，特別是在如zig-zag採樣器等連續時間過程中的情況？

主要发现

• 對於廣義線性模型，包括邏輯回歸，子采樣MCMC無法實現有意義的加速，因為弛豫時間規模為Ω(n/m)，導致每獨立樣本的有效成本始終為Ω(n)，與子樣本大小m無關。
• 本文證明，在許多實際情境中，子采樣MCMC或因混合過慢，或因目標分佈遠離真實後驗分佈，或依賴近乎充分統計量的控制變量——這些情況均無法實現實際加速。
• 即使使用自然控制變量，如 exponential families 中的充分統計量，算法仍無法實現加速，如定理1和C.10所示。
• 這些結果排除了常見控制變量攜帶足夠資訊以支持子采樣的可能性，即使它們近乎充分，因為構造它們通常計算成本高昂。
• 偽譜間隔的理論上界並未如直覺論證所假設的那樣收斂，表明收斂時間確實很大，而非僅僅是下界受限。
• 對於計算成本高於線性（例如c > 1）的模型，子采樣可能帶來成本降低，提示未來在高成本後驗計算中可能存在研究方向。