[論文レビュー] Quantifying the accuracy of approximate diffusions and Markov chains

Jonathan H. Huggins, James Zou|arXiv (Cornell University)|May 20, 2016

Markov Chains and Monte Carlo Methods参考文献 23被引用数 5

ひとこと要約

本稿では、ドリフトの偏差と混合速度に基づいて、近似拡散過程およびマコフ連鎖の平衡分布間のワサーライン距離をバウンディングすることにより、近似拡散過程およびマコフ連鎖の精度を定量化する一般枠組みを構築する。主な結果は、計算制約下では、未調整ランゲビンダイナミクスにおいて正確な勾配よりも高速な近似勾配を使用することで、特に大規模データセットを伴う高次元設定において、より高い精度のサンプルが得られることを示している。

ABSTRACT

Markov chains and diffusion processes are indispensable tools in machine learning and statistics that are used for inference, sampling, and modeling. With the growth of large-scale datasets, the computational cost associated with simulating these stochastic processes can be considerable, and many algorithms have been proposed to approximate the underlying Markov chain or diffusion. A fundamental question is how the computational savings trade off against the statistical error incurred due to approximations. This paper develops general results that address this question. We bound the Wasserstein distance between the equilibrium distributions of two diffusions as a function of their mixing rates and the deviation in their drifts. We show that this error bound is tight in simple Gaussian settings. Our general result on continuous diffusions can be discretized to provide insights into the computational-statistical trade-off of Markov chains. As an illustration, we apply our framework to derive finite-sample error bounds of approximate unadjusted Langevin dynamics. We characterize computation-constrained settings where, by using fast-to-compute approximate gradients in the Langevin dynamics, we obtain more accurate samples compared to using the exact gradients. Finally, as an additional application of our approach, we quantify the accuracy of approximate zig-zag sampling. Our theoretical analyses are supported by simulation experiments.

研究の動機と目的

• 近似サンプリングアルゴリズムにおける計算効率と統計的精度の根本的トレードオフを扱う。
• 正確なと近似された拡散過程の平衡分布のずれに関する一般誤差バウンドを構築する。
• 固定された計算予算下で、近似勾配に基づくランゲビンダイナミクスが正確な勾配手法を上回る状況を特徴づける。
• ピースワイズ決定的過程（例：ジグザグサンプラー）へこの枠組みを拡張する。
• 実用的なMCMCアルゴリズムにおける計算–統計的トレードオフを定量化する有限標本誤差バウンドを提供する。

提案手法

• ドリフトの偏差と混合速度に基づき、2つの拡散過程の平衡分布間のワサーライン距離バウンディングを導出（定理3.1）。
• 連続時間の結果と離散化の一貫性を活用して、離散化されたランゲビンダイナミクスに拡散誤差バウンディングを適用する。
• テイラー展開を用いて未調整ランゲビンダイナミクスにおける真のドリフトを近似し、勾配近似誤差の解析を可能にする。
• 混合速度、ドリフトの偏差、および対数密度とその導関数の正則性仮定を組み合わせることで、近似ULAの有限標本誤差バウンディングを確立する。
• 非可逆的かつピースワイズ決定的マコフ過程へと誤差バウンディングを拡張することで、ジグザグ過程への応用を実現する。
• 濃度および正則性条件（例：有界ヘッセ行列、リプシッツ勾配）を用いて、真のドリフトと近似ドリフトのずれを制御する。

実験結果

リサーチクエスチョン

• RQ1 ランゲビンダイナミクスにおいて近似勾配を使用する場合、正確な勾配を使用する場合よりもより高い精度の平衡分布が得られる条件は何か？
• RQ2 平衡分布のずれは、ドリフトの差異と拡散過程の混合速度にどのように依存するか？
• RQ3 拡散過程に導出された理論的誤差バウンディングは、ULAのようなマコフ連鎖サンプラーの解析に有効に離散化可能か？
• RQ4 どのような計算環境下で、より速い混合速度や低減された分散のおかげで、近似サンプリングが正確なサンプリングを上回るか？
• RQ5 近似十分統計量やサブサンプル勾配を使用した場合、ジグザグサンプラーの精度はどの程度保たれるか？

主な発見

• 2つの拡散過程の平衡分布間のワサーライン距離は、ドリフトの偏差の平方根に比例し、混合速度に反比例する項でバウンディングされ、ガウス設定においてそのきつさが確認されている。
• 未調整ランゲビンダイナミクスでは、正確な勾配の場合の誤差バウンディングは $\tilde{O}(d/(TN))$ に比例し、近似勾配を使用する場合の誤差バウンディングは $\tilde{O}(d^2/(N^2T) + d^3/N^2)$ に比例する。$N$ が大きい場合には近似による精度向上が顕著に現れる。
• 大規模データセットと高次元設定下では、計算予算が制限される状況において、サブサンプルまたは高速に計算可能な勾配を用いた近似ULAは、正確なULAよりも低い誤差を達成できる。
• この枠組みは、ドリフト近似誤差が制御されている限り、近似ジグザグサンプリングが精度を維持することを確認しており、誤差バウンディングは同一の一般原則に基づいて導出されている。
• 理論的バウンディングは、計算と統計的精度の予想されるトレードオフを示すシミュレーション実験によって裏付けられている。
• 分析により、正確な勾配の計算コストを、$N$ が大きい場合には、近似勾配を用いたより多くの反復に振り向けたほうが効果的であることが明らかになった。