[論文レビュー] Algorithmic Theory of ODEs and Sampling from Well-conditioned Logconcave Densities

Yin Tat Lee, Zhao Song+1 more|arXiv (Cornell University)|Dec 15, 2018

Markov Chains and Monte Carlo Methods参考文献 29被引用数 19

ひとこと要約

本稿では、多変数常微分方程式（ODE）を多項式近似を用いて解くための新しいアルゴリズム的理論を提示する。これにより、良好に条件付けられた強い対数凸密度からのほぼ線形時間スケーリングのサンプリングが可能となる。多対数的深さのODEソルバーと改善された収縮境界を活用することで、ハミルトニアン・モンテカルロ（HMC）における次元に依存しない収束が達成され、ロジスティック回帰や類似モデルにおいて反復回数と勾配評価回数が次元に関して多対数的複雑性にまで削減される。

ABSTRACT

Sampling logconcave functions arising in statistics and machine learning has been a subject of intensive study. Recent developments include analyses for Langevin dynamics and Hamiltonian Monte Carlo (HMC). While both approaches have dimension-independent bounds for the underlying $\mathit{continuous}$ processes under sufficiently strong smoothness conditions, the resulting discrete algorithms have complexity and number of function evaluations growing with the dimension. Motivated by this problem, in this paper, we give a general algorithm for solving multivariate ordinary differential equations whose solution is close to the span of a known basis of functions (e.g., polynomials or piecewise polynomials). The resulting algorithm has polylogarithmic depth and essentially tight runtime - it is nearly linear in the size of the representation of the solution. We apply this to the sampling problem to obtain a nearly linear implementation of HMC for a broad class of smooth, strongly logconcave densities, with the number of iterations (parallel depth) and gradient evaluations being $\mathit{polylogarithmic}$ in the dimension (rather than polynomial as in previous work). This class includes the widely-used loss function for logistic regression with incoherent weight matrices and has been subject of much study recently. We also give a faster algorithm with $ \mathit{polylogarithmic~depth}$ for the more general and standard class of strongly convex functions with Lipschitz gradient. These results are based on (1) an improved contraction bound for the exact HMC process and (2) logarithmic bounds on the degree of polynomials that approximate solutions of the differential equations arising in implementing HMC.

研究の動機と目的

• 離散的HMCとランジュバン動力学の高次元における複雑さに取り組むこと。これらは連続的プロセスとしては優れた性質を示すが、次元に伴いスケーリングが著しく悪化する。
• 解が既知の基底（多項式や区分的多項式など）の線形空間に近い多変数ODEを解く一般化されたアルゴリズムを開発すること。
• 反復回数と勾配評価回数を次元に関して多対数的複雑性にまで削減することで、強い対数凸密度からのほぼ線形時間スケーリングを実現すること。
• 非一貫性のあるロジスティック回帰損失関数やリプシッツ勾配を持つ強い凸関数を含む広範な関数クラスに対して、この目標を達成すること。
• 改善された収縮率とODE解の低次の多項式近似を用いて、収束性と誤差境界に関する理論的保証を提供すること。

提案手法

• コロケーションに基づくODEソルバーをコア手法として採用し、既知の基底（例えば区分的多項式）の線形空間内に解を近似することで、多対数的深さとほぼ線形実行時間の両方を達成する。
• 連続的HMCプロセスに新たな収縮境界を適用し、収束速度を向上させるとともに、離散的実装における誤差制御を厳密に可能にする。
• Cauchy推定とメジャーント技法を用いて、ODE解を高精度に近似するための多項式の次数を制限する。
• 低ランク近似フレームワークを活用し、設計行列の行列逆行列計算を効率化することでHMC更新ステップを計算コストを低減する。
• 乱択スケッチ技術を用いて、システムの動的挙動をℓ∞-ノルムで制御し、高確率で安定性と正確性を保証する。
• 最終的なサンプリングアルゴリズムでは、ODEソルバーを用いて誤差を制御したHMCステップをシミュレートし、適切に選ばれたステップサイズと精度パラメータによりW2距離の境界を保証する。

実験結果

リサーチクエスチョン

• RQ1 良好に条件付けられた強い対数凸密度からのほぼ線形時間スケーリングのHMCサンプリングを、次元に依存せずに実現できるアルゴリズムを設計できるか？
• RQ2 ロジスティック凸密度におけるHMCのODEを正確に解くために必要な多項式近似の最小次数は何か？
• RQ3 連続的HMCプロセスの収縮率をどのように改善すれば、離散的設定において次元に依存しない収束を達成できるか？
• RQ4 非一貫性のあるロジスティック回帰損失関数のケースにおいて、HMCの多対数的深さとほぼ線形実行時間を達成できるか？
• RQ5 多項式ベースのODEソルバーをHMCで使用する際、精度、ステップサイズ、反復回数の間にはどのようなトレードオフがあるか？

主な発見

• 提案されたHMCアルゴリズムは、強い対数凸密度からのサンプリングにおいて多対数的深さとほぼ線形実行時間を達成し、反復回数と勾配評価回数が次元dに関してO(polylog(d))で有界である。
• 非一貫性のある重み行列を有するロジスティック回帰に対して、次元に依存しない収束が達成され、反復回数と勾配評価回数がO(polylog(d))である。
• ODEソルバーの精度δを適切に選ぶことで、W2誤差境界がO(ε·θ/2√m₂)に抑えられ、高精度なサンプリングが保証される。
• 連続的HMCプロセスの収縮境界が改善され、ステップサイズパラメータに関して収束速度がO(M₂³/⁴/m₂¹/⁴)まで厳密化された。
• HMC ODEを解くために必要な多項式近似の次数は、問題パラメータに関して対数的であるため、効率的かつ正確なシミュレーションが可能である。
• N反復に対して、κ = M₂/m₂とすると、実行時間はO(κ¹·⁵ + (Mτ)/(m₂r) log(dN/η) + (τ)/(m₂r²) log²(dN/η))で与えられ、問題サイズに対してほぼ線形依存であることが示された。