[論文レビュー] Estimating Normalizing Constants for Log-Concave Distributions: Algorithms and Lower Bounds

Rong Ge, Holden Lee+1 more|arXiv (Cornell University)|Nov 8, 2019

Markov Chains and Monte Carlo Methods参考文献 39被引用数 4

ひとこと要約

本稿では、下線付きのラングジュアン動力学（ULD）を用いたマルチレベル・モンテカルロを用いて、対数凸分布の正規化定数を推定するための新規なアルゴリズムを提示する。この手法は、$ widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$ のクエリ複雑度を達成する。ここで $ \kappa = L/\mu$ は条件数である。また、この根本的な問題における高次元統計および機械学習分野における理論的理解の主要なギャップを埋めるために、初めての非自明な情報理論的下界 $ \frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ クエリを確立する。

ABSTRACT

Estimating the normalizing constant of an unnormalized probability distribution has important applications in computer science, statistical physics, machine learning, and statistics. In this work, we consider the problem of estimating the normalizing constant $Z=\int_{\mathbb{R}^d} e^{-f(x)}\,\mathrm{d}x$ to within a multiplication factor of $1 \pm \varepsilon$ for a $μ$-strongly convex and $L$-smooth function $f$, given query access to $f(x)$ and $ abla f(x)$. We give both algorithms and lowerbounds for this problem. Using an annealing algorithm combined with a multilevel Monte Carlo method based on underdamped Langevin dynamics, we show that $\widetilde{\mathcal{O}}\Bigl(\frac{d^{4/3}κ+ d^{7/6}κ^{7/6}}{\varepsilon^2}\Bigr)$ queries to $ abla f$ are sufficient, where $κ= L / μ$ is the condition number. Moreover, we provide an information theoretic lowerbound, showing that at least $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ queries are necessary. This provides a first nontrivial lowerbound for the problem.

研究の動機と目的

• 強い凸性と滑らかさを満たす関数 $f$ に対して、$\mu$--strongly convex かつ $L$-smooth であるとき、$Z = \int_{\mathbb{R}^d} e^{-f(x)} dx$ の正規化定数を効率的に推定するためのアルゴリズムを開発すること。
• この問題に対する理論的理解のギャップを埋めるために、初めての非自明な情報理論的下界を確立すること。
• マルチレベル・モンテカルロ技術を活用することで、標準的なアニーリング法やラングジュアンベースの手法と比較して、クエリ複雑度を改善すること。

提案手法

• アニーリングとマルチレベル・モンテカルロ推定を組み合わせ、下線付きのラングジュアン動力学（ULD）を用いて分散とクエリ複雑度を低減する。
• 複数の離散化レベルを用いた階層的サンプリング戦略を採用し、徐々に減少する誤差で正規化定数を推定する。
• 下線付きのラングジュアン動力学の収束速度を向上させるために、確率的中点法（ULD-RMM）を用いる。
• マルチレベル ULD におけるバイアスと分散のトレードオフの新しい解析を用いて、勾配クエリ数のタイトな境界を導出する。
• 単純な分布とターゲット分布との間を適応的に補間する新しいアニーリング戦略を導入する。
• 情報理論的議論を用いて下界を導出し、いかなるアルゴリズムでも $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ クエリ未満では成功できないことを示す。

実験結果

リサーチクエスチョン

• RQ1 強い凸性と滑らかさを満たすポテンシャル関数によって定義される対数凸分布の正規化定数を推定するための最適なクエリ複雑度は何か？
• RQ2 マルチレベル・モンテカルロ技術は、アニーリングベースの正規化定数推定において、勾配クエリ数を顕著に削減できるか？
• RQ3 正規化定数を $1 \pm \varepsilon$ の精度で推定するために必要なクエリ数の情報理論的限界は何か？
• RQ4 MALA、ULD、ULD-RMM といった異なるサンプリング方式は、この設定におけるクエリ複雑度にどのように影響を与えるか？
• RQ5 この問題において、既知の最良の上界と情報理論的下界との間に、証明可能なギャップは存在するか？

主な発見

• 提案されたマルチレベル ULD アルゴリズムは、$\widetilde{\mathcal{O}}\left(\frac{d^{4/3}\kappa + d^{7/6}\kappa^{7/6}}{\varepsilon^2}\right)$ のクエリ複雑度を達成し、従来の手法を改善する。
• マルチレベル・モンテカルロを活用した ULD-RMM を用いたアルゴリズムは、次元および条件数に最も良い依存関係を達成する。
• 情報理論的下界として $\frac{d^{1-o(1)}}{\varepsilon^{2-o(1)}}$ クエリを確立し、上界が次元依存性においてほぼタイトであることを示した。
• マルチレベル ULD を用いた対数凸測度下での期待値推定のための改良された収束速度の解析が得られ、これは独立に興味深い結果である可能性がある。
• 本稿は、強い凸性の下での正規化定数推定に対して、初めての非自明な下界を提供することで、長年の未解決問題を解決した。
• 結果から、この設定においてマルチレベル・モンテカルロが最適なクエリ複雑度を達成するために不可欠であることが示された。一方、ULD を用いたナーブなアニーリングでは、最適でない境界が得られる。