[論文レビュー] Computational Separations between Sampling and Optimization

Kunal Talwar|arXiv (Cornell University)|Nov 5, 2019

Machine Learning and Algorithms被引用数 5

ひとこと要約

本稿は、非凸ベイズ学習におけるサンプリングと最適化の計算的分離を確立し、滑らかでリプシッツ連続な関数に対しても、サンプリングが効率的である一方で最適化がNP困難である、あるいは逆に、最適化が効率的である一方でサンプリングがNP困難である例を示している。さらに、臨界温度パラメータλにおけるサンプリング複雑度の鋭い相転移が存在することを明らかにした。λが閾値を超えると、効率的なサンプリングからNP困難性へと移行する。

ABSTRACT

Two commonly arising computational tasks in Bayesian learning are Optimization (Maximum A Posteriori estimation) and Sampling (from the posterior distribution). In the convex case these two problems are efficiently reducible to each other. Recent work (Ma et al. 2019) shows that in the non-convex case, sampling can sometimes be provably faster. We present a simpler and stronger separation. We then compare sampling and optimization in more detail and show that they are provably incomparable: there are families of continuous functions for which optimization is easy but sampling is NP-hard, and vice versa. Further, we show function families that exhibit a sharp phase transition in the computational complexity of sampling, as one varies the natural temperature parameter. Our results draw on a connection to analogous separations in the discrete setting which are well-studied.

研究の動機と目的

• ベイズ学習における事後分布からのサンプリングと対数尤度関数の最適化の間の計算的関係を調査すること。
• 温度パラメータλを変化させた場合に、非凸設定においてサンプリングが最適化よりも簡単であるかどうかを特定すること。
• サンプリングと最適化が証明可能に比較不能であることを確立すること：ある関数族では片方が容易で、もう片方がNP困難である例が存在する。
• 逆温度λの関数としてのサンプリングの複雑度における鋭い閾値を同定すること。
• オракルモデルにおける分離をNP困難性へと強化し、特定の状況ではブラックボックスおよび非ブラックボックスの両方のアルゴリズムがサンプリングに不適切であることを排除すること。

提案手法

• 独立集合問題のグラフへの還元を用いて、サンプリングは効率的だが最適化はNP困難であるような、連続的かつリプシッツ連続な関数族を構築する。
• 超立方体上の点を、それに対応する頂点集合がグラフにおける独立集合かどうかに基づいてペナルティにマッピングする関数fを用いて、連続から離散への還元を適用する。
• 逆温度λを用いてギブス分布を制御し、サンプリング問題をΔ正則グラフ上の独立集合分布に関連付ける。
• Weitz (2006)およびSly & Sun (2012)の結果を応用し、独立集合のFPRAS複雑度における相転移の存在を示す。
• 定理4を用いて、λ ≥ 1/dのとき、exp(−λf(x))からのサンプリングがexp(λ|I|)からのサンプリングを近似できることを確立し、離散の複雑度結果を連続設定へと移行可能であることを示す。
• 密なグラフにおける独立集合の数の近似がNP困難であるという仮定に基づき、サンプリングのNP困難性を証明する。

実験結果

リサーチクエスチョン

• RQ1 滑らかでリプシッツ連続な関数に対しても、非凸ベイズ学習において、サンプリングが最適化よりも厳密に簡単であることはあり得るか？
• RQ2 最適化は容易だがサンプリングがNP困難であるような関数族が存在するか、特に逆温度λの関数としてそのような性質が成立するか？
• RQ3 λの増加に伴い、サンプリングの計算的複雑度に鋭い相転移が存在するか？これは離散ケースと類似しているか？
• RQ4 サンプリングと最適化の間のオラクルモデル分離を、NP困難性へと強化できるか？これにより、非ブラックボックスアルゴリズムの不適切さが排除されるか？
• RQ5 連続分布におけるサンプリングと最適化の複雑度は、温度パラメータλにどの程度依存するか？

主な発見

• d次元球上で定義された連続的かつ1リプシッツ連続な関数族が存在し、その中ではサンプリングは効率的だが最適化はNP困難である。これはfおよびその勾配のブラックボックスアクセスがある場合でも成立する。
• λ ≥ 2dおよびη < 1 − exp(−Ω(d))のとき、Gibbs分布exp(−λf(x))からのサンプリングは、NP = RPでない限りNP困難である。
• サンプリング複雑度に鋭い相転移が存在する：λ < λ_cのとき、poly(d/η)時間でη-サンプリングが可能であるが、λ > λ_cのとき、NP = RPでない限り多項式時間のη-サンプラーは存在しない。
• サンプリングの困難性は、全変動距離だけでなく、Wasserstein距離1/16に対しても成り立つ。これはRemark 4における還元によって示されている。
• 最適化は弱いアクセスモデル下でも容易のままである：ランダム初期化からの勾配降下法は、高確率でグローバル最小値に収束し、すべての局所最小値がグローバル最小値である。
• 関数族は、xのtビット表現が与えられた場合に、poly(d,t)時間で効率的に計算可能であり、実装可能性が保証されている。