[論文レビュー] Variational Optimization

Joe Staines, David Barber|arXiv (Cornell University)|Dec 18, 2012

Sparse and Compressive Sensing Techniques参考文献 15被引用数 7

ひとこと要約

本稿では、最適値の変分下界を用いて、非微分可能または離散的な最適化問題に対して微分可能で代替の目的関数を構築するためのVariational Optimization (VO) を提案する。主な貢献は、弱い条件下で変分目的関数が微分可能であり、変分分布が期待値に関してアフィンである場合、その目的関数が凹関数となることである。これにより、従来は取り扱いが困難な問題に対しても勾配ベースの最適化が可能となり、スパース学習やサポートベクターマシンへの応用で成功が確認された。

ABSTRACT

We discuss a general technique that can be used to form a differentiable bound on the optima of non-differentiable or discrete objective functions. We form a unified description of these methods and consider under which circumstances the bound is concave. In particular we consider two concrete applications of the method, namely sparse learning and support vector classification.

研究の動機と目的

• 勾配ベースの最適化手法が失敗する非微分可能または離散的な目的関数の最適化という課題に対処すること。
• 真の最適値を下から抑える一般用途の微分可能な代替目的関数を開発すること。
• 変分下界が凹関数となる条件を特定し、凸最適化手法の適用を可能にすること。
• lasso回帰やソフトマージンSVMのような実世界の問題への本手法の有効性を実証すること。
• Variational Optimization と分布推定アルゴリズム (EDAs) の関係を確立し、VOをサンプリングに基づく最適化の体系的枠組みとして位置づけること。

提案手法

• 解空間 $ \mathcal{C} $ 上の変分分布 $ p(x|\theta) $ を用いて、最適値 $ f^* = \text{max}_x f(x) $ の下界を定式化する。ここで、$ E(\theta) = \big\langle f(x) \big\rangle_{p(x|\theta)} $ は期待値を表す。
• 微分可能性を保証するため、$ f(x)p(x|\theta) $ に対する弱い可積分性および支配条件を確認し、微分と積分の順序交換が可能となるようにする。
• $ f(x) $ が凹関数であり、$ p(x|\theta) $ が期待値に関してアフィン（すなわち、$ f(x) $ の期待値が固定分布 $ q(z) $ の線形変換として表現可能）である場合、$ E(\theta) $ が $ \theta $ に関して凹関数であることを確立する。
• ガウス型変分族に本手法を適用し、多変量正規分布 $ p(x|\theta) $ の場合、標準正規変数を用いた再パrameterization が可能であることを示し、勾配計算を効率的かつ安定に実現できる。
• 自由エネルギーのアプローチを用いてVOと統計物理学を結びつける。$ \text{KL}(q||\tilde{p}) $ を最小化する形で、$ \tilde{p}(x) \triangleq \frac{1}{Z} e^{\beta f(x)} $ を定義し、$ \beta $ は近似の鋭さを制御する。
• VOと分布推定アルゴリズム (EDAs) の関係を提示し、サンプリングに基づく期待値推定を用いたVOが、EDA型手法の一般化であることを示す。

実験結果

リサーチクエスチョン

• RQ1 非微分可能または離散的な $ x $ を含む $ f(x) $ に対しても、変分下界 $ E(\theta) $ が $ \theta $ に関して微分可能となる条件は何か？
• RQ2 変分目的関数 $ E(\theta) $ が $ \theta $ に関して凹関数となるのはどのような場合か？ これにより凸最適化戦略の適用が可能となる。
• RQ3 スパース学習やサポートベクターマシンのような離散的または非微分可能な問題に、変分最適化をどのように適用できるか？
• RQ4 変分最適化と自由エネルギー最小化、あるいは分布推定アルゴリズムとの関係は何か？
• RQ5 元の目的関数が取り扱いが困難な場合でも、変分最適化が真の最適値 $ f^* $ に対する保証された下界を提供できるか？

主な発見

• 弱い条件（可積分性および導関数の支配）を満たせば、変分目的関数 $ E(\theta) = \big\langle f(x) \big\rangle_{p(x|\theta)} $ は微分可能であり、非微分可能な $ f(x) $ に対しても勾配ベースの最適化が可能になる。
• $ f(x) $ が凹関数であり、$ p(x|\theta) $ が期待値に関してアフィンである場合、$ E(\theta) $ は $ \theta $ に関して凹関数となる。これにより凸性が保たれ、効率的な最大化が可能になる。
• ガウス型変分族では、標準正規変数を用いた再パラメータライゼーションが可能であり、再パラメータライゼーショントリックにより、効率的かつ安定した勾配計算が実現できる。
• 共分散が固定されている場合、自由エネルギーの最小化は変分下界の最大化に等しくなる。これにより、VOは最大事後確率推定と結びつく。
• 本手法は真の最適値 $ f^* $ に対する下界を提供し、変分分布の集中度を高めることでこの下界をタイトにできる。
• 実験結果から、VOはlasso問題やソフトマージンSVM問題に対し、元の目的関数が非微分的または離散的であっても、解の近似に成功している。