[論文レビュー] Gradient Estimation with Simultaneous Perturbation and Compressive Sensing

Vivek S. Borkar, Vikranth Dwaracherla+1 more|arXiv (Cornell University)|Nov 27, 2015

Sparse and Compressive Sensing Techniques参考文献 30被引用数 4

ひとこと要約

本稿では、高次元空間における勾配推定に、同時に摂動による確率的近似（SPSA）と圧縮センシングを組み合わせた新規な勾配推定手法を提案する。勾配のスパarsityを活用し、$ \boldsymbol{\nabla}f $-スパース構造を活用することで、$ m \triangleq O(s \text{log}(n/s)) $ の測定値で精度の高い勾配回復が可能となり、関数評価コストが高価な状況において大幅な計算コスト削減を実現した。高次元最適化および多様体学習タスクにおけるシミュレーションにより検証された。

ABSTRACT

This paper aims at achieving a "good" estimator for the gradient of a function on a high-dimensional space. Often such functions are not sensitive in all coordinates and the gradient of the function is almost sparse. We propose a method for gradient estimation that combines ideas from Spall's Simultaneous Perturbation Stochastic Approximation with compressive sensing. The aim is to obtain "good" estimator without too many function evaluations. Application to estimating gradient outer product matrix as well as standard optimization problems are illustrated via simulations.

研究の動機と目的

• 関数評価コストが高価な高次元問題における従来の勾配推定の非効率性を解消すること。
• 高次元関数の勾配におけるスパarsityを活用し、必要な関数評価回数を削減すること。
• SPSAの効率的な摂動スキームと圧縮センシングを組み合わせたハイブリッド手法を開発し、勾配回復のロバスト性を高めること。
• 関数評価コストが高価な制約下でも、最適化および多様体学習タスクにおける収束速度と精度の向上を実証すること。
• 勾配のスパarsity仮定に基づき、$ \boldsymbol{\nabla}f $-スパarsityと$ \boldsymbol{\nabla}f $-スパarsityに配慮したサンプリングを用いた勾配回復の理論的裏付けを提供すること。

提案手法

• SPSAからの同時摂動（SP）を用い、各イテレーションで1方向のランダム摂動を生成することで、勾配推定に必要な関数評価回数を削減する。
• 圧縮センシングの原則を適用し、勾配を基底において近似的にスパースとみなすことで、$ m \triangleq O(s \text{log}(n/s)) $ の測定値から回復可能となる。
• 勾配推定をベース・バシス問題として定式化：$ \boldsymbol{\nabla}f \triangleq \text{argmin}_{\boldsymbol{z}} \frac{1}{2} \norm{A\boldsymbol{z} - \boldsymbol{y}}^2 + \tau \norm{\boldsymbol{z}}_1 $、ここで$ A $はランダムなガウス行列で、$ \boldsymbol{y} $ は関数差を含む。
• $ l_1 $-最小化と適応的リファインメントを統合：中間の$ l_1 $-解を用いて確率的勾配降下法をガイドすることで、収束速度を向上させる。
• $ A \times n \times m $ のランダムなガウス行列を用い、勾配を低次元の測定空間に投影する。
• ホモトピー法を用いて適応的$ l_1 $-最小化を実行し、最適化中に勾配推定値を段階的に精緻化する。

実験結果

リサーチクエスチョン

• RQ1 圧縮センシングをSPSAと効果的に組み合わせることで、高次元勾配推定における関数評価回数を削減できるか？
• RQ2 本手法は、古典的SPSAおよび完全勾配計算と比較して、収束速度と精度においてどの程度優れているか？
• RQ3 勾配のスパarsityが、$ O(s \text{log}(n/s)) $ の関数評価回数での正確な勾配回復をどの程度可能にするか？
• RQ4 関数評価コストが高い状況下で、適応的$ l_1 $-最小化スキームが確率的勾配降下法の収束を改善できるか？
• RQ5 高次元最適化において、既存手法（SGL：スペクトル勾配学習）と比較して、時間的・精度的側面で本手法はどの程度優れているか？

主な発見

• $ n = 25000 $ の場合、適応的スキームでは9000秒の完全勾配計算と比較して39秒で、時間は90％削減された。
• $ n = 10000 $ の場合、適応的手法は30.4秒で、非適応的手法の213.6秒、実際の勾配計算の5873.8秒と比較して高速であった。
• SGL手法[21]と比較すると、同じ条件（$ n = 10000, s = 50, m = 50 $）下で、本手法は83秒でタスク完了を達成したのに対し、SGLは993秒を要した。
• シミュレーションでは、初期誤差が高めであったものの、適応的$ l_1 $-最小化スキームが非適応的および古典的SPSAよりも高速な収束を達成した。
• 理論的分析により、$ \nabla f $ が近似的にスパースであると仮定すれば、$ m \triangleq O(s \text{log}(n/s)) $ の場合、高い確率で勾配が正確に回復可能であることが確認された。
• 多様体学習における勾配外積行列推定においても、本手法は安定した性能を示し、標準的最適化を超えた応用の有効性を裏付けた。