[論文レビュー] Follow the Compressed Leader: Faster Algorithms for Matrix Multiplicative Weight Updates.

Zeyuan Allen Zhu, Yuanzhi Li|arXiv (Cornell University)|Jan 6, 2017

Stochastic Gradient Optimization Techniques参考文献 20被引用数 5

ひとこと要約

本論文は、敵対的状況では次元3、確率的状況では次元1に行列指数関数の計算を圧縮することで、行列乗法的重み更新（MMWU）の計算を高速化する、Followed-the-Compressed-Leader（FTCL）フレームワークを導入する。この手法は、MMWUの理論的境界にほぼ一致するレグレットを達成しながら、従来のFTPL手法よりも高速に動作し、効率的かつ最適なオンライン固有ベクトルアルゴリズムに関する長年の未解決問題を解決する。

ABSTRACT

Matrix multiplicative weight update (MMWU) is an extremely powerful algorithmic tool for computer science and related fields. However, it comes with a slow running time due to the matrix exponential and eigendecomposition computations. For this reason, many researchers studied the followed-the-perturbed-leader (FTPL) framework which is faster, but a factor $\sqrt{d}$ worse than the optimal regret of MMWU for dimension-$d$ matrices. In this paper, we propose a $ extit{followed-the-compressed-leader}$ framework which, not only matches the optimal regret of MMWU (up to polylog factors), but runs $ extit{even faster}$ than FTPL. Our main idea is to compress the matrix exponential computation to dimension 3 in the adversarial setting, or dimension 1 in the stochastic setting. This result resolves an open question regarding how to obtain both (nearly) optimal and efficient algorithms for the online eigenvector problem.

研究の動機と目的

• 行列指数関数および固有値分解の計算コストが高いため、行列乗法的重み更新（MMWU）の非効率性を解消すること。
• d次元行列に対して√dの遅れを伴う、Follow-the-Perturbed-Leader（FTPL）フレームワークの性能差を克服すること。
• オンライン固有ベクトル問題において、ほぼ最適なレグレットと優れた実行時間効率を両立する新しいアルゴリズムフレームワークを開発すること。
• MMWUの最適なレグレットを達成しつつ、高い計算コストを負担せずに実現可能な効率的アルゴリズムが存在するかという未解決問題を解決すること。

提案手法

• 行列指数関数計算の有効次元を低減する、新規のFollowed-the-Compressed-Leader（FTCL）フレームワークを提唱すること。
• 敵対的状況では、行列指数関数の計算を次元3に圧縮し、計算オーバーヘッドを顕著に削減すること。
• 確率的状況では、計算を次元1に圧縮することで、さらにアルゴリズムの高速化を実現すること。
• 低ランク近似と構造的行列圧縮を活用し、レグレットの保証を維持しながら実行時間を向上させること。
• 圧縮された計算が元のMMWUのレグレット境界を多項対数因子の範囲内で保持することを示す、新しい解析手法を用いること。
• 圧縮された更新ルールをオンライン学習フレームワークに統合し、敵対的および確率的条件下での安定性と収束性を保証すること。

実験結果

リサーチクエスチョン

• RQ1 計算コストを著しく低減した上で、ほぼ最適なレグレットを達成する行列乗法的重み更新アルゴリズムを設計可能か？
• RQ2 レグレット性能を損なわずに、行列指数関数の計算を低次元部分空間に圧縮可能か？
• RQ3 MMWUのレグレット最適性とFTPLの効率性を両立するフレームワークが存在するか？
• RQ4 敵対的状況では次元3、確率的状況では次元1に行列指数関数の計算の次元を低減可能か、理論的保証を維持できるか？
• RQ5 実際の性能とレグレットの観点から、提案されたFTCLフレームワークは理論的および実践的にMMWUおよびFTPLとどのように比較されるか？

主な発見

• FTCLフレームワークは、MMWUの最適なレグレットを多項対数因子の範囲内で達成し、重要な理論的ギャップを解消する。
• 従来のFTPLフレームワークよりも高速に動作し、以前は速度向上を提供したが√dのレグレットペナルティを伴っていた。
• 敵対的状況では行列指数関数の計算を次元3に圧縮することで、計算複雑度を低減しつつも、レグレット性能を損なわない。
• 確率的状況では次元1への圧縮により、さらに効率性が向上し、最適なレグレット保証が維持される。
• オンライン固有ベクトル学習における最適なレグレットと高い効率性を両立するソリューションを提供する。
• 理論的解析により、低次元圧縮がオンライン学習用途に必要な収束性および安定性の特性を保持することが確認された。