[論文レビュー] Online Adaptive Principal Component Analysis and Its extensions

Jianjun Yuan, Andrew Lamperski|arXiv (Cornell University)|Jan 23, 2019

Advanced Bandit Algorithms Research参考文献 27被引用数 5

ひとこと要約

本稿では、静的レグレットの代わりに適応的レグレットを最小化するオンライン適応型PCAアルゴリズムを提案する。これにより、変化するデータ環境への適応が高速化される。ランダム化オンラインPCAと固定共有更新を組み合わせることで、部分線形な適応的レグレットを達成し、合成データおよびYale-B顔データセット上で累積損失が低くなることから、動的環境下で静的PCAを上回る性能を示す。

ABSTRACT

We propose algorithms for online principal component analysis (PCA) and variance minimization for adaptive settings. Previous literature has focused on upper bounding the static adversarial regret, whose comparator is the optimal fixed action in hindsight. However, static regret is not an appropriate metric when the underlying environment is changing. Instead, we adopt the adaptive regret metric from the previous literature and propose online adaptive algorithms for PCA and variance minimization, that have sub-linear adaptive regret guarantees. We demonstrate both theoretically and experimentally that the proposed algorithms can adapt to the changing environments.

研究の動機と目的

• データ環境の時間的変化に対応できない静的レグレットの限界を解消すること。
• 静的レグレット最小化よりも、変化するデータ部分空間に効果的に適応できるオンラインアルゴリズムを開発すること。
• 分散最小化の文脈に適応的レグレットフレームワークを単位ベクトルおよび単体パラメータ空間へ拡張すること。
• 理論的および実験的に、提案アルゴリズムが非定常環境下でより速く適応し、累積損失を低く抑えられることを示すこと。

提案手法

• 本アルゴリズムは、[16]のランダム化オンラインPCA手法と固定共有更新を組み合わせることで、変化する環境への適応を可能にする。
• 相対エントロピーと量子相対エントロピーを、それぞれ確率分布間および密度行列間の乖離を測定するための指標として用いる。
• 固定共有ステップにより、過去の意思決定を徐々に「忘れる」ことで、環境の変化への対応性が向上する。
• 分散最小化の文脈では、同様の適応的レグレット最小化の原則を応用し、単位ベクトルおよび単体空間の2つのパラメータ空間へ拡張する。
• 理論的分析により、部分線形な適応的レグレットの上限が確立され、最良の時間区間固有解に対する性能が時間経過とともに向上することが保証される。
• 実験的評価では、3つの変化する部分空間を有する合成データと、20名の異なる個人を含むYale-B顔データセットを用い、両者でk=2として評価した。

実験結果

リサーチクエスチョン

• RQ1 オンラインPCAアルゴリズムは、非定常なデータ環境に対応するため、静的レグレットの代わりに適応的レグレットを最小化できるか？
• RQ2 固定共有更新は、静的レグレット最小化と比較して、オンラインPCAにおける適応速度をどのように向上させるか？
• RQ3 適応的レグレットフレームワークは、単位ベクトルおよび単体空間におけるオンライン分散最小化へ成功裏に拡張可能か？
• RQ4 提案アルゴリズムは、顔画像の異なる個人を含む実世界の動的データにおいて、静的PCAよりも低い累積損失を達成できるか？

主な発見

• 提案されたオンライン適応型PCAアルゴリズムは、部分線形な適応的レグレットを達成し、変化する環境に対して理論的にも頑健であることが証明された。
• 3つの変化する部分空間を有する合成例では、アルゴリズムは静的PCAよりも速く適応し、顕著に低い累積損失を達成した。
• 20名の個人を含むYale-B顔データセットでは、明確な部分空間遷移が見られない状況下でも、アルゴリズムは最低の累積損失を達成した。
• アルゴリズムは、固定コンパレータに依存するため非定常データに不適切なFOLLOW THE LEADERおよび静的PCAを上回った。
• 固定共有拡張により、並列で複数のアルゴリズムを実行する必要がなく、従来の方法のlog Tオーバーヘッドを回避する効率的な適応が可能になった。
• 固有値分解による1反復あたりの計算量がO(n³)であるが、最適化すればインクリメンタルPCAと同等の性能を維持している。