[論文レビュー] The Incremental Proximal Method: A Probabilistic Perspective

Ömer Deniz Akyıldız, V́ıctor Elvira+1 more|arXiv (Cornell University)|Apr 15, 2018

Sparse and Compressive Sensing Techniques参考文献 20被引用数 5

ひとこと要約

本論文は、増分型プロキシマル法（IPM）と確率的フィルタリングの間の確率的同等性を確立し、線形・二次型問題においてIPMが数学的にカルマンフィルタと同等であることを示している。さらに、非線形設定において、従来のIPMおよびSGDとは異なり、不安定性を伴わない、不確実性を考慮した代替手法として拡張カルマンフィルタ（EKF）の有効性を示しており、事後分布の分散の減少に伴い自然なステップサイズの適応が可能である。

ABSTRACT

In this work, we highlight a connection between the incremental proximal method and stochastic filters. We begin by showing that the proximal operators coincide, and hence can be realized with, Bayes updates. We give the explicit form of the updates for the linear regression problem and show that there is a one-to-one correspondence between the proximal operator of the least-squares regression and the Bayes update when the prior and the likelihood are Gaussian. We then carry out this observation to a general sequential setting: We consider the incremental proximal method, which is an algorithm for large-scale optimization, and show that, for a linear-quadratic cost function, it can naturally be realized by the Kalman filter. We then discuss the implications of this idea for nonlinear optimization problems where proximal operators are in general not realizable. In such settings, we argue that the extended Kalman filter can provide a systematic way for the derivation of practical procedures.

研究の動機と目的

• 増分型プロキシマル法と確率的フィルタリングアルゴリズム（例：カルマンフィルタ）との間の正式な関係を確立すること。
• 線形回帰におけるプロキシマル作用素が、ガウス的事前分布および尤度のもとでベイズ的MAP推定に対応することを示すこと。
• 線形・二次型コスト関数に対して、カルマンフィルタが増分型プロキシマル法を自然に実装することを示すこと。
• 閉形式解が困難な非線形最適化において、拡張カルマンフィルタ（EKF）を実用的な近似として非線形IPMステップに拡張すること。
• 不確実性の定量化を内蔵する確率的解釈を提供し、標準的なIPMおよびSGDに見られる主な限界を克服すること。

提案手法

• 最小二乗回帰に二次正則化子を適用したプロキシマル作用素が、ガウス的事前分布および尤度のもとでMAP推定と同等であることを証明する。
• プロキシマル作用素の明示的更新式を導出し、線形ケースにおいてカルマンフィルタの更新式と同等であることを示す。
• 確率的解釈を増分型プロキシマル法に適用し、各ステップを時不変の事前分布を持つベイズ更新として定式化する。
• 閉形式解が得られない非線形IPMステップに対して、拡張カルマンフィルタ（EKF）を実用的で再帰的な近似として提案する。
• EKFの再帰式を用いて、不確実性が低下するに従い自然に減衰する安定的で適応的なパラメータ更新を導出する。
• EKFにおける事後分散共分散行列が時間とともにゼロに収束することを示し、収束の安定性を保証する。

実験結果

リサーチクエスチョン

• RQ1 増分型プロキシマル法とカルマンフィルタのような確率的フィルタリングアルゴリズムの間に、根本的な関係が存在するか？
• RQ2 線形回帰におけるプロキシマル作用素は、ガウス的仮定のもとでベイズ的MAP推定として解釈可能か？
• RQ3 カルマンフィルタを用いることで、線形・二次型問題における増分型プロキシマル法の実装に数値的安定性を保証できるか？
• RQ4 拡張カルマンフィルタ（EKF）は、非線形最適化において標準的なIPMおよびSGDの代替として、体系的かつ不確実性を考慮した手法として機能できるか？
• RQ5 フィルタリングアルゴリズムを非定常的または時変最適化問題に適用した場合、どのような意味を持つのか？

主な発見

• ガウス的事前分布および尤度のもとで、二次正則化子を伴う線形最小二乗回帰におけるプロキシマル作用素は、数学的にカルマンフィルタの更新と同等である。
• カルマンフィルタは、線形・二次型問題に対して、自然なステップサイズ適応を伴い、安定的かつ再帰的な形で増分型プロキシマル法を実装する。
• 拡張カルマンフィルタ（EKF）は、非線形IPMステップに対して体系的で不確実性を考慮した近似を提供し、直接的なプロキシマルソルバで見られる数値的不安定性を回避する。
• EKFにおける事後分散共分散行列は時間とともにゼロに収束し、これによりパラメータ更新が自然に減衰し、発散を防ぐ。
• 数値実験の結果、EKFに基づく最適化アルゴリズムは安定して収束するが、直接的な近似IPMは最小値付近で不安定性を示す。
• 確率的フレームワークにより、事後分散共分散を用いた不確実性の定量化が可能であり、これは標準的なIPMおよびSGDには欠落している特徴である。