[논문 리뷰] The Incremental Proximal Method: A Probabilistic Perspective

Ömer Deniz Akyıldız, V́ıctor Elvira외 1명|arXiv (Cornell University)|2018. 04. 15.

Sparse and Compressive Sensing Techniques참고 문헌 20인용 수 5

한 줄 요약

이 논문은 증분 프락시멀 방법(incremental proximal method, IPM)과 확률적 필터링 간의 확률적 등가성을 수립하며, 선형-제곱 문제에서는 IPM이 수학적으로 칼만 필터(Kalman filter)와 동일하다는 것을 보여준다. 또한 비선형 환경에서 기존의 IPM과 SGD에 비해 안정적이고 불확실성 인식이 가능한 대안으로 확장 칼만 필터(extended Kalman filter, EKF)를 제시하며, 사후 공분산 감쇠를 통해 자연스러운 단계 크기 조정이 가능하다.

ABSTRACT

In this work, we highlight a connection between the incremental proximal method and stochastic filters. We begin by showing that the proximal operators coincide, and hence can be realized with, Bayes updates. We give the explicit form of the updates for the linear regression problem and show that there is a one-to-one correspondence between the proximal operator of the least-squares regression and the Bayes update when the prior and the likelihood are Gaussian. We then carry out this observation to a general sequential setting: We consider the incremental proximal method, which is an algorithm for large-scale optimization, and show that, for a linear-quadratic cost function, it can naturally be realized by the Kalman filter. We then discuss the implications of this idea for nonlinear optimization problems where proximal operators are in general not realizable. In such settings, we argue that the extended Kalman filter can provide a systematic way for the derivation of practical procedures.

연구 동기 및 목표

• 증분 프락시멀 방법과 확률적 필터링 알고리즘 간의 공식적 연결 고리를 확립하기 위해.
• 선형 회귀에서 프락시멀 연산자가 가우시안 사전분포와 우도 하에서 베이지안 MAP 추정과 대응함을 보여주기 위해.
• 칼만 필터가 선형-제곱 비용 함수에 대해 증분 프락시멀 방법을 자연스럽게 구현함을 보여주기 위해.
• 닫힌 형태의 해가 존재하지 않는 비선형 IPM 단계에 대해 확장 칼만 필터(EKF)를 실용적인 근사로 확장하기 위해.
• 표준 IPM과 SGD에서 부족한 핵심 한계인 불확실성 정량화를 내재적으로 포함하는 확률적 해석을 제공하기 위해.

제안 방법

• 최소 제곱 회귀에 제곱 정규화를 적용한 프락시멀 연산자가 가우시안 사전분포와 우도 하에서 MAP 추정과 동일하다는 것을 증명한다.
• 프락시멀 연산자의 명시적 업데이트 식을 유도하며, 선형 경우에서 칼만 필터 업데이트와의 동치성을 보인다.
• 확률적 해석을 증분 프락시멀 방법에 적용하여 각 단계를 시간 불변 사전분포를 가진 베이지안 업데이트로 프레임워크화한다.
• 닫힌 형태의 해가 존재하지 않는 비선형 IPM 단계에 대해 실용적이고 재귀적인 근사로 확장 칼만 필터(extended Kalman filter, EKF)를 제안한다.
• EKF 재귀식을 사용해 불확실성이 감소함에 따라 자연스럽게 감쇠되는 안정적이고 적응형 매개변수 업데이트를 도출한다.
• EKF의 사후 공분산 행렬이 시간이 지남에 따라 0으로 수렴함을 보여, 안정적 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 증분 프락시멀 방법과 칼만 필터와 같은 확률적 필터링 알고리즘 간에 근본적인 연결 고리가 존재하는가?
• RQ2 선형 회귀에서 프락시멀 연산자는 가우시안 가정 하에서 베이지안 MAP 추정으로 해석될 수 있는가?
• RQ3 칼만 필터는 수치적 안정성을 보장하면서 증분 프락시멀 방법을 선형-제곱 문제에 어떻게 자연스럽게 구현할 수 있는가?
• RQ4 확장 칼만 필터는 비선형 최적화에서 기존의 IPM과 SGD에 비해 체계적이고 불확실성 인식이 가능한 대안이 될 수 있는가?
• RQ5 필터링 알고리즘이 비정상적 또는 시간에 따라 변화하는 최적화 문제에 적용될 경우 어떤 의미를 갖는가?

주요 결과

• 가우시안 사전분포와 우도를 가정할 때, 제곱 정규화를 갖는 선형 최소 제곱 회귀의 프락시멀 연산자는 칼만 필터 업데이트와 수학적으로 동일하다.
• 칼만 필터는 선형-제곱 문제에 대해 증분 프락시멀 방법을 안정적이고 재귀적으로 구현하며, 자연스러운 단계 크기 조정이 가능하다.
• 확장 칼만 필터(extended Kalman filter, EKF)는 비선형 IPM 단계에 대해 체계적이고 불확실성 인식이 가능한 근사로 기능하며, 직접 프락시멀 해법에서 관찰되는 수치적 불안정성 문제를 피한다.
• EKF의 사후 공분산 행렬은 시간이 지남에 따라 0으로 수렴하며, 이는 매개변수 업데이트를 자연스럽게 감쇠시키고 발산을 방지한다.
• 수치적 결과는 EKF 기반 최적화기가 안정적으로 수렴하는 반면, 직접 근사 IPM은 최소값 근처에서 불안정성을 보임을 보여준다.
• 확률적 프레임워크는 사후 공분산을 통해 불확실성 정량화를 가능하게 하며, 이는 표준 IPM과 SGD에서 부재한 특성이다.