[논문 리뷰] Gradient Estimation with Simultaneous Perturbation and Compressive Sensing

Vivek S. Borkar, Vikranth Dwaracherla외 1명|arXiv (Cornell University)|2015. 11. 27.

Sparse and Compressive Sensing Techniques참고 문헌 30인용 수 4

한 줄 요약

이 논문은 고차원 공간에서의 기울기 추정을 위해 동시 섭동 확률적 근사(Simultaneous Perturbation Stochastic Approximation, SPSA)와 압축 측정(compressive sensing)을 결합한 새로운 기울기 추정 방법을 제안한다. 기울기의 희박성과 $ \boldsymbol{\nabla}f $-희박성 구조를 활용함으로써, $ m \triangleq O(s \text{log}(n/s)) $ 측정값을 통해 정확한 기울기 복원을 달성하며, 기능 평가가 비용이 많이 드는 상황에서 계산 비용을 크게 절감한다. 이는 고차원 최적화 및 다양체 학습 작업에서의 시뮬레이션을 통해 검증되었다.

ABSTRACT

This paper aims at achieving a "good" estimator for the gradient of a function on a high-dimensional space. Often such functions are not sensitive in all coordinates and the gradient of the function is almost sparse. We propose a method for gradient estimation that combines ideas from Spall's Simultaneous Perturbation Stochastic Approximation with compressive sensing. The aim is to obtain "good" estimator without too many function evaluations. Application to estimating gradient outer product matrix as well as standard optimization problems are illustrated via simulations.

연구 동기 및 목표

• 기능 평가가 계산적으로 비용이 많이 드는 고차원 문제에서 전통적 기울기 추정의 비효율성을 해결한다.
• 고차원 함수의 기울기 희박성을 활용하여 필요한 기능 평가 수를 줄인다.
• SPSA의 효율적인 편향 기반 방식과 압축 측정을 융합한 하이브리드 방법을 개발하여 강력한 기울기 복원을 달성한다.
• 기능 평가가 비용이 많이 드는 조건에서 최적화 및 다양체 학습 작업에서 수렴 속도와 정확도를 향상시킨다.
• $ \boldsymbol{\nabla}f $-희박성과 $ \boldsymbol{\nabla}f $-희박성 인식 샘플링을 가정한 기울기 복원의 이론적 근거를 제공한다.

제안 방법

• SPSA에서 유도된 동시 편향(Simultaneous Perturbation, SP)을 사용하여 각 반복에서 단일 방향으로 무작위 편향을 생성함으로써 기울기 추정에 필요한 기능 평가 수를 감소시킨다.
• 압축 측정 원리를 적용하여 기울기를 기저에서 약간 희박하다고 모델링함으로써, $ m \triangleq O(s \text{log}(n/s)) $ 측정값에서 복원 가능하도록 한다.
• 기울기 추정을 기본 추적 문제로 공식화한다: $ \boldsymbol{\nabla}f \triangleq \text{argmin}_{\boldsymbol{z}} \frac{1}{2} \norm{A\boldsymbol{z} - \boldsymbol{y}}^2 + \tau \norm{\boldsymbol{z}}_1 $, 여기서 $ A $ 는 무작위 가우시안 행렬이고 $ \boldsymbol{y} $ 는 기능 차이를 포함한다.
• $ l_1 $-최소화와 적응형 정밀 조정을 통합: 중간 단계의 $ l_1 $-해를 활용해 확률적 기울기 하강법을 지도함으로써 수렴 속도를 향상시킨다.
• 무작위 가우시안 행렬 $ A \times n \times m $ 을 사용하여 기울기를 낮은 차원의 측정 공간으로 투영한다.
• 적응형 $ l_1 $-최소화를 위해 호모토피 방법을 적용하여 최적화 도중 기울기 추정치를 반복적으로 정밀 조정한다.

실험 결과

연구 질문

• RQ1 압축 측정을 SPSA와 효과적으로 융합하여 고차원 기울기 추정에서 기능 평가 수를 줄일 수 있는가?
• RQ2 제안된 방법은 고전적 SPSA 및 전체 기울기 계산과 비교해 수렴 속도와 정확도 측면에서 어떻게 성능을 내는가?
• RQ3 기울기의 희박성이 얼마나 높은 정도로 $ O(s \text{log}(n/s)) $ 기능 평가 수로 정확한 기울기 복원을 가능하게 하는가?
• RQ4 기능 평가가 비용이 많이 드는 조건에서 적응형 $ l_1 $-최소화 기반 방식이 확률적 기울기 하강법의 수렴을 향상시킬 수 있는가?
• RQ5 고차원 최적화에서 SGL(Spectral Gradient Learning)과 같은 기존 방법과 비교해 시간과 정확도 측면에서 이 방법은 어떻게 성능을 내는가?

주요 결과

• n = 25000 인 경우, 적응형 기법을 사용해 전체 기울기 계산 대비 90%의 시간 절감을 달성했으며, 적응형 기법은 39초, 전체 기울기 계산은 9000초가 소요되었다.
• n = 10000 인 경우, 적응형 기법은 30.4초, 비적응형 기법은 213.6초, 실제 기울기 계산은 5873.8초가 소요되었다.
• 제안된 방법은 [21]에서 제시한 SGL 방법보다 뛰어난 성능을 보였으며, 동일 조건($ n = 10000, s = 50, m = 50 $)에서 83초로 작업을 완료한 데 반해 SGL은 993초가 소요되었다.
• 시뮬레이션 결과, 초기 오차는 더 높지만 적응형 $ l_1 $-최소화 기반 방식이 비적응형 및 고전적 SPSA보다 더 빠른 수렴을 달성하였다.
• 이론적 분석을 통해 $ \nabla f $ 가 약간 희박하다고 가정할 경우, $ m \triangleq O(s \text{log}(n/s)) $ 에서 높은 확률로 기울기를 정확히 복원할 수 있음을 확인하였다.
• 다양체 학습에서 기울기 외적 곱 행렬을 추정하는 데에도 이 방법이 강력한 성능을 보였으며, 이는 표준 최적화 외적 응용 분야에서도 유효함을 검증하였다.