[논문 리뷰] Convergence Rates of Biased Stochastic Optimization for Learning Sparse Ising Models

Jean Honorio|arXiv (Cornell University)|2012. 06. 18.

Stochastic Gradient Optimization Techniques참고 문헌 37인용 수 4

한 줄 요약

이 논문은 희박한 이징 모델 학습을 위한 편향된 확률적 최적화의 수렴 속도를 분석하며, 전진-후진 분할(FBS) 및 프락시멀 그라디언트(PG) 방법을 중심으로 다룬다. FBS는 표본 수가 로그적으로 증가하는 데서도 수렴함을 보이며, 가속화된 PG는 편향된 확률적 그라디언트 하에서 수렴이 보장되지 않는다는 것을 밝힌다.

ABSTRACT

We study the convergence rate of stochastic optimization of exact (NP-hard) objectives, for which only biased estimates of the gradient are available. We motivate this problem in the context of learning the structure and parameters of Ising models. We first provide a convergence-rate analysis of deterministic errors for forward-backward splitting (FBS). We then extend our analysis to biased stochastic errors, by first characterizing a family of samplers and providing a high probability bound that allows understanding not only FBS, but also proximal gradient (PG) methods. We derive some interesting conclusions: FBS requires only a logarithmically increasing number of random samples in order to converge (although at a very low rate); the required number of random samples is the same for the deterministic and the biased stochastic setting for FBS and basic PG; accelerated PG is not guaranteed to converge in the biased stochastic setting.

연구 동기 및 목표

• 편향된 그라디언트 추정치만 이용 가능한 경우 확률적 최적화 방법의 수렴 행동을 분석하는 것.
• NP-난해한 목표 함수를 포함하는 희박한 이징 모델 학습에 이러한 방법들을 적용하는 것.
• 정규화된 및 편향된 확률적 오차 설정 하에서 수렴하기 위해 필요한 무작위 표본 수를 규명하는 것.
• FBS 및 PG 방법에 대해 정규화된 오차 설정에서의 수렴 분석을 확률적 오차 설정으로 확장하는 것.
• 가속화된 PG 방법이 편향된 확률적 그라디언트 하에서도 수렴 보장을 유지하는지 평가하는 것.

제안 방법

• 정규화된 오차 하에서 전진-후진 분할(FBS)의 수렴 속도 분석을 제안한다.
• 그라디언트 추정치의 편향을 모델링하기 위해 샘플러의 가족을 정의함으로써 분석을 편향된 확률적 오차로 확장한다.
• 확률적 환경 하에서 FBS 및 기본 PG 방법의 수렴 오차에 대한 고확률 경계를 유도하여 확률적 성질을 정량화한다.
• 유도된 경계를 활용해 정규화된 및 편향된 확률적 설정 모두에서 수렴하기 위해 필요한 무작위 표본 수를 평가한다.
• 편향된 확률적 그라디언트 하에서 가속화된 PG 방법의 수렴 성질을 분석하며, 수렴이 보장되지 않음을 보여준다.
• 이론적 분석을 통해 FBS 및 PG 방법의 정규화된 설정과 편향된 확률적 설정 간의 표본 복잡도를 비교한다.

실험 결과

연구 질문

• RQ1 편향된 그라디언트 추정치만 존재할 경우 FBS의 수렴 속도는 어떻게 행동하는가?
• RQ2 편향된 확률적 설정에서 FBS가 수렴하기 위해 필요한 무작위 표본 수는 얼마인가?
• RQ3 기본 프락시멀 그라디언트(PG) 방법의 수렴 보장은 편향된 확률적 설정으로까지 확장되는가?
• RQ4 가속화된 PG 방법은 편향된 확률적 그라디언트 하에서도 수렴을 유지하는가?
• RQ5 정규화된 설정과 편향된 확률적 설정 간에 FBS의 표본 복잡도는 어떻게 비교되는가?

주요 결과

• FBS는 편향된 확률적 설정에서 표본 수가 로그적으로 증가하는 데서도 수렴하나, 매우 낮은 속도로 수렴한다.
• FBS 및 기본 PG 방법에서 정규화된 설정과 편향된 확률적 설정 모두에서 수렴하기 위해 필요한 표본 수는 동일하다.
• 가속화된 PG 방법은 기본 PG 및 FBS와 달리 편향된 확률적 그라디언트 하에서 수렴이 보장되지 않는다.
• 편향된 그라디언트를 가진 확률적 최적화의 이론적 분석을 가능하게 하는 수렴 오차에 대한 고확률 경계가 도출되었다.
• 일반적인 샘플러 가족을 규명함으로써 이 분석은 특정 사례에 국한되지 않고 FBS 및 PG 방법에 광범위하게 적용된다.
• 결과는 표본 제약 조건 하에서 희박한 이징 모델 학습에 FBS 및 기본 PG를 사용할 이론적 근거를 제공한다.