[논문 리뷰] On the Convergence of Stochastic Variational Inference in Bayesian Networks

Ulrich Paquet|arXiv (Cornell University)|2015. 07. 16.

Gaussian Processes and Bayesian Inference참고 문헌 6인용 수 8

한 줄 요약

이 논문은 베이지안 네트워크에 대한 확률적 변분 추론(SVI)의 수렴 문제를 조사하며, 표준 단계 크기 스케줄이 노이즈가 많은 비자연적 기울기 추정으로 인해 발산을 유도할 수 있음을 보여준다. 특히 이중선형 모델(예: 베이지안 행렬 분해)에서 전역 매개변수를 구성요소별로 업데이트할 때 작은 초기 단계 크기를 사용하는 것이 안정적인 수렴을 위해 필수적임을 입증한다.

ABSTRACT

We highlight a pitfall when applying stochastic variational inference to general Bayesian networks. For global random variables approximated by an exponential family distribution, natural gradient steps, commonly starting from a unit length step size, are averaged to convergence. This useful insight into the scaling of initial step sizes is lost when the approximation factorizes across a general Bayesian network, and care must be taken to ensure practical convergence. We experimentally investigate how much of the baby (well-scaled steps) is thrown out with the bath water (exact gradients).

연구 동기 및 목표

• 일반적인 베이지안 네트워크에 인용된 요소화된 변분 근사에 적용된 확률적 변분 추론(SVI)에서의 수렴 실패 원인을 규명하고 분석하는 것.
• 전역 매개변수가 네트워크 요소들 사이에 분해될 경우 자연 기울기 척도의 이점이 상실되어 최적화가 불안정해지는 이유를 부각하는 것.
• 노이즈가 많은 기울기 추정과 단계 크기 선택이 추천 시스템에서 사용되는 대규모 모델의 실질적 수렴에 미치는 영향을 조사하는 것.
• 정확한 기울기 정보를 기각함에도 불구하고 잘 스케일링된 노이즈가 있는 기울기로 안정적인 업데이트를 복원하기 위해 작은 초기 단계 크기를 사용할 수 있는지 평가하는 것.
• 특히 고차원 설정(예: 행렬 분해)에서 실세계의 베이지안 네트워크에 SVI를 구현하기 위한 경험적 지침을 제공하는 것.

제안 방법

• 베이지안 네트워크에서 변분 매개변수를 업데이트하기 위해 노이즈가 있는 구성요소별 자연 기울기 추정치를 사용하는 확률적 변분 추론 알고리즘(알고리즘 1)을 제안한다.
• 각 변분 매개변수 업데이트가 네트워크 내 무작위로 선택된 자식 요소(C)의 부분집합 기반으로 이루어지는 스트로스틱 근사 기반의 방법을 적용하여 계산 비용을 절감한다.
• 수렴 조건을 만족시키기 위해 시간에 따라 변하는 단계 크기 스케줄 ρt를 사용하며, ρt → 0, ∑ρt = ∞, ∑ρt² < ∞ 를 만족시킨다.
• 두 가지 업데이트 옵션을 도입한다: (a) 요소들 간 매개변수 평균의 주기적 평균화, (b) Hoffman 등이 제안한 표준 SVI 업데이트이며, 둘 다 자연 매개변수에 적용된다.
• 이중선형 모델에서 가우시안 변분 근사에 대한 확률적 자연 기울기 업데이트를 유도하며, 공모자 및 충분통계량을 명시적으로 고려한다.
• 관측된 평가 점수에 대한 기대값의 스트로스틱 추정을 사용하여 넷플릭스 데이터셋에 대해 베이지안 행렬 분해에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 왜 표준 확률적 변분 추론은 공액 지수족에서는 잘 작동하지만 일반적인 베이지안 네트워크에서는 수렴하지 못하는가?
• RQ2 변분 매개변수가 네트워크 구성요소들 사이에 분해될 경우 자연 기울기 척도의 손실이 수렴에 어떤 영향을 미치는가?
• RQ3 단위 길이의 단계 크기를 사용할 때 기울기 추정의 분산이 SVI에서 발산을 유도하는 데 어떤 역할을 하는가?
• RQ4 소규모 초기 단계 크기로 일반적인 베이지안 네트워크에 대한 SVI의 수렴 안정성을 복원할 수 있으며, 이는 수렴 속도와의 어떤 트레이드오프를 수반하는가?
• RQ5 신뢰할 수 있는 추론을 위해 정확한 기울기가 얼마나 필수적인가, 아니면 잘 스케일링된 노이즈가 있는 기울기로도 안정적인 결과를 달성할 수 있는가?

주요 결과

• 단위 길이의 단계 크기(ρt = 1)를 사용하는 표준 SVI는 높은 분산 기울기 추정치로 인해 일반적인 베이지안 네트워크에서 수치적 발산을 초래한다.
• 각 업데이트에 사용되는 자식 수 C가 작을 경우, 알고리즘 1의 두 업데이트 옵션(a)과 (b) 모두 ρt ∈ (0,1]을 사용할 경우, 특히 행렬 분해와 같은 이중선형 모델에서 발산한다.
• 적절히 작은 초기 단계 크기를 사용함으로써 수렴이 복원된다: C = 1일 때, 옵션 (a)에 대해 ρ₁ = 1/512, 옵션 (b)에 대해 ρ₁ = 1/64를 사용할 경우.
• 전역 확률적 기울기는 자연 형태가 아니므로, 조절 가능한 단계 크기조차도 불안정성을 악화시키고 과도한 초월을 유도한다.
• 경험적 결과는 전체 VB(ρt = 1)가 암묵적으로 안정적인 단계 크기를 사용하지만, 이는 정확한 스케일링이 이루어진 경우에만 스트로스틱 설정으로 이식 가능하다.
• 연구 결과, 작은 단계 크기로 발산을 완화할 수는 있으나, 이는 유용한 기울기 정보를 기각할 수 있는 트레이드오프를 수반하며, 최적의 단계 크기 선택 문제는 여전히 열려 있다.