[논문 리뷰] A General Method for Amortizing Variational Filtering

Joseph Marino, Milan Cvitkovic외 1명|arXiv (Cornell University)|2018. 11. 13.

Gaussian Processes and Bayesian Inference인용 수 13

한 줄 요약

이 논문은 과거 및 현재 데이터를 사용하여 각 시간 단계에서 추론을 최적화함으로써 깊이 있는 동적 잠재변수 모델에서 온라인 변분 추론을 이론적으로 기반한 방법으로 변분 필터링 EM 알고리즘을 제안한다. 이는 반복적인 추론 네트워크를 사용하여 사후 분포를 효율적으로 근사하는 암시적 변분 필터링(AMF)을 제안하며, TIMIT, KTH Actions, 다성분 음악 데이터셋을 포함한 여러 벤치마크에서 최신 기술 수준 또는 경쟁 가능한 성능을 달성한다.

ABSTRACT

We introduce the variational filtering EM algorithm, a simple, general-purpose method for performing variational inference in dynamical latent variable models using information from only past and present variables, i.e. filtering. The algorithm is derived from the variational objective in the filtering setting and consists of an optimization procedure at each time step. By performing each inference optimization procedure with an iterative amortized inference model, we obtain a computationally efficient implementation of the algorithm, which we call amortized variational filtering. We present experiments demonstrating that this general-purpose method improves performance across several deep dynamical latent variable models.

연구 동기 및 목표

• 깊이 있는 동적 잠재변수 모델에서 온라인 변분 추론을 위한 일반 목적의, 이론적으로 탄탄한 방법을 개발하는 것.
• 필터링에서 수작업으로 설계된 추론 절차의 한계를 해결하기 위해 변분 목표에서 엄밀한 최적화 프레임워크를 유도하는 것.
• 반복적 업데이트를 사용한 암시적 추론을 통해 추론의 효율성과 성능을 향상시키고, 히우리스틱 또는 모델 특화 설계에 의존하지 않는 것.
• 음성, 영상, 음악과 같은 다양한 시퀀스 모델링 작업 전반에 걸쳐 이 방법의 광범위한 적용 가능성과 효과성을 입증하는 것.

제안 방법

• 필터링 변분 목표에서 변분 필터링 EM 알고리즘을 유도하여 각 시간 단계에 특화된 추론 최적화 문제의 시퀀스를 도출한다.
• 각 시간 단계에서 반복적인 암시적 추론 모델을 사용하여 최적화를 수행하며, 사전 분포에서 초기화하여 베이지안 예측-업데이트 루프를 형성한다.
• 진짜 사후 분포를 근사하기 위해 변분 자유 에너지(ELBO) 최소화를 적용하며, 목표 함수는 음수의 증거 하한 경계로 표현된다.
• 각 시간 단계에서 다수의 기울기 기반 업데이트를 수행하는 기울기 가능하고 종단 간(end-to-end) 학습이 가능한 추론 네트워크를 활용한다.
• VRNN, SRNN, SVG와 같은 어떤 깊이 있는 동적 잠재변수 모델에도 모델 특화 수정 없이 적용 가능한 일반 프레임워크를 도입한다.
• 과거 및 현재 관측치만을 사용하여 각 단계에서 순차적으로 데이터를 처리함으로써 온라인 학습과 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 일반 목적의, 이론적으로 도출된 알고리즘이 깊이 있는 동적 잠재변수 모델에서 온라인 변분 추론을 향상시킬 수 있는가?
• RQ2 반복적 업데이트를 사용한 암시적 추론은 수작업으로 설계된 추론 방법에 비해 성능과 효율성 측면에서 어떻게 비교되는가?
• RQ3 반복적 추론 과정이 필터링 설정에서 사후 근사에 얼마나 기여하는가?
• RQ4 제안된 방법은 음성, 영상, 음악 생성과 같은 다양한 시퀀스 모델링 작업으로 일반화되는가?
• RQ5 암시적 필터링 프레임워크에서 추론 반복 수가 성능과 수렴에 어떻게 영향을 미치는가?

주요 결과

• TIMIT 음성 데이터셋에서, 2회의 추론 반복을 사용한 AMF는 단위 시간당 테스트 자유 에너지를 1,071 나트로 계산하여 기준 방법을 능가했다.
• KTH Actions 영상 데이터셋에서, AMF는 평균 자유 에너지를 기준 방법의 15,097 나트에서 11,714 나트로 감소시켜 성능 향상을 크게 이뤘다.
• JSB Chorales 음악 데이터셋에서, 추론 반복 수를 5로 늘임으로써 AMF의 테스트 성능은 6.77 나트로 향상되어 기준 방법을 능가했다.
• SRNN이 TIMIT에서, SVG가 KTH Actions에서 사용된 모든 평가 벤치마크에서 AMF는 최신 기술 수준의 방법과 경쟁하거나 그 이상의 성능을 달성했다.
• 반복적 추론 과정은 추가 반복마다 수익 감소 효과를 보이지만, 각 단계에서 재구성 품질이 향상됨을 재구성 진화의 시각화를 통해 확인할 수 있었다.
• AMF의 성능 향상 요인은 그 원칙적인 최적화 프레임워크와 다른 방법에서 사후 근사에 악영향을 줄 수 있는 KL 다운웨이트링의 부재에 기인한다.