[논문 리뷰] Learning Stochastic Recurrent Networks

Justin Bayer, Christian Osendorfer|arXiv (Cornell University)|2014. 11. 27.

Machine Learning and Algorithms참고 문헌 24인용 수 195

한 줄 요약

이 논문은 복잡하고 다중 모odal한 시계열 분포를 모델링하기 위해 잠재 변수를 통합한 새로운 종류의 순환 신경망인 Stochastic Recurrent Networks (STORNs)를 소개한다. Stochastic Gradient Variational Bayes (SGVB)를 활용함으로써 STORNs는 신뢰할 수 있는 우도 추정과 함께 엔드 투 엔드 학습을 가능하게 하여, 다성분 음악과 운동 캡처 데이터에서 기존의 결정론적 RNN 및 이전 모델들을 능가하며 재구성 및 생성 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Leveraging advances in variational inference, we propose to enhance recurrent neural networks with latent variables, resulting in Stochastic Recurrent Networks (STORNs). The model i) can be trained with stochastic gradient methods, ii) allows structured and multi-modal conditionals at each time step, iii) features a reliable estimator of the marginal likelihood and iv) is a generalisation of deterministic recurrent neural networks. We evaluate the method on four polyphonic musical data sets and motion capture data.

연구 동기 및 목표

• 시계열 구성 요소에 대한 복잡하고 다중 모달 조건부 분포를 모델링하는 데에 결정론적 RNN의 한계를 해결하기 위해.
• 잠재 변수를 갖는 순환 모델에서 우도의 주변 확률을 신뢰할 수 있게 추정함으로써 이전 접근 방식에서의 비가역적 추론 문제를 극복하기 위해.
• 학습 효율성을 유지하면서도 구조적이고 확률적인 잠재 변수를 통합함으로써 RNN의 표현 능력을 확장하기 위해.
• 각 시간 단계에서 구조적이고 다중 모달적인 출력 분포를 지원하는 결정론적 RNN의 일반화를 제공하기 위해.
• 고차원적이고 밀접하게 연결된 시계열 데이터, 예를 들어 다성분 음악과 3D 운동 캡처 시퀀스와 같은 데이터에 대해 모델을 평가하기 위해.

제안 방법

• 모델은 표준 RNN에 각 시간 단계에서 잠재 변수 z_t를 도입함으로써, 이력을 바탕으로 x_t에 대한 확률적이고 다중 모달적인 모델링을 가능하게 한다.
• 공동 우도 p(x_{1:T}, z_{1:T})는 조건부 분포 p(x_t | z_t, h_t)와 p(z_t | h_t)의 곱으로 모델링되며, h_t는 은닉 상태이다.
• 인식 모델 q(z_{1:T} | x_{1:T})는 잠재 변수에 대한 사후 분포를 추론하기 위해 이중 방향 RNN으로 구현된다.
• Stochastic Gradient Variational Bayes (SGVB)는 우도의 로그에 대한 미분 가능한 하한을 통해 모델을 학습시키며, 확률적 노드를 거쳐 역전파를 가능하게 한다.
• 잠재 변수에 재구성 기법을 적용하여, 저분산 몬테 카를로 샘플링을 통한 기울기 추정이 가능해진다.
• 모델은 증거 하한(lower bound, ELBO)를 사용하여 학습되며, 이는 생성 모델과 인식 모델을 동시에 최적화하기 위한 목적 함수로 기능한다.

실험 결과

연구 질문

• RQ1 RNN에 잠재 변수를 통합함으로써 복잡하고 다중 모달적인 시계열 분포의 모델링이 크게 향상되는가?
• RQ2 SGVB의 사용이 신뢰할 수 있는 우도 추정과 함께 확률적 RNN의 효과적이고 효율적인 학습을 가능하게 하는가?
• RQ3 STORN 모델은 재구성 및 생성 성능 측면에서 결정론적 RNN 및 RNN-RBM 또는 RTRBM와 같은 이전 모델보다 어떻게 비교되는가?
• RQ4 STORNs는 운동 캡처나 다성분 음악과 같은 고차원적이고 밀접하게 연결된 시계열 데이터를 효과적으로 처리할 수 있는가?
• RQ5 모델의 확률적 성격이 시계열 생성에서 불확실성과 다양성을 포착하는 데 얼마나 기여하는가?

주요 결과

• STORN 모델은 운동 캡처 데이터에서 평균 제곱 오차(MSE) 4.94를 기록하여, 이전 모델인 RNN-RBM(MSE 20.1)과 RTRBM(MSE 16.2)를 크게 능가했다.
• 검증 세트에서 추정된 음수 로그우도는 15.99였으며, RNN-RBM 및 RTRBM와 같이 우도 추정이 비가역적인 모델들과는 달리 비교 가능한 척도를 제공했다.
• 모델는 강력한 생성 능력을 보였으며, 20단계의 자극 프리픽스 이후 다양한 확률적인 샘플을 생성했고, 출력 분포에 명백한 불확실성이 드러났다.
• 잠재 변수의 최대 사후 추정을 통한 결손치 보정은 손상된 운동 시퀀스를 성공적으로 재구성하여, 모델의 강건성과 추론 능력을 확인했다.
• STORN 모델은 고차원 시계열 구성 요소 간의 구조적 의존성을 효과적으로 포착했으며, 단순 베이즈 가정이나 고정된 혼합 성분을 갖는 모델들보다 뛰어난 성능을 보였다.
• 이중 방향 인식 모델의 사용은 사후 추론을 향상시켜 재구성 및 생성 성능 향상에 기여했다.