[논문 리뷰] Collapsed Amortized Variational Inference for Switching Nonlinear Dynamical Systems

Zhe Dong, Bryan Seybold외 2명|arXiv (Cornell University)|2019. 10. 21.

Generative Adversarial Networks and Image Synthesis참고 문헌 28인용 수 4

한 줄 요약

이 논문은 이중 이산 및 연속 잠재 변수를 가진 스위칭 비선형 동적 시스템(SNLDS)을 위한 축약된 암시적 변분 추론을 제안하며, 이산 잠재 상태를 적분하고 연속 상태에 대해 암시적 추론 네트워크를 사용함으로써 재파arameterization를 통해 효율적인 엔드 투 엔드 학습을 가능하게 한다. 이 방법은 비선형 역학을 더 적은 모드로 모델링할 때 특히 효과적이며, 영상 및 3D 인간 운동과 같은 복잡한 시계열의 분할 성능이 이전 방법들보다 뛰어나다.

ABSTRACT

We propose an efficient inference method for switching nonlinear dynamical systems. The key idea is to learn an inference network which can be used as a proposal distribution for the continuous latent variables, while performing exact marginalization of the discrete latent variables. This allows us to use the reparameterization trick, and apply end-to-end training with stochastic gradient descent. We show that the proposed method can successfully segment time series data, including videos and 3D human pose, into meaningful ``regimes'' by using the piece-wise nonlinear dynamics.

연구 동기 및 목표

• 이중 이산 및 연속 잠재 변수를 가진 스위칭 비선형 동적 시스템(SNLDS)을 위한 효율적인 추론 방법을 개발하기 위해.
• 이산 상태를 적분한 후 연속 변수에 재파arameterization 기법을 적용하여 확률적 경사 하강법을 통한 엔드 투 엔드 학습을 가능하게 하기 위해.
• 단일 모드의 과도한 사용을 방지하기 위해 새로운 사후 정규화 기법을 도입하여 SNLDS 모델의 사후 붕괴 문제를 해결하기 위해.
• 기존 모델들인 SLDS와 비교하여 비선형 시계열, 특히 영상 및 3D 인간 운동 시퀀스의 분할 정확도를 향상시키기 위해.
• CMU MoCap 및 조각별 비선형 역학을 가진 합성 운동 시퀀스와 같은 실제 데이터셋에서 제안된 방법의 효과성을 입증하기 위해.

제안 방법

• 이 방법은 이산 잠재 상태 $s_{1:T}$를 정방향-역방향 알고리즘을 사용해 정확히 적분하는 축약된 변분 추론 프레임워크를 사용하며, 이로 인해 효율적인 기울기 계산이 가능하다.
• 연속 상태 $\mathbf{z}_{1:T}$의 사후분포를 근사하기 위해 암시적 추론 네트워크 $q_{\boldsymbol{\phi}}(\mathbf{z}_{1:T}|\mathbf{v}_{1:T})$ 를 학습시키며, 이는 재파arameterization와 미분 가능한 학습을 가능하게 한다.
• 관측값 $\mathbf{x}_{1:T}$를 인코딩하기 위해 양방향 RNN을, 은닉 상태를 전파하기 위해 단방향 RNN을 사용하며, 시간에 걸쳐 공유 파라미터를 사용한다.
• 제안자로 라오-블랙웰라이즈드 입자 필터를 사용하지만, 주로 VAE와 유사하게 단일 사후 표본에 의존한다.
• 모드 붕괴를 방지하고 학습을 안정화하기 위해 온도 스케줄링과 함께 점진적 엔트로피 정규화를 도입하여 사후 정규화를 구현한다.
• 모델은 증거 하한값(ELBO)에 대한 확률적 경사 하강법을 사용해 공동으로 학습되며, 초기 학습 단계에서는 높은 엔트로피와 온도를 사용하여 모든 모드의 탐색을 장려한다.

실험 결과

연구 질문

• RQ1 축약된 암시적 변분 추론은 비선형 역학을 가진 SNLDS의 효율적이고 확장 가능한 학습을 가능하게 하는가?
• RQ2 이산 상태를 적분함으로써 학습 안정성이 향상되고 하이브리드 시스템에서 재파arameterization 사용이 가능해지는가?
• RQ3 탄력적인 비선형 역학을 가진 SNLDS 모델에서 사후 정규화가 모드 붕괴를 어느 정도 방지하는가?
• RQ4 최소한의 모드 사용으로 비선형 시계열을 분할하는 데 있어 제안된 방법이 SLDS 및 기타 베이스라인과 비교해 어떻게 성능을 냈는가?
• RQ5 냉각 스케줄이 비지도 설정에서 모델 수렴성과 분할 품질에 어떤 영향을 미치는가?

주요 결과

• 비선형 2D 운동 작업에서 SNLDS 모델은 SLDS를 크게 능가하며, 특히 변화 탐지에 5프레임의 허용 오차를 적용했을 때 더 높은 F1 점수를 기록했고, 상태 수가 적어도 성능이 뛰어나다.
• 더브린스 카 경로 데이터셋에서 최적의 냉각 스케줄을 사용했을 때, SNLDS 모델은 기준선 대비 상대적 음의 로그우도에서 10% 이상의 향상을 기록했다.
• CMU MoCap 데이터를 사용한 살사 댄스 작업에서, 모델은 3D 인간 운동을 세 가지 해석 가능한 모드로 성공적으로 분할했다: 전진/후진 운동, 시계도는 방향 전환, 반시계도는 방향 전환.
• 지연된 냉각(50,000단계부터 시작)을 사용했을 때 살사 댄스 시퀀스의 F1 점수가 20% 이상 향상되었으며, 이는 후기 정규화가 더 구분 가능한 모드를 학습하는 데 도움이 된다는 것을 시사한다.
• SLDS보다 더 적은 모드로도 더 나은 분할 성능를 달성했으며, 이는 비선형 모델이 조각별 선형 근사보다 더 효율적으로 복잡한 역학을 포착할 수 있음을 보여준다.
• 엔트로피 계수와 온도 감쇠를 각각 50,000단계와 100,000단계에 지연시킨 냉각 스케줄이 우도와 F1 점수 측면에서 최고의 최종 성능를 이끌어냈다.