[논문 리뷰] Disentangled State Space Representations

Đorđe Miladinović, Muhammad Waleed Gondal외 3명|arXiv (Cornell University)|2019. 06. 07.

Time Series Analysis and Forecasting인용 수 3

한 줄 요약

이 논문은 순차 데이터에서 도메인 불변 역학과 도메인 특화 요소를 명시적으로 분리하는 비모수적 상태공간모델의 일종인 분리된 상태공간모델(DSSM)을 제안한다. 변분 베이지안 필터링 프레임워크를 사용하여 DSSM는 견고한 다중도메 예측, 분리된 표현 학습, 제어 가능한 순차 생성을 가능하게 하며, 다양한 중력 조건 하에서 상미분방정식 시스템 식별 및 영상 예측 과제에서 최신 기술 수준의 성능을 입증한다.

ABSTRACT

Sequential data often originates from diverse domains across which statistical regularities and domain specifics exist. To specifically learn cross-domain sequence representations, we introduce disentangled state space models (DSSM) -- a class of SSM in which domain-invariant state dynamics is explicitly disentangled from domain-specific information governing that dynamics. We analyze how such separation can improve knowledge transfer to new domains, and enable robust prediction, sequence manipulation and domain characterization. We furthermore propose an unsupervised VAE-based training procedure to implement DSSM in form of Bayesian filters. In our experiments, we applied VAE-DSSM framework to achieve competitive performance in online ODE system identification and regression across experimental settings, and controlled generation and prediction of bouncing ball video sequences across varying gravitational influences.

연구 동기 및 목표

• 통계적 규칙성이 다른 이질적인 도메인 간의 순차 역학 학습 문제에 대응한다.
• 순차 데이터에서 도메인 불변 역학과 도메인 특화 요소를 분리하는 문제를 정식화한다.
• 지식 이동과 간섭을 지원하는, 민첩하고 비지도 프레임워크를 개발한다.
• 분리된 표현을 활용하여 미리 보지 못한 도메인에서 순차의 견고한 예측과 조작을 가능하게 한다.

제안 방법

• 도메인 불변 역학과 도메인 특화 영향을 명시적으로 분리하는 비모수적 SSM의 일종인 분리된 상태공간모델(DSSM)을 제안한다.
• 압축 추론을 사용한 변분 베이지안 필터링 프레임워크를 설계하여 DSSM을 비지도 방식으로 학습시키며, 시간에 따른 기울기 전파를 가능하게 한다.
• 후행 확률 P(D|X<t)를 통한 도메인 인식을 통합하여 도메인 특화 영향을 모델링하면서도 공통의 도메인 불변 역학 모델을 유지한다.
• 재구성 기법을 적용하여 VAE 기반 DSSM의 엔드 투 엔드 학습을 가능하게 하여 효율적이고 확장 가능한 추론을 가능하게 한다.
• 3차원 잠재 공간을 도메인 임베딩에 사용하여 영상 순차에서 중력 방향의 분리 정도를 시각화하고 평가한다.
• 추론 중에 도메인 임베딩(예: 중력)을 서로 다른 순차 간에 교환하여 제어 가능한 생성과 간섭을 가능하게 한다.

실험 결과

연구 질문

• RQ1 분리된 상태공간모델은 순차 데이터에서 일반적인 도메인 불변 역학과 도메인 특화 요소를 효과적으로 분리할 수 있는가?
• RQ2 분리가 순차 모델링에서 미지의 도메인으로의 지식 이동과 일반화를 어떻게 향상시키는가?
• RQ3 감독 없이 DSSM이 의미 있는, 압축된, 위상적으로 충실한 도메인 표현을 어느 정도 학습할 수 있는가?
• RQ4 DSSM은 장기 예측과 제어 가능한 순차 조작(예: 교환된 역학을 가진 영상 생성)을 위한 견고한 성능을 보일 수 있는가?
• RQ5 VAE 기반 학습 절차는 ODE 식별과 같은 복잡한 순차 과제에서 분리와 일반화를 어떻게 지원하는가?

주요 결과

• DSSM는 온라인 ODE 시스템 식별 과제에서 최신 기술 수준의 성능을 달성하여, ODE 형태에 대한 사전 지식 없이도 미리 보지 못한 테스트 순차에서 진짜 매개변수를 정확히 복원했다.
• 영상 예측 과제에서 DSSM은 K-VAE와 도메인 없는 SSM 기반 베이스라인을 능가했으며, 특히 노이즈 조건 하에서 SSM 아블레이션보다 약간 더 우수한 성능을 보였다.
• 모델은 이질적인 중력 방향을 가진 테스트 순차를 3차원 도메인 공간에 임베딩하여 원래의 2차원 중력 공간의 위상적 구조를 유지했다.
• 분리된 표현은 효과적인 도메인 교환을 가능하게 하였으며, 한 순차의 중력 임베딩을 다른 순차에 삽입함으로써 자연스럽고 행동적으로 일관된 영상 순차를 생성했다.
• 사전 분포 p₀(D)와 p₀(S₀)에서의 통제되지 않은 영상 생성은 자연스럽고 다양한 순차를 생성하여 모델의 생성 능력을 입증했다.
• 분리된 잠재 공간은 레이블이 없는 도메인 정보가 없더라도, 서로 다른 중력 방향에 대해 압축되고 잘 분리된 클러스터를 형성함으로써 의미 있는 순차 특성화를 가능하게 했다.