[논문 리뷰] Hidden Markov Nonlinear ICA: Unsupervised Learning from Nonstationary Time Series

Hermanni Hälvä, Aapo Hyvärinen|arXiv (Cornell University)|2020. 06. 22.

Blind Source Separation Techniques참고 문헌 25인용 수 17

한 줄 요약

이 논문은 비정상적 시계열 데이터의 수동 분할을 대체하기 위해 은닉 마르코프 모델(HMM)을 활용한 완전히 비지도 학습 프레임워크인 은닉 마르코프 비선형 ICA를 제안한다. 비선형 ICA에 HMM을 통합함으로써 식별성(identifiability)을 확보하고, EM 알고리즘을 통한 엔드 투 엔드 학습이 가능해지며, 합성 데이터에서 기존 방법들인 TCL보다 독립된 성분 복원 및 시간 동적 모델링 성능이 뛰어나다.

ABSTRACT

Recent advances in nonlinear Independent Component Analysis (ICA) provide a principled framework for unsupervised feature learning and disentanglement. The central idea in such works is that the latent components are assumed to be independent conditional on some observed auxiliary variables, such as the time-segment index. This requires manual segmentation of data into non-stationary segments which is computationally expensive, inaccurate and often impossible. These models are thus not fully unsupervised. We remedy these limitations by combining nonlinear ICA with a Hidden Markov Model, resulting in a model where a latent state acts in place of the observed segment-index. We prove identifiability of the proposed model for a general mixing nonlinearity, such as a neural network. We also show how maximum likelihood estimation of the model can be done using the expectation-maximization algorithm. Thus, we achieve a new nonlinear ICA framework which is unsupervised, more efficient, as well as able to model underlying temporal dynamics.

연구 동기 및 목표

• 비정상적 데이터에서 세그먼트 인덱스와 같은 관측된 보조 변수가 필요로 하는 기존 비선형 ICA 방법의 한계를 해결하기 위해.
• 수동 분할 없이 데이터로부터 은닉 시간 상태를 추론하는 완전히 비지도 프레임워크를 개발하기 위해.
• 조건 변수가 관측되지 않고 은닉 상태로 추론될 경우에도 독립된 성분의 식별성을 확보하기 위해.
• 소수의 은닉 상태로 반복적인 비정상적 동적 패턴을 효율적으로 모델링하기 위해.
• 시계열 데이터에서 비지도 표현 학습과 시간 동적 추론을 통합하는 프레임워크를 제공하기 위해.

제안 방법

• 비선형 ICA 프레임워크에 관측된 세그먼트 인덱스를 대체하기 위해 은닉 마르코프 모델(HMM)을 은닉 조건 변수로 통합한다.
• HMM을 사용하여 이산적인 은닉 상태와 마르코프 전이 동역학을 통해 시간에 따라 변화하는 데이터 분포를 모델링한다.
• Hyvärinen 등(2019)의 이론적 결과를 확장하여 일반적인 혼합 비선형성(딥 뉴럴 네트워크 포함) 하에서 모델의 식별성을 증명한다.
• 기대값 최대화(EM) 알고리즘을 사용하여 최대우도 추정을 수행하며, M단계에서는 서브시퀀스의 미니배치에 대해 Adam 최적화기를 사용한다.
• 역혼합 함수를 깊이 있는 신경망(MLP)으로 파arameterize하며, 레이어 간에 가중치 공유를 적용하고, Leaky ReLU 활성화 함수를 사용한다.
• 모델 학습 후 가장 가능성이 높은 은닉 상태 시퀀스를 추론하기 위해 비터비 알고리즘을 적용한다.

실험 결과

연구 질문

• RQ1 관측된 세그먼트 인덱스를 은닉 HMM으로 대체함으로써 비선형 ICA 모델을 완전히 비지도 학습으로 만들 수 있는가?
• RQ2 조건 변수가 관측되지 않고 HMM을 통해 추론될 경우에도 독립된 성분의 식별성이 유지되는가?
• RQ3 제안된 모델은 TCL과 같은 기존 방법보다 비정상적 시계열에서 진짜 독립된 성분을 더 잘 복원할 수 있는가?
• RQ4 모델이 은닉 상태의 잠재적인 시간 동적 패턴을 어느 정도 학습하고 재구성할 수 있는가?
• RQ5 고정된 수동 분할 구간 대비 은닉 HMM을 사용할 경우 추정의 효율성과 정확도가 향상되는가?

주요 결과

• 제안된 은닉 마르코프 비선형 ICA 모델은 특히 비선형성이 높은 경우(L=4)에서 Time-Contrastive Learning(TCL)보다 더 뛰어난 성능을 보이며, 진짜 독립된 성분 복원에서 뛰어난 성능을 달성한다.
• N=5 및 C=11 조건에서 선형 ICA 하에서는 은닉 상태 분류 정확도가 거의 완벽한 수준(100%에 가까움), L=2일 경우 80%, L=4일 경우 68%를 기록하여 강력한 시간 동적 패턴 복원 능력을 보여준다.
• 은닉 상태의 수가 적고 시간에 따라 반복되더라도, 진짜 잠재적인 동적 패턴을 반영하는 방식으로 은닉 상태를 성공적으로 식별하고 클러스터링할 수 있었다.
• EM 알고리즘에서 확률적 미니배치를 사용함으로써 수렴 속도가 빨라졌으며, 실용적인 확장성(스케일러비리티)을 입증하였다.
• 딥 뉴럴 네트워크를 포함한 일반적인 혼합 비선형성 하에서도 모델의 식별성이 증명되어 이론적 타당성을 확보하였다.
• 이 프레임워크는 분리된 특징과 시간 동적 패턴을 동시에 학습할 수 있어, 비정상적 데이터에서 비지도 표현 학습에 더 체계적이고 효율적인 접근을 제공한다.