[논문 리뷰] Products of Hidden Markov Models: It Takes N>1 to Tango

Graham W. Taylor, Geoffrey E. Hinton|arXiv (Cornell University)|2012. 05. 09.

Generative Adversarial Networks and Image Synthesis참고 문헌 13인용 수 7

한 줄 요약

이 논문은 구성요소적 구조를 가진 복잡한 시계열 데이터를 위한 강력한 생성 모델로 은닉 마르코프 모델의 곱(PoHMMs)을 제안한다. 다수의 HMM을 제품-전문가 프레임워크를 통해 조합하고, 추정이 어려운 정규화 상수를 추정하기 위해 냉각 중요도 샘플링(AIS)을 사용함으로써 PoHMMs는 실제 강우량 및 인간 운동 데이터에서 우수한 로그우도 성능를 달성한다. 특히 구성요소 간 강한 의존성이 있는 데이터에서 뛰어난 성능를 보이며, 표준 HMM보다 높은 학습 비용을 지닌다 해도 고차원 시퀀스 모델링에 실현 가능함을 입증한다.

ABSTRACT

Products of Hidden Markov Models(PoHMMs) are an interesting class of generative models which have received little attention since their introduction. This maybe in part due to their more computationally expensive gradient-based learning algorithm,and the intractability of computing the log likelihood of sequences under the model. In this paper, we demonstrate how the partition function can be estimated reliably via Annealed Importance Sampling. We perform experiments using contrastive divergence learning on rainfall data and data captured from pairs of people dancing. Our results suggest that advances in learning and evaluation for undirected graphical models and recent increases in available computing power make PoHMMs worth considering for complex time-series modeling tasks.

연구 동기 및 목표

• 장기적 의존성을 가지며 고차원적이고 구성요소적 구조를 가진 시계열 데이터를 모델링하는 데 있어 표준 HMM의 한계를 해결하기 위해.
• 은닉 상태가 분산되어 있는 비방향 모델인 제품-은닉 마르코프 모델(PoHMMs)의 재활성화를 위해, 이는 도입 이후 거의 사용되지 않았다.
• PoHMMs의 추정이 어려운 정규화 상수를 신뢰할 수 있는 방법으로 추정하여, 모델 평가 및 선택을 위한 정확한 로그우도 계산을 가능하게 하기 위해.
• 실제 데이터셋인 강우량 및 인간 운동 캡처 데이터에 대해 PoHMMs를 경험적으로 평가하여, 기준 HMM과의 비교를 통해 그 효과성을 입증하기 위해.

제안 방법

• PoHMMs는 개별 HMM들의 곱으로 정의되며, 각 HMM은 시퀀스의 특정 측면을 전문적으로 모델링하고, 결합 분포는 개별 HMM의 우도를 곱하고 정규화하여 형성된다.
• 비방향 모델에서 추정이 어려운 정규화 상수는 5000개의 균일하게 배치된 냉각 간격을 가진 냉각 중요도 샘플링(AIS)을 사용하여 추정되며, 이는 고정밀도 로그우도 추정을 가능하게 한다.
• 대비 수렴(Contrastive Divergence, CD)을 사용하여 학습하며, K=10 단계를 사용하여 데이터 분포와 모델 분포 사이의 대비 수렴을 최소화한다.
• 운동 데이터의 경우 차원이 몸통 부위(예: 왼쪽 다리, 오른쪽 팔)로 그룹화되고, 각 그룹에 대해 25개의 클러스터링을 적용하여 이산 시퀀스를 생성하여 모델링한다.
• 로지스틱 우도 비교는 매 차원당 정규화되어 있어 단일 및 다중 주제 운동 데이터 간의 공정한 비교를 가능하게 한다.
• 기준 HMM은 상태 수를 다양하게 조절한 EM 알고리즘을 통해 학습되며, PoHMM은 유사한 파rameter 수를 가지도록 CD(10)과 모멘텀 최적화를 사용하여 학습된다.

실험 결과

연구 질문

• RQ1 PoHMMs는 인간 운동이나 강우 패턴과 같은 구성요소적 구조를 가진 고차원 실세계 시계열 데이터를 효과적으로 모델링할 수 있는가?
• RQ2 PoHMMs의 추정이 어려운 정규화 상수는 냉각 중요도 샘플링(AIS)을 통해 신뢰성 있게 추정될 수 있는가? 이를 통해 정확한 로그우도 평가가 가능한가?
• RQ3 PoHMM과 표준 HMM이 유사한 파rameter 수로 제한되었을 때, 로그우도 성능에서 어떤 차이가 있는가?
• RQ4 PoHMM의 성능 이점은 다중 에이전트 운동 캡처와 같이 구성요소 간 강한 의존성이 있는 데이터에서 더 증가하는가?
• RQ5 더 높은 계산 비용에도 불구하고, AIS 기반 우도 추정과 함께 기울기 기반 CD 학습이 기존의 EM 기반 HMM 학습을 능가할 수 있는가?

주요 결과

• PoHMMs는 단일 주제 및 이중 주제 운동 캡처 데이터에서 기준 HMM보다 유의미하게 높은 로그우도 점수를 기록하였으며, 특히 이중 주제 케이스에서 성능 이점이 더 두드러져 구성요소 간 강한 의존성이 있는 데이터에서 모델의 효과가 뛰어남을 시사한다.
• 단일 주제 운동 데이터에서, 각 8개 상태를 가진 4개의 전문가를 가진 PoHMMs(4×8)는 최대 32개 상태를 가진 HMM보다 정규화된 로그우도 측면에서 뛰어난 성능를 보였다.
• 이중 주제 데이터에서는 4×8 및 8×4 구성의 PoHMMs가 64개 상태를 가진 HMM보다 더 높은 테스트 로그우도를 기록하여, 다중 영향을 받는 시퀀스를 모델링하는 데서 뛰어난 능력을 입증하였다.
• 5000개의 간격을 가진 AIS를 사용함으로써 정확한 로그우도 추정이 가능했으며, 100번의 AIS 실행에서 유도된 오차 막대는 너무 좁아 그림에서 거의 보이지 않을 정도였다.
• 학습 비용이 높았음에도 불구하고(각 PoHMM이 약 1시간, HMM은 수분 내외), PoHMMs는 특히 구성요소 간 강한 의존성이 있는 데이터에서 더 우수한 일반화 능력과 모델링 능력을 보였다.
• 결과적으로, 하나의 HMM에 상태 수를 늘리는 것보다 다수의 HMM을 곱 모델로 조합하는 것이 더 효과적이며, 특히 상태 수가 많아질수록 그 효과가 두드러진다.