[논문 리뷰] Fitting Graphical Interaction Models to Multivariate Time Series

Michael Eichler|arXiv (Cornell University)|2012. 06. 27.

Statistical Methods and Inference참고 문헌 23인용 수 13

한 줄 요약

이 논문은 다변량 정상 시계열에 그래픽 상호작용 모델을 피팅하기 위한 파rametric 접근법을 제안한다. 공분산 선택 모델을 시간적 구조로 일반화하여 역공분산 구조를 활용한다. 조건부 독립 제약 조건을 비방향 그래프로 표현한 벡터 자기회귀 표현을 통해 모델을 수립하고, Whittle의 근사법과 반복적 해법을 통해 최대우도 추정을 가능하게 하며, 실제 데이터 예제를 통해 검증한다.

ABSTRACT

Graphical interaction models have become an important tool for analysing multivariate time series. In these models, the interrelationships among the components of a time series are described by undirected graphs in which the vertices depict the components while the edges indictate possible dependencies between the components. Current methods for the identification of the graphical structure are based on nonparametric spectral stimation, which prevents application of common model selection strategies. In this paper, we present a parametric approach for graphical interaction modelling of multivariate stationary time series. The proposed models generalize covariance selection models to the time series setting and are formulated in terms of inverse covariances. We show that these models correspond to vector autoregressive models under conditional independence constraints encoded by undirected graphs. Furthermore, we discuss maximum likelihood estimation based on Whittle's approximation to the log-likelihood function and propose an iterative method for solving the resulting likelihood equations. The concepts are illustrated by an example.

연구 동기 및 목표

• 비모수 스펙트럼 방법의 한계를 극복하기 위해 다변량 시계열에서 그래픽 상호작용 모델을 위한 파arametric 프레임워크를 개발하는 것.
• 조건부 독립 제약 조건을 비방향 그래프에 통합하여 공분산 선택 모델을 시계열 영역으로 일반화하는 것.
• 역공분산과 벡터 자기회귀 표현을 통해 표준 모델 선택 전략을 적용할 수 있도록 모델을 수립하는 것.
• 로그우도 함수의 Whittle 근사법을 활용한 계산적으로 실현 가능한 추정 절차를 제공하는 것.
• 실제 데이터 예제를 통해 방법의 적용 가능성을 입증하며, 그래픽 구조 식별 능력을 보여주는 것.

제안 방법

• 조건부 독립 관계를 표현하기 위해 역공분산 행렬을 사용한다.
• 조건부 독립 제약 조건은 비방향 그래프로 표현되며, 간선은 비영인 부분상관을 나타낸다.
• 공분산 구조가 그래픽 모델에 따라 구성된 정밀도 행렬을 갖는 다변량 정규 과정으로 연속 분포를 모델링한다.
• 정상 시계열의 로그우도 계산을 단순화하기 위해 Whittle 방법을 사용하여 우도를 근사한다.
• 우도 방정식을 해결하기 위한 반복 알고리즘을 제안하여 모수의 최대우도 추정을 가능하게 한다.
• 지정된 조건부 독립 제약 조건 하에서 모델이 벡터 자기회귀 과정과 수학적으로 동치임을 보여준다.

실험 결과

연구 질문

• RQ1 그래픽 상호작용 모델은 어떻게 다변량 시계열에 파arametric 프레임워크로 확장될 수 있으며, 모델 선택을 지원할 수 있는가?
• RQ2 시계열의 조건부 독립 구조와 벡터 자기회귀 표현 간의 관계는 무엇인가?
• RQ3 Whittle 근사법은 시계열 설정에서 그래픽 모델을 효과적으로 추정하는 데 사용될 수 있는가?
• RQ4 다변량 시계열의 그래픽 의존성 구조를 반영하기 위해 정밀도 행렬은 어떻게 구성할 수 있는가?
• RQ5 제안된 파arametric 수식에 기반하여 모수 추정을 효율적으로 수행할 수 있는 계산 방법은 무엇인가?

주요 결과

• 제안된 파arametric 모델은 역공분산 행렬을 통해 비방향 그래프에 조건부 독립 제약 조건을 통합함으로써 공분산 선택 모델을 시계열로 일반화한다.
• 지정된 조건부 독립 제약 조건 하에서 모델은 벡터 자기회귀 과정과 수학적으로 동치이다.
• Whittle 근사법을 통해 최대우도 추정이 가능하며, 이는 로그우도의 효율적 계산을 가능하게 한다.
• 우도 방정식을 해결하기 위한 반복 알고리즘이 개발되어 최대우도 추정치로의 수렴을 보장한다.
• 이전에 비모수 스펙트럼 추정에서 실현되지 않았던 표준 모델 선택 전략을 지원한다.
• 실제 데이터 예제를 통해 방법이 다변량 시계열에서 의미 있는 그래픽 구조를 회복할 수 있음을 보여준다.