[논문 리뷰] A Kernel Independence Test for Random Processes

Kacper Chwialkowski, Arthur Gretton|arXiv (Cornell University)|2014. 02. 18.

Statistical Methods and Inference참고 문헌 34인용 수 22

한 줄 요약

이 논문은 시간적 의존성을 유지하기 위해 부트스트랩 재표본화 대신 시간 이동을 사용하여 i.i.d. HSIC 검정을 시간열에 적응시킨 비모수적 커널 상관없음 검정을 제안한다. 이 방법은 타입 I 오류를 타당하게 제어하며 선형 방법이 놓치는 비선형 의존성도 탐지할 수 있으며, 인공 데이터와 외환 데이터에서의 실험적 검증을 통해 부트스트랩 기반 방법보다 뛰어난 성능을 보였다.

ABSTRACT

A new non parametric approach to the problem of testing the independence of two random process is developed. The test statistic is the Hilbert Schmidt Independence Criterion (HSIC), which was used previously in testing independence for i.i.d pairs of variables. The asymptotic behaviour of HSIC is established when computed from samples drawn from random processes. It is shown that earlier bootstrap procedures which worked in the i.i.d. case will fail for random processes, and an alternative consistent estimate of the p-values is proposed. Tests on artificial data and real-world Forex data indicate that the new test procedure discovers dependence which is missed by linear approaches, while the earlier bootstrap procedure returns an elevated number of false positives. The code is available online: https://github.com/kacperChwialkowski/HSIC .

연구 동기 및 목표

• 비모수적 모형이나 밀도 추정을 가정하지 않고 두 랜덤 프로세스 간의 순순간 의존성에 대한 일致하고 비모수적 검정을 개발하기 위해.
• 시간적 의존성이 존재할 경우 표준 부트스트랩 절차가 실패하여 타입 I 오류 비율이 높아지는 문제를 해결하기 위해.
• 순열 대신 신호 이동을 사용하여 시간적 의존성 하에서 HSIC의 타당한 귀무분포 추정을 제공하기 위해.
• 선형 상관계수나 전통적인 i.i.d. 검정이 놓치는 시간열 내의 비선형 의존성을 탐지하기 위해.
• 시간적 의존성이 존재할 경우 명목상의 유의수준(예: α = 0.05)을 유지하여 임의의 양성 결과를 방지하기 위해.

제안 방법

• 검정은 두 랜덤 프로세스 X_t와 Y_t 간의 의존성에 대한 비모수적 측도로 힐버트-슈미트 상관없음 기준(HSIC)을 사용한다.
• 귀무가설은 각 시점 t에서 X_t와 Y_t가 독립적이라고 가정하며, 대립가설은 어떤 형태의 의존성도 허용한다.
• 시간열에 대한 HSIC의 점근적 귀무분포는 상관된 χ² 변수들의 가중합으로 유도되며, i.i.d. 경우와 달리 이들 변수는 서로 독립이 아니다.
• 새로운 재표본화 절차를 제안: 각 프로세스의 내부 시간적 의존성 구조를 유지하기 위해 한 신호를 다른 신호에 대해 이동시키는 방식.
• 순열 기반 부트스트랩을 피함으로써 시간적 의존성이 파괴되어 시간열에서 타입 I 오류 비율이 높아지는 문제를 방지한다.
• 이론적 분석을 통해 귀무가설 하에서 HSIC는 상관된 고유값을 가진 스케일링된 χ² 변수들의 합으로 수렴하며, 대립가설 하에서는 점근적으로 정규분포를 따른다.

실험 결과

연구 질문

• RQ1 i.i.d. 데이터에 사용되는 표준 부트스트랩 절차를 시간열의 상관없음 검정에 신뢰성 있게 적용할 수 있는가?
• RQ2 제안된 이동 기반 재표본화 방법이 시간적 의존성이 존재할 경우 올바른 타입 I 오류 비율을 유지하는가?
• RQ3 HSIC는 선형 상관계수나 전통적인 i.i.d. 검정이 놓치는 시간열 내의 비선형 의존성을 탐지할 수 있는가?
• RQ4 정상적이고 약한 의존성을 가지는 랜덤 프로세스에 HSIC를 적용했을 때의 점근적 분포는 무엇인가?
• RQ5 실제 금융 시간열 데이터에서 새로운 검정 방법은 부트스트랩 기반 접근법보다 어떻게 성능이 뛰어나게 되는가?

주요 결과

• i.i.d. 설정에서 사용되는 부트스트랩 절차는 시간열에서는 실패하며, 시간적 의존성이 파괴되어 거짓 양성 결과의 비율이 높아진다.
• 제안된 이동 기반 재표본화 방법은 강한 시간적 의존성 하에서도 명목상의 타입 I 오류 비율(α = 0.05)을 성공적으로 유지한다.
• 인공 데이터에서 선형 상관계수에는 존재하지 않는 비선형 의존성을 탐지함으로써, 복잡한 의존성 구조에 대한 민감성을 입증한다.
• 실제 외환 데이터에서는 선형 접근법이 놓치는 의존성을 탐지함으로써, 본 연구 방법의 실용적 유용성을 확인한다.
• 시간열에 대한 HSIC의 점근적 귀무분포는 상관된 χ² 변수들의 가중합이며, 독립적인 경우와 다름을 보였다.
• 대립가설 하에서 검정통계량은 점근적으로 정규분포를 따르며, 일致한 추론이 가능하다.