[논문 리뷰] Signature moments to characterize laws of stochastic processes

Ilya Chevyrev, Harald Oberhauser|arXiv (Cornell University)|2018. 10. 25.

Statistical Methods and Inference참고 문헌 26인용 수 42

한 줄 요약

논문은 경로 값을 갖는 데이터에 대해 강건한 시그니처 모멘트를 개발하고, 강건한 시그니처를 통해 보편적이고 특징적인 커널을 구축하며, 확률 과정의 분포를 비교하기 위한 MMD 기반 프레임워크를 도출하고, 이중 샘플 테스트를 포함한다.

ABSTRACT

The sequence of moments of a vector-valued random variable can characterize its law. We study the analogous problem for path-valued random variables, that is stochastic processes, by using so-called robust signature moments. This allows us to derive a metric of maximum mean discrepancy type for laws of stochastic processes and study the topology it induces on the space of laws of stochastic processes. This metric can be kernelized using the signature kernel which allows to efficiently compute it. As an application, we provide a non-parametric two-sample hypothesis test for laws of stochastic processes.

연구 동기 및 목표

• 경로 값을 갖는 랜덤 변수의 분포를 시그니처로 일반화된 모멘트를 사용해 특성화한다.
• 경로 공간에 대한 강건하고 보편적이며 단사 특징 맵을 만들어 그 법칙을 특성화한다.
• 강건한 시그니처 커널을 이용한 확률 과정의 법칙에 대한 커널 평균 임베딩 프레임워크를 개발한다.
• MMD를 통해 확률 과정의 법칙에 대한 거리(메트릭) 위상을 확립하고 이를 약 수렴과 관련지어 분석한다.
• 확률 과정의 법칙을 비교하기 위한 실용적인 이중 샘플 검정을 제공한다.

제안 방법

• 경정규화 λ(x)를 도입하여 텐서 모멘트를 바운딩하는 정규화를 결합한 강건한 시그니처 맵 Phi(x)를 얻는다.
• Phi(x) = (lambda(x)^m ∫ dx^{⊗ m})_{m≥0} 로 형식화하고 보편성과 특징성을 보인다.
• 강건한 시그니처 커널 k(x,y) = ⟨Phi(x), Phi(y)⟩ 를 정의하고 법칙 사이의 관련된 MMD 거리 d_k 를 도출한다.
• 자연스러운 가정하에 d_k가 법칙 공간에 약한 수렴보다 약한 위상을 유도함을 보인다.
• 시그니처의 내적을 계산하기 위한 효율적인 재귀 알고리즘을 설명하고 이를 강건한 시그니처에 확장한다.
• 커널 평균 임베딩 접근법을 사용하여 확률 과정의 법칙에 대한 비모수적 두 표본 검정에 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 강건한 시그니처 모멘트가 경로 값을 갖는 확률 과정의 법칙을 고유하게 결정할 수 있는가?
• RQ2 경로 공간에 대해 이상치에 강건하면서도 보편적이고 특징적인 특징 맵을 구축할 수 있는가?
• RQ3 시그니처 특징을 커널화하여 확률 과정의 법칙 간의 실용적인 MMD 기반 비교를 얻을 수 있는가?
• RQ4 강건한 시그니처 MMD가 법칙 공간에 어떤 위상을 유도하며, 그것이 약한 수렴과 어떻게 연관되는가?
• RQ5 이 프레임워크가 실제로 확률 과정의 법칙에 대한 비모수적 두 표본 검정을 지원할 수 있는가?

주요 결과

• 강건한 시그니처 특징 맵 Phi(x)는 경로 법칙의 보편적이고 특징적인 표현을 제공한다.
• 강건한 시그니처 커널 k(x,y)는 확률 과정의 법칙에 대한 커널 평균 임베딩을 제공한다.
• 유도된 MMD 거리 d_k는 법칙들 사이의 거리로, 약한 수렴보다 약하지만 관련된 위상을 형성하는 척도이다.
• 강건한 시그니처의 내적을 계산하는 효율적인 재귀 알고리즘이 존재하여 고차원이나 일반 공간에서의 실용적 계산을 가능하게 한다.
• 이 프레임워크는 커널 평균 임베딩 방법을 사용하여 확률 과정의 법칙에 대한 비모수적 두 표본 검정을 가능하게 한다.
• 정규화는 보편성과 특징성을 보장하는 데 필수적이다; 정규화가 없으면 강건한 특징이 보편적이거나 법칙을 특성화하지 못할 수 있다.