[논문 리뷰] Higher Order Kernel Mean Embeddings to Capture Filtrations of Stochastic Processes

Cristopher Salvi, Maud Lemercier외 4명|Warwick Research Archive Portal (University of Warwick)|2021. 09. 08.

Statistical Methods and Inference참고 문헌 56인용 수 7

한 줄 요약

이 논문은 확률과정에서 시간에 따라 변화하는 정보의 흐름을 캡처하기 위해 표준 커널 평균 임베딩(KME)을 일반화한 고차수 커널 평균 임베딩(higher order KMEs)을 제안한다. 고차수 최대평균차이(MMD)를 구성함으로써, 필터레이션에 민감한 두 표본 검정, 확률과정을 위한 유니버설 커널, 궤적 데이터로부터의 인과관계 탐색 알고리즘을 가능하게 하며, 이론적 일致성과 재무 및 동역학계에서의 실험적 검증을 통해 입증된다.

ABSTRACT

Stochastic processes are random variables with values in some space of paths. However, reducing a stochastic process to a path-valued random variable ignores its filtration, i.e. the flow of information carried by the process through time. By conditioning the process on its filtration, we introduce a family of higher order kernel mean embeddings (KMEs) that generalizes the notion of KME and captures additional information related to the filtration. We derive empirical estimators for the associated higher order maximum mean discrepancies (MMDs) and prove consistency. We then construct a filtration-sensitive kernel two-sample test able to pick up information that gets missed by the standard MMD test. In addition, leveraging our higher order MMDs we construct a family of universal kernels on stochastic processes that allows to solve real-world calibration and optimal stopping problems in quantitative finance (such as the pricing of American options) via classical kernel-based regression methods. Finally, adapting existing tests for conditional independence to the case of stochastic processes, we design a causal-discovery algorithm to recover the causal graph of structural dependencies among interacting bodies solely from observations of their multidimensional trajectories.

연구 동기 및 목표

• 표준 커널 평균 임베딩이 확률과정에서 정보의 시간적 흐름(필터레이션)을 캡처하는 데에 한계가 있다는 문제를 해결한다.
• 필터레이션을 조건으로 삼아 변화하는 정보 구조를 캡처할 수 있도록 고차수 KME에 대한 이론적 프레임워크를 개발한다.
• 고차수 MMD의 경험적 추정량을 구성하고, 통계적 검정을 위한 일致성 조건을 증명한다.
• 실제 문제 해결을 위한 표준 커널 방법을 적용할 수 있도록, 확률과정 공간에 대해 유니버설 커널 메서드를 구현한다. 예를 들어 미국형 옵션 가격 설정 문제에 적용된다.
• 다차원 궤적 데이터와 과정 기반 조건부 통일성 테스트를 활용해 상호작용하는 시스템의 인과관계를 복원하는 인과관계 탐색 알고리즘을 설계한다.

제안 방법

• 재생 커널 힐버트 공간(RKHS) 내 경로 기반 랜덤 변수로 첫 번째 순서 예측 KME를 정의하여, 시간 t까지의 필터레이션을 고려한 과정의 조건부 분포를 표현한다.
• 반복된 조건부 기대를 통해 고차수 KME로 일반화: 질서 n의 예측 과정은 시간적 의존성의 n번째 수준까지의 정보를 캡처한다.
• 고차수 KME의 RKHS 내적을 기반으로 한 고차수 MMD를 도입하여, 필터레이션 구조를 존중하면서 분포의 차이를 측정한다.
• 독립 동일분포(i.i.d.) 샘플 경로를 이용해 고차수 MMD의 경험적 추정량을 유도하고, 미약한 정규성 조건 하에서 일치성 조건을 증명한다.
• 고차수 MMD를 활용해 필터레이션에 민감한 두 표본 검정을 구성하고, 시뮬레이션 데이터에서 표준 MMD보다 높은 탐지 능력을 보임을 보여준다.
• 고차수 MMD를 기반으로 한 커널 가족을 구성하여, 확률과정 공간에 대해 유니버설 커널을 생성함으로써, 최적 정지 및 캘리브레이션 문제에 대한 커널 기반 회귀를 가능하게 한다.

실험 결과

연구 질문

• RQ1 표준 경로 기반 임베딩을 초월해, 확률과정에서 필터레이션에 의존하는 정보를 캡처할 수 있도록 커널 평균 임베딩을 일반화할 수 있는가?
• RQ2 표준 MMD로는 구분되지 않는 확률과정 간의 차이를 탐지하기 위해 고차수 MMD는 어떻게 구성할 수 있는가?
• RQ3 고차수 KME는 확률과정 공간에 대해 유니버설 커널을 지원할 수 있는가? 이를 통해 금융공학 분야의 전통적 커널 방법을 적용할 수 있는가?
• RQ4 다차원 궤적 데이터와 과정 기반 조건부 통일성 테스트만을 사용해 상호작용하는 시스템의 인과관계 탐색 알고리즘을 설계할 수 있는가?
• RQ5 고차수 MMD와 확률해석학에서의 적응형 위상 공간 간의 관계는 무엇인가?

주요 결과

• 고차수 MMD $\mathcal{D}^{n}_{\mathcal{S}}(X,Y)$ 는 질서 $n-1$ 적응형 위상을 메트라이즈하며, 필터레이션 구조에서의 수렴에 대한 이론적 기반을 제공한다.
• 미약한 조건 하에서 고차수 MMD의 경험적 추정량은 일치성이 보장되어 신뢰할 수 있는 통계적 추론이 가능하다.
• 고차수 MMD 기반의 두 표본 검정은 표준 MMD가 놓치는 분포의 차이를 탐지할 수 있으며, 이는 시뮬레이션된 확률과정에서 입증되었다.
• 모든 계수들이 비음수인 전역 해석 함수 $f$에 대해 $K^{n}_{\mathcal{S}}(X,Y) = f(\mathcal{D}^{n}_{\mathcal{S}}(X,Y))$ 형태의 커널 가족은 $\mathcal{P}(\mathcal{X}(V))$ 공간에 대해 유니버설 커널을 형성하며, $k \leq n$ 인 $\mathcal{D}^{k}_{\mathcal{S}}$-위상에서의 보편 근사가 가능하다.
• 이 방법은 임베딩된 과정 공간에서 표준 커널 회귀를 통해 금융공학 분야의 정확한 캘리브레이션 및 최적 정지 문제 해결이 가능하다. 예를 들어 미국형 옵션 가격 설정에 적용된다.
• 인과관계 탐색 알고리즘은 관측된 궤적을 기반으로 상호작용하는 물체 간의 인과관계 그래프를 성공적으로 복원하며, 과정 기반 조건부 통일성 테스트를 적응적으로 활용한다.