[论文解读] Higher Order Kernel Mean Embeddings to Capture Filtrations of Stochastic Processes

Cristopher Salvi, Maud Lemercier+4 more|Warwick Research Archive Portal (University of Warwick)|Sep 8, 2021

Statistical Methods and Inference参考文献 56被引用 7

一句话总结

本文提出了高阶核均值嵌入（KMEs），将标准KMEs推广至捕捉随机过程中的过滤依赖信息——即随时间演化的信息流动。通过构建高阶最大均值差异（MMDs），该方法实现了对过滤敏感的两样本检验、适用于随机过程的通用核方法，以及从轨迹数据中进行因果发现的算法，兼具理论一致性与在金融和动力系统中的实证验证。

ABSTRACT

Stochastic processes are random variables with values in some space of paths. However, reducing a stochastic process to a path-valued random variable ignores its filtration, i.e. the flow of information carried by the process through time. By conditioning the process on its filtration, we introduce a family of higher order kernel mean embeddings (KMEs) that generalizes the notion of KME and captures additional information related to the filtration. We derive empirical estimators for the associated higher order maximum mean discrepancies (MMDs) and prove consistency. We then construct a filtration-sensitive kernel two-sample test able to pick up information that gets missed by the standard MMD test. In addition, leveraging our higher order MMDs we construct a family of universal kernels on stochastic processes that allows to solve real-world calibration and optimal stopping problems in quantitative finance (such as the pricing of American options) via classical kernel-based regression methods. Finally, adapting existing tests for conditional independence to the case of stochastic processes, we design a causal-discovery algorithm to recover the causal graph of structural dependencies among interacting bodies solely from observations of their multidimensional trajectories.

研究动机与目标

• 解决标准核均值嵌入在捕捉随机过程中信息的时间流动（过滤）方面的局限性。
• 构建高阶KMEs的理论框架，通过条件于过滤来编码随时间演化的信息结构。
• 构建高阶MMDs的经验估计器，并在温和正则性条件下证明其一致性，以支持统计检验。
• 在随机过程上实现通用核方法，以解决如美式期权定价等实际问题。
• 设计一种因果发现算法，通过仅基于观测的多维轨迹和对过程的条件独立性检验，重构相互作用系统中的结构依赖关系。

提出的方法

• 将一阶预测KMEs定义为再生核希尔伯特空间（RKHS）中的路径值随机变量，表示在时间t之前过滤条件下过程的条件分布。
• 通过迭代条件化推广至高阶KMEs：n阶预测过程编码了时间依赖性的第n级信息。
• 基于这些高阶KMEs在RKHS中的内积，引入高阶MMDs，以在尊重过滤结构的前提下度量分布差异。
• 利用样本路径的i.i.d.样本，推导高阶MMDs的经验估计器，并在温和正则性条件下证明其一致性。
• 通过利用高阶MMD构建对过滤敏感的两样本检验，表明在模拟数据上相比标准MMD具有更强的检测能力。
• 利用高阶MMDs在随机过程空间上构建一族通用核，实现基于核的回归，以解决最优停止和校准问题。

实验结果

研究问题

• RQ1 核均值嵌入能否被推广以捕捉随机过程中超越标准路径嵌入的过滤依赖信息？
• RQ2 如何构建高阶MMDs，以检测在标准MMD下无法区分的随机过程之间的差异？
• RQ3 高阶KMEs能否支持在随机过程空间上的通用核方法，从而在量化金融中启用经典核方法？
• RQ4 是否可能仅基于观测的多维轨迹和对过程的条件独立性检验，设计一种用于相互作用系统的因果发现算法？
• RQ5 高阶MMDs与随机分析中的适应拓扑之间存在何种关系？

主要发现

• 高阶MMDs，记为$\mathcal{D}^{n}_{\mathcal{S}}(X,Y)$，度量了第$n-1$阶适应拓扑，为过滤结构中的收敛性提供了理论基础。
• 在温和条件下，高阶MMDs的经验估计器具有一致性，确保了可靠的统计推断。
• 基于高阶MMDs的两样本检验能够检测到标准MMD所遗漏的分布差异，该结果在模拟随机过程中得到验证。
• 对于全局解析函数$f$且具有非负系数，核族$K^{n}_{\mathcal{S}}(X,Y) = f(\mathcal{D}^{n}_{\mathcal{S}}(X,Y))$在$\mathcal{P}(\mathcal{X}(V))$上构成通用核，从而在$\mathcal{D}^{k}_{\mathcal{S}}$-拓扑下实现$ k \leq n $的通用逼近。
• 该方法通过在嵌入过程空间上进行标准核回归，实现了在量化金融中对校准和最优停止的精确处理，例如美式期权定价。
• 因果发现算法成功地从观测轨迹中恢复了相互作用系统之间的因果图，其核心是基于适应于随机过程的条件独立性检验。