[论文解读] Impact of Embedding View on Cross Mapping Convergence

Robert Martin, Justin Koo+1 more|arXiv (Cornell University)|Mar 7, 2019

Neural dynamics and brain function参考文献 2被引用 3

一句话总结

本文提出使用拉伸离散勒让德正交坐标系中互信息的两个全局最大值中的较短者，作为收敛交叉映射（CCM）中时间延迟选择的鲁棒准则。通过降低对噪声和有限数据波动的敏感性，该方法优于局部极值准则，在混沌系统和实验性霍尔推进器数据中均能一致地识别出使双向CCM相关性最大化的延迟。

ABSTRACT

Convergent cross mapping (CCM) provides a powerful technique for exploring causal relationships in nonlinear coupled systems. The method relies on Takens' theorem exploiting that time delay embeddings of infinite length general observations of smooth nonlinear coupled systems are diffeomorphic to the original coupled state space attractor. However, for finite length data that is corrupted by quantization and noise, not every view of the embedding is equally useful at identifying the system dynamics. Classically, the heuristic of the first minimum of mutual information (MI) has been proposed as a means to select appropriate lags for time delay embedding methods. This criteria is sensitive to additive noise and known to fail for systems with monotonically decreasing MI. In this work, alternative heuristics on MI for identifying useful embedding views are explored. The impact of coordinate system and noise level on the identification of a useful time lag representative of the structure in chaotic data is studied. The impact of selecting the first minimum of MI relative to several alternate heuristics for the appropriate time lag in the context of of CCM method is then presented. Both simple dynamical systems as well as experimental data derived from observations of a Hall Effect Thruster plasma propulsion device are used. It is found that the shorter of the two global maxima of MI from signal pairs in a stretched discrete Legendre orthonormal coordinate system is a more robust option relative to the alternatives studied for selecting embedding lag for use with the CCM method. The choice identifies time lags commensurate with the brute force maximum bidirectional CCM correlation results generated. This enhanced performance results from a decreased sensitivity to noise and fluctuations in the estimates of MI when compared to lags derived from local criteria on MI.

研究动机与目标

• 为解决在噪声和有限数据条件下，收敛交叉映射（CCM）时间延迟嵌入中选择最优时间延迟的挑战。
• 克服传统启发式方法（如互信息的第一个极小值）对噪声敏感且在互信息单调递减的系统中失效的局限性。
• 评估基于变换坐标系中互信息的替代延迟选择准则，以提升CCM收敛性和因果推断的可靠性。
• 在霍尔效应推进器的真实实验数据中，展示基于全局最大值的准则相较于局部极值的优越性。
• 提供一种鲁棒的、自动化的延迟选择方法，无需进行广泛的参数搜索即可提升CCM性能。

提出的方法

• 将原始时间序列转换为拉伸离散勒让德正交坐标系，以消除短延迟下的冗余性，并减少互信息估计中的噪声引起的波动。
• 在一系列延迟范围内计算时间序列与其时间延迟版本之间的互信息，以识别数据中的结构模式。
• 在正交化坐标系中识别互信息的两个全局最大值，并选择较短的延迟作为嵌入时间延迟。
• 通过合成混沌系统和实验性霍尔推进器数据，将所选延迟与其它准则（如第一个局部极小值、第一个局部极大值）进行比较。
• 通过在广泛延迟范围内的双向CCM相关性评估性能，以衡量收敛质量。
• 结合理论分析、低维动力系统（如洛伦兹系统）的数值模拟以及真实实验数据，验证该方法。

实验结果

研究问题

• RQ1 时间延迟的选择在有限且含噪声的数据集中，如何影响收敛交叉映射（CCM）的收敛性和准确性？
• RQ2 为何传统启发式方法（如互信息的第一个极小值）在某些混沌系统和噪声条件下会失效？
• RQ3 在正交化坐标系中，互信息的全局最大值能否作为时间延迟选择中对局部极值更具鲁棒性的替代方案？
• RQ4 拉伸离散勒让德正交变换在多大程度上提升了互信息估计的可靠性，从而改善延迟选择？
• RQ5 在合成模型和霍尔效应推进器的真实实验数据中，该方法在多大程度上优于现有准则？

主要发现

• 在拉伸离散勒让德正交坐标系中，互信息的两个全局最大值中的较短者，能在合成数据和实验数据中一致地识别出使双向CCM相关性最高的时间延迟。
• 与局部准则（如第一个局部极大值或极小值）相比，该方法对噪声和有限数据伪影的敏感性显著降低，后者易受波动影响而产生误触发。
• 在正交化坐标系中，互信息曲线消除了短延迟处的人工高值，这些高值是标准坐标系下测量算法的数值伪影。
• 在含噪声的洛伦兹模型中，全局最大值准则在相关性强度和多轮试验中的稳定性方面均优于第一个局部极大值。
• 该方法降低了对离散化和有限样本量引起的算法误差的敏感性，使其适用于现实世界因果推断任务中的自动化应用。
• 使用正交化坐标系为延迟选择提供了更合理的理论基础，因其强调了数据中的非随机结构，与捕捉因果动态的目标一致。