[论文解读] Adjoint shadowing directions in hyperbolic systems for sensitivity analysis

Angxiu Ni|arXiv (Cornell University)|Jul 15, 2018

Model Reduction and Neural Networks参考文献 33被引用 10

一句话总结

本文提出伴随阴影方向（adjoint shadowing directions）用于双曲系统——即具有零不稳定伴随分量的有界非齐次伴随解——以实现对长时间平均目标函数的伴随敏感性分析。该研究在双曲流和微分同胚中建立了其唯一存在性，使得无需切线求解器即可实现高效的伴随敏感性计算，尤其推动了混沌系统中NILSAS方法的发展。

ABSTRACT

For hyperbolic diffeomorphisms, we define adjoint shadowing directions as a bounded inhomogeneous adjoint solution whose initial condition has zero component in the unstable adjoint direction. For hyperbolic flows, we define adjoint shadowing directions similarly, with the additional requirement that the average of its inner-product with the trajectory direction is zero. In both cases, we show unique existence of adjoint shadowing directions, and how they can be used for adjoint sensitivity analysis. Our work set a theoretical foundation for efficient adjoint sensitivity methods for long-time-averaged objectives such as NILSAS.

研究动机与目标

• 解决传统伴随方法在具有长时间平均目标函数的混沌系统中失效的问题。
• 为双曲流和微分同胚定义伴随阴影方向，即具有零不稳定伴随分量的有界非齐次伴随解。
• 在一致双曲性和遍历性条件下，建立伴随阴影方向的唯一存在性。
• 为高效伴随敏感性方法（如NILSAS）提供理论基础，尤其适用于参数众多而变量较少的系统。
• 通过完全基于伴随解推导出解析的伴随阴影方向，消除对切线求解器的需求。

提出的方法

• 将伴随阴影方向定义为满足初始条件与不稳定伴随方向正交的非齐次伴随方程的有界解。
• 对于双曲流，额外施加时间平均内积与轨迹方向为零的约束。
• 利用伴随变分方程和投影算子，将伴随解分解为稳定、不稳定和中性分量。
• 借助阴影引理和一致双曲性，证明伴随阴影方向的存在性与唯一性。
• 基于伴随阴影方向推导出敏感性公式，实现对长时间平均目标函数梯度的高效计算。
• 将理论应用于构建非侵入最小二乘伴随阴影（NILSAS）算法，该算法仅依赖伴随解，避免使用切线求解器。

实验结果

研究问题

• RQ1 能否为双曲流严格定义伴随阴影方向，使其在存在中性方向的情况下仍保持有界性和唯一性？
• RQ2 如何构造伴随阴影方向，以确保其独立于切线求解器的需求，从而实现高效的敏感性分析？
• RQ3 在双曲流中，必须对伴随阴影方向施加何种约束，以确保其与轨迹的阴影性质一致？
• RQ4 伴随阴影方向与混沌系统中线性响应公式及Ruelle的涨落耗散定理有何关系？
• RQ5 伴随阴影方向能否用于推导出既理论严谨又计算高效的敏感性公式，适用于参数众多的系统？

主要发现

• 在一致双曲性和遍历性条件下，伴随阴影方向在双曲流和微分同胚中存在且唯一确定。
• 对于双曲流，伴随阴影方向被唯一表征为有界解，且其与轨迹方向的时间平均内积为零。
• 伴随阴影方向正交于不稳定伴随方向，确保其位于稳定和中性子空间中。
• 该方法无需切线求解器即可实现伴随敏感性分析，适用于参数众多的问题。
• 理论框架支持NILSAS的开发，这是一种针对具有长时间平均目标函数的混沌系统中伴随敏感性的高效算法。
• 伴随阴影方向满足一个与线性响应理论一致的敏感性公式，且仅通过伴随解即可计算。