[论文解读] Manifold interpolation and model reduction

Ralf Zimmermann|arXiv (Cornell University)|Feb 18, 2019

Model Reduction and Neural Networks参考文献 89被引用 11

一句话总结

本文提出了一套基于矩阵流形上插值的参数化模型降阶的综合框架，重点关注Grassmann流形、Stiefel流形和对称正定（SPD）流形。该研究引入了黎曼几何技术——如测地线插值和类似泰勒的外推——以构建保持结构的参数化降阶模型，同时为模型阶数降阶应用提供了高效的算法与理论基础。

ABSTRACT

One approach to parametric and adaptive model reduction is via the interpolation of orthogonal bases, subspaces or positive definite system matrices. In all these cases, the sampled inputs stem from matrix sets that feature a geometric structure and thus form so-called matrix manifolds. This work will be featured as a chapter in the upcoming Handbook on Model Order Reduction (P. Benner, S. Grivet-Talocia, A. Quarteroni, G. Rozza, W.H.A. Schilders, L.M. Silveira, eds, to appear on DE GRUYTER) and reviews the numerical treatment of the most important matrix manifolds that arise in the context of model reduction. Moreover, the principal approaches to data interpolation and Taylor-like extrapolation on matrix manifolds are outlined and complemented by algorithms in pseudo-code.

研究动机与目标

• 为参数化模型降阶中出现的关键矩阵流形提供系统性的数值处理方法。
• 实现在参数空间中对子空间、正交基和正定系统矩阵的结构保持插值。
• 为初学者和研究人员提供参考指南，包含算法与理论背景，以支持基于矩阵流形的模型降阶研究。
• 通过提供基础工具与精确的数学公式，支持定制化参数化模型降阶方法的开发。

提出的方法

• 利用黎曼几何在Grassmann、Stiefel和SPD等矩阵流形上定义插值与外推。
• 通过矩阵指数与对数函数实现测地线插值，计算流形上子空间或矩阵之间的路径。
• 应用奇异值分解（SVD）与极分解，计算子空间之间的主角与距离。
• 通过主角推导Grassmann流形上的黎曼距离，表达为 $ \|\Theta\|_2 $，其中 $ \Theta $ 包含标准角。
• 利用Baker–Campbell–Hausdorff公式处理非交换生成元下的矩阵指数复合。
• 通过SVD求解Procrustes问题，以计算最优正交变换，实现插值中基的对齐。

实验结果

研究问题

• RQ1 如何在保持矩阵流形上几何结构的前提下，对参数空间中的正交子空间或基进行插值？
• RQ2 在Grassmann流形中插值子空间时，合适的黎曼度量与测地线路径是什么？
• RQ3 如何利用SPD流形上的黎曼几何实现正定系统矩阵的结构保持插值？
• RQ4 哪些数值算法能够实现在参数化模型降阶中矩阵流形上的高效且稳定的插值与外推？
• RQ5 如何利用子空间之间的主角定义Grassmann流形上具有意义的距离度量？

主要发现

• Grassmann流形上的黎曼距离由 $ \|\Theta\|_2 $ 给出，其中 $ \Theta $ 包含子空间之间的主角，由矩阵 $ U^T \tilde{U} $ 的奇异值导出。
• 通过过渡矩阵的对数的矩阵指数实现Grassmann流形上的测地线插值，确保路径长度最短且保持正交性。
• 对于Stiefel流形，插值通过极分解与矩阵对数实现，测地线路径由斜对称矩阵切空间上的指数映射定义。
• SPD流形上的距离通过矩阵对数定义，测地线路径为 $ \exp(\log(P_1)^{1/2} \exp(t \cdot \log(P_1)^{-1/2} \log(P_2) \log(P_1)^{-1/2}) \log(P_1)^{1/2}) $，确保正定性。
• 通过SVD求解Procrustes问题：最优旋转 $ R^* = UV^T $ 最小化 $ \|A - BR\|_F $，实现插值中基的最优对齐。
• 本文证明了Grassmann流形上任意两点之间均可通过长度至多为 $ \frac{\sqrt{r}}{2}\pi $ 的测地线连接，为插值路径长度提供了理论上限。