[论文解读] Variable projection methods for approximate (greatest) common divisor computations

Konstantin Usevich, Ivan Markovsky|arXiv (Cornell University)|Apr 25, 2013

Statistical and numerical algorithms参考文献 56被引用 25

一句话总结

本文提出了一种基于两种等价表述的变量投影方法，用于在多项式中计算近似最大公因式（AGCD）：图像表示法（直接对公因式和商多项式进行参数化）与核表示法（Sylvester矩阵的低秩逼近）。关键贡献在于利用最小二乘与最小范数问题之间的对偶性，将AGCD问题与镶嵌Hankel低秩逼近联系起来，从而在公因式的次数较小或较大时均实现多项式次数的线性复杂度，并基于结构化低秩逼近工具实现了软件实现。

ABSTRACT

We consider the problem of finding for a given $N$-tuple of polynomials (real or complex) the closest $N$-tuple that has a common divisor of degree at least $d$. Extended weighted Euclidean seminorm of the coefficients is used as a measure of closeness. Two equivalent representations of the problem are considered: (i) direct parameterization over the common divisors and quotients (image representation), and (ii) Sylvester low-rank approximation (kernel representation). We use the duality between least-squares and least-norm problems to show that (i) and (ii) are closely related to mosaic Hankel low-rank approximation. This allows us to apply to the approximate common divisor problem recent results on complexity and accuracy of computations for mosaic Hankel low-rank approximation. We develop optimization methods based on the variable projection principle both for image and kernel representation. These methods have linear complexity in the degrees of the polynomials for small and large $d$. We provide a software implementation of the developed methods, which is based on a software package for structured low-rank approximation.

研究动机与目标

• 通过将近似GCD表述为结构化低秩逼近问题，解决系数扰动下多项式GCD计算的数值病态性问题。
• 为预设最小次数的GCD开发高效的优化方法以求解近似公因式（ACD）问题。
• 通过最小二乘与最小范数问题之间的对偶性，建立ACD问题图像表示与核表示之间的等价性。
• 利用镶嵌Hankel低秩逼近的最新进展，确保计算效率与数值精度。
• 基于结构化低秩逼近包提供软件实现，以支持实际部署。

提出的方法

• 使用图像表示法表述ACD问题：将多项式参数化为至少次数为 $ d $ 的公因式与商多项式的乘积。
• 通过Sylvester矩阵的低秩结构使用核表示法，其中存在次数 $ \geq d $ 的公因式等价于一个结构化矩阵的秩亏。
• 应用变量投影法以消除图像表示中的商变量，将问题简化为仅关于公因式系数的非凸优化问题。
• 利用最小二乘与最小范数问题之间的对偶性，关联图像与核表述，实现算法洞察的共享。
• 将ACD问题与镶嵌Hankel低秩逼近联系起来，利用其已知的复杂度与精度特性，提供理论保证。
• 使用结构化低秩逼近软件包实现算法，确保效率与可复现性。

实验结果

研究问题

• RQ1 如何通过图像与核表示法等价地表述近似公因式问题？
• RQ2 ACD问题的图像与核表述之间存在何种关系？如何利用最小二乘与最小范数问题之间的对偶性？
• RQ3 变量投影方法能否同时应用于图像与核表示法，以在多项式次数上实现线性复杂度？
• RQ4 与镶嵌Hankel低秩逼近的关联如何提升AGCD计算的计算效率与精度？
• RQ5 所提出方法在不同公因式次数与多项式规模下的实际性能与可扩展性如何？

主要发现

• ACD问题的图像与核表示在数学上等价，并通过最小二乘与最小范数问题之间的对偶性相联系。
• ACD问题被证明等价于一个镶嵌Hankel低秩逼近问题，从而可利用现有理论结果获得复杂度与精度的保证。
• 在两种表示法上应用的变量投影方法均实现了多项式次数的线性计算复杂度，无论 $ d $ 较小或较大。
• 所提方法在数值上稳定且可扩展，其软件实现基于结构化低秩逼近工具。
• 对偶性框架通过变量投影减少变量数量，实现高效优化，提升收敛性与性能。
• 该方法可通过在 $ d $ 上进行二分法求解 $ \varepsilon $-GCD 问题，将ACD问题作为精炼步骤，确保收敛性。