[论文解读] Chordal-TSSOS: a moment-SOS hierarchy that exploits term sparsity with chordal extension

Jie Wang, Victor Magron+1 more|arXiv (Cornell University)|Mar 4, 2020

Advanced Optimization Algorithms Research参考文献 54被引用 12

一句话总结

该论文提出 Chordal-TSSOS，一种两级矩-伴随平方（moment-SOS）层次方法，通过迭代应用支持扩展（support-extension）与弦图扩展（chordal extension）于项稀疏模式（tsp）图，利用多项式优化问题（POPs）中的项稀疏性。通过将所得邻接图经由最小弦图扩展转化为准块对角半定规划（SDP），该方法在大规模 POPs 上实现显著的计算节省，尤其在关联稀疏性失效时表现更优，但相比先前方法缺乏理论收敛保证。

ABSTRACT

This work is a follow-up and a complement to arXiv:1912.08899 [math.OC] for solving polynomial optimization problems (POPs). The chordal-TSSOS hierarchy that we propose is a new sparse moment-SOS framework based on term-sparsity and chordal extension. By exploiting term-sparsity of the input polynomials we obtain a two-level hierarchy of semidefinite programming relaxations. The novelty and distinguishing feature of such relaxations is to obtain quasi block-diagonal matrices obtained in an iterative procedure that performs chordal extension of certain adjacency graphs. The graphs are related to the terms arising in the original data and not to the links between variables. Various numerical examples demonstrate the efficiency and the scalability of this new hierarchy for both unconstrained and constrained POPs. The two hierarchies are complementary. While the former TSSOS arXiv:1912.08899 [math.OC] has a theoretical convergence guarantee, the chordal-TSSOS has superior performance but lacks this theoretical guarantee.

研究动机与目标

• 为解决标准矩-伴随平方层次在大规模多项式优化问题（POPs）中的可扩展性限制。
• 利用项稀疏性——即多项式仅涉及部分单项式——而非仅依赖变量层面的关联稀疏性。
• 开发一种两级矩-伴随平方层次，通过迭代弦图扩展项稀疏性图，生成准块对角半定规划，从而降低计算成本。
• 在关联稀疏性失效的问题（如涉及所有变量的密集项或在关联稀疏模式中存在大团）上提升性能。

提出的方法

• 该方法构建一个项稀疏模式（tsp）图，其中节点代表单项式，边代表在伴随平方表示中共同出现。
• 采用迭代两步过程：(1) 支持扩展，以包含来自伴随平方分解的新单项式；(2) 弦图扩展，将图转化为具有最小团的弦图结构。
• 通过近似最小弦图扩展执行弦图扩展，以减小最终 SDP 矩阵中最大团的规模。
• 所得稀疏结构使得能够形成准块对角半定规划，显著降低求解松弛问题的计算负担。
• 该方法被整合进两级矩-伴随平方层次中，其中矩阵与局部化矩阵根据弦图结构进行分解。
• 该方法被设计为与原始 TSSOS 层次互补：以牺牲理论收敛性为代价，换取在大规模稀疏 POPs 上的更优性能。

实验结果

研究问题

• RQ1 在多项式优化中，能否比关联稀疏性更有效地利用项稀疏性以减小 SDP 松弛规模？
• RQ2 在 TSSOS 框架中，用弦图扩展替代块闭包，对所得矩-伴随平方层次的性能与可扩展性有何影响？
• RQ3 与最大弦图扩展或块闭包相比，使用近似最小弦图扩展在计算效率上能提升多少？
• RQ4 在关联稀疏性因密集项或大变量团而失效的问题上，Chordal-TSSOS 是否能实现显著加速？
• RQ5 与原始 TSSOS 及矩-伴随平方层次相比，Chordal-TSSOS 在计算效率与理论收敛性之间存在何种权衡？

主要发现

• Chordal-TSSOS 通过迭代弦图扩展项稀疏性图，减小 SDP 松弛中最大团的规模，在无约束与有约束 POPs 上均实现显著计算加速。
• 对于 n=100 的 Broyden 三对角问题，Chordal-TSSOS 将第二层求解时间从 TSSOS 的 299 秒降低至 864 秒，但团大小显著减小，表明对更大规模问题具有更好的可扩展性。
• 在涉及密集项（如 ||x||²）的问题上，该方法优于 TSSOS，因为此时关联稀疏性失效；在 n=100 的数值结果中，TSSOS 未能完成计算，而 Chordal-TSSOS 成功完成。
• 矩矩阵中的最大团大小从 TSSOS 的 (103,5) 降低至 Chordal-TSSOS 的 (103,7)，表明稀疏结构得到改善，且团大小未过度增加。
• 对于 Broyden 三对角问题，Chordal-TSSOS 达到与 TSSOS 一致的最优值（如 n=100 时为 94.98），证实尽管采用启发式弦图扩展，解的准确性仍得以保持。
• 该方法具有良好的可扩展性：对于 n=120，矩矩阵团大小为 (123,4)，第二层耗时 864 秒，表明其适用于更大规模问题。