[论文解读] TSSOS: A Moment-SOS hierarchy that exploits term sparsity

Jie Wang, Victor Magron+1 more|arXiv (Cornell University)|Dec 18, 2019

Advanced Optimization Algorithms Research参考文献 32被引用 18

一句话总结

本论文提出TSSOS，一种新颖的时刻-SOS层级方法，通过在多项式优化中利用项稀疏性，借助基于单项式项导出的邻接图中连通分量的迭代补全，构建块对角化的半定规划（SDP）问题。该方法在保持全局收敛性的同时实现了显著的计算加速，在随机生成和实际应用问题上均优于标准及稀疏SOS层级方法。

ABSTRACT

This paper is concerned with polynomial optimization problems. We show how to exploit term (or monomial) sparsity of the input polynomials to obtain a new converging hierarchy of semidefinite programming relaxations. The novelty (and distinguishing feature) of such relaxations is to involve block-diagonal matrices obtained in an iterative procedure performing completion of the connected components of certain adjacency graphs. The graphs are related to the terms arising in the original data and not to the links between variables. Our theoretical framework is then applied to compute lower bounds for polynomial optimization problems either randomly generated or coming from the networked systems literature.

研究动机与目标

• 解决标准时刻-SOS层级在多项式优化中因SDP矩阵规模迅速增长而带来的可扩展性限制。
• 利用项（单项式）稀疏性——不同于基于变量的关联稀疏性——在不牺牲收敛性保证的前提下减小SDP松弛问题的规模。
• 开发一种新层级方法，通过在基于项的邻接图中迭代补全连通分量，构建块对角矩阵。
• 在随机与实际多项式优化问题上，展示相对于标准方法及现有稀疏SOS方法的计算优势。
• 将项稀疏性的适用范围扩展至约束多项式优化，此前该方法仅适用于无约束或特定结构的情形。

提出的方法

• 基于输入多项式中共享的单项式项构建邻接图，其中节点代表单项式，边表示在相同多项式中共同出现。
• 对这些图中的连通分量进行迭代补全，以定义时刻矩阵和局部化矩阵中的块结构。
• 提出一种新的时刻-SOS层级，其SDP矩阵为块对角形式，块大小由项图的连通分量决定。
• 在弱假设下通过保留标准时刻-SOS层级的收敛性保证，确保全局收敛性。
• 采用重索引策略将单项式支撑映射至块，从而通过更小、独立的子问题实现高效的SDP求解。
• 将该方法应用于无约束和约束多项式优化问题，包括网络化系统与随机多项式实例。

实验结果

研究问题

• RQ1 能否系统性地利用多项式单项式结构中的项稀疏性，以减小时刻-SOS层级中SDP松弛问题的规模？
• RQ2 基于项邻接图连通分量构建的块对角SDP公式是否能保持时刻-SOS层级的全局收敛性？
• RQ3 在求解时间与精度方面，所提出的TSSOS层级相较于标准方法及基于变量的稀疏SOS层级表现如何？
• RQ4 在约束多项式优化问题中，项稀疏性能在多大程度上降低计算复杂度？
• RQ5 TSSOS框架能否扩展至时刻-SOS层级的其他变体，如最优控制或非交换变量情形？

主要发现

• TSSOS在计算速度上相比标准方法及现有稀疏SOS层级实现显著提升，部分测试实例的计算时间减少高达90%。
• 对于问题实例 $ H_6 $，当 $ (n,2d,s) = (11,6,20) $ 时，TSSOS在389秒内完成计算，使用块 $ (356,104) $，而GloptiPoly在1108秒内未能收敛。
• 在无约束问题 $ H_5 $ 上，当 $ (n,2d,s) = (10,6,20) $ 时，TSSOS在77秒内完成，块大小为 $ (274,92) $，而GloptiPoly耗时181秒。
• 该方法保持了全局收敛性与最优性保证，所有TSSOS松弛问题均达到与标准层级相同的最优值。
• TSSOS矩阵的块对角结构带来了更优的数值条件性与更低的内存占用，尤其在高次多项式且单项式支持稀疏时表现更优。
• 在约束情形下，TSSOS在所有测试实例中均优于GloptiPoly，加速比从2倍到10倍以上不等，具体取决于问题规模与稀疏模式。