[论文解读] A survey of semidefinite programming approaches to the generalized problem of moments and their error analysis

Etienne de Klerk, Monique Laurent|arXiv (Cornell University)|Nov 13, 2018

Advanced Optimization Algorithms Research参考文献 62被引用 27

一句话总结

本文综述了半定规划（SDP）方法在广义矩问题（GPM）中的应用，重点分析了层次逼近方法的收敛速率。研究分析了正Borel测度锥的内、外锥逼近，表明在外逼近中误差界在单纯形和超立方体上以 O(1/r) 速率衰减，而在特定条件下，内逼近可实现 O(1/r²) 的收敛速率，并与正交多项式及求积规则建立联系。

ABSTRACT

The generalized problem of moments is a conic linear optimization problem over the convex cone of positive Borel measures with given support. It has a large variety of applications, including global optimization of polynomials and rational functions, option pricing in finance, constructing quadrature schemes for numerical integration, and distributionally robust optimization. A usual solution approach, due to J.B. Lasserre, is to approximate the convex cone of positive Borel measures by finite dimensional outer and inner conic approximations. We will review some results on these approximations, with a special focus on the convergence rate of the hierarchies of upper and lower bounds for the general problem of moments that are obtained from these inner and outer approximations.

研究动机与目标

• 提供半定规划（SDP）方法在广义矩问题（GPM）中应用的全面综述。
• 分析基于正Borel测度锥的内、外锥逼近所生成的层次化上界与下界的收敛速率。
• 在不同几何设定（球面、单纯形、超立方体）下，建立内、外逼近层次的定量误差界。
• 探讨逼近层次与正交多项式、求积规则及分布鲁棒优化之间的联系。
• 识别开放问题与未来研究方向，尤其关注外逼近收敛速率分析的改进。

提出的方法

• 将GPM表述为在紧集 K ⊆ ℝⁿ 上具有正Borel测度支撑的锥线性规划问题。
• 应用Lasserre的外逼近层次方法，利用平方和（SOS）表示法，通过半定规划生成下界。
• 基于矩矩阵与局部化矩阵的内逼近方法，通过SDP松弛生成上界。
• 在无限维空间中应用对偶理论，借助Riesz-Markov-Kakutani表示定理与弱*拓扑，在较弱条件下确保强对偶性。
• 通过分析次数为 r 的多项式表示的逼近质量，利用调和分析与球面上正交多项式工具，推导误差界。
• 利用球谐多项式与de Finetti型结果，界定内、外逼近之间的差距，尤其针对单位球面。

实验结果

研究问题

• RQ1 在单纯形与超立方体上，GPM的外逼近层次收敛速率如何？
• RQ2 内、外逼近的收敛速率相比如何，尤其在 1/r² 与 1/r 衰减行为上的差异？
• RQ3 能否形式化并利用SDP层次与球面上求积规则之间的联系进行误差分析？
• RQ4 参考测度的选择在内逼近层次收敛性中起什么作用？
• RQ5 为何外逼近在理论上表现出较弱的收敛速率，而实际中表现更优？这一差距如何弥合？

主要发现

• 在单纯形 K = ∆ⁿ 上，对于 d 次齐次多项式 p，外逼近误差满足 minₓ∈∆ⁿ p(x) − val(r)ₗₑₙₜₕ ≤ Cd / r 对所有 r ≥ d 成立，其中 Cd > 0 仅依赖于 d。
• 在超立方体 K = [0,1]ⁿ 上，外逼近误差被限制为 nd · ((d+1)/3) · Lₚ / r，对所有 r ≥ d 成立，其中 Lₚ 是 p 的Lipschitz常数。
• 在单位球面上，内逼近层次在适当条件下实现 O(1/r²) 的收敛速率，误差界通过球谐展开与de Finetti型定理推导得出。
• 外逼近层次在某些情况下可实现有限收敛，并支持全局最小值点的提取，因此尽管理论收敛速率较弱，但在计算上更具实用性。
• 内逼近的误差界比外逼近更紧，前者以 O(1/r²) 衰减，后者以 O(1/r) 衰减，表明内层次在渐近性能上更优。
• 内逼近层次的分析对参考测度的选择敏感；未来工作需将 O(1/r²) 速率推广至更广泛的紧集 K 类。