[论文解读] Domain-Driven Solver (DDS): a MATLAB-based Software Package for Convex Optimization Problems in Domain-Driven Form.

Mehdi Karimi, Levent Tunçel|arXiv (Cornell University)|Aug 7, 2019

Advanced Optimization Algorithms Research参考文献 27被引用 8

一句话总结

DDS 是一个基于 MATLAB 的软件包，实现了用于领域驱动形式凸优化问题的不可行起始原始-对偶算法，支持多种约束类型，包括对称锥、二次型、广义幂函数、矩阵范数、相对熵以及双曲多项式约束。其主要贡献在于提供了一个统一、高效且可扩展的框架，用于求解一大类具有理论基础和实际实现细节的凸优化问题。

ABSTRACT

Domain-Driven Solver (DDS) is a MATLAB-based software package for convex optimization problems in Domain-Driven form [Karimi and Tuncel, arXiv:1804.06925]. The current version of DDS accepts every combination of the following function/set constraints: (1) symmetric cones (LP, SOCP, and SDP); (2) quadratic constraints that are SOCP representable; (3) direct sums of an arbitrary collection of 2-dimensional convex sets defined as the epigraphs of univariate convex functions (including as special cases geometric programming and entropy programming); (4) generalized power cone; (5) epigraphs of matrix norms (including as a special case minimization of nuclear norm over a linear subspace); (6) vector relative entropy; (7) epigraphs of quantum entropy and quantum relative entropy; and (8) constraints involving hyperbolic polynomials. DDS is a practical implementation of the infeasible-start primal-dual algorithm designed and analyzed in [Karimi and Tuncel, arXiv:1804.06925]. This manuscript contains the users' guide, as well as theoretical results needed for the implementation of the algorithms. To help the users, we included many examples. We also discussed some implementation details and techniques we used to improve the efficiency and further expansion of the software to cover the emerging classes of convex optimization problems.

研究动机与目标

• 开发一个用于求解领域驱动形式凸优化问题的实用且可扩展的软件包。
• 统一处理多种凸约束，包括对称锥、二次型、广义幂函数和矩阵范数约束。
• 实现并验证一种具有理论严谨性和计算效率的不可行起始原始-对偶算法。
• 通过示例、文档和可扩展的架构，为用户提供一个全面的工具集，以应对新兴的凸问题类别。
• 通过优化的实现技术与算法设计，提升效率与可扩展性。

提出的方法

• 求解器采用专为领域驱动形式问题设计的不可行起始原始-对偶内点算法。
• 支持以单变量凸函数的上境图定义的约束，其中几何规划和熵规划是特殊情况。
• 通过专用障碍函数和自洽障碍函数，处理广义幂锥、向量相对熵和量子熵。
• 通过特定于矩阵的障碍函数，集成矩阵范数的上境图，包括在线性子空间上的核范数最小化。
• 通过其关联的障碍函数和自洽障碍性质，实现双曲多项式约束。
• 通过预处理、自适应中心化和模块化设计等算法技术，提升效率。

实验结果

研究问题

• RQ1 如何通过单一求解器高效处理领域驱动形式中多种凸优化约束？
• RQ2 何种算法框架能够实现对多样化凸问题（包括非对称锥）的稳健且可扩展的求解？
• RQ3 如何在新兴问题类别中，对不可行起始原始-对偶方法进行实用化实现，并保证理论保证？
• RQ4 哪些实现技术能提升性能并保持对新凸约束类型的可扩展性？
• RQ5 广义幂锥、量子熵和双曲多项式的障碍函数如何实现高效的优化？

主要发现

• DDS 有效地实现了统一框架，用于求解涵盖对称锥、二次型、幂函数和矩阵范数约束等多种约束类型的凸优化问题。
• 通过专用障碍函数，求解器支持向量相对熵、量子熵和双曲多项式约束等高级约束。
• 不可行起始原始-对偶算法在多种问题实例中表现出稳健的收敛性和稳定性，经由大量示例验证。
• 自适应中心化和预处理等实现技术显著提升了计算效率和可扩展性。
• 该软件设计具有可扩展性，可轻松集成研究和应用中出现的新凸约束类型。
• 用户指南和内置示例为研究人员和实践者提供了将 DDS 应用于实际优化问题的实用路径。