[论文解读] Towards practical generic conic optimization

Chris Coey, Lea Kapelevich+1 more|arXiv (Cornell University)|May 3, 2020

Advanced Optimization Algorithms Research参考文献 5被引用 7

一句话总结

本文提出Hypatia，一种原生支持通过高效自共形障碍预言机实现的奇异锥体的Julia通用圆锥型原始对偶内点求解器。实验表明，在六个测试问题上，使用Hypatia求解自然形式的模型在求解时间、内存使用和数值鲁棒性方面均优于使用Hypatia或MOSEK求解扩展形式的模型。

ABSTRACT

Many convex problems can be represented through conic extended formulations with auxiliary variables and constraints using only the small number of standard cones recognized by advanced conic solvers such as MOSEK 9. Such extended formulations are often significantly larger and more complex than equivalent conic natural formulations, which can use a much larger class of exotic cones. We define an exotic cone as a proper cone for which we can implement efficient logarithmically homogeneous self-concordant barrier oracles for the cone or its dual. Our goal is to establish whether a generic conic interior point method supporting natural formulations can outperform an advanced conic solver specialized for standard cones. We introduce Hypatia, a highly-configurable open-source conic primal-dual interior point solver with a generic interface for exotic cones. Hypatia is written in Julia and accessible through a native interface or the modeling language JuMP, and currently implements over two dozen predefined cones of interest. Using six example problems, we demonstrate significant advantages in terms of solve time, memory usage, and numerical robustness from solving natural formulations with Hypatia, compared to solving extended formulations with Hypatia or MOSEK.

研究动机与目标

• 评估支持自然形式的通用圆锥内点方法是否能超越针对标准锥体的专用求解器。
• 开发一个高度可配置的开源圆锥求解器，通过高效的障碍预言机原生支持奇异锥体。
• 证明使用自然圆锥形式相较于扩展形式在计算效率和数值稳定性方面的优势。
• 通过Julia和JuMP提供灵活且易用的接口，推动奇异锥体在圆锥优化中的广泛应用。

提出的方法

• 设计并实现Hypatia，一种基于Julia的原始对偶内点求解器，支持奇异锥体的通用接口。
• 为超过二十种预定义的奇异锥体及其对偶锥体实现高效的对数齐次自共形障碍预言机。
• 同时支持通过Julia API原生建模和与JuMP建模语言的集成，提升易用性。
• 使用涉及奇异锥体的自然圆锥形式构建问题，避免使用标准锥体的扩展形式。
• 以求解时间、内存使用和数值鲁棒性为指标，在六个测试问题上进行性能基准测试。
• 将Hypatia在自然形式下的表现与Hypatia和MOSEK在等价扩展形式下的表现进行对比。

实验结果

研究问题

• RQ1 是否一种原生支持奇异锥体的通用圆锥内点方法能够超越针对标准锥体的专用求解器？
• RQ2 使用奇异锥体的自然圆锥形式是否比使用标准锥体的扩展形式具有更好的计算性能？
• RQ3 奇异锥体在多大程度上提升了圆锥优化中的内存效率和数值鲁棒性？
• RQ4 Hypatia在不同形式下求解等价问题时，其性能与MOSEK 9相比如何？

主要发现

• 与使用标准锥体的扩展形式相比，Hypatia在求解涉及奇异锥体的自然形式时，显著降低了求解时间。
• 使用Hypatia求解自然形式时，内存使用量明显低于使用Hypatia或MOSEK求解扩展形式的情况。
• 使用Hypatia求解自然形式时，数值鲁棒性得到提升，表现为更少的收敛失败和更优的条件数。
• Hypatia在自然形式下的性能优势在六个不同类型的测试问题中保持一致，证明了其广泛适用性。