[论文解读] Tutorials on Advanced Optimization Methods

Wei Wei|arXiv (Cornell University)|Jul 19, 2020

Risk and Portfolio Optimization参考文献 134被引用 16

一句话总结

本教程介绍了用于求解复杂、非凸及多智能体工程问题的先进优化技术——凸优化、鲁棒优化与分布鲁棒优化、均衡问题以及混合整数线性规划（MILP）。重点在于将困难问题重新表述为求解器兼容的形式，如半定规划（SDP）或混合整数规划（MILP），从而通过商业或开源求解器实现可靠求解。

ABSTRACT

This material provides thorough tutorials on some optimization techniques frequently used in various engineering disciplines, including convex optimization, linearization techniques and mixed-integer linear programming, robust optimization, and equilibrium/game problems. It discusses how to reformulate a difficult (non-convex, multi-agent, min-max) problem to a solver-compatible form (semidefinite program, mixed-integer linear program) via convexification, linearization, and decomposition, so the original problem can be reliably solved by commercial/open-source software. Fundamental algorithms are not the main focus. This material is a good reference for self-learners who have basic knowledge in linear algebra and linear programming. It is one of the main references for an optimization course taught at Tsinghua University.

研究动机与目标

• 为优化领域的研究人员和自学者，特别是能源系统与工程应用方向的研究者，提供全面的参考资源。
• 通过将复杂非凸优化问题转化为SDP、MILP或锥规划等标准形式，弥合复杂非凸问题与求解器之间的鸿沟。
• 通过提供系统化的建模方法，支持在相互关联的能源基础设施建模中的实际问题求解。
• 作为研究生水平优化课程的基础教学资源，尤其适用于清华大学。
• 提供实用工具，将具有挑战性的问题（如非凸QCQP、互补约束和均衡博弈）转化为可计算的形式。

提出的方法

• 利用凸松弛技术，包括半定规划（SDP）和完全正定规划松弛，对非凸二次约束二次规划（QCQPs）进行近似。
• 通过逐步收紧松弛形式，提升非凸问题的解质量与收敛性。
• 采用线性化与混合整数规划（MILP）建模方法，处理非凸函数、双线性项及逻辑约束。
• 提出分段线性逼近非线性函数的建模方法，涵盖单变量与双变量情形。
• 应用鲁棒优化框架，包括静态、可调及分布鲁棒模型，基于Wasserstein距离进行问题重构。
• 采用变分不等式与互补约束建模方法，对电力市场中的纳什均衡及多领导者-跟随者博弈进行建模。

实验结果

研究问题

• RQ1 如何将能源系统中的非凸优化问题重新表述为凸优化或混合整数规划形式，以实现可靠求解？
• RQ2 如何有效利用混合整数线性规划对非线性项与双线性项进行近似？
• RQ3 在不确定性下，如何实现鲁棒与分布鲁棒优化模型的可计算重构？
• RQ4 互补约束与均衡建模在电力市场多智能体交互行为建模中起什么作用？
• RQ5 如何通过分支定界法或同伦法求解具有均衡约束的均衡问题（EPEC）或具有均衡约束的数学规划问题（MPEC）？

主要发现

• SDP松弛能为非凸QCQPs提供紧致且求解器兼容的重构形式，在特定条件下具有最优性理论保证。
• 对松弛形式进行逐步收紧可显著提升非凸问题的解质量，有效减小对偶间隙。
• 通过分段线性化，MILP对非凸二次规划的逼近在多面体域上可达到高精度。
• 基于Wasserstein距离的鲁棒优化模型可实现数据驱动的分布鲁棒建模，且计算上具有可处理性。
• 具有互补约束的均衡问题（MPEC）可通过分支定界法与同伦法求解，在特定假设下具备收敛性保证。
• 通过变分不等式与互补条件对多领导者-跟随者博弈及纳什均衡进行建模，可有效刻画电力市场中的策略性行为。