Skip to main content
QUICK REVIEW

[论文解读] An adaptive discretization method solving semi-infinite optimization problems with quadratic rate of convergence

Tobias Seidel, Karl‐Heinz Küfer|arXiv (Cornell University)|Oct 30, 2019
Optimization and Variational Analysis参考文献 25被引用 13
一句话总结

本文提出 quADAPT,一种用于半无限优化问题的自适应离散化方法,通过将下层问题的线性化约束引入离散化子问题,实现二次收敛。该方法利用KKT条件和灵敏度信息,在强稳定性假设下,相较于经典的Blankenship和Falk方法,显著提升了收敛速度,确保迭代序列二次收敛至驻点。

ABSTRACT

Semi-infinite programming can be used to model a large variety of complex optimization problems. The simple description of such problems comes at a price: semi-infinite problems are often harder to solve than finite nonlinear problems. In this paper we combine a classical adaptive discretization method developed by Blankenship and Falk and techniques regarding a semi-infinite optimization problem as a bi-level optimization problem. We develop a new adaptive discretization method which combines the advantages of both techniques and exhibits a quadratic rate of convergence. We further show that a limit of the iterates is a stationary point, if the iterates are stationary points of the approximate problems.

研究动机与目标

  • 为解决经典自适应离散化方法(如Blankenship和Falk的方法)收敛速度缓慢的问题,这些方法通常仅表现出线性收敛。
  • 开发一种方法,通过引入下层问题的灵敏度信息,实现半无限优化问题的二次收敛。
  • 确保迭代序列的极限点为原半无限问题的驻点。
  • 减少达到高精度解所需的迭代次数和离散化点数。

提出的方法

  • 提出一种改进的离散化问题(SIPk_mod),其包含原始离散化约束以及从下层问题KKT条件导出的附加线性约束。
  • 采用约化假设(Reduction Ansatz)表达下层问题的最优性条件,从而推导出关于上层变量的灵敏度信息(最优值函数的梯度)。
  • 在每次迭代中,求解包含当前离散化点集和反映未探索索引集区域的注入线性约束的离散化问题。
  • 对违反函数在当前迭代点附近进行一阶泰勒展开,构建整个索引集上最大违反度的线性低估函数。
  • 确保新约束仅在当前迭代点处激活,并通过迭代方式更新以反映局部灵敏度。
  • 在强稳定性与EMFCQ假设下,保证解路径的局部唯一性与最优性。

实验结果

研究问题

  • RQ1改进的自适应离散化方法能否在半无限规划中实现二次收敛,而经典Blankenship和Falk方法则不能?
  • RQ2在何种条件下,迭代序列的极限点是原半无限问题的驻点?
  • RQ3如何将下层问题的灵敏度信息整合到上层子问题中以加速收敛?
  • RQ4与经典方法相比,新方法能否减少迭代次数和离散化点数?
  • RQ5在收敛速度和计算量方面,性能提升的定量表现如何?

主要发现

  • 在极限点处满足强稳定性假设的前提下,所提出的quADAPT方法可实现迭代序列对半无限问题驻点的二次收敛。
  • 只要每个子问题的解为KKT点,该方法可确保迭代序列的每个极限点均为原SIP问题的驻点。
  • 数值结果表明,quADAPT仅用3次迭代(0.74秒)即可达到10−4的精度,而经典Blankenship和Falk方法则需14次迭代(2.06秒),显著减少了迭代次数与耗时。
  • quADAPT在三次迭代内,到最优解的距离由3.4975降至1.0989×10−5,而经典方法仅降至0.7586。
  • 该方法通过避免在每次二分步骤中添加离散化点,减少了离散化点数量,从而加快了子问题的求解速度。
  • 理论分析证实,由于引入了捕捉索引集未探索区域的线性化约束,二次收敛速率得以保持。

更好的研究,从现在开始

从论文设计到论文写作,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。