[论文解读] Trust Region Subproblem with a Fixed Number of Additional Linear Inequality Constraints has Polynomial Complexity

Yong Hsia, Ruey-Lin Sheu|arXiv (Cornell University)|Dec 5, 2013

Advanced Optimization Algorithms Research参考文献 18被引用 19

一句话总结

本文证明了具有固定数量 $m$ 个附加线性不等式约束的信赖域子问题（记为 $\mathrm{T}_m$）对于每个固定的 $m$ 具有多项式时间复杂度。通过利用 Martínez 对局部非全局极小值的刻画，并将问题归纳化归约为标准信赖域子问题（$\mathrm{T}_0$），作者表明求解 $\mathrm{T}_m$ 可归约为求解数量多项式增长于 $m$ 的 $\mathrm{T}_0$ 问题，尽管最坏情况下其依赖关系为指数级，但对固定的 $m$ 仍保持多项式复杂度，从而证明了固定 $m$ 时的多项式复杂度。此外，本文改进了精确 SDP 松弛的维数条件，表明其可严格优于先前的条件。

ABSTRACT

The trust region subproblem with a fixed number m additional linear inequality constraints, denoted by (Tm), have drawn much attention recently. The question as to whether Problem (Tm) is in Class P or Class NP remains open. So far, the only affirmative general result is that (T1) has an exact SOCP/SDP reformulation and thus is polynomially solvable. By adopting an early result of Martinez on local non-global minimum of the trust region subproblem, we can inductively reduce any instance in (Tm) to a sequence of trust region subproblems (T0). Although the total number of (T0) to be solved takes an exponential order of m, the reduction scheme still provides an argument that the class (Tm) has polynomial complexity for each fixed m. In contrast, we show by a simple example that, solving the class of extended trust region subproblems which contains more linear inequality constraints than the problem dimension; or the class of instances consisting of an arbitrarily number of linear constraints is NP-hard. When m is small such as m = 1,2, our inductive algorithm should be more efficient than the SOCP/SDP reformulation since at most 2 or 5 subproblems of (T0), respectively, are to be handled. In the end of the paper, we improve a very recent dimension condition by Jeyakumar and Li under which (Tm) admits an exact SDP relaxation. Examples show that such an improvement can be strict indeed.

研究动机与目标

• 解决具有 $m$ 个附加线性不等式约束的信赖域子问题（记为 $\mathrm{T}_m$）在固定 $m$ 时的计算复杂度问题。
• 确定在一般情况仍开放的前提下，$\mathrm{T}_m$ 是否属于 P 类或 NP 类。
• 开发一种构造性、归纳性的算法，将 $\mathrm{T}_m$ 归约为一系列标准信赖域子问题（$\mathrm{T}_0$），并证明其在固定 $m$ 时具有多项式复杂度。
• 通过引入一个更强的维数条件 [NewDC]，改进现有关于 $\mathrm{T}_m$ 精确 SDP 松弛的充分条件，使其严格优于先前的条件。

提出的方法

• 利用 Martínez 对经典信赖域子问题中局部非全局极小值的刻画，指导 $\mathrm{T}_m$ 到 $\mathrm{T}_0$ 子问题的归纳约化。
• 采用一种归纳方案，将任意 $\mathrm{T}_m$ 实例约化为有限个 $\mathrm{T}_0$ 问题，其数量在 $m$ 上呈指数增长，但对固定的 $m$ 仍保持多项式有界。
• 应用隐含凸性与矩阵束分析，识别 $\mathrm{T}_m$ 的 SDP 松弛何时为精确。
• 提出一个新的维数条件 [NewDC]，定义为矩阵 $[Q - \lambda_{\min}(Q)I_n \mid a_1 \mid \cdots \mid a_m]$ 的秩，作为 SDP 松弛精确性的充分条件。
• 利用矩阵秩一分解与 Slater 条件分析 SDP 松弛的紧致性。
• 通过反例验证新条件，表明其在严格优于 Jeyakumar 和 Li（2014）提出的 [DC] 条件方面具有改进效果。

实验结果

研究问题

• RQ1 对于每个固定的 $m$，具有 $m$ 个附加线性不等式约束的信赖域子问题（$\mathrm{T}_m$）是否可在多项式时间内求解？
• RQ2 能否利用经典信赖域子问题中局部非全局极小值的结构，将 $\mathrm{T}_m$ 约化为更简单的 $\mathrm{T}_0$ 子问题？
• RQ3 在什么条件下，$\mathrm{T}_m$ 的 SDP 松弛是精确的？这些条件能否被改进？
• RQ4 类 $\bigcup_{m=1}^\infty \mathrm{T}_m$（任意数量约束）是否为 NP-难？若是，为何其与固定 $m$ 的情形形成对比？

主要发现

• 对于每个固定的 $m$，具有 $m$ 个附加线性不等式约束的信赖域子问题（$\mathrm{T}_m$）具有多项式时间复杂度，因为所需 $\mathrm{T}_0$ 子问题的数量在 $m$ 上多项式增长。
• 基于 Martínez 对局部非全局极小值的刻画的归纳约化方案，使得 $\mathrm{T}_m$ 可通过求解最多 $2^m$ 个 $\mathrm{T}_0$ 实例来求解，这在固定 $m$ 时仍为多项式复杂度。
• 类 $\mathrm{T}_{n+1}$（约束数量比问题维度多一个）为 NP-难，因为它可编码如最大稳定集问题等 NP-难问题。
• 基于矩阵 $[Q - \lambda_{\min}(Q)I_n \mid a_1 \mid \cdots \mid a_m]$ 的秩定义的新维数条件 [NewDC]，是比 Jeyakumar 和 Li 的先前条件 [DC] 更强的精确 SDP 松弛的充分条件。
• 示例 1 表明，即使 [DC] 不成立，[NewDC] 仍可满足，从而证明其严格改进。
• 示例 2 表明，当 [NewDC] 不成立时，SDP 松弛可能产生正间隙，确认该条件不仅充分，且在实践中具有实际意义。