[论文解读] A Note on the Convexity of $\log \det ( I + KX^{-1} )$ and its Constrained Optimization Representation

Kwang-Ki K. Kim|arXiv (Cornell University)|Sep 2, 2015

Sparse and Compressive Sensing Techniques参考文献 6被引用 4

一句话总结

本文通过矩阵代数方法证明了 $\log\det(I + KX^{-1})$ 和 $\log\det(K + X^{-1})$ 在正定锥上的凸性（当 $K \succ 0$ 时为严格凸性）。文章引入了基于线性矩阵不等式（LMI）的等价凸优化形式，使得涉及这些函数的约束优化问题可通过半光滑规划高效求解。

ABSTRACT

This note provides another proof for the {\em convexity} ({\em strict convexity}) of $\log \det ( I + KX^{-1} )$ over the positive definite cone for any given positive semidefinite matrix $K \succeq 0$ (positive definite matrix $K \succ 0$) and the {\em strictly convexity} of $\log \det (K + X^{-1})$ over the positive definite cone for any given $K \succeq 0$. Equivalent optimization representation with linear matrix inequalities (LMIs) for the functions $\log \det ( I + KX^{-1} )$ and $\log \det (K + X^{-1})$ are presented. Their optimization representations with LMI constraints can be particularly useful for some related synthetic design problems.

研究动机与目标

• 证明对于任意 $K \succeq 0$，$\log\det(I + KX^{-1})$ 在正定锥上是凸的，且当 $K \succ 0$ 时为严格凸。
• 证明对于任意 $K \succeq 0$，$\log\det(K + X^{-1})$ 在正定锥上是严格凸的。
• 为这两个函数推导出具有线性矩阵不等式（LMI）约束的等价凸优化表示形式。
• 展示这些 LMI 表示在求解涉及 $X \succ 0$ 的约束优化问题中的实用性。
• 为在行列式最大化或最小化问题中引入 $X$ 的附加结构约束提供一个框架。

提出的方法

• 以 $-\log\det(X)$ 在正定锥上的已知严格凸性作为基础要素。
• 引入一个松弛变量 $Z \succ 0$，将 $\log\det(I + KX^{-1})$ 重述为在 LMI 约束下最小化 $\log\det(Z^{-1})$ 的问题。
• 利用舒尔补（Schur complement）将不等式 $I + K^{1/2}X^{-1}K^{1/2} \preceq Z^{-1}$ 转化为 LMI $\begin{bmatrix} I - Z & K^{1/2} \\ K^{1/2} & X + K \\ \nolimits \end{bmatrix} \succeq 0$。
• 采用相同的松弛变量与舒尔补技术，推导出 $\log\det(K + X^{-1})$ 的等价 LMI 表示形式。
• 通过 $\log\det(\cdot)$ 的单调性与约束集的紧致性，建立原始 log-det 函数与所得半光滑规划之间的等价性。
• 利用 LMI 约束的线性性质以及 $-\log\det(Z)$ 的严格凸性，证明原始函数的凸性。

实验结果

研究问题

• RQ1 对于任意 $K \succeq 0$，$\log\det(I + KX^{-1})$ 在正定锥上是否为凸函数？
• RQ2 在何种条件下 $\log\det(I + KX^{-1})$ 为严格凸函数？
• RQ3 能否将 $\log\det(K + X^{-1})$ 表示为具有线性矩阵不等式约束的凸优化问题？
• RQ4 如何通过依赖 $\log\det(X^{-1})$ 凸性的矩阵代数方法，证明 $\log\det(I + KX^{-1})$ 的凸性？
• RQ5 $\log\det(I + KX^{-1})$ 和 $\log\det(K + X^{-1})$ 的等价 LMI 约束优化形式是什么？

主要发现

• 函数 $f(X) = \log\det(I + KX^{-1})$ 在正定锥 $\mathbb{S}_{++}^n$ 上对于任意 $K \succeq 0$ 是凸的。
• 当 $K \succ 0$ 时，函数 $f(X) = \log\det(I + KX^{-1})$ 在 $\mathbb{S}_{++}^n$ 上是严格凸的。
• 对于任意 $K \succeq 0$，函数 $g(X) = \log\det(K + X^{-1})$ 在 $\mathbb{S}_{++}^n$ 上是严格凸的。
• 对于所有 $X \succ 0$，$\log\det(I + KX^{-1})$ 等价于一个半光滑规划的最优值：$\min_{Z \succ 0} \log\det(Z^{-1})$，约束为 $\begin{bmatrix} I - Z & K^{1/2} \\ K^{1/2} & X + K \end{bmatrix} \succeq 0$。
• 类似地，$\log\det(K + X^{-1})$ 等价于 $\min_{Z \succ 0} \log\det(Z^{-1})$，约束为 $\begin{bmatrix} X - Z & X^{1/2}K^{1/2} \\ K^{1/2}X^{1/2} & I + K^{1/2}XK^{1/2} \end{bmatrix} \succeq 0$。
• 这些 LMI 表示使得涉及 $\log\det(I + KX^{-1})$ 或 $\log\det(K + X^{-1})$ 的约束优化问题可被重述为带有额外松弛变量的标准半光滑规划。