[论文解读] On Geodesically Convex Formulations for the Brascamp-Lieb Constant

Nisheeth K. Vishnoi, Ozan Yildiz|arXiv (Cornell University)|Apr 11, 2018

Markov Chains and Monte Carlo Methods参考文献 12被引用 6

一句话总结

本文提出了两种新颖的测地凸优化形式，用于在正定矩阵流形上计算 Brascamp-Lieb 常数，采用对数行列式 Hessian 度量。研究证明，这两种形式均为测地对数凹，提供了多项式时间可解的替代方案，避免了以往方法在维度上指数级增长的问题，从而实现了对可行 Brascamp-Lieb 数据的高效优化。

ABSTRACT

We consider two non-convex formulations for computing the optimal constant in the Brascamp-Lieb inequality corresponding to a given datum, and show that they are geodesically log-concave on the manifold of positive definite matrices endowed with the Riemannian metric corresponding to the Hessian of the log-determinant function. The first formulation is present in the work of Lieb and the second is inspired by the work of Bennett et al. Recent works of Garg et al.and Allen-Zhu et al. also imply a geodesically log-concave formulation of the Brascamp-Lieb constant through a reduction to the operator scaling problem. However, the dimension of the arising optimization problem in their reduction depends exponentially on the number of bits needed to describe the Brascamp-Lieb datum. The formulations presented here have dimensions that are polynomial in the bit complexity of the input datum.

研究动机与目标

• 开发计算高效的 Brascamp-Lieb 常数形式，避免问题维度的指数级膨胀。
• 在正定矩阵的黎曼流形上，建立现有及新形式的 Brascamp-Lieb 常数的测地凸性。
• 提供一种多项式规模的替代方案，以取代以往在输入位复杂度上呈指数增长的算子缩放归约。
• 表征在正定矩阵上的线性映射与几何平均下，对数行列式函数的测地凸性。

提出的方法

• 基于 Lieb 的高斯最大化器形式，将 Brascamp-Lieb 常数表述为在正定矩阵上的优化问题。
• 提出第二种形式，受 Bennett 等人启发，证明其在正定流形上的测地对数凹性。
• 应用对称正定矩阵上的几何平均与正线性映射理论，推导凸性性质。
• 利用严格正线性映射的对数行列式为测地凸的性质，借助 Sra（2015）的推论 2.8。
• 建立对正定矩阵应用若干线性映射之和的对数行列式的联合测地凸性。
• 依赖矩阵不等式与 Loewner 顺序，刻画几何平均，并保持线性映射下的正定性。

实验结果

研究问题

• RQ1 Brascamp-Lieb 常数能否在正定矩阵流形上以测地凸优化问题形式表达？
• RQ2 基于 Lieb 和 Bennett 等人的现有形式，在对数行列式 Hessian 度量下是否具有测地对数凹性？
• RQ3 能否构建一种多项式规模的测地凸形式，避免算子缩放归约中出现的指数维度膨胀？
• RQ4 正线性映射与几何平均在建立对数行列式函数的测地凸性中起到何种作用？

主要发现

• 基于 Lieb 高斯最大化器的第一种形式，在对数行列式 Hessian 度量下，于正定矩阵流形上为测地对数凹。
• 受 Bennett 等人启发的第二种形式，同样具有测地对数凹性，提供了另一种凸优化形式。
• 所提出的两种形式的维度在输入 Brascamp-Lieb 数据的位复杂度上为多项式规模，与以往呈指数增长的归约形式形成对比。
• 通过矩阵不等式及线性映射对几何平均的影响，确立了正线性映射对数行列式的测地凸性。
• 证明了对正定矩阵应用若干线性映射之和的对数行列式的联合测地凸性，从而支持高效优化。
• 研究结果为可行数据的 Brascamp-Lieb 常数提供了多项式时间算法基础，避免了以往归约中的指数级膨胀。