[论文解读] Polynomial-time algorithms for Multimarginal Optimal Transport problems with decomposable structure

Jason M. Altschuler, Enric Boix-Adserà|arXiv (Cornell University)|Aug 7, 2020

Markov Chains and Monte Carlo Methods参考文献 49被引用 10

一句话总结

本文通过利用两种结构性质——可分解的代价函数（包含局部/全局相互作用）或低秩/稀疏分量——首次提出了多项式时间的多边际最优传输（MOT）算法。该方法可在多项式时间复杂度内对一大类MOT问题实现精确且稀疏的解，显著优于以往方法在计算上不可行或仅产生非精确、稠密解的局限。

ABSTRACT

Multimarginal Optimal Transport (MOT) has recently attracted significant interest due to applications in machine learning, statistics, and the sciences. However, in most applications, the success of MOT is severely limited by a lack of efficient algorithms. Indeed, in general, MOT requires exponential time in the number of marginals k and their support sizes n. This paper develops a general theory about structural properties that make MOT solvable in poly(n,k) time. We identify two such properties: decomposability of the cost into either (i) local and simple global interactions; or (ii) low-rank and sparse components. These two structures encompass many--if not most--current applications of MOT. In addition to providing the first poly(n,k)-time algorithms for a wide range of MOT problems, our results also provide better algorithms for MOT problems that are already known to be tractable: Our algorithms compute solutions which are exact and sparse. (Previous algorithms can do neither.) We demonstrate our results theoretically and numerically on popular applications in machine learning, statistics, and fluid dynamics.

研究动机与目标

• 解决高维应用中多边际最优传输（MOT）的计算不可行性问题。
• 识别使MOT问题实现多项式时间可解的代价函数结构性条件。
• 开发能够计算精确且稀疏解的算法，克服现有方法的局限。
• 在包括机器学习和流体动力学在内的多个领域中，展示所提框架的适用性与高效性。

提出的方法

• 将MOT问题建模为线性规划问题，其代价函数可分解为局部相互作用与全局项。
• 引入代价张量的低秩与稀疏分解，以利用相互作用项中的结构特性。
• 利用对偶性与块坐标下降技术，在多项式时间复杂度 poly(n,k) 内求解所得优化问题。
• 采用平滑化与稀疏化策略，在降低计算复杂度的同时保持解的精确性。
• 使用基于分解的ADMM类算法，高效处理结构化代价。
• 通过在迭代优化过程中施加秩与支撑集约束，确保解的稀疏性。

实验结果

研究问题

• RQ1 在何种代价函数结构性条件下，多边际最优传输可实现多项式时间求解？
• RQ2 可分解的代价结构（如局部相互作用或低秩分量）是否能实现精确且稀疏的解？
• RQ3 所提出的算法在性能与准确性方面与现有MOT求解器相比如何？
• RQ4 该框架在机器学习与流体动力学等现实世界问题中的适用范围有多大？
• RQ5 该算法是否能在高维设置下同时保持精确性与多项式时间复杂度？

主要发现

• 本文证明，对于具有可分解代价函数的MOT问题——无论是通过局部/全局相互作用，还是通过低秩/稀疏分量——均可在 poly(n,k) 时间内求解。
• 所提出的算法能够计算精确解，相较于以往仅能产生近似或稠密解的方法，实现显著改进。
• 该方法在不牺牲准确性的前提下实现了解的稀疏性，从而支持高效计算与可解释性。
• 该框架在机器学习、统计学与流体动力学应用中得到了实证验证，表现出优异的性能与可扩展性。
• 理论与数值结果表明，该算法在运行时间与解的质量方面均优于现有方法。