[论文解读] Convex Relaxations for Permutation Problems

Fajwel Fogel, Rodolphe Jenatton+2 more|arXiv (Cornell University)|Jun 20, 2013

Markov Chains and Monte Carlo Methods被引用 15

一句话总结

本文通过建立相似度矩阵上序列化问题与组合2-SUM问题之间的等价性，提出了针对排列问题（尤其是序列化）的凸松弛方法。该方法引入了一种双重随机松弛，提高了对噪声的鲁棒性，并支持半监督序列化，提供了理论近似界，并在考古学、马尔可夫链和鸟枪法DNA测序数据上进行了经验验证。

ABSTRACT

Seriation seeks to reconstruct a linear order between variables using unsorted, pairwise similarity information. It has direct applications in archeology and shotgun gene sequencing for example. We write seriation as an optimization problem by proving the equivalence between the seriation and combinatorial 2-SUM problems on similarity matrices (2-SUM is a quadratic minimization problem over permutations). The seriation problem can be solved exactly by a spectral algorithm in the noiseless case and we derive several convex relaxations for 2-SUM to improve the robustness of seriation solutions in noisy settings. These convex relaxations also allow us to impose structural constraints on the solution, hence solve semi-supervised seriation problems. We derive new approximation bounds for some of these relaxations and present numerical experiments on archeological data, Markov chains and DNA assembly from shotgun gene sequencing data.

研究动机与目标

• 解决在考古学和DNA测序等应用中，从噪声大且无序的成对相似度数据中重建线性排序的挑战。
• 将序列化问题形式化为相似度矩阵上的组合2-SUM问题，证明对于序列数据该问题具有多项式时间可解性，并支持凸松弛方法。
• 开发凸松弛方法——特别是针对双重随机矩阵的松弛——以增强对噪声的鲁棒性，并允许整合结构约束。
• 通过在松弛框架中引入先验知识约束，实现半监督序列化。
• 提供理论近似界，并在真实世界数据（包括DNA组装和马尔可夫链）上验证性能。

提出的方法

• 建立序列化与相似度矩阵上2-SUM问题之间的等价性，其中2-SUM问题是在排列上最小化一个二次型。
• 提出在双重随机矩阵集合上的凸松弛，该方法在噪声环境下比谱方法更具鲁棒性。
• 提出一种快速投影算法至双重随机集合，从而在实践中实现高效优化。
• 推导出一种半定规划（SDP）松弛（SDP3），确保由解导出的距离矩阵是负类型平方欧几里得度量。
• 利用SDP3松弛，为minmax 2-SUM公式化问题获得$ O(\tilde{O}(\text{poly}(\text{log } n))) $的近似比。
• 在鸟枪法DNA测序中采用分治策略：先用谱排序对初始读段进行排列，再在含重复序列的重叠群上应用QP松弛，同时利用配对信息进行引导。

实验结果

研究问题

• RQ1 序列化能否被正式表述为排列上的2-SUM问题？对于序列数据，该问题是否具有多项式时间可解性？
• RQ2 与谱方法相比，2-SUM问题的凸松弛方法在序列化中如何提升对噪声的鲁棒性？
• RQ3 在半监督学习中，通过凸松弛方法在多大程度上可以整合结构约束到序列化解中？
• RQ4 对于所提出的凸松弛方法，特别是SDP3松弛，可以建立哪些理论近似保证？
• RQ5 在鸟枪法DNA测序数据等实际应用中，所提出的松弛方法的性能如何？

主要发现

• 序列化问题等价于相似度矩阵上的组合2-SUM问题，当矩阵满足Robinson性质时，该问题具有多项式时间可解性。
• 所提出的双重随机松弛在噪声环境下优于谱方法，在数值实验中表现出更强的鲁棒性。
• SDP3松弛确保了所诱导的距离矩阵是负类型平方欧几里得度量，且对minmax 2-SUM公式化问题的近似比为$ O(\tilde{O}(\text{poly}(\text{log } n))) $。
• 在鸟枪法DNA测序中，谱预处理将问题规模减小至$ n \sim 100 $，使得后续的凸松弛在计算上变得可行。
• 谱预排序与含配对约束的QP松弛相结合，即使在存在重复序列的情况下，也能成功重建长重叠群。
• 对于无重复序列的重叠群，当k-mer非冗余时，谱松弛能精确恢复原始DNA序列，验证了该方法的理论基础。