[论文解读] Initialization and Coordinate Optimization for Multi-way Matching

Da Tang, Tony Jebara|arXiv (Cornell University)|Nov 2, 2016

Graph Theory and Algorithms参考文献 22被引用 4

一句话总结

本文提出一种用于多路匹配的坐标优化算法，利用成对相似度得分的最大生成树（MST）初始化排列矩阵，避免陷入不良局部最优解。通过沿MST边迭代更新匹配关系，该方法在温和噪声假设下以高概率实现最优或近似最优性能，在计算机视觉与自然语言处理基准测试中表现优于先前方法，在CMU House与Hotel数据集上实现0%错误率。

ABSTRACT

We consider the problem of consistently matching multiple sets of elements to each other, which is a common task in fields such as computer vision. To solve the underlying NP-hard objective, existing methods often relax or approximate it, but end up with unsatisfying empirical performance due to a misaligned objective. We propose a coordinate update algorithm that directly optimizes the target objective. By using pairwise alignment information to build an undirected graph and initializing the permutation matrices along the edges of its Maximum Spanning Tree, our algorithm successfully avoids bad local optima. Theoretically, with high probability our algorithm guarantees an optimal solution under reasonable noise assumptions. Empirically, our algorithm consistently and significantly outperforms existing methods on several benchmark tasks on real datasets.

研究动机与目标

• 解决计算机视觉及相关领域中多个集合间一致多路匹配的NP难问题。
• 克服现有基于松弛的方法在真实噪声水平下表现不佳的局限性。
• 开发一种直接优化方法，通过智能初始化避免陷入不良局部最优解。
• 在合理噪声假设下，提供关于最优性的理论保证。
• 在立体匹配、重复结构以及跨领域任务中，实证验证其优越性能。

提出的方法

• 构建一个无向图，其中边权重表示元素集合之间的成对相似度得分。
• 计算该图的最大生成树（MST），以识别最可靠的成对对齐关系，用于初始化。
• 利用MST边初始化排列矩阵，确保坐标更新具有稳健的起始点。
• 通过每次优化一个成对匹配关系，应用迭代坐标上升法，并在每一步使用匈牙利算法实现精确二分图匹配。
• 沿MST采用贪心顺序（Prim或Kruskal算法）来排序更新步骤，以提升收敛性。
• 理论分析表明，当噪声图上MST的瓶颈权重较小时，该方法具有高概率的最优性。

实验结果

研究问题

• RQ1 基于坐标下降的多路匹配方法是否能在不依赖凸松弛的情况下实现高性能？
• RQ2 如何设计初始化策略，以防止坐标优化收敛至不良局部最优解？
• RQ3 在何种噪声条件下，所提方法可保证获得最优或近似最优解？
• RQ4 基于MST的初始化是否显著提升了在具有复杂结构的真实世界数据集上的实际性能？
• RQ5 该方法是否可超越计算机视觉领域，在自然语言处理等其他领域实现泛化？

主要发现

• 所提方法在CMU House与CMU Hotel数据集上对30个点的立体地标对齐任务中实现0%错误率，而先前方法未能一致达到此结果。
• 在高噪声（RBF设置）条件下，该方法保持100%准确率，而随机初始化的平均错误率为3.90%。
• 在具有重复结构的Building数据集上，每个图像含28个关键点，该方法在RBF与对齐设置下均优于基线方法Permutation Synchronization。
• 基于MST的初始化至关重要：若无此初始化，坐标更新在CMU House数据集上的平均错误率为3.90%；而正确初始化后，错误率降为0%。
• 理论分析证实，当噪声图上MST的瓶颈权重较小时，该方法以高概率保证最优性。
• 该方法具有跨领域泛化能力，在自然语言处理数据集上的句子分类任务中表现优于基线方法。