[论文解读] Robust Fitting in Computer Vision: Easy or Hard?

Tat-Jun Chin, Zhipeng Cai+1 more|arXiv (Cornell University)|Feb 18, 2018

Domain Adaptation and Few-Shot Learning被引用 7

一句话总结

本文证明计算机视觉中的一致性最大化在计算上是不可解的，证明其为NP难、在维度d下为W[1]-难，且为APX难，意味着在标准复杂度假设下，不存在高效的精确或近似算法。尽管最近在全局最优求解器方面取得了进展，该问题在本质上依然困难，尤其当维度和异常值数量增加时。

ABSTRACT

Robust model fitting plays a vital role in computer vision, and research into algorithms for robust fitting continues to be active. Arguably the most popular paradigm for robust fitting in computer vision is consensus maximisation, which strives to find the model parameters that maximise the number of inliers. Despite the significant developments in algorithms for consensus maximisation, there has been a lack of fundamental analysis of the problem in the computer vision literature. In particular, whether consensus maximisation is "tractable" remains a question that has not been rigorously dealt with, thus making it difficult to assess and compare the performance of proposed algorithms, relative to what is theoretically achievable. To shed light on these issues, we present several computational hardness results for consensus maximisation. Our results underline the fundamental intractability of the problem, and resolve several ambiguities existing in the literature.

研究动机与目标

• 解决计算机视觉文献中关于一致性最大化计算复杂性的长期模糊问题。
• 利用计算复杂性理论严格分析一致性最大化是否可解或本质上困难。
• 为评估鲁棒拟合算法相对于理论极限的性能提供理论基础。
• 阐明为何最近的全局最优算法在高维或异常值丰富的实际场景中可能无法扩展。

提出的方法

• 通过从MAX-2SAT问题的归约，证明了一致性最大化的NP难性，确立了其根本上的不可解性。
• 展示了在维度d下的W[1]-难性，表明任何固定参数可追踪算法都必须在d上呈指数级增长，即使具备固定参数可追踪性。
• 通过从MAX-2SAT的L-归约确立了APX难性，证明不存在多项式时间近似方案。
• 使用从MAX-2SAT到一致性最大化的构造性归约，将真值赋值映射为模型参数，且内点阈值<1。
• 证明当ε < 1时，一致性恰好为2M + σ，其中σ为满足的子句数，从而在解的质量与内点数之间建立了紧密对应关系。
• 提供了一个固定参数可追踪（FPT）算法，其时间复杂度为O(d^o)poly(N,d)，但指出其对异常值数量o存在指数依赖。

实验结果

研究问题

• RQ1 在标准复杂度假设下，计算机视觉中的一致性最大化是否具有计算可解性？
• RQ2 能否在多项式时间内以常数因子高效近似一致性最大化？
• RQ3 维度d或异常值数量o是否构成精确或近似求解方法的瓶颈？
• RQ4 最近的一致性最大化全局最优算法在多大程度上实现了实际可扩展性？
• RQ5 是否存在理论极限，使得即使采用先进的优化技术，也无法高效求解一致性最大化？

主要发现

• 一致性最大化是NP难的，意味着除非P = NP，否则不存在多项式时间算法能精确求解。
• 该问题在维度d上为W[1]-难，表明任何固定参数可追踪算法都必须在d上呈指数级增长。
• 一致性最大化是APX难的，证明该问题不存在多项式时间近似方案（PTAS）。
• 即使是最优的FPT算法，其时间复杂度也为O(d^o)poly(N,d)，当异常值数量o ≥ 100时，该算法将变得不可行。
• 理论结果表明，最近全局最优求解器的实证成功不太可能推广到高维或大量异常值的场景。
• 从MAX-2SAT到一致性最大化的归约确认了解的质量与内点数之间的紧密对应关系，验证了硬度结果。