[论文解读] The Computational Complexity of the Restricted Isometry Property, the Nullspace Property, and Related Concepts in Compressed Sensing

Andreas M. Tillmann, Marc E. Pfetsch|arXiv (Cornell University)|May 9, 2012

Sparse and Compressive Sensing Techniques被引用 7

一句话总结

本文证明了计算给定矩阵的限制等距常数（RIC）和nullspace常数（NSC）是NP难问题，证实了压缩感知领域长期存在的猜想。作者证明了计算矩阵的spark是NP难的，这揭示了关键稀疏恢复条件的不可计算性，并表明除非P = NP，否则无法在伪多项式时间内精确计算RIP和NSP常数。

ABSTRACT

This paper deals with the computational complexity of conditions which guarantee that the NP-hard problem of finding the sparsest solution to an underdetermined linear system can be solved by efficient algorithms. In the literature, several such conditions have been introduced. The most well-known ones are the mutual coherence, the restricted isometry property (RIP), and the nullspace property (NSP). While evaluating the mutual coherence of a given matrix is easy, it has been suspected for some time that evaluating RIP and NSP is computationally intractable in general. We confirm these conjectures by showing that for a given matrix A and positive integer k, computing the best constants for which the RIP or NSP hold is, in general, NP-hard. These results are based on the fact that determining the spark of a matrix is NP-hard, which is also established in this paper. Furthermore, we also give several complexity statements about problems related to the above concepts.

研究动机与目标

• 解决长期存在的猜想：计算受限等距常数（RIC）和nullspace常数（NSC）在计算上是不可行的。
• 确立保证通过ℓ₁-最小化实现精确稀疏恢复的基本条件——RIP、NSP和spark的计算复杂性。
• 证明验证矩阵是否满足常数低于阈值的RIP或NSP条件是coNP完全问题。
• 表明计算矩阵的spark是NP难的，这是RIP和NSC困难性的基础结果。
• 为使用近似算法和启发式方法替代恢复常数的精确计算提供理论依据。

提出的方法

• 将计算矩阵spark的NP难问题归约为受限等距常数（RIC）的计算，从而证明RIC计算的NP难性。
• 通过从精确覆盖问题的归约，证明判断矩阵的spark ≤ k是否为NP完全问题。
• 证明验证nullspace属性（NSP）在常数αₖ < 1下是否成立是coNP完全问题，从而表明NSC计算的NP难性。
• 利用RIC关于k的单调性，设计了一种用于NSC计算的夹逼过程，尽管不能保证优于暴力搜索。
• 应用复杂性理论论证，表明除非P = NP，否则不存在能在伪多项式时间内计算RIC的算法。
• 利用互相关性、spark与RIC之间已知的界，来阐明高效可计算替代方法的局限性。

实验结果

研究问题

• RQ1 对于给定矩阵和稀疏度水平k，计算受限等距常数（RIC）是否在计算上困难？
• RQ2 验证矩阵是否满足常数αₖ < 1的nullspace属性（NSP）是否为coNP完全问题？
• RQ3 确定矩阵的spark，即线性相关列的最小数量，是否为NP难问题？
• RQ4 能否在伪多项式时间内计算RIC或NSC，其背后的复杂性理论含义是什么？
• RQ5 在常数因子内近似RIC或NSC的计算复杂性如何？是否存在强不可近似性结果？

主要发现

• 对于给定矩阵A和整数k，计算受限等距常数δ̲ₖ是NP难的。
• 验证nullspace属性（NSP）在常数αₖ < 1下是否成立是coNP完全问题，意味着NSC计算的NP难性。
• 矩阵的spark——即线性相关列的最小数量——是NP难计算的。
• 除非P = NP，否则不存在能在伪多项式时间内计算RIC δ̲ₖ的算法。
• 这些结果为使用近似算法和启发式方法计算RIC和NSC提供了理论依据，因为精确计算在一般情况下不可行。
• 即使对于有理矩阵，这些困难性结果依然成立；尽管固定常数γ < 1的情况复杂性仍开放，但当前结果已足以提供坚实的理论保证。