[论文解读] Sparse representation of solutions of Kronecker product systems

Sadegh Jokar, Volker Mehrmann|ArXiv.org|Feb 26, 2009

Polynomial and algebraic computation参考文献 21被引用 12

一句话总结

本文建立了克罗内克积矩阵及其因子之间在张量秩、相互非相干性和限制等距性方面的关系，从而实现了对压缩感知中稀疏解的高效分析。文章推导了克罗内克积之和的相互非相干性的界，使得通过ℓ₁-最小化可保证稀疏解的唯一性。

ABSTRACT

Three properties of matrices: the spark, the mutual incoherence and the restricted isometry property have recently been introduced in the context of compressed sensing. We study these properties for matrices that are Kronecker products and show how these properties relate to those of the factors. For the mutual incoherence we also discuss results for sums of Kronecker products.

研究动机与目标

• 分析关键压缩感知特性——张量秩、相互非相干性和限制等距性——在克罗内克积矩阵中的表现。
• 推导克罗内克积矩阵及其构成因子之间这些特性的显式关系。
• 将这些结果扩展至克罗内克积之和，特别是针对相互非相干性。
• 提供可计算的界，以确保通过ℓ₁-最小化实现稀疏解的唯一性。
• 支持在信号处理和PDE离散化中出现的大规模系统中的高效解恢复。

提出的方法

• 本文在克罗内克积矩阵的背景下，定义并分析了三个关键矩阵特性：张量秩、相互非相干性和限制等距性。
• 证明了克罗内克积矩阵的张量秩由其因子的张量秩决定，并推导出明确的界。
• 针对相互非相干性，文章引入了矩阵之间对角与非对角相互非相干性的概念。
• 通过利用对角与非对角相互非相干性项，推导出两个克罗内克积矩阵之和的相互非相干性的新颖上界。
• 通过涉及总相互非相干性和对角耦合的广义表达式，将该界扩展至多个克罗内克积矩阵之和。
• 该方法使得能够推导出在具有克罗内克结构的系统中，通过ℓ₁-最小化实现稀疏解唯一恢复的充分条件。

实验结果

研究问题

• RQ1 克罗内克积矩阵的张量秩和相互非相干性如何与它的因子矩阵的相应特性相关？
• RQ2 能否利用各个加数的特性来界定克罗内克积之和的相互非相干性？
• RQ3 在具有克罗内克积结构的系统中，何种条件可确保ℓ₁-最小化恢复最稀疏的解？
• RQ4 限制等距性在克罗内克积复合下如何表现？能否将其与因子相关联？
• RQ5 能否以一种能保证稀疏解唯一性的形式，界定克罗内克积之和的相互非相干性？

主要发现

• 克罗内克积矩阵 A₁⊗⋯⊗Aₙ 的张量秩受其因子最小张量秩的限制，从而在特定条件下确保稀疏解的存在。
• 对于相互非相干性，本文推导出两个克罗内克积矩阵之和的相互非相干性的上界，该上界以它们各自的相互非相干性和非对角耦合为参数。
• M个克罗内克积矩阵之和的相互非相干性界由一个涉及总相互非相干性和对角耦合项的有理表达式给出。
• 所推导的界表明，若解x的稀疏度满足 ‖x‖₀ < ½(1 + 1/𝒰)，则x是可通过ℓ₁-最小化唯一恢复的最稀疏解。
• 对于和 C = I⊗A + A⊗I，其相互非相干性满足 𝒰(C) = (2ℳ(A) + 2ℳₒ𝒹(I⊗A, A⊗I)) / (2 − 2ℳₒ𝒹(I⊗A, A⊗I))，当A为3×3有限差分矩阵时，有 ℳ(C) ≤ 𝒰(C) = 0.5615。
• 克罗内克积之和的限制等距性仍为开放问题，尚未建立其与各组成部分之间的普遍关系。