[论文解读] A top nine list: Most popular induced matrix norms

Andrew D. Lewis|arXiv (Cornell University)|Sep 13, 2023

Matrix Theory and Algorithms参考文献 10被引用 4

一句话总结

本文为从 Rⁿ 和 Rᵐ 上的 ℓ¹、ℓ² 和 ℓ∞ 范数导出的全部九种诱导矩阵范数提供了显式公式和计算复杂性分析。证明了计算 (2,1)、(∞,1) 和 (∞,2) 范数是 NP-难问题，这意味着除非 P=NP，否则不存在多项式时间算法；而其他范数可使用标准线性代数技术在多项式时间内计算。

ABSTRACT

Explicit formulae are given for the nine possible induced matrix norms corresponding to the 1-, 2-, and $\infty$-norms for Euclidean space. The complexity of computing these norms is investigated.

研究动机与目标

• 为从 ℓ¹、ℓ² 和 ℓ∞ 范数导出的所有九种诱导矩阵范数提供完整且自包含的证明。
• 解决先前文献中的不一致之处并更正其中的错误，特别是针对 (∞,2) 和 (2,∞) 范数。
• 分析每种范数的计算复杂性，区分多项式时间可计算与 NP-难的情形。
• 确立计算 ∥·∥₂,₁ 和 ∥·∥∞,₂ 是 NP-难的，这意味着若存在多项式时间算法，则 P=NP。
• 通过整合所有公式与证明，统一并澄清关于诱导矩阵范数的现有知识，形成一份全面的参考文献。

提出的方法

• 通过在 ℓp 和 ℓq 范数的单位球面上进行优化，推导出所有九种 ∥·∥p,q 范数的显式闭式表达式。
• 对 ∥·∥₂,₁ 和 ∥·∥∞,₂ 的情形，应用拉格朗日乘数法处理不可微的目标函数。
• 利用对称性和对偶性论证，推导出等价形式，例如 ∥A∥∞,∞ = max{∥A(u)∥∞ | u ∈ {−1,1}ⁿ} 及其简化后的 O(mn) 计算方法。
• 对 ∥·∥₂,₂ 使用谱分解和特征值计算，利用已知的多项式时间算法。
• 通过 MC-矩阵将 (2,1) 和 (∞,2) 范数问题约化为最大割问题，确立其 NP-难性。
• 利用对称正定矩阵上平方根映射的满射性，将 ∥A∥∞,₂ 与 {−1,1}ⁿ 上的二次型联系起来。

实验结果

研究问题

• RQ1 所有九种诱导矩阵范数 ∥·∥p,q（其中 p,q ∈ {1,2,∞}）的正确且完整的公式是什么？
• RQ2 为何 ∥·∥₂,₁ 和 ∥·∥∞,₂ 的公式在先前文献中特别难以推导和验证？
• RQ3 能否在多项式时间内计算 (2,1) 和 (∞,2) 范数，还是它们本质上是不可计算的？
• RQ4 每种范数的计算复杂性如何依赖于矩阵维度 m 和 n？
• RQ5 是否存在某种结构性原因，使得某些范数（如 ∥·∥∞,∞）尽管形式上看似指数级，却仍可高效计算？

主要发现

• 本文提供了所有九种诱导矩阵范数的正确且完整的公式，纠正了先前工作中的错误，包括此前未被证明且错误的 ∥·∥∞,₂ 公式。
• 证明了 ∥A∥₂,₁ 可表示为 max{∥Aᵀ(u)∥₂ | u ∈ {−1,1}ᵐ}，其计算为 NP-难。
• 证明了 ∥A∥∞,₂ 的计算是 NP-难的，问题可约化为在 {−1,1}ⁿ 上对二次型的最大化。
• 确认了 (2,2) 范数即为 A 的最大奇异值，可通过特征值分解在 O(n³) 时间内计算。
• (1,1)、(1,2)、(1,∞)、(∞,1)、(∞,∞) 和 (2,∞) 范数均可在多项式时间内计算，复杂度范围从 O(mn) 到 O(n³)。
• 本文证明，若能在多项式时间内计算 ∥·∥₂,₁ 或 ∥·∥∞,₂，则意味着 P=NP，因此在标准复杂性假设下，这些问题是计算上不可解的。