[论文解读] Cut-norms and spectra of matrices

Vladimir Nikiforov|ArXiv.org|Dec 2, 2009

Graph theory and applications参考文献 16被引用 3

一句话总结

该论文解决了洛瓦兹提出的关于使用割距离界定图之间谱差异的开放问题，通过引入并分析两种矩阵范数——割范数（$\|\cdot\|_\square$）和 $\|\cdot\|_\boxdot$——并建立这些范数与奇异值/特征值之间的紧不等式。证明了两个矩阵之间的谱差异被其割距离的平方根的常数倍所界定，从而得出一个谱采样定理：实对称矩阵的几乎所有主子矩阵在谱上都与原矩阵相似。

ABSTRACT

One of the aims of this paper is to solve an open problem of Lovasz about relations between graph spectra and cut-distance. The paper starts with several inequalities between two versions of the cut-norm and the two largest singular values of arbitrary complex matrices, exteding, in particular, the well-known graph-theoretical Expander Mixing Lemma and giving a hitherto unknown converse of it. Next, cut-distance is defined for Hermitian matrices, and, separately, for arbitrary complex matrices; using these extensions, we give upper bounds on the difference of corresponding eigenvalues and singular values of two matrices, thus solving the problem of Lovasz. Finally, we deduce a spectral sampling theorem, which informally states that almost all principal submatrices of a real symmetric matrix are spectrally similar to it.

研究动机与目标

• 解决洛瓦兹关于使用割距离界定图之间谱差异的开放问题。
• 通过割范数将展开器混合引理及其逆定理推广至任意复矩阵。
• 为厄米特矩阵和一般复矩阵定义割距离，并推导特征值与奇异值差异的界。
• 建立一个谱采样定理，表明实对称矩阵的几乎所有主子矩阵在谱上都与原矩阵相似。

提出的方法

• 引入割范数的两个版本：$\|A\|_\square = \max_{X,Y} \frac{1}{mn}|\Sigma(A[X,Y])|$ 和 $\|A\|_\boxdot = \max_{X,Y \neq \emptyset} \frac{1}{\sqrt{|X||Y|}} |\Sigma(A[X,Y])|$。
• 推导出最大奇异值 $\sigma_1(A)$ 的紧上界，其表达式以 $\|A\|_\square$、$\|A\|_\boxdot$ 和矩阵维度表示，常数取决于 $A$ 是实矩阵还是复矩阵。
• 利用不等式 $|\sigma_i(X) - \sigma_i(Y)| \leq \sigma_1(X - Y)$ 将奇异值差异与差矩阵的割范数联系起来。
• 为缩放矩阵定义归一化的割距离 $\widehat{\delta}_{\boxminus}(A^{(rk,sk)}, B^{(mk,nk)})$，并用其渐近地界住奇异值差异。
• 应用柯西交错定理和概率界，证明实对称矩阵的随机主子矩阵以高概率在谱上接近原矩阵。
• 使用逼近论证和已知结果（例如 Borgs 等人）建立随机子矩阵割距离的集中性界。

实验结果

研究问题

• RQ1 洛瓦兹提出的最佳可能上界是什么：即以割距离表示的两个图之间谱差异的上界？
• RQ2 展开器混合引理及其逆定理能否通过割范数推广至任意复矩阵？
• RQ3 如何有意义地将割距离扩展至厄米特矩阵和一般复矩阵，以界住特征值与奇异值差异？
• RQ4 实对称矩阵的主子矩阵在多大程度上在谱上与原矩阵相似？
• RQ5 能否通过割距离控制矩阵的谱行为，从而实现基于采样的谱近似？

主要发现

• 对于复矩阵，最大奇异值满足 $\sigma_1(A) \leq 4\sqrt{|A|_\infty \|A\|_\square mn}$；对于实矩阵，$\sigma_1(A) \leq 2\sqrt{|A|_\infty \|A\|_\square mn}$，且界在常数因子内是紧的。
• 对于任意矩阵 $A$，有 $\sigma_1(A) \geq \|A\|_\boxdot$，且 $\sigma_1(A) \geq \|A\|_\square \sqrt{mn}$，这为上界提供了反向关系。
• 两个矩阵对应奇异值的差异被界为 $6\sqrt{\widehat{\delta}_{\boxminus}(A^{(rk,sk)}, B^{(mk,nk)})}$，其中 $\widehat{\delta}_{\boxminus}$ 是一种归一化的割距离。
• 对于从实对称 $n \times n$ 矩阵 $A$ 中随机选取的 $k \times k$ 主子矩阵 $B$，谱差异满足 $\left|\frac{\sigma_i(A)}{\sqrt{n}} - \frac{\sigma_i(B)}{\sqrt{k}}\right| \leq 6\sqrt{\widehat{\delta}_{\boxminus}}$，且该不等式以高概率成立。
• 以高概率有 $\delta_\square(A,B) \leq 10|A|_\infty (\log_2 k)^{-1/2}$，从而推出 $\left|\frac{\mu_i(A)}{n} - \frac{\mu_i(B)}{k}\right| \leq 30|A|_\infty (\log_2 k)^{-1/4}$ 对于特征值成立。
• 谱采样定理成立：实对称矩阵的几乎所有主子矩阵在谱上都与原矩阵相似，因为谱差异以 $O((\log k)^{-1/4})$ 的速率衰减。