[论文解读] Estimating the Norms of Random Circulant and Toeplitz Matrices and Their Inverses

Victor Y. Pan, Guolian Qian|arXiv (Cornell University)|Nov 15, 2013

Random Matrices and Applications参考文献 11被引用 6

一句话总结

本文使用基础线性代数技术，对随机高斯循环矩阵和托普利茨矩阵的谱范数与条件数提供了精确的概率估计。结果表明，循环矩阵通常具有极佳的条件性，而托普利茨矩阵的条件数随规模增长缓慢——其增长速率与循环矩阵范数相差不超过√2因子，并在对逆矩阵角落元素施加约束条件下，对逆矩阵的范数给出了部分界。

ABSTRACT

We estimate the norms of standard Gaussian random Toeplitz and circulant matrices and their inverses, mostly by means of combining some basic techniques of linear algebra. In the case of circulant matrices we obtain sharp probabilistic estimates, which show that these matrices are expected to be very well conditioned. Our probabilistic estimates for the norms of standard Gaussian random Toeplitz matrices are within a factor of 1.4143 from those in the circulant case. We also achieve partial progress in estimating the norms of Toeplitz inverses. Namely we yield reasonable probabilistic upper estimates for these norms assuming certain bounds on the absolute values of two corner entries of the inverse. Empirically we observe that the condition numbers of random Toeplitz and general matrices tend to be of the same order. As the matrix size grows, these numbers grow equally slowly, although faster than for random circulant matrices.

研究动机与目标

• 估计随机结构化矩阵（特别是循环矩阵与托普利茨矩阵）的谱范数与条件数。
• 分析随机高斯循环矩阵的条件性，并与托普利茨矩阵进行比较。
• 在对逆矩阵角落元素施加约束的条件下，推导托普利茨矩阵逆矩阵范数的概率上界。
• 研究随机托普利茨矩阵、循环矩阵与一般矩阵的条件数随矩阵规模增大时的增长速率。
• 将结果推广至因子循环矩阵与汉克尔矩阵，并探讨非高斯分布的情形。

提出的方法

• 利用谱范数与弗罗贝尼乌斯范数恒等式，结合矩阵范数不等式，对矩阵及其逆矩阵的范数进行界定。
• 应用酉不变性性质，通过正交变换简化范数估计。
• 利用循环矩阵与托普利茨矩阵的生成向量，将其范数表达为傅里叶变换与能量分布的形式。
• 对逆矩阵的(1,n)与(n,1)元素的绝对值施加约束，以推导||A⁻¹||的上界。
• 通过数值实验验证理论估计，并比较条件数的增长速率。
• 基于多项式非退化性的概率论证，确保随机矩阵以概率1可逆。

实验结果

研究问题

• RQ1 随机高斯循环矩阵的谱范数如何随矩阵规模变化？其概率行为如何？
• RQ2 随机托普利茨矩阵逆矩阵范数的最紧可能概率上界是什么？在何种条件下可推导出这些上界？
• RQ3 随机托普利茨矩阵的条件数与循环矩阵及一般随机矩阵相比，其增长速率如何？
• RQ4 在仅使用逆矩阵角落元素的条件下，对托普利茨矩阵逆矩阵范数的边界程度如何？
• RQ5 随机循环矩阵与托普利茨矩阵范数之间存在何种关系？它们在量级上有多接近？

主要发现

• 随机高斯循环矩阵的谱范数被精确估计，表明其在高概率下通常具有极佳的条件性。
• 随机高斯托普利茨矩阵的范数被控制在对应循环矩阵范数的√2因子之内。
• 在假设A⁻¹的(1,n)与(n,1)元素的绝对值不显著大于第一行与第一列范数的条件下，获得了托普利茨矩阵||A⁻¹||的合理概率上界。
• 实验结果表明，随机托普利茨矩阵与一般矩阵的条件数随矩阵规模增大而以相似且缓慢的速率增长，尽管快于循环矩阵。
• 对于循环矩阵，条件数增长极为缓慢，其均值从n=1024时的~1.1×10²增至n=1.3×10⁵时的~1.4×10³，表明具有极佳的条件性。
• 随机托普利茨矩阵的条件数增长更快，其均值从n=256时的~9.2×10³增至n=8192时的~1.2×10⁶，但仍保持在亚指数速率。