[论文解读] Concentration inequalities with exchangeable pairs (Ph.D. thesis)

Sourav Chatterjee|arXiv (Cornell University)|Jul 26, 2005

Random Matrices and Applications参考文献 16被引用 6

一句话总结

本篇哲学博士论文提出了一种斯坦方法中交换对的创新应用，用于推导依赖随机变量的精确集中不等式，尤其适用于高维及非独立同分布情形。通过基于酉群上的随机游走构造交换对，并利用秩界带来的谱稳定性，该方法为哈尓测度泛函提供了显式集中界，并给出了冯诺依曼自由概率理论与随机矩阵理论之间关系的定量版本，明确表现出对维度的对数依赖性。

ABSTRACT

The purpose of this dissertation is to introduce a version of Stein's method of exchangeable pairs to solve problems in measure concentration. We specifically target systems of dependent random variables, since that is where the power of Stein's method is fully realized. Because the theory is quite abstract, we have tried to put in as many examples as possible. Some of the highlighted applications are as follows: (a) We shall find an easily verifiable condition under which a popular heuristic technique originating from physics, known as the "mean field equations" method, is valid. No such condition is currently known. (b) We shall present a way of using couplings to derive concentration inequalities. Although couplings are routinely used for proving decay of correlations, no method for using couplings to derive concentration bounds is available in the literature. This will be used to obtain (c) concentration inequalities with explicit constants under Dobrushin's condition of weak dependence. (d) We shall give a method for obtaining concentration of Haar measures using convergence rates of related random walks on groups. Using this technique and one of the numerous available results about rates of convergence of random walks, we will then prove (e) a quantitative version of Voiculescu's celebrated connection between random matrix theory and free probability.

研究动机与目标

• 开发一个基于斯坦方法中交换对的依赖随机变量系统测度集中的一般性框架。
• 为统计物理中广泛使用但具有启发性的“平均场方程”提供严格的验证条件。
• 建立一种新的基于耦合的集中不等式推导方法，填补文献中的空白。
• 在多布拉什金的弱依赖条件下获得显式集中界。
• 利用酉群上随机游走的收敛速率，建立冯诺依曼关于随机矩阵理论与自由概率之间关系的定量版本。

提出的方法

• 构造交换对 (X, YX)，其中 Y 是从酉群 U_n 上特定分布中抽取的随机矩阵。
• 利用秩-1扰动下特征值分布的谱稳定性，借助特征值的交错性质。
• 应用定理 4.6，通过 ||f(X) - f(YX)||_∞ ≤ 3/n 的界来控制随机矩阵 H 的函数 f 的方差。
• 利用 Ursula Porod 关于 k 步随机游走与 U_n 上哈尓测度之间总变差距离的结果，表明收敛速度为 O(n log n) 步。
• 通过指数矩方法推导显式集中界，得到方差代理 C ≤ κ log n + c 的次高斯尾部界。
• 证明函数 f(X) = F_H(x)（即经验谱分布函数）满足 ||f||_Y ≤ 3/n 且 ||f||_∞ ≤ 1，从而得出最终的集中不等式。

实验结果

研究问题

• RQ1 在何种条件下，平均场近似对如居里-外斯模型等统计力学模型成立？
• RQ2 耦合能否系统性地用于推导集中不等式，而不仅限于混合时间界？
• RQ3 在弱依赖或谱稳定性条件下，能否为酉群上哈尓测度泛函推导出显式集中界？
• RQ4 如何利用紧致群上随机游走的收敛速率来量化测度集中？
• RQ5 能否利用谱稳定性和交换对，建立冯诺依曼自由概率定理的定量版本？

主要发现

• 该方法为随机矩阵的经验谱分布函数提供了集中不等式，尾部界形式为 P(|F_H(x) - E[F_H(x)]| ≥ t) ≤ 2 exp(-t² / (2C))，其中 C ≤ κ log n + c，κ 与 c 为绝对常数。
• 谱分布函数的方差被控制在 C ≤ κ log n + c 以内，表明其具有对数维度依赖的次高斯集中性。
• 由于秩-1扰动结构，H 与 H' = YH Y* 之间的谱分布差在上确界范数下被限制在 3/n 以内。
• 基于反射矩阵的交换对构造确保了对 (X, YX) 的交换性，并满足斯坦方法所需的矩条件。
• 随机游走从 U_n 收敛到哈尓测度的收敛速率被证明为 O(n log n) 步，从而使其可应用于交换对框架。
• 建立了冯诺依曼定理的定量版本，将随机矩阵特征值分布与自由概率联系起来，并以 n 的形式给出明确的误差界。