[论文解读] Nonlinear Large Deviations: Beyond the Hypercube

Jun Yan|arXiv (Cornell University)|Mar 27, 2017

Limits and Structures in Graph Theory参考文献 15被引用 4

一句话总结

本文将非线性大偏差理论从单纯形超立方体推广至更广范围，提出了一套针对定义在巴拿赫空间紧子集上的独立随机变量的非线性函数的大偏差分析框架。该框架为对数矩生成函数的平均场近似提供了误差界，其依赖于梯度的覆盖数以及一阶和二阶弗雷chet导数的范数，从而使得连续型与高维分布（包括向量自旋模型和具有连续边权的随机图）的应用成为可能。

ABSTRACT

We present a framework to calculate large deviations for nonlinear functions of independent random variables supported on compact sets in Banach spaces, by extending the result in Chatterjee and Dembo [6]. Previous research on nonlinear large deviations has only focused on random variables supported on $\{-1,+1\}^{n}$, a small subset of random objects people usually study, thus it is of natural interest and need to research the corresponding theory for random variables with general distributions. Since our results put fewer constraints on the random variables, it has considerable flexibility in application. To show this, we provide examples with continuous and high dimensional random variables. Our framework could also be used to verify the mathematical rigor of the mean field approximation method; to demonstrate, we verify the mean field approximation for a class of spin vector models.

研究动机与目标

• 将Chatterjee与Dembo在超立方体上针对伯努利变量提出的非线性大偏差框架，推广至巴拿赫空间紧子集上的一般独立随机变量。
• 基于梯度的覆盖数与弗雷chet导数的范数，建立对对数期望 𝔼_μ[exp(f(X₁,…,Xₙ))] 的平均场近似的误差界。
• 使该方法适用于连续型、高维型及非i.i.d.的随机变量，这些情形在以往方法中难以处理。
• 对更广泛的向量自旋模型，严格验证平均场近似的有效性，扩展了先前的研究结果。
• 通过单色子图计数与密集随机图中三角形计数等实例，展示该框架的灵活性。

提出的方法

• 将Chatterjee与Dembo [5] 的方法适配至一般巴拿赫空间取值的随机变量，用一般的几何与泛函分析论证替代超立方体特异性计算。
• 利用吉布斯变分原理将对数矩生成函数表示为测度上的上确界，并通过乘积测度近似以获得平均场近似。
• 利用∇f的覆盖数以及f的一阶和二阶弗雷chet导数的算子范数，推导平均场近似的误差界。
• 采用含条件期望的扰动论证与耦合技术控制误差项，证明在适当的正则性与复杂度条件下，误差项为 o(n²)。
• 通过验证误差项相对于主导项可忽略不计，将该框架应用于具体模型。
• 引入离散梯度及其覆盖数的概念，以量化函数f的复杂度，将[5]中的方法推广至连续型与高维设置。

实验结果

研究问题

• RQ1 Chatterjee与Dembo的非线性大偏差框架能否从超立方体推广至巴拿赫空间中具有紧支集的一般随机变量？
• RQ2 当Xᵢ为独立但未必同分布或离散的随机变量时，如何推导 log𝔼_μ[exp(f(X₁,…,Xₙ))] 的平均场近似误差界？
• RQ3 在何种条件下，平均场近似中的误差项相对于主导项可渐近忽略？
• RQ4 该框架能否应用于连续型与高维型随机变量，如具有连续边权的随机图？
• RQ5 该平均场近似在具有通用分布的向量自旋模型中，能在多大程度上被严格证明？

主要发现

• 本文为 log𝔼_μ[exp(f(X₁,…,Xₙ))] 的平均场近似建立了通用误差界，其中μ为巴拿赫空间紧子集上的乘积测度，误差依赖于∇f的覆盖数以及一阶与二阶弗雷chet导数的范数。
• 该框架适用于非i.i.d.、连续型与高维型随机变量，包括支撑集维度随n增长的情形——这些情形在以往方法中难以处理。
• 证明了平均场近似中的误差项为 o(n²)，在适当的正则性与复杂度条件下，相对于主导项可忽略不计。
• 该方法成功验证了比以往更广泛类别的向量自旋模型的平均场近似，扩展了Basak与Mukherjee [2] 的结果。
• 该框架使得在边着色完全图中单色子图计数，以及具有连续边权的密集随机图中三角形计数的大偏差率函数可显式计算。
• 通过用弗雷chet导数与梯度覆盖数等连续泛函分析工具替代[5]中的离散对称性，该证明技术将基于超立方体的论证推广至巴拿赫空间。