[论文解读] Detection limits in the high-dimensional spiked rectangular model

A. El Alaoui, Michael I. Jordan|arXiv (Cornell University)|Feb 20, 2018

Random Matrices and Applications参考文献 40被引用 11

一句话总结

该论文通过受自旋玻璃理论启发的概率腔方法，在高维稀疏矩阵阵列模型低于BBP阈值时，建立了似然比的渐近高斯波动。该研究将先前针对球面对称脉冲的结果扩展至一般乘积先验（包括稀疏脉冲），并指出渐近正态性区域可能与关联自旋玻璃模型的顺磁相相关。

ABSTRACT

We study the problem of detecting the presence of a single unknown spike in a rectangular data matrix, in a high-dimensional regime where the spike has fixed strength and the aspect ratio of the matrix converges to a finite limit. This setup includes Johnstone's spiked covariance model. We analyze the likelihood ratio of the spiked model against an "all noise" null model of reference, and show it has asymptotically Gaussian fluctuations in a region below---but in general not up to---the so-called BBP threshold from random matrix theory. Our result parallels earlier findings of Onatski et al.\ (2013) and Johnstone-Onatski (2015) for spherical spikes. We present a probabilistic approach capable of treating generic product priors. In particular, sparsity in the spike is allowed. Our approach is based on Talagrand's interpretation of the cavity method from spin-glass theory. The question of the maximal parameter region where asymptotic normality is expected to hold is left open. This region is shaped by the prior in a non-trivial way. We conjecture that this is the entire paramagnetic phase of an associated spin-glass model, and is defined by the vanishing of the replica-symmetric solution of Lesieur et al.\ (2015).

研究动机与目标

• 理解在一般乘积先验下，高维矩阵阵列数据矩阵中弱脉冲的检测极限。
• 将先前针对球面对称脉冲的结果推广至一般（可能稀疏）脉冲先验。
• 刻画参数空间中对数似然比渐近服从高斯分布的区域。
• 基于腔方法构建一个概率框架，以分析高维随机矩阵模型中似然比波动。

提出的方法

• 使用插值哈密顿量和在稀疏模型与零模型之间进行连续插值，以分析似然比。
• 应用塔拉格兰德对自旋玻璃理论中腔方法的解释，以处理一般乘积先验。
• 采用参数 $ t \in [0,1] $ 的连续时间插值过程，追踪吉布斯期望的演化。
• 利用引理10和11推导吉布斯平均导数的界，以控制 $ \nu_0 $ 与 $ \nu_1 $ 之间的差异，从而实现渐近正态性结果。
• 依赖于变量有界性和矩控制，以证明在关键表达式中可将时间0的平均替换为时间1的平均。
• 将渐近正态性区域与Lesieur等人（2015a）的自旋玻璃模型中副本对称解的消失联系起来。

实验结果

研究问题

• RQ1 在高维稀疏矩阵阵列模型中，对数似然比在何种条件下渐近服从高斯分布？
• RQ2 渐近正态性区域如何依赖于脉冲的先验分布，特别是对于非球面对称或稀疏先验？
• RQ3 腔方法是否可用于分析球面对称先验以外的似然比波动？
• RQ4 渐近正态性区域是否等价于关联自旋玻璃模型的顺磁相？
• RQ5 BBP阈值在决定一般先验下弱脉冲可检测性方面起什么作用？

主要发现

• 即使对于非球面对称先验（如稀疏或乘积分布），对数似然比在BBP阈值以下的区域也渐近服从高斯分布。
• 渐近正态性区域受先验影响而呈现非平凡形状，且推测其与关联自旋玻璃模型的顺磁相一致。
• 该方法通过使用概率腔方法而非谱分析，成功处理了包括稀疏性在内的各种一般乘积先验。
• 通过连续插值和导数界，证明了似然比波动的高斯性，避免了对谱分解的依赖。
• 渐近正态性区域不一定延伸至BBP阈值，其范围取决于副本对称解消失的条件，而该条件由先验决定。
• 该结果将Onatski等人和Johnstone与Onatski的早期发现（仅限球面对称先验）推广至更广泛的模型类别。