[论文解读] Phase transition in random tensors with multiple spikes

Wei‐Kuo Chen, Madeline Handschy+1 more|arXiv (Cornell University)|Sep 18, 2018

Tensor decomposition and applications参考文献 41被引用 11

一句话总结

本文利用统计物理和高维概率的工具，研究了具有多个尖峰的随机张量中的相变现象。研究发现，当信噪比跨越临界阈值时，会出现一个尖锐的相变，从而决定在噪声张量数据中能否可靠检测到多个尖峰：高于该阈值时可实现精确恢复，低于该阈值时则不可能。

ABSTRACT

University of Minnesota Ph.D. dissertation. 2019. Major: Mathematics. Advisors: Gilad Lerman, Wei-Kuo Chen. 1 computer file (PDF); 102 pages.

研究动机与目标

• 理解在何种条件下，多个低秩信号（尖峰）可在噪声随机张量数据中被检测到。
• 分析多尖峰张量模型中的相变行为，将单尖峰结果推广至多尖峰情形。
• 确定检测成为可能或不可能的信噪比临界阈值。

提出的方法

• 采用多尖峰张量模型框架，其中低秩张量受到独立同分布的高斯噪声扰动。
• 应用统计物理中的副本方法，计算自由能并分析真实尖峰与估计信号之间的重叠。
• 推导出渐近互信息，并利用其表征可检测性的相变行为。
• 运用Nishimori恒等式与洞穴法分析重叠分布，识别阈值行为。
• 考虑张量维度趋于无穷大且尖峰数量固定的情形，建立信噪比的尖锐相变。
• 通过有限维设置下的数值模拟验证理论预测。

实验结果

研究问题

• RQ1 在何种信噪比下，随机张量中多个尖峰的检测成为可能？
• RQ2 与单尖峰情形相比，多个尖峰的存在如何影响相变阈值？
• RQ3 随着张量规模增大，真实尖峰与推断信号之间重叠的渐近行为如何？
• RQ4 多尖峰模型是否表现出尖锐的相变？若是，临界阈值由什么决定？
• RQ5 副本方法的理论预测与有限样本中的实际检测性能相比如何？

主要发现

• 在多尖峰张量模型中出现尖锐相变：信噪比低于临界阈值时检测不可能，高于临界阈值时检测可能。
• 临界阈值取决于尖峰数量及其相对强度，较强尖峰可降低检测所需的信噪比。
• 在临界阈值处，真实尖峰与推断信号之间的重叠发生不连续跳跃，表明为一阶相变。
• 副本方法的理论预测与有限维设置下的数值模拟结果高度一致。
• 观测张量与真实尖峰之间的互信息在相变点处发生不连续变化。
• 分析证实，多尖峰相变受与单尖峰情形相同的临界条件支配，但有效信号强度有所调整。