[论文解读] Regularized Estimation of Sparse Spectral Precision Matrices

Navonil Deb, Amy Kuceyeski+1 more|arXiv (Cornell University)|Jan 20, 2024

Functional Brain Connectivity StudiesNeuroscience被引用 3

一句话总结

该论文提出CGLASSO，一种通过局部惠特尔似然最大化实现稀疏谱精度矩阵正则化估计的复图形Lasso方法。通过利用复矩阵与实矩阵之间的环同构关系，该方法实现了快速的路径坐标下降算法，从而在真实谱精度矩阵稀疏时，于高维设定下实现一致估计。

ABSTRACT

Estimation of a sparse spectral precision matrix, the inverse of a spectral density matrix, is a canonical problem in frequency-domain analysis of high-dimensional time series (HDTS), with applications in neurosciences and environmental sciences. Existing estimators use off-the-shelf optimizers for complex variables that limit scalability, uniform (non-adaptive) penalization that is not tailored to handle heterogeneity across time series components, and lack a formal non-asymptotic theory that systematically analyzes approximation and estimation errors in high-dimension. In this work, develop fast pathwise coordinate descent (CD) algorithms and non-asymptotic theory for a complex graphical lasso (CGLASSO) and an adaptive version CAGLASSO, that adapts penalization to the underlying scale of variability. For fast algorithms, we devise a realification procedure based on ring isomorphism, a notion from abstract algebra, that can be used for other high-dimensional optimization problems over complex variables. Our non-asymptotic analysis shows that consistency is possible in high-dimension under suitable sparsity assumptions. A key step is to separately bound the approximation and estimation error arising from treating the finite-sample discrete Fourier Transforms (DFTs) as i.i.d. complex-valued data, an issue well-addressed in classical time series but relatively less explored in HDTS literature. We demonstrate the performance of our proposed estimators in several simulated data sets and a real data application from neuroscience.

研究动机与目标

• 开发一种可扩展的、具备稀疏感知能力的算法，用于高维多变量时间序列中谱精度矩阵的估计。
• 解决现有复值Lasso与图形Lasso方法的局限性，这些方法或增加维度，或缺乏路径效率。
• 在谱精度矩阵稀疏的前提下，建立非渐近理论保证，实现一致估计。
• 通过估计偏相干网络，实现平稳时间序列的频域图形建模。
• 将该方法应用于真实fMRI数据，构建生物学上合理的脑连接网络。

提出的方法

• 提出CGLASSO，一种在频域中针对谱精度矩阵的ℓ₁-惩罚局部惠特尔似然估计器。
• 利用复数与2×2正交矩阵之间的环同构关系，将复优化问题映射为等价的实变量问题。
• 开发了利用稀疏性并保持计算效率的快速路径坐标下降算法，类似于实值图形Lasso。
• 通过m = ⌈4√n⌉和BIC实现数据驱动的带宽选择，用于调参选择。
• 将该方法应用于fMRI数据，在关键频率点（0, π/2, π）估计谱精度矩阵。
• 使用模拟数据和每轮1200个时间点的真实静息态fMRI数据验证该方法。

实验结果

研究问题

• RQ1 能否为高维时间序列中的复值图形模型高效设计路径坐标下降算法？
• RQ2 复矩阵与实矩阵之间的环同构关系是否能实现谱精度矩阵估计中可扩展且准确的优化？
• RQ3 当真实谱精度矩阵稀疏时，是否可在高维设定下实现谱精度矩阵的一致估计？
• RQ4 CGLASSO能否从fMRI数据中恢复已知的功能脑连接模式，例如双侧同源连接？
• RQ5 在稀疏性恢复与网络结构估计方面，CGLASSO相较于现有方法表现如何？

主要发现

• CGLASSO成功恢复了谱精度矩阵中的已知稀疏模式，显著抑制了噪声和弱连接。
• 该方法捕捉到了生物学上合理的功能连接，例如运动区与视觉区之间强烈的双侧连接，与先前神经影像学文献一致。
• 估计的逆相干矩阵保留了已知的生理连接，同时通过滤除噪声引起的虚假相关性，提升了可靠性。
• 在模拟数据中，CGLASSO优于竞争方法，显示出在图形模型选择中的更高准确性。
• 理论分析证实，只要真实谱精度矩阵足够稀疏，高维设定下一贯估计是可能的。
• 环同构的使用避免了人为增加维度，相比现有复变量求解器，显著提升了可扩展性。