[论文解读] Scalar-on-Image Regression via the Soft-Thresholded Gaussian Process

Jian Kang, Brian J. Reich+1 more|arXiv (Cornell University)|Apr 12, 2016

Statistical Methods and Inference参考文献 19被引用 3

一句话总结

本文提出一种软阈值高斯过程用于标量-图像回归，实现具有稀疏性、分段光滑性以及活跃与非活跃区域之间连续过渡的空间可变系数估计。该方法通过低秩空间模型和高效的贝叶斯计算，在真实预测变量数量超过样本量的情况下，仍能实现参数估计和变量选择的后验一致性。

ABSTRACT

The focus of this work is on spatial variable selection for scalar-on-image regression. We propose a new class of Bayesian nonparametric models, soft-thresholded Gaussian processes and develop the efficient posterior computation algorithms. Theoretically, soft-thresholded Gaussian processes provide large prior support for the spatially varying coefficients that enjoy piecewise smoothness, sparsity and continuity, characterizing the important features of imaging data. Also, under some mild regularity conditions, the soft-thresholded Gaussian process leads to the posterior consistency for both parameter estimation and variable selection for scalar-on-image regression, even when the number of true predictors is larger than the sample size. The proposed method is illustrated via simulations, compared numerically with existing alternatives and applied to Electroencephalography (EEG) study of alcoholism.

研究动机与目标

• 解决标量-图像回归中高维、空间相关图像预测变量的挑战，其中大多数体素无关。
• 克服现有方法中对稀疏性和光滑性使用独立先验所导致的活跃与非活跃区域之间过渡突兀的问题。
• 构建统一的贝叶斯非参数框架，确保零系数与非零系数区域之间的渐进过渡，反映真实的神经影像效应。
• 在温和正则性条件下，建立系数估计和变量选择的后验一致性的理论保证，即使真实预测变量数量超过样本量。
• 通过潜高斯过程的低秩空间模型实现可扩展推断，提升大规模影像数据集的计算效率。

提出的方法

• 使用潜高斯过程的软阈值变换建模空间可变的回归系数，其中软阈值化实现稀疏性与连续过渡。
• 采用潜高斯过程的低秩表示以确保大规模影像数据集的计算可扩展性。
• 将软阈值高斯过程定义为 $ \beta(s) = \text{sign}(\eta(s)) \cdot \max(0, |\eta(s)| - \lambda) $，其中 $ \eta(s) $ 为潜高斯过程，$ \lambda $ 为阈值参数。
• 在 $ \lambda $ 上分配层次先验，以实现阈值水平的自动选择，支持数据驱动的稀疏性。
• 采用带块更新的梅特罗波利斯-黑斯廷斯算法对潜过程和超参数进行后验计算，确保高效的后验推断。
• 利用低秩结构降低潜过程的维度，使马尔可夫链蒙特卡洛（MCMC）采样在高维影像数据中可行。

实验结果

研究问题

• RQ1 统一的贝叶斯非参数模型能否在标量-图像回归中同时实现空间可变系数的稀疏性与光滑性？
• RQ2 与使用独立稀疏性和光滑性先验导致活跃与非活跃区域间过渡突兀的模型相比，软阈值高斯过程是否能更真实地反映脑活动模式？
• RQ3 在何种正则性条件下，系数函数的后验分布会集中在真实函数附近，从而保证后验一致性？
• RQ4 当真实预测变量数量超过样本量时，该方法能否同时实现参数估计和变量选择的后验一致性？
• RQ5 在模拟和真实EEG数据上，该方法在变量选择准确性和估计效率方面与现有方法相比表现如何？

主要发现

• 软阈值高斯过程为具有分段光滑性、稀疏性和连续性的系数函数提供了较大的先验支撑，能够捕捉影像数据的关键特征。
• 在温和正则性条件下，即使真实预测变量数量超过样本量，仍能建立参数估计和变量选择的后验一致性。
• 该方法实现了零系数与非零系数区域之间的渐进过渡，避免了使用独立稀疏性与光滑性先验的模型中常见的突变现象。
• 潜高斯过程的低秩近似实现了可扩展计算，使该方法适用于大规模影像数据集。
• 数值比较显示，在模拟实验中性能优于现有方法，尤其在恢复空间结构效应方面表现更优。
• 在酒精使用障碍的EEG研究中的应用揭示了与该疾病相关的生物上合理的脑活动模式，且变量选择结果稳定且可解释。