[论文解读] A lasso for hierarchical testing of interactions

Jacob Bien, Noah Simon+1 more|arXiv (Cornell University)|Nov 6, 2012

Animal Disease Management and Epidemiology参考文献 9被引用 4

一句话总结

本文提出了一种基于分层Lasso的框架，用于在高维两分类问题中检验成对交互作用，确保仅当主效应非零时才考虑交互作用。通过将主效应与交互作用整合到凸优化中，该方法相比标准的非分层交互作用检验，提高了统计功效和可解释性。

ABSTRACT

Weconsiderthetestingofallpairwiseinteractions inatwo-class problemwithmany features. We devise a hierarchical testing framework that only considers an interaction when one or more of its constituent features has a nonzero main effect. It is based on a convex optimization framework that seamlessly considers main effects and interactions together. We provide examples — both real and simulated – that show a potential gain in power and interpretability over a standard (non-hierarchical) interaction test.

研究动机与目标

• 解决在具有大量特征的高维两分类问题中测试大量成对交互作用的挑战。
• 通过强制执行主效应与交互作用之间的层次结构（即仅在主效应非零时才检验交互作用），提高统计功效和模型可解释性。
• 开发一个统一的凸优化框架，同时建模主效应和交互作用。
• 在真实数据和模拟数据中证明分层方法相较于标准非分层交互作用检验的优越性。

提出的方法

• 构建一个凸优化问题，使用分层Lasso惩罚同时估计主效应和交互项。
• 施加结构约束，使得只有当其对应的主效应至少有一个非零时，交互项才会被包含。
• 使用正则化路径系统性地仅在主效应活跃的背景下检验交互作用。
• 采用具有分层稀疏性的惩罚似然框架，以确保可解释性并避免过拟合。
• 将该方法应用于模拟数据和真实数据集，以评估其在高维设置下的性能。
• 利用优化问题的凸性，确保计算效率和全局收敛性。

实验结果

研究问题

• RQ1 与标准的非分层交互作用检验相比，高维两分类问题中的分层交互作用检验框架是否能提高统计功效？
• RQ2 在主效应与交互作用之间强制执行层次结构，如何影响模型的可解释性和假阳性发现率？
• RQ3 所提出的凸优化框架在保持或提升预测准确性的同时，多大程度上维持了层次结构？
• RQ4 该方法在具有复杂交互模式的真实世界数据集上的表现如何？

主要发现

• 分层Lasso框架在检测真实交互作用方面相比非分层方法具有更高的统计功效。
• 该方法通过确保仅在主效应活跃时才考虑交互作用，提高了可解释性。
• 在模拟数据中，通过强制实施结构层次，该方法显著减少了假阳性交互作用的检测。
• 真实数据示例表明，该方法比标准方法更一致地识别出具有生物学或统计学意义的交互作用。
• 凸优化框架能够在高维设置下实现高效计算和稳定估计。
• 层次约束使得模型更加简洁（parsimonious），同时不损失检测能力。