[论文解读] hyppo: A Multivariate Hypothesis Testing Python Package

Sambit Panda, Satish Palaniappan+5 more|arXiv (Cornell University)|Jul 3, 2019

Metabolomics and Mass Spectrometry Studies参考文献 69被引用 8

一句话总结

hyppo 是一个统一的、高性能的 Python 库，用于多元假设检验，提供最先进的独立性、两样本和 k 样本检验，具有统一的、类似 scikit-learn 的 API。它可在高维和非线性数据上实现高效、准确的检验，其性能经过基准测试，与 R 实现相当或更优，并通过 Numba 和 joblib 支持快速、并行化的置换检验。

ABSTRACT

We introduce hyppo, a unified library for performing multivariate hypothesis testing, including independence, two-sample, and k-sample testing. While many multivariate independence tests have R packages available, the interfaces are inconsistent and most are not available in Python. hyppo includes many state of the art multivariate testing procedures. The package is easy-to-use and is flexible enough to enable future extensions. The documentation and all releases are available at https://hyppo.neurodata.io.

研究动机与目标

• 为解决 Python 中缺乏一致、易用且高效的多元假设检验工具，特别是针对非线性和高维数据的问题。
• 将最先进的非参数多元检验方法（如距离相关性、Mgc、Hsic 和基于能量的方法）统一并实现为一个可扩展的 Python 软件包。
• 提供具有统一、类似 scikit-learn 接口的库，易于使用和扩展，支持标准和新型统计检验。
• 将 hyppo 实现的性能和准确性与成熟的 R 包进行基准测试，确保统计等价性和计算效率。
• 通过与 joblib 和 Numba 的集成，实现可重现、可扩展且并行化的假设检验，支持 JIT 编译和缓存。

提出的方法

• 设计模块化库架构，包含独立、ksample、discrim、time_series 和 tools 等独立模块，每个模块负责特定类型的检验。
• 使用有偏和无偏估计器实现核心检验统计量（包括 Dcorr、Hsic、Mgc、Hhg、Mmd、Energy、Disco 和 MaxMargin），并支持快速近似。
• 利用 Numba 的 JIT 编译加速检验统计量计算，并缓存结果以供重复使用，显著提升性能。
• 通过 joblib 实现并行化的置换检验，高效地在多核处理器上计算 p 值。
• 通过将 k 样本检验问题转化为独立性检验问题，利用最新理论进展（如 Shen 等 [28] 的研究）进行建模。
• 集成并封装现有高性能实现（如 scipy.stats 中的 Mgc），同时保持 API 一致性与可扩展性。

实验结果

研究问题

• RQ1 能否构建一个统一的、用户友好的 Python 库，以支持广泛范围的多元假设检验，并提供一致的接口？
• RQ2 hyppo 实现的计算性能和统计准确性与成熟的 R 包（如 energy、kernlab 和 HHG）相比如何？
• RQ3 快速近似（如 Fast Dcorr）和使用 Numba 的 JIT 编译在多大程度上能提升运行效率而不损失准确性？
• RQ4 能否通过现代统计约化方法，将 k 样本检验有效统一于独立性检验框架之下？
• RQ5 hyppo 的新型实现（如 Kmerf、MaxMargin 和时间序列 Mgc）在不同数据模型下的统计功效和速度表现如何？

主要发现

• hyppo 中 Dcorr、Mmd 和 Hhg 的实现与 R 对应版本在 20 次螺旋模拟重复实验中产生的检验统计量几乎完全一致，证实了数值等价性。
• hyppo 中的 Fast Dcorr 在所有测试样本量下均为最快实现，即使在高度优化的 C++ 后端下，也优于 R 的 energy 和 kernlab 包。
• 当样本量超过数百时，所有算法的运行时间均近似呈二次方增长，Mgc 和 Dcorr 处理 10,000 个样本需耗时数十分钟。
• Hhg 检验因计算复杂度较高而最慢，但在小样本量下仍具竞争力。
• hyppo 通过使用 Numba 的 JIT 编译和 joblib 的并行化处理，显著提升了运行速度，尤其在基于置换的 p 值估计中表现突出。
• 该库成功封装并扩展了高影响力方法（如 Mgc，现已被集成至 scipy.stats），确保在多样化科学工作负载中具备兼容性和高性能。