[论文解读] mvlearn: Multiview Machine Learning in Python

Ronan Perry, Gavin Mischler+10 more|arXiv (Cornell University)|May 25, 2020

Computational Physics and Python Applications参考文献 33被引用 4

一句话总结

mvlearn 是一个全面的开源 Python 库，实现了最先进的多视图机器学习方法，使非专家能够应用聚类、半监督学习和跨多个数据视图的联合表征学习等技术。该库采用与 scikit-learn 兼容的 API，支持多种算法，包括 CCA、ICA、协同训练和分解方法，并包含用于视图生成和数据预处理的工具，通过多视图技术提升单视图数据的性能。

ABSTRACT

As data are generated more and more from multiple disparate sources, multiview data sets, where each sample has features in distinct views, have ballooned in recent years. However, no comprehensive package exists that enables non-specialists to use these methods easily. mvlearn is a Python library which implements the leading multiview machine learning methods. Its simple API closely follows that of scikit-learn for increased ease-of-use. The package can be installed from Python Package Index (PyPI) and the conda package manager and is released under the MIT open-source license. The documentation, detailed examples, and all releases are available at https://mvlearn.github.io/.

研究动机与目标

• 解决多视图机器学习方法缺乏全面且用户友好的 Python 库的问题。
• 通过一致的、受 scikit-learn 启发的 API，使非专业人员能够应用先进的多视图学习技术。
• 支持广泛的多视图任务，包括聚类、半监督学习、表征学习和降维。
• 通过提供基于随机投影和子采样的视图生成预处理工具，促进多视图方法在单视图数据上的应用。
• 通过持续集成、单元测试和开源贡献模式，确保代码质量、兼容性和可扩展性。

提出的方法

• 采用与 scikit-learn 兼容的估计器 API，包含 fit(Xs, y)、predict(Xs) 和 transform(Xs) 等方法，其中 Xs 为视图特定的数据矩阵列表。
• 在四个核心模块中实现多视图算法：分解（例如 AJIVE、ICA）、聚类（例如 MV K-Means、协同正则化谱聚类）、半监督（例如协同训练分类器/回归器）以及嵌入（例如 CCA、Deep CCA、Omnibus 嵌入）。
• 大多数算法支持多个视图（≥2），特定方法如 Multiview ICA 和核多 CCA 专为多于两个视图设计。
• 集成预处理工具，如高斯随机投影和随机子空间投影，用于从单个数据矩阵生成合成视图。
• 提供用于数据加载（例如 UCI Multiple Features、Nutrimouse）、可视化和模型组合的工具，以支持端到端的多视图工作流。
• 通过遵循 PEP8 规范、单元测试覆盖率超过 95%，以及在 Linux、Mac 和 PC 平台上的持续集成，确保代码质量。

实验结果

研究问题

• RQ1 一个统一且易于使用的 Python 库是否能显著降低非专家用户在多视图机器学习领域的入门门槛？
• RQ2 当通过随机投影或子采样生成合成视图时，多视图方法在单视图数据上的性能提升程度如何？
• RQ3 受 scikit-learn 启发的 API 在多视图数据结构上能否有效适配，同时不牺牲灵活性或表达力？
• RQ4 与单视图基线相比，多视图学习对下游任务（如聚类和半监督分类）的影响如何？
• RQ5 如何设计一个模块化、可扩展的开源库，以支持多样化的多视图算法，同时保持一致性与性能？

主要发现

• mvlearn 提供了一套全面的多视图学习算法，包括 AJIVE、协同正则化谱聚类和 Deep CCA，支持两个或更多视图。
• 该库通过随机子空间投影或高斯随机投影生成多个视图，显著提升了单视图数据在聚类和监督任务中的性能。
• 与 scikit-learn 兼容的 API 使得其能够无缝集成到现有的机器学习工作流中，提升了实践者和研究人员的易用性。
• mvlearn 包含视图生成等预处理工具（如通过随机投影），可用于将多视图方法应用于单视图数据集并提升性能。
• 通过严格的单元测试，该库实现了超过 95% 的代码覆盖率，并支持持续集成，确保了可靠性与向后兼容性。
• mvlearn 采用 MIT 许可证发布，可通过 PyPI 和 conda 安装，并提供详细的文档和示例，适用于学术界和工业界使用。