[论文解读] Finding Archetypal Spaces for Data Using Neural Networks.

David van Dijk, Daniel B. Burkhardt+4 more|arXiv (Cornell University)|Jan 25, 2019

Music and Audio Processing参考文献 15被引用 7

一句话总结

本文提出 AAnet，一种深度学习框架，通过训练神经网络学习非线性变换，使数据在该变换下最符合凸多面体结构，从而实现典型数据状态的发现。AAnet 在单细胞 T 细胞和肠道微生物组数据中成功识别出具有生物学意义的典型原型，在非线性合成数据上优于传统方法，并支持从数据几何结构中进行生成采样。

ABSTRACT

Archetypal analysis is a type of factor analysis where data is fit by a convex polytope whose corners are archetypes of the data, with the data represented as a convex combination of these archetypal points. While archetypal analysis has been used on biological data, it has not achieved widespread adoption because most data are not well fit by a convex polytope in either the ambient space or after standard data transformations. We propose a new approach to archetypal analysis. Instead of fitting a convex polytope directly on data or after a specific data transformation, we train a neural network (AAnet) to learn a transformation under which the data can best fit into a polytope. We validate this approach on synthetic data where we add nonlinearity. Here, AAnet is the only method that correctly identifies the archetypes. We also demonstrate AAnet on two biological datasets. In a T cell dataset measured with single cell RNA-sequencing, AAnet identifies several archetypal states corresponding to naive, memory, and cytotoxic T cells. In a dataset of gut microbiome profiles, AAnet recovers both previously described microbiome states and identifies novel extrema in the data. Finally, we show that AAnet has generative properties allowing us to uniformly sample from the data geometry even when the input data is not uniformly distributed.

研究动机与目标

• 为解决传统典型分析的局限性，即假设数据位于环境空间或变换空间中的凸多面体内部，而这一假设在真实世界的非线性数据中常不成立。
• 开发一种通过神经网络学习最优非线性变换的方法，使数据在变换空间中能被良好地拟合为凸多面体。
• 实现在生物学数据中（如 T 细胞亚型和微生物组谱型）准确识别典型状态，这些数据在传统线性假设下表现不佳。
• 证明所学习的变换支持从数据几何结构中进行生成采样，即使输入数据分布不均匀。

提出的方法

• AAnet 是一种训练有素的神经网络，用于学习输入数据的非线性变换，使得变换后的数据可被典型点的凸组合良好近似。
• 该模型通过最小化原始数据与变换空间中其典型点凸组合之间的重构误差来优化损失函数。
• 典型点作为网络参数端到端学习，网络架构设计用于保持几何结构并支持基于梯度的优化。
• 该方法允许在变换空间中对典型点的凸包进行均匀采样，从而实现尊重底层数据几何结构的数据生成。
• AAnet 使用反向传播和随机优化进行训练，并通过正则化确保典型点发现的稳定性和合理性。
• 该方法在具有非线性流形的合成数据上进行了验证，并应用于真实生物数据集，包括单细胞 RNA-seq 和 16S rRNA 肠道微生物组谱型。

实验结果

研究问题

• RQ1 神经网络能否学习一种非线性变换，使数据在拟合凸多面体方面优于标准典型分析？
• RQ2 AAnet 是否能准确恢复单细胞 T 细胞和肠道微生物组数据集中已知的生物学典型状态？
• RQ3 AAnet 能否识别出线性方法无法捕捉的、此前未被发现的生物学数据极端状态？
• RQ4 所学习的变换是否支持从数据几何结构中进行生成采样，即使输入数据分布不均匀？

主要发现

• 在非线性合成数据上，AAnet 是唯一能正确识别真实典型点的方法，优于传统典型分析。
• 在单细胞 RNA-seq T 细胞数据集中，AAnet 识别出与已知生物学亚型一致的典型状态，包括初始、记忆和细胞毒性 T 细胞。
• 在肠道微生物组数据集中，AAnet 恢复了先前描述的微生物组状态，并识别出文献中尚未报道的新极端状态。
• 通过 AAnet 学习的变换，即使原始数据分布不均匀，也能实现对典型点凸包的均匀采样。
• AAnet 展现出生成能力，能够生成位于数据几何结构内部的新数据点，同时保持生物学合理性。
• 该方法对非线性数据结构具有鲁棒性，而标准典型分析因依赖原始或变换空间中的凸性而在此类数据上失效。