[论文解读] Visualizing hierarchies in scRNA-seq data using a density tree-biased autoencoder

Quentin Garrido, Sebastian Damrich+5 more|arXiv (Cornell University)|Feb 11, 2021

Single-cell and spatial transcriptomics参考文献 27被引用 5

一句话总结

本文提出DTAE，一种基于密度树的自编码器，通过在k均值聚类中心上构建基于密度的最小生成树，识别单细胞RNA测序数据中的层次结构，同时在低维空间中可视化数据并保留该树状结构。DTAE在保留层次拓扑结构方面优于现有方法，并在合成与真实单细胞RNA测序数据集上生成了质量更优的可视化结果。

ABSTRACT

Motivation: Single cell RNA sequencing (scRNA-seq) data makes studying the development of cells possible at unparalleled resolution. Given that many cellular differentiation processes are hierarchical, their scRNA-seq data is expected to be approximately tree-shaped in gene expression space. Inference and representation of this tree-structure in two dimensions is highly desirable for biological interpretation and exploratory analysis.Results:Our two contributions are an approach for identifying a meaningful tree structure from high-dimensional scRNA-seq data, and a visualization method respecting the tree-structure. We extract the tree structure by means of a density based minimum spanning tree on a vector quantization of the data and show that it captures biological information well. We then introduce DTAE, a tree-biased autoencoder that emphasizes the tree structure of the data in low dimensional space. We compare to other dimension reduction methods and demonstrate the success of our method both qualitatively and quantitatively on real and toy data.Availability: Our implementation relying on PyTorch and Higra is available at https://github.com/hci-unihd/DTAE.

研究动机与目标

• 为解决在高维基因表达空间中可视化单细胞RNA测序数据的层次分化轨迹这一挑战，这些轨迹通常呈现树状结构。
• 开发一种方法，显式捕捉并保留低维可视化中的生物层次结构，而非依赖标准降维方法中隐含的结构。
• 创建一种既具有生物可解释性又在定量上稳健的可视化方法，显式偏向于保留发育轨迹的树状组织结构。
• 提供一种不依赖嵌入初始化、且在噪声鲁棒性方面优于MONOCLE 2等现有方法的工具。

提出的方法

• 首先使用k均值聚类对高维单细胞RNA测序数据进行聚类，获得代表性聚类中心，以降低数据复杂度并提高鲁棒性。
• 在聚类中心上构建基于密度的最小生成树（密度树），其中边权重反映簇对之间的数据密度，确保边位于高密度区域。
• 训练一个深度自编码器（DTAE），其正则化项鼓励低维瓶颈表示保留密度树的拓扑结构。
• 自编码器的优化不仅基于重建损失，还基于与密度树的结构一致性，确保在二维可视化中强调层次关系。
• 利用训练好的自编码器的瓶颈层生成最终的低维嵌入，以反映数据结构和推断出的层次结构。
• 采用PyTorch和Higra进行实现，确保可复现性，并可与现有单细胞RNA测序分析流程无缝集成。

实验结果

研究问题

• RQ1 在k均值聚类中心上构建的基于密度的最小生成树，能否有效捕捉单细胞RNA测序数据中具有生物意义的层次结构？
• RQ2 通过密度树对自编码器进行偏置，是否能相比标准降维方法，在低维可视化中更有效地保留层次结构？
• RQ3 DTAE在真实与合成单细胞RNA测序数据集上的表现如何，特别是在拓扑保真度和生物可解释性方面？
• RQ4 DTAE在保留层次结构和局部邻域结构方面，相比UMAP、t-SNE、PHATE和SAUCIE等最先进方法，优势程度如何？

主要发现

• 在基于Voronoï图的度量下，DTAE显著优于其他方法，尤其在k=50时表现突出，归因于其对层次结构的显式偏置。
• 在局部邻域保持方面，DTAE取得了最佳的调整兰德指数（ARI）得分，紧随其后的为SAUCIE，表明其聚类保真度极强。
• 在k-NN保持方面，UMAP表现最佳，这与其优化目标一致，但DTAE在多种度量下均保持强劲表现。
• 在欧氏距离保持方面，基于自编码器的方法（包括DTAE）表现最佳，但各类方法之间无明显优劣之分。
• 在测地距离保持方面，PCA表现最佳，尽管其生成的可视化质量较差；其余大多数方法表现相似，因此该度量判别性较弱。
• 综合所有度量的性能表现显示，DTAE和SAUCIE为表现最佳的两种方法，其中DTAE略胜SAUCIE一筹，定性分析也证实DTAE生成的可视化更具生物可解释性。