[论文解读] Robust principal graphs for data approximation

Alexander N. Gorban, Eugenij Moiseevich Mirkes+1 more|arXiv (Cornell University)|Mar 22, 2016

VLSI and FPGA Design Techniques参考文献 2被引用 7

一句话总结

本文提出了一种鲁棒主图方法，通过在传统弹性主图中引入截断数据逼近项，降低对噪声和异常值的敏感性。通过仅惩罚在鲁棒性半径 $ R_0 $ 内的最近邻数据点，该方法在保持计算效率和收敛性的同时，更好地保留了在噪声或复杂分布下的全局数据结构，其有效性在基因组数据集和合成数据集上得到验证。

ABSTRACT

Revealing hidden geometry and topology in noisy data sets is a challenging task. Elastic principal graph is a computationally efficient and flexible data approximator based on embedding a graph into the data space and minimizing the energy functional penalizing the deviation of graph nodes both from data points and from pluri-harmonic configuration (generalization of linearity). The structure of principal graph is learned from data by application of a topological grammar which in the simplest case leads to the construction of principal curves or trees. In order to more efficiently cope with noise and outliers, here we suggest using a trimmed data approximation term to increase the robustness of the method. The modification of the method that we suggest does not affect either computational efficiency or general convergence properties of the original elastic graph method. The trimmed elastic energy functional remains a Lyapunov function for the optimization algorithm. On several examples of complex data distributions we demonstrate how the robust principal graphs learn the global data structure and show the advantage of using the trimmed data approximation term for the construction of principal graphs and other popular data approximators.

研究动机与目标

• 解决主图方法在高维数据中对噪声和异常值的敏感性问题。
• 在不牺牲计算效率或收敛性的前提下，提升弹性主图算法的鲁棒性。
• 在存在噪声背景分布的情况下，实现对复杂非线性数据结构（如聚类和流形）的准确逼近。
• 为其他数据逼近器（如弹性图和SOM）提供可推广的鲁棒化策略。

提出的方法

• 在弹性能量泛函中引入截断数据逼近项，仅限于鲁棒性半径 $ R_0 $ 内的数据点产生影响。
• 修改能量泛函，排除或降低远处点的贡献，从而减少其对优化过程的影响。
• 保持李雅普诺夫函数性质，确保在与原始方法相同的分裂架构下，优化算法仍能收敛。
• 使用拓扑文法迭代构建图结构，从局部数据结构出发，逐步扩展至全局拓扑。
• 采用平面调和（地铁图）布局在二维空间中可视化主树，保留原始空间中的边长关系。
• 将该方法应用于真实世界数据，包括人类基因组多样性（HGDP数据集），以展示在噪声环境下对数据结构的恢复能力。

实验结果

研究问题

• RQ1 如何使主图方法在高维数据中对噪声和异常值更具鲁棒性？
• RQ2 是否可以将截断数据逼近项整合到弹性主图中，而不影响计算效率或收敛性？
• RQ3 与标准方法相比，鲁棒主图在恢复复杂噪声数据分布的真实底层拓扑结构方面，其效果在多大程度上更优？
• RQ4 鲁棒性半径 $ R_0 $ 如何影响最终主图的准确性和稳定性？

主要发现

• 鲁棒主图方法即使在数据被严重噪声或异常值污染的情况下，仍能成功恢复复杂数据分布的全局结构。
• 在HGDP人类基因组多样性数据集中，鲁棒主树揭示了更高层次的模式，例如美洲原住民与亚洲及大洋洲人群相比具有独特的SNP特征谱，这一差异在二维PCA中不甚明显。
• Kalash和Pathan人群在鲁棒主树中被映射得更接近欧洲人群，提示其可能存在与历史假说一致的遗传亲缘关系。
• 该方法保持了李雅普诺夫函数性质，即使在引入截断逼近项的情况下，仍能保证优化算法的收敛性。
• 鲁棒性半径 $ R_0 $ 允许控制异常值的影响，且当数据中存在孤立聚类或背景噪声时，方法仍表现良好。