[论文解读] Tensor Completion Algorithms in Big Data Analytics

Qingquan Song, Hancheng Ge+2 more|arXiv (Cornell University)|Nov 28, 2017

Tensor decomposition and applications参考文献 181被引用 23

一句话总结

本综述全面概述了大数据分析中的张量补全算法，从四个维度对进展进行分类：通用方法、辅助信息融合（多样性）、大规模数据的可扩展性（体量）以及动态数据处理（速度）。该综述整合了最先进技术，识别了关键挑战，并为提高在图像补全和视频分析等实际应用中的准确性、效率和实用性指明了未来研究方向。

ABSTRACT

Tensor completion is a problem of filling the missing or unobserved entries of partially observed tensors. Due to the multidimensional character of tensors in describing complex datasets, tensor completion algorithms and their applications have received wide attention and achievement in areas like data mining, computer vision, signal processing, and neuroscience. In this survey, we provide a modern overview of recent advances in tensor completion algorithms from the perspective of big data analytics characterized by diverse variety, large volume, and high velocity. We characterize these advances from four perspectives: general tensor completion algorithms, tensor completion with auxiliary information (variety), scalable tensor completion algorithms (volume), and dynamic tensor completion algorithms (velocity). Further, we identify several tensor completion applications on real-world data-driven problems and present some common experimental frameworks popularized in the literature. Our goal is to summarize these popular methods and introduce them to researchers and practitioners for promoting future research and applications. We conclude with a discussion of key challenges and promising research directions in this community for future exploration.

研究动机与目标

• 为具有多样性、体量和速度特征的大数据分析提供一个统一且现代的张量补全算法综述。
• 从四个视角对张量补全的最新进展进行分类与分析：通用算法、辅助信息使用、可扩展性以及动态数据处理。
• 识别可扩展性、动态建模和数据异构性方面的关键挑战，这些挑战阻碍了实际部署。
• 弥合理论张量补全与数据挖掘、计算机视觉和神经科学等实际应用之间的差距。
• 通过总结该领域的流行方法、实验框架和开放问题，为研究人员和实践者提供指导。

提出的方法

• 将张量补全方法按四个维度分类：通用算法、辅助信息整合、适用于大规模数据的可扩展算法，以及适用于高速数据的动态算法。
• 回顾基于矩阵和基于张量的补全技术，强调保留多维结构以提高插补准确性。
• 分析保持张量结构的同时利用基于矩阵的补全算法的矩阵化策略。
• 研究可扩展方法，如采样、随机化算法和分层Tucker格式，以降低计算复杂度。
• 探索处理流式或随时间演化的数据的动态张量补全方法，包括增量学习和在线学习框架。
• 提出将领域知识和异构数据源（如图像、文本、元数据）作为辅助信息进行整合，以提升补全性能。

实验结果

研究问题

• RQ1 张量补全算法如何适应现实应用中异构数据源的多样性？
• RQ2 在保持计算效率的前提下，哪些是最有效的可扩展算法，可用于完成大规模张量？
• RQ3 动态张量补全模型如何有效追踪流数据中随时间变化的模式，包括张量模式和大小的变化？
• RQ4 在动态或高速张量补全设置下，理论保证（如收敛性或统计一致性）是什么？
• RQ5 领域知识和辅助信息在多大程度上能提升补全准确性，并减少对强统计假设的依赖？

主要发现

• 张量补全通过利用跨模式的高阶冗余，在保留多维结构方面优于矩阵补全，从而提高了插补准确性。
• 整合如辅助特征或领域知识等辅助信息可显著提升补全性能，尤其是在采样率较低的情况下。
• 可扩展算法如随机化SVD和基于采样的方法可降低时间和空间复杂度，使大规模张量的应用成为可能，但其假设（如非一致性）在实践中难以验证。
• 动态张量补全方法（包括流式和增量算法）虽正在兴起，但缺乏如收敛性或误差界等强有力的理论保证。
• 深度学习与张量补全的结合仍处于探索阶段，但有望提升准确性，并在数据密集型场景中更好地处理数据需求高的模型。
• 该领域在动态和异构设置下仍缺乏全面的理论分析，凸显了未来研究的关键空白。