[论文解读] MTC: Multiresolution Tensor Completion from Partial and Coarse Observations

Chaoqi Yang, Navjot Singh+4 more|arXiv (Cornell University)|Jun 14, 2021

Tensor decomposition and applications参考文献 29被引用 4

一句话总结

本文提出MTC，一种多分辨率张量补全方法，通过联合利用部分细粒度观测数据与粗粒度聚合数据，实现低秩张量的恢复。通过采用具有多分辨率初始化的耦合交替最小二乘法框架，MTC在仅观测到5%元素的两个COVID-19时空数据集上分别实现了65.20%和75.79%的拟合度（PoF），相比基线方法相对提升了27.96%。

ABSTRACT

Existing tensor completion formulation mostly relies on partial observations from a single tensor. However, tensors extracted from real-world data are often more complex due to: (i) Partial observation: Only a small subset (e.g., 5%) of tensor elements are available. (ii) Coarse observation: Some tensor modes only present coarse and aggregated patterns (e.g., monthly summary instead of daily reports). In this paper, we are given a subset of the tensor and some aggregated/coarse observations (along one or more modes) and seek to recover the original fine-granular tensor with low-rank factorization. We formulate a coupled tensor completion problem and propose an efficient Multi-resolution Tensor Completion model (MTC) to solve the problem. Our MTC model explores tensor mode properties and leverages the hierarchy of resolutions to recursively initialize an optimization setup, and optimizes on the coupled system using alternating least squares. MTC ensures low computational and space complexity. We evaluate our model on two COVID-19 related spatio-temporal tensors. The experiments show that MTC could provide 65.20% and 75.79% percentage of fitness (PoF) in tensor completion with only 5% fine granular observations, which is 27.96% relative improvement over the best baseline. To evaluate the learned low-rank factors, we also design a tensor prediction task for daily and cumulative disease case predictions, where MTC achieves 50% in PoF and 30% relative improvements over the best baseline.

研究动机与目标

• 解决在现实场景中数据既部分可观测又以粗粒度形式存在的张量补全问题。
• 将异构数据源——细粒度部分观测与粗粒度聚合视图——融合进统一的低秩张量补全框架中。
• 通过设计多分辨率初始化与紧凑的耦合ALS求解器，提升计算效率与优化精度。
• 在真实世界的时空健康数据上评估模型，特别是针对疾病病例预测与缺失值填补任务。
• 证明当与稀疏的细粒度观测结合时，粗粒度数据可显著提升补全性能。

提出的方法

• MTC通过在部分观测与粗粒度观测上最小化Frobenius范数，构建耦合张量补全问题。
• 采用多分辨率分解，利用从粗到细的张量视图递归初始化低秩分量。
• 优化过程采用交替最小二乘法（ALS）求解器，将多个线性系统打包为联合法方程以提升计算效率。
• 通过利用模式特定的聚合模式与分层分辨率结构，指导初始化并提升收敛性。
• 采用两阶段优化流程：第一阶段对粗粒度系统执行雅可比迭代，第二阶段对细粒度数据应用基于Cholesky分解的最小二乘法。
• 通过避免完整梯度计算并使用迭代式、稀疏感知求解器，确保低空间与时间复杂度。

实验结果

研究问题

• RQ1 当细粒度数据部分可观测时，粗粒度张量数据是否能显著提升张量补全的准确性？
• RQ2 如何利用多分辨率张量分解为低秩张量补全生成有效的初始化？
• RQ3 与仅使用部分数据相比，结合部分观测与粗粒度观测对补全性能有何影响？
• RQ4 MTC的优化策略在收敛速度与精度方面相较于基于梯度的基线方法表现如何？
• RQ5 所学习的低秩因子在下游预测任务（如疾病病例预测）中可重用程度如何？

主要发现

• 在仅观测到5%细粒度数据的情况下，MTC在两个真实世界COVID-19时空数据集上分别实现了65.20%与75.79%的拟合度（PoF），相比最佳基线方法相对提升了27.96%。
• 在日度与累计病例数的张量预测任务中，MTC实现了50%的PoF，相比最佳基线方法相对提升了30%。
• 由于减少了浮点运算次数并避免了线搜索，MTC的优化过程耗时约为基于梯度方法基线的1/8。
• 多分辨率初始化使MTC在仅30次优化迭代后即超越所有基线方法（包括HOSVD与TendiB），即使在仅1%数据可观测时亦然。
• 在更高缺失率下优势更明显：当部分观测稀疏时（如2.5%或5%），性能增益最为显著；
• 优化景观显示，与基于梯度的方法相比，MTC收敛更快且最终结果更优，尤其在数据稀缺时表现更佳。