[論文レビュー] MTC: Multiresolution Tensor Completion from Partial and Coarse Observations

Chaoqi Yang, Navjot Singh+4 more|arXiv (Cornell University)|Jun 14, 2021

Tensor decomposition and applications参考文献 29被引用数 4

ひとこと要約

本稿では、部分的な細粒度観測と粗粒度の集計データを統合的に活用して低ランクテンソルを回復する、マルチスケールテンソル補完手法MTCを提案する。マルチスケール初期化を組み合わせたカップルド逐次最小差乗法フレームワークを用いることで、観測要素がたった5%の2つのCOVID-19時空間的データセットにおいて、それぞれ65.20%および75.79%のフィットネス割合（PoF）を達成し、ベースラインを27.96%相対的に上回った。

ABSTRACT

Existing tensor completion formulation mostly relies on partial observations from a single tensor. However, tensors extracted from real-world data are often more complex due to: (i) Partial observation: Only a small subset (e.g., 5%) of tensor elements are available. (ii) Coarse observation: Some tensor modes only present coarse and aggregated patterns (e.g., monthly summary instead of daily reports). In this paper, we are given a subset of the tensor and some aggregated/coarse observations (along one or more modes) and seek to recover the original fine-granular tensor with low-rank factorization. We formulate a coupled tensor completion problem and propose an efficient Multi-resolution Tensor Completion model (MTC) to solve the problem. Our MTC model explores tensor mode properties and leverages the hierarchy of resolutions to recursively initialize an optimization setup, and optimizes on the coupled system using alternating least squares. MTC ensures low computational and space complexity. We evaluate our model on two COVID-19 related spatio-temporal tensors. The experiments show that MTC could provide 65.20% and 75.79% percentage of fitness (PoF) in tensor completion with only 5% fine granular observations, which is 27.96% relative improvement over the best baseline. To evaluate the learned low-rank factors, we also design a tensor prediction task for daily and cumulative disease case predictions, where MTC achieves 50% in PoF and 30% relative improvements over the best baseline.

研究の動機と目的

• 観測が部分的であり、かつ粗粒度の形でも利用可能な現実世界のシナリオにおけるテンソル補完を解決すること。
• 細粒度の部分的観測と粗粒度の集計ビューという異種のデータソースを統合的に統一された低ランクテンソル補完フレームワークに統合すること。
• マルチスケール初期化とコンactなカップルド-ALSソルバの設計により、計算効率と最適化精度を向上させること。
• 特に感染症の症例予測と欠損値補完を対象として、実世界の時空間的健康データ上でモデルを評価すること。
• 粗粒度データが、希な細粒度観測と組み合わせることで、補完性能を顕著に向上させられることを示すこと。

提案手法

• MTCは、部分的観測および粗粒度観測の両方のFrobeniusノルム最小化を用いて、カップルドテンソル補完問題を定式化する。
• 粗粒度から細粒度へのテンソルビューを再帰的に用いて、低ランク成分をマルチスケール因子分解により初期化する。
• 計算効率を高めるために、複数の線形システムを統合した正規方程式にパックした逐次最小差乗法（ALS）ソルバを用いる。
• モード固有の集約パターンと階層的解像度構造を活用して、初期化の精度を向上させ、収束性を改善する。
• 2段階の最適化プロセスを採用する：第1段階では粗粒度システムでジャコビ反復を実行し、第2段階では細粒度データに対してコレスキーに基づく最小差乗法を適用する。
• 全勾配計算を回避し、反復的かつスパースに最適化できるソルバを用いることで、空間的・時間的計算量を低減する。

実験結果

リサーチクエスチョン

• RQ1 細粒度データが部分的に観測されている状況で、粗粒度テンソルデータがテンソル補完の精度を顕著に向上させ得るか？
• RQ2 マルチスケールテンソル因子分解を用いて、低ランクテンソル補完のための効果的な初期化を生成できるか？
• RQ3 部分的観測と粗粒度観測を併用した場合、単一の部分的観測のみを用いる場合と比較して、補完性能にどのような影響を与えるか？
• RQ4 MTCの最適化戦略は、勾配ベースのベースラインと比較して収束速度と精度の面で優れているか？
• RQ5 学習された低ランク因子は、感染症症例予測などの下流タスクにどれほど再利用可能か？

主な発見

• MTCは、細粒度観測がたった5%の2つの実世界のCOVID-19時空間的データセットにおいて、それぞれ65.20%および75.79%のフィットネス割合（PoF）を達成し、最良のベースラインを27.96%相対的に上回った。
• 1日分および累積症例のテンソル予測タスクにおいて、MTCは50%のPoFを達成し、最良のベースラインを30%相対的に上回った。
• MTCの最適化は、勾配ベースのベースラインと比較して、浮動小数点演算の削減とラインサーチの回避により、実行時間が約1/8にまで短縮された。
• マルチスケール初期化により、MTCは、観測率がたった1%であっても、30回の最適化反復でHOSVDやTendiBを含むすべてのベースラインを上回った。
• 欠損度が高くなるほど、本手法の利点が顕著になる：部分的観測が希な場合（例：2.5%または5%）に、性能向上が最も顕著に現れた。
• 最適化の局所的性質を比較した結果、MTCは特にデータが限られる状況でも、勾配ベース手法と比較して収束が早く、最終的な性能が優れていた。