[論文レビュー] Beyond Low Rank: A Data-Adaptive Tensor Completion Method

Lei Zhang, Wei Wei+4 more|arXiv (Cornell University)|Aug 3, 2017

Tensor decomposition and applications参考文献 20被引用数 7

ひとこと要約

本稿では、不完全なテンソル内の低ランクおよび非低ランク構造を明示的にモデル化するデータ適応型テンソル補完手法を提案する。CP因子分解に基づくスパarsity誘導型低ランク事前分布と、非低ランク成分のためのガウス混合モデルを導入することで、モデルは自動的なテンソルランク決定が可能となり、特に高い欠損率下でも最先端手法を上回る高い補完精度を達成する。

ABSTRACT

Low rank tensor representation underpins much of recent progress in tensor completion. In real applications, however, this approach is confronted with two challenging problems, namely (1) tensor rank determination; (2) handling real tensor data which only approximately fulfils the low-rank requirement. To address these two issues, we develop a data-adaptive tensor completion model which explicitly represents both the low-rank and non-low-rank structures in a latent tensor. Representing the non-low-rank structure separately from the low-rank one allows priors which capture the important distinctions between the two, thus enabling more accurate modelling, and ultimately, completion. Through defining a new tensor rank, we develop a sparsity induced prior for the low-rank structure, with which the tensor rank can be automatically determined. The prior for the non-low-rank structure is established based on a mixture of Gaussians which is shown to be flexible enough, and powerful enough, to inform the completion process for a variety of real tensor data. With these two priors, we develop a Bayesian minimum mean squared error estimate (MMSE) framework for inference which provides the posterior mean of missing entries as well as their uncertainty. Compared with the state-of-the-art methods in various applications, the proposed model produces more accurate completion results.

研究の動機と目的

• 従来の手法が行列アンフォールディングや手動設定に依存するため、低ランクテンソル補完におけるテンソルランク決定の課題に対処すること。
• 現実のデータにはしばしば複雑な非低ランク成分を含むが、それらを完全に低ランク構造と仮定する手法の限界を克服すること。
• 低ランクおよび非低ランク構造を明示的にモデル化する統一フレームワークを構築し、補完精度を向上させること。
• CP因子分解から導出されたスパarsity誘導型事前分布を用いて、手動チューニングを必要としない自動的なテンソルランク決定を可能にすること。
• ベイジアンMMSE推定フレームワークを用いて、欠損エントリの不確実性を推定すること。

提案手法

• CANDECOMP/PARAFAC (CP) 要因分解に基づく新しいテンソルランクを定義し、データ適応型の低ランクモデリングを可能にする。
• CP要因分解の重みにスパarsity誘導型事前分布を導入することで、手動チューニングを必要とせず、自動的なテンソルランク決定を実現する。
• 非低ランク構造をガウス混合モデル (MOG) を用いてモデル化し、スパース、重たい尾、あるいはマルチモーダルな分布を柔軟に捉える。
• 欠損エントリの後平均とその不確実性を推定するため、ベイジアン最小平均二乗誤差 (MMSE) 推定フレームワークを定式化する。
• 因子行列の行にガウスマルコフランダムフィールドを適用して空間的類似性の事前分布を組み込み、画像・動画補完における回復精度を向上させる。
• Gibbsサンプリングを用いて後確率推定を実行し、欠損値と不確実性の両方を同時に推定可能にする。

実験結果

リサーチクエスチョン

• RQ1 低ランクと非低ランク構造を明示的に分離するデータ適応型テンソル補完モデルは、従来の低ランク専用モデルを上回る性能を発揮できるか？
• RQ2 CP因子分解から導出されたスパarsity誘導型事前分布は、手動入力なしにテンソルランクを自動的に決定できるか？
• RQ3 ガウス混合モデル事前分布は、現実のテンソルデータに含まれる複雑な非低ランク構造を効果的にモデル化できるか？
• RQ4 提案されたベイジアンMMSEフレームワークは、より正確で頑健な補完結果、ならびに不確実性推定を提供できるか？
• RQ5 特に事前情報が限られる状況下で、高い欠損率下でも本モデルは良好な性能を発揮するか？

主な発見

• 『suzie』動画では相対再構成誤差 (RRE) が 0.0381、『foreman』動画では 0.0422 を達成し、FBCP や BRTF などのすべてのベースラインを上回った。
• CMU-PIE データセットにおける画像インpaintingでは、欠損率 60% 時に RRE を 0.1172 まで低下、90% 時に 0.3372 まで低下させ、FaLRTC や HaLRTC を顕著に上回った。
• 『suzie』動画では PSNR 35.6013、SSIM 0.9182 を達成し、FBCP (PSNR: 34.6221, SSIM: 0.9103) や他の最先端手法を上回った。
• 空間的類似性事前分布を組み込んだ変種 ('Ours_sc') は、特に高い欠損率下で性能が向上し、追加の構造的事前分布の価値を示した。
• ベイジアンMMSEフレームワークは、欠損エントリの不確実性を的確に推定でき、予測の信頼性を体系的に定量化する手法を提供した。
• 可視化結果から、本手法は特にテクスチャや複雑な領域（例：『parrot』画像）において、よりシャープで正確な再構成を実現していることが明らかになった。