[論文レビュー] Low-rank Tensor Grid for Image Completion

Huyan Huang, Yipeng Liu+1 more|arXiv (Cornell University)|Mar 12, 2019

Tensor decomposition and applications参考文献 47被引用数 7

ひとこと要約

本稿では、画像補完のための新規な低ランクテンソルグリッド（TG）フレームワークを提案する。このフレームワークは、テンソルモード間の複雑な多様な相互作用をモデル化するため、投影エンタングルドペア状態（PEPS）構造を活用している。2段階密度行列縮約群（2SDMRG）を初期化に用い、並列行列因子分解を組み合わせた交互最小二乗法（ALS）により、合成および実世界の画像データセットにおいて最先端の精度と効率性を達成した。本手法は、TT、TR、および古典的手法に比べ、回復品質と計算速度の両面で優れている。

ABSTRACT

Tensor completion estimates missing components by exploiting the low-rank structure of multi-way data. The recently proposed methods based on tensor train (TT) and tensor ring (TR) show better performance in image recovery than classical ones. Compared with TT and TR, the projected entangled pair state (PEPS), which is also called tensor grid (TG), allows more interactions between different dimensions, and may lead to more compact representation. In this paper, we propose to perform image completion based on low-rank tensor grid. A two-stage density matrix renormalization group algorithm is used for initialization of TG decomposition, which consists of multiple TT decompositions. The latent TG factors can be alternatively obtained by solving alternating least squares problems. To further improve the computational efficiency, a multi-linear matrix factorization for low rank TG completion is developed by using parallel matrix factorization. Experimental results on synthetic data and real-world images show the proposed methods outperform the existing ones in terms of recovery accuracy.

研究の動機と目的

• 画像データのモード間における複雑な多様な相互作用をモデル化する既存のテンソル補完手法の限界を解決すること。
• テンソルトレイン（TT）の2次元一般化たるテンソルグリッド（TG）が、画像回復における低ランクテンソル補完に潜在的であるかを検討すること。
• TGに基づくテンソル補完のための効率的で高精度な初期化および最適化フレームワークを開発すること。
• 並列行列因子分解を用いることで計算効率を向上させつつ、高い回復精度を維持すること。
• 多様な画像データセットにおけるTGベース補完の優位性を実験的に検証すること。

提案手法

• 本手法は、安定した因子初期化を実現するため、複数のテンソルトレイン（TT）分解を活用した2段階密度行列縮約群（2SDMRG）アルゴリズムを用いて、テンソルグリッド（TG）分解を初期化する。
• 交互最小二乗法（ALS）を用い、活性化されたテンソルとその環境テンソルを含む二次部分問題を逐次解くことで、潜在的TG要因を最適化する。
• 最適化中の計算オーバーヘッドを低減するため、環境テンソルの計算を単層（SL）法を用いて高速化する。
• テンソルを複数のTGアンフォールド成分の重み付き和とみなすことで、効率的な低ランクTG近似を実現する並列行列因子分解技術を導入する。
• 複数のアンフォールドにおいて同時にTG要因を更新することで、スケーラブルかつ分散計算が可能な最適化を実現する。
• 観測された要素と低ランクTGテンソルの再構成値との間のフィッティング誤差を最小化することで、画像補完に本フレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 テンソルトレイン（TT）の2次元一般化たるテンソルグリッド（TG）構造は、既存のテンソルネットワークと比較して、画像データに対してよりコン act かつ表現力に富んだ表現を提供できるか？
• RQ2 2SDMRG初期化戦略は、TGベーステンソル補完の収束性と精度にどのように影響を与えるか？
• RQ3 並列行列因子分解は、精度を損なわず、低ランクTG補完の計算効率をどの程度向上させるか？
• RQ4 実世界の画像および動画データにおいて、TGベース補完はTT、TR、CP、およびt-SVDといった最先端手法と比較して、回復精度と実行時間の両面で優れているか？
• RQ5 TGフレームワークは、合成データ、カラー画像、ハイパースペクトル画像、高速度動画シーケンスを含む多様なデータタイプに対して、頑健性を維持できるか？

主な発見

• 10%の観測エントリを持つ爆発動画データセットにおいて、PMac-TGは最小の相対誤差（RE = 0.139）と最短の実行時間（34.32秒）を達成し、ALS-TG、TR-ALS、TMac-TTを上回った。
• 合成データにおいて、提案手法のPMac-TGはTGランク40で相対誤差0.051、PSNR 21.63 dBを達成し、TR-ALS（RE = 0.082、PSNR = 18.06 dB）およびHaLRTC（RE = 0.836、PSNR = 8.58 dB）を顕著に上回った。
• A-PMac-TGは相対誤差0.169、PSNR 25.75 dBとやや高い誤差と低いPSNRを示し、潜在的なアンダーフィッティングの兆候を示したが、PMac-TGは様々なランクにおいても良好な性能を維持した。
• 爆発動画データにおいて、TGランク40のPMac-TGはPSNR 27.42 dB、RE 0.139を達成し、TMac-TT（RE = 0.145、PSNR = 27.26 dB）およびTR-ALS（RE = 0.153、PSNR = 26.70 dB）を上回った。
• 本手法はスケーラビリティと効率性を示し、爆発動画におけるPMac-TGのCPU時間は31〜39.6秒と大幅に短く、ALS-TG（最大5.9e3秒）およびTR-ALS（最大1.62e4秒）を下回った。
• 結果から、TGベース補完は多様なモード間相互作用が強化され、多項式的相関減衰を示すため、TTやTRのような指数的減衰モデルに比べて優れた表現能力を有することが確認された。