[論文レビュー] Tensor-Ring Nuclear Norm Minimization and Application for Visual Data Completion

Jinshi Yu, Chao Li+2 more|arXiv (Cornell University)|Mar 21, 2019

Sparse and Compressive Sensing Techniques参考文献 6被引用数 10

ひとこと要約

本稿では、テンソル巡回アンフォールディングに基づく新しいテンソルリング核ノルムを用いた、凸的で計算効率の良いテンソル補完手法を提案する。この手法は、非凸的TRベースの手法に対する計算的効率の高い代替手段を提供する。本手法は、ストライプ状に欠落したデータを有する画像および動画補完において、最新の性能を達成し、実行時間を顕著に短縮するとともに、手動によるTRランク選択の必要性を回避する。

ABSTRACT

Tensor ring (TR) decomposition has been successfully used to obtain the state-of-the-art performance in the visual data completion problem. However, the existing TR-based completion methods are severely non-convex and computationally demanding. In addition, the determination of the optimal TR rank is a tough work in practice. To overcome these drawbacks, we first introduce a class of new tensor nuclear norms by using tensor circular unfolding. Then we theoretically establish connection between the rank of the circularly-unfolded matrices and the TR ranks. We also develop an efficient tensor completion algorithm by minimizing the proposed tensor nuclear norm. Extensive experimental results demonstrate that our proposed tensor completion method outperforms the conventional tensor completion methods in the image/video in-painting problem with striped missing values.

研究の動機と目的

• 既存のテンソルリング（TR）ベースの低ランクテンソル補完手法における高い計算複雑性と非凸性に対処すること。
• TRランクがベクトル値であるため、TRランクの手動選択が計算的に困難であるという問題を解消すること。
• TRランクのための凸的代理関数を構築し、理論的保証のもとで効率的な最適化を可能にすること。
• 特に画像および動画におけるストライプ状欠落パターンを有する視覚的データ補完タスクの性能を向上させること。

提案手法

• ステップ長パラメータdを用いて、テンソル要素を行列に再配置する新しい演算であるテンソル巡回アンフォールディングを導入する。
• 理論的に、各巡回アンフォールディング行列のランクが隣接するTRコアランクの積によって上限付けられることを証明し、行列ランクとTRランクの関連を確立する。
• すべての巡回アンフォールディング行列の核ノルムの和として、テンソルリング核ノルムを定義し、TRランクの凸的代理関数として用いる。
• 低ランク制約下で提案されたテンソルリング核ノルムを最小化するADMMに基づく最適化アルゴリズムを開発する。
• 巡回アンフォールディング構造を活用して、従来のTR手法のO(R^6)の複雑性を回避する効率的な計算を実現する。
• 情報の捕捉を最大化するために、デフォルトのステップ長d = floor(N/2)を採用し、実験的に妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 テンソルリングランクの凸的緩和を構築でき、テンソル補完における効率的な最適化を可能にするか？
• RQ2 巡回アンフォールディング行列のランクと元のテンソルリングランクの関係は何か？
• RQ3 提案手法のテンソルリング核ノルムは、ストライプ状欠落パターンを有する視覚的データにおいて、既存のTRベース手法よりも精度と実行時間の両面で優れているか？
• RQ4 提案手法は、性能を維持または向上させつつ、手動によるTRランク選択の必要性を排除できるか？

主な発見

• 提案手法TRNNMは、欠落ストライプを有する画像および動画データセットにおいて、比較対象の全手法と比べて最小の相対二乗誤差（RSE）を達成する。
• 70%の欠落率（mr=0.7）を有するオーシャン動画において、TRNNMはRSE=0.066を達成し、TR-ALS（0.113）および他の手法を上回る。
• オーシャン動画においてmr=0.7の条件で、TRNNMの実行時間は233.71秒にまで短縮された。これに対してTR-ALSは851.37秒を要し、実世界用途に実用的であることが示された。
• 9次テンソルの場合、ステップ長d=4を用いた手法が最良の性能を示し、d=floor(N/2)が最適であるという選択が妥当であることが実証された。
• 視覚的結果から、TRNNMは特に欠落ストライプが生じる複雑な領域において、画像および動画の修復においてより細かなディテールやテクスチャを保持していることが明らかになった。
• 巡回アンフォールディング行列ランクとTRランクの理論的関連性は、本手法で用いられる凸的緩和の堅実な基盤を提供している。