[論文レビュー] A novel nonconvex approach to recover the low-tubal-rank tensor data: when t-SVD meets PSSV.

Tai-Xiang Jiang, Ting‐Zhu Huang+2 more|arXiv (Cornell University)|Dec 15, 2017

Tensor decomposition and applications参考文献 60被引用数 9

ひとこと要約

本稿では、従来の凸緩和（テンソル核ノルム、TNN）の代わりに、テンソル核ノルムの部分和（PSTNN）を用いる非凸アプローチを提案し、低チューブランクテンソル回復を改善する。t-SVDとPSTNNを活用することで、テンソル補完およびテンソル主成分分析におけるバイアスを低減し、合成データおよび実世界データにおいて優れた性能を示す。

ABSTRACT

A recently developed novel tensor decomposition scheme named tensor singular value decomposition (t-SVD) results in a notion of rank referred to as the tubal-rank. Many methods minimize its convex surrogate the tensor nuclear norm (TNN) to enhance the low tubal-rankness of the underlying data. Generally, minimizing the TNN may cause some biases. In this paper, to alleviate these bias phenomenons, we consider to minimize the proposed partial sum of the tensor nuclear norm (PSTNN) in place of the TNN. The novel PSTNN is applied to the tasks of tensor completion and tensor principal component analysis. Numerical experiments are conducted on the synthetic data and real-world data, and experimental results reveal the effectiveness of the proposed methods.

研究の動機と目的

• 低チューブランクテンソル回復において、凸テンソル核ノルム（TNN）を最小化することによって生じるバイアスを解消すること。
• TNNの凸緩和の限界を克服し、TNNの非凸代替手法を提案すること。
• テンソル核ノルムの部分和（PSTNN）を用いた新しいテンソルランク近似を構築すること。
• PSTNNをテンソル補完およびテンソル主成分分析に適用し、より優れたデータ回復を実現すること。
• 合成データおよび実世界データを用いた広範な数値実験を通じて、PSTNNの有効性を実証すること。

提案手法

• テンソル特異値分解（t-SVD）を用いてチューブランクを定義し、低ランクテンソルモデリングを可能にする。
• チューブランクの非凸緩和として、テンソル核ノルムの部分和（PSTNN）を導入する。
• PSTNNを最小化する最適化問題を定式化し、テンソルデータにおける低チューブランク構造を促進する。
• 提案されたPSTNNに基づくモデルを、テンソル補完およびテンソル主成分分析タスクに適用する。
• 最適化の過程で、t-SVDの代数的性質を活用してテンソル成分の効率的計算と更新を実現する。
• 収束保証を備えた反復的アルゴリズムを設計し、非凸PSTNN最小化問題を解く。

実験結果

リサーチクエスチョン

• RQ1 凸緩和と比較して、テンソル核ノルムの非凸緩和が、低チューブランクテンソル回復を改善できるか？
• RQ2 テンソル核ノルムの部分和（PSTNN）は、テンソル補完においてTNNと比較してバイアスをどれほど低減できるか？
• RQ3 テンソル主成分分析において、PSTNNは低ランクテンソル回復をどの程度向上できるか？
• RQ4 提案手法は、合成データおよび実世界のテンソルデータの両方において、回復精度を維持または向上できるか？
• RQ5 t-SVDフレームワークは、PSTNNとどのように統合され、効率的かつ効果的なテンソル回復を可能にするか？

主な発見

• 提案されたPSTNN手法は、凸テンソル核ノルムを最小化する手法と比較して、低チューブランクテンソル回復におけるバイアスを低減する。
• 合成データを用いた数値実験では、PSTNNがTNNに基づく手法よりも高い回復精度を達成する。
• テンソル補完タスクにおいて、PSTNNは再構成誤差が低く、低ランク近似性能が優れている。
• 実世界データに対しても安定した性能を示し、実用的応用性を確認した。
• PSTNNを用いたテンソル主成分分析は、TNNに基づく手法と比較して、低ランク成分とスパース成分の分離がより良好に実現された。
• t-SVDとPSTNNの統合により、テンソルデータ回復における効率的計算と効果的な低ランクモデリングが可能になった。