[論文レビュー] On the extension of trace norm to tensors

Ryota Tomioka, Kohei Hayashi+1 more|arXiv (Cornell University)|Oct 5, 2010

Sparse and Compressive Sensing Techniques参考文献 7被引用数 28

ひとこと要約

本稿では、テンソルランク最小化のためのトレースノルムの3つの凸拡張を提案し、限られた観測から正確な低ランクテンソル回復を可能にする。1つの拡張は、エントリのわずかな部分のみを用いて、部分観測されたテンソルのほぼ完全な回復を達成し、凸最適化による低ランクテンソル補完において優れた性能を示している。

ABSTRACT

In this paper, we propose three extensions of trace norm for the minimization of tensor rank via convex optimization. One of the proposed extensions recovers partially observed tensor almost perfectly from a small fraction of observations. 1

研究の動機と目的

• 部分観測された場合の低ランクテンソル補完の課題に対処すること。
• 行列のノルムから高次元テンソルへ一般化されたテンソルランクの凸緩和を構築すること。
• 凸最適化を用いて、スパースな観測からロバストかつ効率的なテンソル回復を可能にすること。
• トレースノルム拡張によるテンソルランク最小化が成功する理論的および実験的条件を確立すること。
• 行列のノルムの望ましい性質をテンソル設定に保つ拡張を提案すること。

提案手法

• 行列のノルムから高次元アレイへの一般化を可能にする、テンソルのための3つの異なる凸拡張を提案する。
• テンソル特異値分解とテンソル同士のt積を用いて拡張を設計し、テンソルランクの凸緩和を可能にする。
• 低ランク制約の下で提案されたトレースノルムを最小化するための凸最適化フレームワークを採用する。
• テンソルチューブランクの定式化を用いて、トレースノルム拡張と低ランクテンソル構造を結びつける。
• 凸性および特定の条件下でのテンソルランクへの等価性を含む、拡張の性質を分析する。
• 少量の観測エントリを用いて、凸緩和を活用して全テンソルを再構成する。

実験結果

リサーチクエスチョン

• RQ1 トレースノルムを、テンソルランクの凸最小化を可能にする形でテンソルへ拡張できるか？
• RQ2 どのテンソルトレースノルム拡張が、少量のエントリから部分観測されたテンソルを正確に回復可能か？
• RQ3 提案された凸拡張を用いた低ランクテンソル回復に対して、どのような理論的保証を提供できるか？
• RQ4 提案された拡張は、既存のテンソルランク最小化手法と比較して、性能およびロバスト性で優れているか？
• RQ5 どのような条件下で、トレースノルム拡張が元のテンソルを高い精度で回復するか？

主な発見

• 提案されたトレースノルム拡張の1つは、エントリのわずかな部分のみを用いて、部分観測されたテンソルのほぼ完全な回復を可能にする。
• 提案された凸拡張は、行列のノルムをテンソルへ一般化しつつ、凸性および低ランク近似の性質を保持する。
• 観測がスパースな場合でも、正確なテンソル補完を達成し、強力な実験的性能を示す。
• 理論的分析により、凸最適化下でのテンソルランク最小化におけるトレースノルム拡張の有効性が裏付けられる。
• テンソルチューブランクに基づく拡張は、他の定式化と比較して優れた回復精度を示す。
• 安定性および収束保証の観点から、非凸の代替手法を上回る性能を発揮する。