[論文レビュー] Non-convex Penalty for Tensor Completion and Robust PCA.

Tao Li, Jinwen Ma|arXiv (Cornell University)|Apr 23, 2019

Sparse and Compressive Sensing Techniques参考文献 35被引用数 4

ひとこと要約

本稿では、凹性を導入することでℓ₁-ノルムに内在するバイアスを低減する非凸なテンソルランクの代替関数およびスパarsity測度を提案する。これらのペナルティをテンソル補完およびロバストPCAに適用することで、画像の穴埋めおよびノイズ除去において優れた性能を達成し、主要化最小化およびADMMに基づく最適化により収束が保証される。

ABSTRACT

In this paper, we propose a novel non-convex tensor rank surrogate function and a novel non-convex sparsity measure for tensor. The basic idea is to sidestep the bias of $\ell_1-$norm by introducing concavity. Furthermore, we employ the proposed non-convex penalties in tensor recovery problems such as tensor completion and tensor robust principal component analysis, which has various real applications such as image inpainting and denoising. Due to the concavity, the models are difficult to solve. To tackle this problem, we devise majorization minimization algorithms, which optimize upper bounds of original functions in each iteration, and every sub-problem is solved by alternating direction multiplier method. Finally, experimental results on natural images and hyperspectral images demonstrate the effectiveness and efficiency of the proposed methods.

研究の動機と目的

• 低ランクおよびスパースなテンソル回復におけるℓ₁-ノルムが引き起こすバイアスを解消するため、非凸な代替手法を提案すること。
• 真のテンソルランクをよりよく近似する新しい非凸なテンソルランク代替関数を開発すること。
• テンソル内の低ランクおよびスパース成分の分離を向上させる非凸なスパarsity測度を設計すること。
• これらのペナルティを画像の穴埋めやノイズ除去などの実世界のテンソル回復問題に適用すること。
• 非凸性を扱える効率的な最適化フレームワークを構築すること。

提案手法

• ℓ₁-ノルムと比較してバイアスを低減するため、凹性を導入した非凸なテンソルランク代替関数を提案する。
• テンソル内のスパース成分の表現を向上させる非凸なスパarsity測度を導入する。
• 非凸な目的関数の上界を繰り返し最適化するために主要化最小化を用いる。
• 主要化最小化フレームワーク内の各部分問題を、交替方向乗数法（ADMM）を用いて解く。
• 提案されたフレームワークを、実世界の画像データを用いたテンソル補完およびロバストPCAタスクに適用する。
• 非凸性にもかかわらず、反復的リファインメントにより定常解に収束する。

実験結果

リサーチクエスチョン

• RQ1 非凸なテンソルランク代替関数は、低ランクテンソル近似におけるℓ₁-ノルムのバイアスを低減できるか？
• RQ2 非凸なスパarsity測度は、テンソル分解におけるスパース成分の回復をどのように向上させるか？
• RQ3 提案された非凸ペナルティは、テンソル補完およびロバストPCAにおいて凸代替手法を上回る性能を示せるか？
• RQ4 主要化最小化とADMMを組み合わせた手法は、非凸テンソル回復問題を効果的に解けるか？
• RQ5 本手法は、自然画像およびハイパースペクトル画像データセットにおいて、実験的にどの程度の性能を示すか？

主な発見

• 提案された非凸テンソルランク代替関数は、ℓ₁-ノルムと比較してバイアスが低減され、より優れた低ランク近似が達成される。
• 非凸スパarsity測度により、テンソル分解におけるスパース成分の分離が向上する。
• 自然画像およびハイパースペクトル画像データセットにおいて、画像の穴埋めおよびノイズ除去の結果が優れている。
• 非凸な目的関数に対しても、主要化最小化とADMMを組み合わせたアルゴリズムの収束は有効である。
• 実験的結果から、本手法は実世界の画像回復タスクにおいて、有効性と効率性の両方を示している。
• 再構成精度と耐障害性の観点から、従来の凸的手法を上回る性能を達成している。