[論文レビュー] A Fast Algorithm for Cosine Transform Based Tensor Singular Value Decomposition

Wenhao Xu, Xi-Le Zhao+1 more|arXiv (Cornell University)|Feb 8, 2019

Tensor decomposition and applications参考文献 26被引用数 7

ひとこと要約

本稿では、複素数演算を回避し、反射境界条件を活用することで、高速で実数値のテンソル特異値分解（t-SVD）を実現する手法を提案する。この手法は、離散コサイン変換（DCT）を離散フーリエ変換（DFT）の代わりに用いる。低ランクテンソル補完タスクにおいて、動画やマルチスペクトル画像の穴埋めにおいて、DFTに基づくt-SVDを上回る速度と精度を達成し、計算が2倍速くなる。

ABSTRACT

Recently, there has been a lot of research into tensor singular value decomposition (t-SVD) by using discrete Fourier transform (DFT) matrix. The main aims of this paper are to propose and study tensor singular value decomposition based on the discrete cosine transform (DCT) matrix. The advantages of using DCT are that (i) the complex arithmetic is not involved in the cosine transform based tensor singular value decomposition, so the computational cost required can be saved; (ii) the intrinsic reflexive boundary condition along the tubes in the third dimension of tensors is employed, so its performance would be better than that by using the periodic boundary condition in DFT. We demonstrate that the tensor product between two tensors by using DCT can be equivalent to the multiplication between a block Toeplitz-plus-Hankel matrix and a block vector. Numerical examples of low-rank tensor completion are further given to illustrate that the efficiency by using DCT is two times faster than that by using DFT and also the errors of video and multispectral image completion by using DCT are smaller than those by using DFT.

研究の動機と目的

• DFTベースのt-SVDに内在する複素数演算を回避する実数値テンソル特異値分解（t-SVD）フレームワークの開発を目的とする。
• DFTが用いる周期的境界条件の代わりに反射境界条件を用いることで、再構成性能の向上を図ることを目的とする。
• 新しいDCTベースのt-SVDを用いた低ランクテンソル補完のための効率的アルゴリズムの設計を目的とする。
• 従来のDFTベースのt-SVD手法と比較して、計算効率および再構成精度の優位性を示すことを目的とする。

提案手法

• 標準的なt-SVDで用いられるDFTの代わりに、離散コサイン変換（DCT）に基づく新しいテンソル積を提案する。
• DCTベースのテンソル積が、ブロックトーペリッツ＋ハンケル行列とブロックベクトルの積に等価であることを確立する。
• 低ランクテンソル補完に適した新しいテンソル核ノルム（TNN-C）をDCTベースのt-SVDから導出する。
• TNN-Cを用いたテンソル補完モデルを解くために、効率的な交替方向乗数法（ADMM）アルゴリズムを開発する。
• テンソルの3番目の次元に反射境界条件を適用し、実世界のデータにおける信号の連続性をより良く保つ。
• 複素数演算を避ける実数値算術を実装することで、DFTベースの手法と比較して計算コストを顕著に低減する。

実験結果

リサーチクエスチョン

• RQ1 離散コサイン変換（DCT）は、複素数演算を回避する目的で、テンソル特異値分解における離散フーリエ変換（DFT）の代替として効果的に使用可能か？
• RQ2 DCTベースのt-SVDで反射境界条件を用いることで、DFTベースのt-SVDが採用する周期的境界条件よりも優れた再構成性能が得られるか？
• RQ3 DCTベースのt-SVDは、DFTベースのt-SVDと比較して、テンソル補完タスクにおける計算効率がどのように異なるか？
• RQ4 DCTベースのt-SVDは、動画およびマルチスペクトル画像の穴埋めにおいて、DFTベースのt-SVDと比較して再構成精度がどの程度向上するか？
• RQ5 提案手法は、再構成品質を維持または向上させながら、収束が速く、時間コストが低いと期待できるか？

主な発見

• DCTベースのt-SVDは、テンソル補完タスクにおいてDFTベースのt-SVDと比較して約2倍速い。
• 動画およびマルチスペクトル画像補完において、TNN-C（DCTベース）はPSNR、SSIM、SAM、ERGASといった誤差指標において、TNN-F（DFTベース）を上回る。
• 10%のサンプリングレートにおけるマルチスペクトル画像回復において、TNN-CはStuffed ToysでPSNR 36.63、Peppersで36.87を達成し、TNN-Fを顕著に上回った。
• TNN-Cの実行時間は顕著に短縮され、10%のサンプリングレートで平均164.5秒であったのに対し、TNN-Fは320.2秒であった。
• パラメータの変動に対してもロバストであることが示され、最適な性能はβ = 1×10⁻²で達成され、異なる値でも安定した収束を示した。
• 図7の可視化結果から、TNN-CはTNN-Fと比較して、特に繊細なテクスチャーやエッジをより自然かつ詳細に再構成していることが明らかになった。