[論文レビュー] A nonnegativity preserving algorithm for multilinear systems with nonsingular M-tensors

Xueli Bai, Hongjin He+2 more|arXiv (Cornell University)|Nov 25, 2018

Tensor decomposition and applications参考文献 23被引用数 4

ひとこと要約

本稿では、非特異なMテンソルと非負の右辺を持つ多重線形系を解くためのニュートン型アルゴリズム、非負性保持アルゴリズム（NPA）を提案する。この手法は、すべての反復点が非負のまま保たれ、非負の解に収束する。右辺にゼロが含まれる場合、他の手法が非負性を保てないか、スパース解を見つけることができない場合でも、本手法は優れた性能を示す。

ABSTRACT

This paper addresses multilinear systems of equations which arise in various applications such as data mining and numerical partial differential equations. When the multilinear system under consideration involves a nonsingular $\mathcal{M}$-tensor and a nonnegative right-hand side vector, it may have multiple nonnegative solutions. In this paper, we propose an algorithm which can always preserve the nonnegativity of solutions. Theoretically, we show that the sequence generated by the proposed algorithm is a nonnegative decreasing sequence and converges to a nonnegative solution of the system. Numerical results further support the novelty of the proposed method. Particularly, when some elements of the right-hand side vector are zeros, the proposed algorithm works well while existing state-of-the-art solvers may not produce a nonnegative solution.

研究の動機と目的

• 非特異なMテンソルと非負の右辺ベクトルを持つ多重線形系を扱う。これらの系には複数の非負解が存在する可能性がある。
• 反復処理の全過程で非負性を保証するアルゴリズムを開発する。これにより、すべての反復点が非負のまま保たれる。
• 既存の手法が非負の解を生成できない場合（特に右辺にゼロ成分が含まれる場合）に、信頼性の高いソルバーを提供すること。
• データマイニングや数値PDEにおけるスパース非負テンソル方程式のアルゴリズム設計を支援すること。

提案手法

• 反復点の非負性を強制するために、標準的なニュートンステップを修正したニュートン型アルゴリズム（NPA）を提案する。
• ステップサイズを線分探索で選定し、残差を小さくしつつ非負性を維持する。
• 各更新後に負の成分をゼロにリセットするプロジェクション機構を実装し、非負性を保持する。
• 解のノルムが非増加である非負の反復列を生成し、これが非負の解に収束することが証明されている。
• 残差に基づく停止基準を採用し、許容誤差を $10^{-8}$ に設定。また、$10^{-5}$ 未満の成分はゼロとみなす。
• スパーステンソル（60%のゼロ成分）と非負の右辺（`sprand` を用いて生成）を含む小規模および大規模問題に本手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 非特異なMテンソルと非負の右辺を持つ多重線形系を解くにあたり、反復点の非負性を保証するニュートン型アルゴリズムを設計できるか？
• RQ2 複数の非負解が存在する場合でも、提案手法が非負の解に収束するか？
• RQ3 右辺ベクトルにゼロ成分が含まれる場合、HM、QCA、NLSQ といった最先端のソルバーと比較して、本アルゴリズムの性能はいかがなものか？
• RQ4 他の手法が正の解しか得られない場合でも、本アルゴリズムは信頼性高くスパース非負解を発見できるか？
• RQ5 大規模でスパースなテンソル系において、本手法の計算効率と頑健性はどの程度か？

主な発見

• 提案されたNPAアルゴリズムは、非負で単調減少する反復列を生成し、多重線形系の非負解に収束することが確認された。
• 数値実験の結果、右辺ベクトルにゼロが含まれる場合でも、NPAは非負解を正しく見つけられるが、QCAはそのような場合に失敗することが判明した。
• 収束曲線と解のスパースネス解析により、NPAはスパース非負解を生成することが示され、HM や NLSQ よりもスパースネスの保持に優れている。
• $(m,n) = (3,200)$ のケースでは、反復回数は多くても、NPAはHM や NLSQ よりも高い成功確率と短い計算時間を達成した。
• スパーステンソルと非負の右辺を用いた100件のランダムテストインスタンスにおいて、本アルゴリズムは一貫して非負の解を返すという頑健性を示した。
• 右辺が非負ではあるが正でない場合、テストされた手法の中で唯一、NPAは信頼性高く非負かつスパースな解を生成できた。