[論文レビュー] Low Rank Non-Negative Matrix Factorization with D-Wave 2000Q

Daniele Ottaviani, A. Amendola|arXiv (Cornell University)|Aug 27, 2018

Neural Networks and Applications参考文献 4被引用数 24

ひとこと要約

本論文は、固定小数点表現を用いた10進数のバイナリ変数に変換された実数行列を用いて、D-Wave 2000Q量子アニーリング機を用いて一般化された低ランク非負値行列分解（NMF）を初めて成功裏に解いた。量子古典ハイブリッド交互最小二乗法を用い、適応的リバースアニーリングを組み合わせた手法により、100回の試行のうち75回がグローバル最適解に到達し、フォワードアニーリングや制御のないリバースアニーリングを著しく上回り、古典的手法と比較して反復回数を2桁減少させた。

ABSTRACT

In this article we want to demonstrate the effectiveness of the new D-Wave quantum annealer, D-Wave 2000Q, in dealing with real world problems. In particular, it is shown how the quantum annealing process is able to find global optima even in the case of problems that do not directly involve binary variables. The problem addressed in this work is the following: taking a matrix V, find two matrices W and H such that the norm between V and the matrix product WH is as small as possible. The work is inspired by O'Malley's article [1], where the author proposed an algorithm to solve a problem very similar to ours, where however the matrix H was formed by only binary variables. In our case neither of the two matrices W or H is a binary matrix. In particular, the factorization foresees that the matrix W is composed of real numbers between 0 and 1 and that the sum of its rows is equal to 1. The QUBO problem associated with this type of factorization generates a potential composed of many local minima. We show that simple forward-annealing techniques are not sufficient to solve the problem. The new D-Wave 2000Q has introduced new solution refinement techniques, including reverse-annealing. Reverse-annealing allows to explore the configuration space starting from a point chosen by the user, for example a local minimum obtained with a precedent forward-annealing. In this article we propose an algorithm based on the reverse annealing technique (that we called adaptive reverse annealing) able to reach global minimum even in the case of QUBO problems where the classic forward annealing, or uncontrolled reverse annealing, can not reach satisfactory solutions.

研究の動機と目的

• D-Wave量子アニーリングを二値変数問題から一般化された実数行列を用いたNMFに拡張すること。
• NMF最適化における局所最適解の問題を量子アニーリングを用いて解決すること。
• D-Wave 2000Qを用いて制約付きのW行列因子分解を実行するハイブリッド量子古典アルゴリズムを開発・検証すること。
• 適応的リバースアニーリングが非二値NMF問題において解を効果的に精錬し、グローバル最小値に到達できることを実証すること。

提案手法

• 問題は交互最小二乗法（ALS）を用いて分解され、制約付き最適化によりWおよびH行列を反復的に解く。
• W行列の実数要素は、0.001解像度の固定小数点表現を用い、1要素あたり10個のバイナリ変数に符号化される。
• NMF最小化問題は、行列積V、H、H^Tを含む線形および二次係数から導出されたQUBO形式にマッピングされる。
• 最初にフォワードアニーリングを用いて候補解を生成し、その後、局所最適解周辺の探索空間を段階的に狭めるように適応的リバースアニーリングを適用して解を精錬する。
• W行列はD-Wave 2000Qで計算され、H行列は古典的計算により更新され、ハイブリッド量子古典アルゴリズムを形成する。
• 適応的リバースアニーリングは、フォワードアニーリングで得られた最良解の周囲で、動的に探索領域のサイズを拡大することで、グローバル最小値への収束を向上させる。

実験結果

リサーチクエスチョン

• RQ1 D-Wave 2000Q量子アニーリング機は、二値変数問題にとどまらず、一般化された実数行列を用いた低ランク非負値行列分解（NMF）を解くことができるか？
• RQ2 適応的リバースアニーリングは、フォワードアニーリングや制御のないリバースアニーリングと比較して、NMFにおける解の質を著しく向上させるか？
• RQ3 ハイブリッド量子古典ALSアルゴリズムは、反復回数を大幅に削減しつつ、古典的NMFと同等またはより高い因子分解精度を達成できるか？
• RQ4 現在のD-Waveハードウェア（例：キュービット接続性、キュービット数）には、構造化されたNMF問題を解く上でどのような制限があるか？
• RQ5 バイナリ表現による実数の符号化精度が、NMF解の正確さにどのように影響するか？

主な発見

• 適応的リバースアニーリングは100回の試行中75回がグローバル最適解に到達したのに対し、フォワードアニーリング単体では0回であった。
• ハイブリッド量子古典手法は、高品質な因子分解を達成するための反復回数が約50回で十分であったのに対し、古典的手法では少なくとも10,000回の反復が必要であった。
• あるテストケースにおいて、量子強化手法を用いた場合、因子分解の残差フロベニウスノルムは古典的手法と比較して少なくとも1桁以上小さくなった。
• 本手法は、[0,1]の要素と行の総和が1に等しい実数W行列を、1要素あたり10個のバイナリ変数と0.001解像度を用いて正しく符号化できた。
• QUBO問題構築により完全に接続されたグラフが得られ、有効な論理キュービットの使用は約60に制限され、1回の実行における変数数に制限が生じた。
• 結果として、D-Wave 20000Qは二値以外の実数値最適化問題を、特に適応的リバースアニーリングを組み合わせることで、二値変数応用を超えて効果的に解けることが示された。