[論文レビュー] Quantum algorithms for ridge regression

Chao‐Hua Yu, Fei Gao+1 more|arXiv (Cornell University)|Jul 29, 2017

Quantum Computing Algorithms and Architecture被引用数 6

ひとこと要約

この論文は、並列ハミルトニアンシミュレーションを用いて量子K-fold交差検証を実行する量子アルゴリズムを提示し、正則化ハイパーパrameterを効率的に特定することで、リッジ回帰に指数的高速化を達成する。低ランクで良好に条件付けられた設計行列に対して、古典的手法と比較して指数的高速化を達成する。最適な回帰パラメータを符号化する量子状態を準備することで、高速な予測が可能になる。

ABSTRACT

Ridge regression (RR), also called regularized linear regression, is an important machine learning technique which introduces a regularization hyperparameter to ordinary multiple linear regression for analyzing data suffering from multicollinearity. Here we provide an efficient quantum algorithm for RR. Specifically, by giving the technique of parallel Hamiltonian simulation that can simulate a number of Hermitian matrices in parallel, we develop a quantum version of $K$-fold cross-validation approach that can efficiently estimate the predictive performance of RR. Our algorithm involves two phases: (1) we first use the quantum $K$-fold cross-validation to efficiently determine an approximately optimal regularization hyperparameter for RR with which RR can achieve very good predictive performance, and (2) then generate a quantum state encoding the optimal fitting parameters of RR with such hyperparameter, which can be further utilized to predict new data. Our algorithm can handle nonsparse data matrices, and is exponentially faster than the classical algorithm for (low-rank) design matrices with relatively small elements and low condition numbers.

研究の動機と目的

• リッジ回帰の最適な正則化ハイパーパrameterを、量子計算を用いて効率的に特定する量子アルゴリズムの開発。
• ハイパーパrameter選択後に最適な回帰パラメータを符号化する量子状態を準備することで、高速な予測を可能にする。
• スパースでないデータ行列を処理可能とすることで、量子機械学習をより広いクラスの回帰問題に拡張する。
• 低ランクで良好に条件付けられた設計行列に対して、古典的手法のリッジ回帰アルゴリズムよりも指数的高速化を達成する。

提案手法

• アルゴリズムは、複数のエルミート行列を同時にシミュレートできる並列ハミルトニアンシミュレーションを採用し、効率的な量子K-fold交差検証を実現する。
• 量子アモニチュード推定を用いて、交差検証プロセスにおける異なるfoldごとの予測性能を推定する。
• 交差検証誤差を最小化する正則化ハイパーパrameterを選択することで、最適な予測性能を保証する。
• ハイパーパrameter選択後、量子線形方程式系ソルバーを用いて最適なリッジ回帰係数を符号化する量子状態を準備する。
• スパースでないデータ行列に対しても動作可能であるように設計されており、スパースまたは構造的データに限定されない応用範囲を拡大する。
• 特に条件数と行列要素が小さい場合に顕著な量子高速化を実現する行列逆行列計算および固有値推定の利点を活用する。

実験結果

リサーチクエスチョン

• RQ1 量子アルゴリズムは、リッジ回帰の最適な正則化ハイパーパrameterの選択において、指数的高速化を達成できるか？
• RQ2 並列ハミルトニアンシミュレーションを用いて、効率的な量子K-fold交差検証をどのように実装できるか？
• RQ3 提案された量子リッジ回帰アルゴリズムは、低ランクで良好に条件付けられた行列に対して、古典的手法に比べてどの程度の性能向上を達成するか？
• RQ4 量子アルゴリズムは、効率性を損なわずにスパースでないデータ行列を処理できるか？

主な発見

• 低ランクで条件数が小さく、相対的に小さな行列要素を持つ設計行列に対して、この量子アルゴリズムは古典的手法のリッジ回帰よりも指数的高速化を達成する。
• 並列ハミルトニアンシミュレーションの使用により、効率的な量子K-fold交差検証が可能となり、最適ハイパーパrameterの推定に要する時間が顕著に短縮される。
• アルゴリズムは、最適なリッジ回帰係数を符号化する量子状態を効果的に準備でき、高速な量子予測に利用可能である。
• この手法はスパースでないデータ行列にも適用可能であり、量子機械学習技術をスパースまたは構造的データに限定されない範囲に拡張する。