[論文レビュー] Quantum Sparse Support Vector Machines

Tomasz Arodź, Seyran Saeedi|arXiv (Cornell University)|Feb 5, 2019

Quantum Computing Algorithms and Architecture参考文献 59被引用数 7

ひとこと要約

本稿では、計算複雑性を低減するための量子線形計画法ソルバーを活用してスパースな線形分類器を学習する量子スパースサポートベクターマシン（QSVM）を提案する。量子学習アルゴリズムの最悪ケースでは $Ω(m)$ の下界を示しているが、スパースモデルが高精度を達成する現実的な状況では、サブラインアーな学習時間の達成が可能であることを示している。

ABSTRACT

We analyze the computational complexity of Quantum Sparse Support Vector Machine, a linear classifier that minimizes the hinge loss and the $L_1$ norm of the feature weights vector and relies on a quantum linear programming solver instead of a classical solver. Sparse SVM leads to sparse models that use only a small fraction of the input features in making decisions, and is especially useful when the total number of features, $p$, approaches or exceeds the number of training samples, $m$. We prove a $\Omega(m)$ worst-case lower bound for computational complexity of any quantum training algorithm relying on black-box access to training samples; quantum sparse SVM has at least linear worst-case complexity. However, we prove that there are realistic scenarios in which a sparse linear classifier is expected to have high accuracy, and can be trained in sublinear time in terms of both the number of training samples and the number of features.

研究の動機と目的

• 量子線形計画法ソルバーを用いた量子スパースSVMの計算複雑性を分析すること。
• 現実的な設定において、量子アルゴリズムがスパースSVMのサブラインアーな学習時間を達成できるかどうかを特定すること。
• 訓練データへのブラックボックスアクセスを想定した場合の、量子学習複雑性の理論的下界を確立すること。
• スパース線形分類における量子優位性の可能性を、$p \gtrsim m$ の条件下で調査すること。

提案手法

• ヒンジ損失と特徴重みの $L_1$ ノルムを最小化するために、量子線形計画法ソルバーを用いる。
• スパース性を誘導するために、$L_1$ 正則化を用いた凸最適化問題としてスパースSVMを定式化する。
• 訓練サンプルへのブラックボックスアクセスを用いて複雑性を分析し、データアクセスを量子オракルとしてモデル化する。
• 任意の量子学習アルゴリズムがスパースSVMに対して最悪ケースで $Ω(m)$ の下界を導出する。
• スパースモデルが高精度を達成する現実的な状況を検討し、量子高速化が現れる可能性を考察する。
• 古典的および量子的学習複雑性を比較するために、複雑性理論的技術を用いる。

実験結果

リサーチクエスチョン

• RQ1 量子アルゴリズムは、$m$ および $p$ の両方に関してサブラインアー時間でスパースSVMを学習できるか？
• RQ2 ブラックボックスアクセスを想定した場合の、スパースSVMの量子学習の最悪ケース計算複雑性は何か？
• RQ3 どのような条件下でスパースSVMは高精度を達成し、同時に量子高速化を可能にするか？
• RQ4 $p \gtrsim m$ の場合に、スパース線形分類において明示的な量子優位性が存在するか？
• RQ5 $L_1$ 正則化付きヒンジ損失の定式化は、実際の量子最適化とどのように相互作用するか？

主な発見

• 本稿では、訓練サンプルへのブラックボックスアクセスに依存する任意の量子学習アルゴリズムに対して、最悪ケースの下界が $Ω(m)$ であることを確立している。
• 下界が存在するにもかかわらず、スパース線形分類器が高精度を達成する現実的な状況が存在する。
• このような有利な状況では、量子スパースSVMは $m$ および $p$ の両方に関してサブラインアー時間で学習可能である。
• $L_1$ 正則化によりモデルのスパarsityが保証され、$p \gtrsim m$ の場合に特に有効である。
• 量子線形計画法により、これらの条件下で効率的な最適化が可能となり、量子高速化が得られる可能性がある。
• 結果として、特定の現実的データ条件下では、スパース分類における量子優位性が理論的に可能であると示唆されている。