[論文レビュー] Sublinear quantum algorithms for training linear and kernel-based classifiers

Tongyang Li, Shouvanik Chakrabarti+1 more|arXiv (Cornell University)|Apr 4, 2019

Quantum Computing Algorithms and Architecture参考文献 40被引用数 27

ひとこと要約

本稿では、入力データに対して標準的なエントリ単位の量子アクセスを用い、古典的アルゴリズムと比較して2乗の高速化を達成する、線形およびカーネルベースの分類器の訓練のためのサブリニア量子アルゴリズムを提示する。ランタイムは $Õ(\sqrt{n} + \sqrt{d})$ であり、出力は要約された表現を持つ古典的出力として得られるため、ハイブリッド量子-古典的アプリケーションにおけるオーバーヘッドを最小限に抑える。

ABSTRACT

We investigate quantum algorithms for classification, a fundamental problem in machine learning, with provable guarantees. Given $n$ $d$-dimensional data points, the state-of-the-art (and optimal) classical algorithm for training classifiers with constant margin runs in $ ilde{O}(n+d)$ time. We design sublinear quantum algorithms for the same task running in $ ilde{O}(\sqrt{n} +\sqrt{d})$ time, a quadratic improvement in both $n$ and $d$. Moreover, our algorithms use the standard quantization of the classical input and generate the same classical output, suggesting minimal overheads when used as subroutines for end-to-end applications. We also demonstrate a tight lower bound (up to poly-log factors) and discuss the possibility of implementation on near-term quantum machines. As a side result, we also give sublinear quantum algorithms for approximating the equilibria of $n$-dimensional matrix zero-sum games with optimal complexity $ ildeΘ(\sqrt{n})$.

研究の動機と目的

• データサイズ $n$ と次元 $d$ に関して両方のサブリニア実行時間を持つ、線形およびカーネルベースの分類器の訓練のための量子アルゴリズムを設計すること。
• 量子アルゴリズムが標準的なエントリ単位の入力アクセスを用い、古典的出力を生成することで、エンドツーエンドのアプリケーションにおけるオーバーヘッドを最小限に抑えること。
• 上界と多項式対数的要因を除いて一致する、タイトな量子下界を確立すること。
• これらのアルゴリズムを近い未来の量子デバイスで実装可能かどうかを検討すること。

提案手法

• 分類の中心的な最大最小問題を解く際に2乗の高速化を達成するため、アモニチュード増幅およびアモニチュード推定技術を活用する。
• データエントリへのコherentな量子クエリアクセスを用い、インデックス $i \in [n]$ および $j \in [d]$ の重ね合わせを可能にすることで、計算を効率化する。
• 線形およびカーネルベースの分類を最大最小問題として定式化する：それぞれ $\max_{w \in \mathbb{B}_d} \min_{i \in [n]} X_i^\top w$ および $\max_{w \in \mathbb{B}_d} \min_{i \in [n]} \langle \Psi(X_i), w \rangle$ である。
• 最適な分類器 $\bar{w}$ を近似する量子サブルーチンを設計し、$\min_i X_i^\top \bar{w} \geq \max_w \min_i X_i^\top w - \epsilon$ を満たすようにする。
• 量子探索への還元を用いて量子下界を証明し、分類およびゼロサムゲーム問題を解くには $\Omega(\sqrt{n} + \sqrt{d})$ のクエリが必要であることを示す。
• 同じフレームワークを用いて、$n$次元行列のゼロサムゲームにおける均衡の近似に応用し、$\tilde{\Theta}(\sqrt{n})$ の複雑さを達成する。

実験結果

リサーチクエスチョン

• RQ1 標準的な入力モデル下で、線形分類器の訓練にサブリニア実行時間を持つ量子アルゴリズムを実現できるか？
• RQ2 定数マージンを持つカーネルベースの分類器を近似する際の最適な量子複雑さは何か？
• RQ3 提案されたアルゴリズムの最適性を確認するために、量子高速化がタイトな下界と一致するか？
• RQ4 誤差パラメータ $\epsilon$ に対する依存性は、量子設定において古典的アルゴリズムと比較してどのようにスケーリングされるか？
• RQ5 分類およびゼロサムゲームを超えた他の均衡問題へ、このフレームワークを拡張可能か？

主な発見

• 本稿では、線形およびカーネルベースの分類のための量子アルゴリズムを提示し、ランタイムが $\tilde{O}(\sqrt{n} + \sqrt{d})$ であり、古典的アルゴリズムの $\tilde{O}(n + d)$ と比較して2乗の高速化を達成する。
• 上界と多項式対数的要因を除いて一致する $\Omega(\sqrt{n} + \sqrt{d})$ の量子クエリ下界が証明されたため、アルゴリズムは多項式対数的要因を除いて最適である。
• ゼロサムゲームでは、$\tilde{O}(\sqrt{n}/\epsilon^4)$ の複雑さを達成し、$\Omega(\sqrt{n})$ の下界と一致する。
• 量子アルゴリズムは標準的なエントリ単位の入力アクセスを用い、効率的な表現を持つ古典的出力を生成するため、ハイブリッドアプリケーションにおけるオーバーヘッドを最小限に抑える。
• $\epsilon$ に対する依存性は、量子アルゴリズムの方が古典的アルゴリズム（$\epsilon^{-2}$ 対 $\epsilon^{-8}$）より悪いことが示され、高精度タスクではトレードオフが生じる可能性がある。
• このフレームワークは、ゲーム理論における均衡計算を含む、他の最大最小問題へ一般化可能であり、$n$次元ゼロサムゲームに対して $\tilde{\Theta}(\sqrt{n})$ のタイトな複雑さを達成する。