[論文レビュー] The Inductive Bias of Quantum Kernels

Jonas M. Kübler, Simon Buchholz+1 more|arXiv (Cornell University)|Jun 7, 2021

Quantum Computing Algorithms and Architecture参考文献 44被引用数 6

ひとこと要約

本稿は、量子カーネル手法の帰納的バイアスを調査し、量子機械学習における量子優位性が、古典的にシミュレートできない問題固有の知識を量子カーネルが符号化する場合にのみ現れることを示している。著者らは、計算が困難な関数を含む低次元の再生核ヒルベルト空間（RKHS）が量子優位性を可能にするが、そのようなカーネルを推定するには指数的多数の測定が必要であり、実用的障壁となることを示している。

ABSTRACT

It has been hypothesized that quantum computers may lend themselves well to applications in machine learning. In the present work, we analyze function classes defined via quantum kernels. Quantum computers offer the possibility to efficiently compute inner products of exponentially large density operators that are classically hard to compute. However, having an exponentially large feature space renders the problem of generalization hard. Furthermore, being able to evaluate inner products in high dimensional spaces efficiently by itself does not guarantee a quantum advantage, as already classically tractable kernels can correspond to high- or infinite-dimensional reproducing kernel Hilbert spaces (RKHS). We analyze the spectral properties of quantum kernels and find that we can expect an advantage if their RKHS is low dimensional and contains functions that are hard to compute classically. If the target function is known to lie in this class, this implies a quantum advantage, as the quantum computer can encode this inductive bias, whereas there is no classically efficient way to constrain the function class in the same way. However, we show that finding suitable quantum kernels is not easy because the kernel evaluation might require exponentially many measurements. In conclusion, our message is a somewhat sobering one: we conjecture that quantum machine learning models can offer speed-ups only if we manage to encode knowledge about the problem at hand into quantum circuits, while encoding the same bias into a classical model would be hard. These situations may plausibly occur when learning on data generated by a quantum process, however, they appear to be harder to come by for classical datasets.

研究の動機と目的

• 量子カーネル手法が古典的モデルを上回る計算的優位性を示す条件を理解すること。
• 再帰的カーネルヒルベルト空間（RKHS）のスペクトル解析を用いて、量子カーネルの帰納的バイアスを形式化すること。
• 高次元の特徴空間の課題を踏まえて、量子カーネルが一般化をうまく行う条件を特定すること。
• 量子カーネル手法における表現力と一般化性能のトレードオフを調査すること。
• 量子優位性が古典的データセットに対して実現可能かどうか、あるいは量子プロセスから生成されたデータに限るのかを明確にすること。

提案手法

• カーネル行列の固有値スペクトルに注目し、量子カーネルのスペクトル的性質を分析してその帰納的バイアスを特徴づける。
• 過剰に表現力の高い量子埋め込みは一般化性能を著しく低下させることを証明し、カーネル設計における理論的限界を確立する（定理1）。
• 量子カーネルを低次元部分空間に射影する手法を提案し、古典的に実現が困難な帰納的バイアスを符号化する（定理2）。
• 合成データセット上でカーネル性能を評価する数値シミュレーションを実施し、完全な量子カーネル、RBFカーネル、バイアス付き量子カーネルを比較する。
• 正則化を用いたカーネルリッジ回帰を用いて一般化性能を評価し、最適な正則化パラメータを選び出すことで性能の上限を評価する。
• 完全な量子状態の時間発展をシミュレートして正確なカーネル値を計算し、理論的明確性を得るために測定ノイズを回避する。

実験結果

リサーチクエスチョン

• RQ1 量子カーネル手法が機械学習において古典的モデルを上回る条件は何か？
• RQ2 量子カーネルのスペクトル構造は一般化性能にどのように影響するか？
• RQ3 量子カーネルは、古典的に実現が困難な帰納的バイアスを符号化できるか？
• RQ4 バイアス付き量子カーネルを推定するコストは何か？また、系のサイズに伴い有利にスケーリングされるか？
• RQ5 機械学習における量子優位性は、古典的データセットに対して実現可能か、それとも量子プロセスから生成されたデータに限るのか？

主な発見

• 定理1により、量子ヒルベルト空間へのデータ埋め込みがあまりに表現力が高すぎると、量子カーネル手法は一般化に失敗することが示された。
• 量子優位性は、量子カーネルのRKHSが低次元であり、かつ古典的に計算が困難な関数を含む場合にのみ可能である。
• 量子カーネルのスペクトルバイアスは射影によって設計可能であり、古典的に再現が困難な帰納的バイアスを生成できる。
• このようなバイアス付き量子カーネルを推定するには指数的多数の測定が必要であり、これは量子ニューラルネットワークにおけるバーレンプレイトゥの類似する制限である。
• 実験により、完全な量子カーネルとRBFカーネルは最適正則化でも性能が著しく低く、一方で低次元のRKHSを持つバイアス付きカーネルは良好に一般化することが確認された。
• バイアス付きカーネルでは、キュービット数の増加に伴いカーネルターゲット整合性が向上し、学習性能の向上と相関した。