[論文レビュー] Developing Quantum Annealer Driven Data Discovery

Joseph Dulny, Michael Kim|arXiv (Cornell University)|Mar 25, 2016

EEG and Brain-Computer Interfaces参考文献 4被引用数 4

ひとこと要約

本稿では、量子アニーリング向けに設計されたQBoostを改善した、リサンプリングと予測確率のアンサンブルを組み合わせた拡張手法であるResampled QBoost (RQBoost) を提案する。理論的には有望であるが、初期の商業用量子アニーリング機器を用いた実験では、自然言語処理およびてんかん発作予測タスクにおいて、RQBoostとQBoostは従来の機械学習手法に劣ることが判明し、量子アニーリングにおける現在のハードウェア制限とアルゴリズム的制約が顕在化している。

ABSTRACT

Machine learning applications are limited by computational power. In this paper, we gain novel insights into the application of quantum annealing (QA) to machine learning (ML) through experiments in natural language processing (NLP), seizure prediction, and linear separability testing. These experiments are performed on QA simulators and early-stage commercial QA hardware and compared to an unprecedented number of traditional ML techniques. We extend QBoost, an early implementation of a binary classifier that utilizes a quantum annealer, via resampling and ensembling of predicted probabilities to produce a more robust class estimator. To determine the strengths and weaknesses of this approach, resampled QBoost (RQBoost) is tested across several datasets and compared to QBoost and traditional ML. We show and explain how QBoost in combination with a commercial QA device are unable to perfectly separate binary class data which is linearly separable via logistic regression with shrinkage. We further explore the performance of RQBoost in the space of NLP and seizure prediction and find QA-enabled ML using QBoost and RQBoost is outperformed by traditional techniques. Additionally, we provide a detailed discussion of algorithmic constraints and trade-offs imposed by the use of this QA hardware. Through these experiments, we provide unique insights into the state of quantum ML via boosting and the use of quantum annealing hardware that are valuable to institutions interested in applying QA to problems in ML and beyond.

研究の動機と目的

• 量子アニーリングを用いた機械学習の実現可能性と性能を、QBoostおよびその拡張版であるRQBoostを用いて調査すること。
• 量子アニーリングのハードウェア制約が、実世界の機械学習応用におけるブースティングベースの分類器の性能に与える影響を評価すること。
• 自然言語処理およびてんかん発作予測を含む多様なデータセットにおいて、量子アニーリングベースのモデル（QBoost、RQBoost）と従来の機械学習手法を比較すること。
• 二値分類問題を解く際、量子アニーリングの有効性を阻害するアルゴリズム的およびハードウェア的制限を特定すること。
• 現在の量子アニーリングシステムにおけるトレードオフを分析することで、将来の目的特化型量子機械学習アルゴリズムの開発を支援すること。

提案手法

• 予測確率のリサンプリングとアンサンブルを適用することで、より頑健な分類推定器を生成するようQBoostを拡張する。
• 二値分類問題を量子アニーリングハードウェアにマッピングするために、QUBO（二次無制約バイナリ最適化）定式化を用いる。
• 現在のハードウェアのキュービット接続性およびサイズ制限を超える完全接続QUBO問題を扱うために、貪欲な近似法を適用する。
• 実数値特徴を量子アニーリングと互換性のあるバイナリ入力に変換するため、単純なモデルによるしきい値処理などの特徴バイナリ化技術を採用する。
• 量子ベースの予測と古典的モデルを組み合わせたアンサンブル戦略を実装し、全体の分類性能を向上させる。
• 量子アニーリングシミュレータおよび初期の商業用D-Waveハードウェア（476個の機能的キュービット）を用いた制御実験を実施し、性能をベンチマークする。

実験結果

リサーチクエスチョン

• RQ1 量子アニーリングハードウェア上で実行された場合、RQBoostは自然言語処理およびてんかん発作予測タスクにおいて、従来の機械学習手法を上回ることができるか？
• RQ2 なぜQBoostおよびRQBoostは、リッジ正則化付きロジスティック回帰が完全に分離可能なデータセットにおいても、完全な線形分離を達成できないのか？
• RQ3 キュービット接続性、キュービット数、アニーリングパラメータなどのハードウェア制約が、量子アニーリング駆動の機械学習モデルの性能にどのように影響するのか？
• RQ4 現在の世代の量子アニーリング機器向けに、量子機械学習パイプラインを設計する際の主なアルゴリズム的トレードオフは何か？
• RQ5 古典的モデルと組み合わせた場合、量子アニーリングはどれほどアンサンブル学習の性能を向上させることができるか？

主な発見

• RQBoostおよびQBoostは、リッジ正則化付きロジスティック回帰で完全に分離可能な線形分離可能なデータセットに対しても、完全な線形分離を達成できないことが判明し、現在の量子アニーリングハードウェアに根本的な制限があることが示された。
• リサンプリングとアンサンブルによる強化にもかかわらず、初期の商業用量子アニーリング機器にデプロイされた場合、RQBoostは自然言語処理およびてんかん発作予測タスクの両方で、従来の機械学習手法に劣ることが確認された。
• ハードウェアのキュービット接続性と機能的キュービット数（512個中476個）の制限により、直接解けるQUBO問題のサイズと複雑さが制限され、近似処理を伴うため性能が低下する。
• ブースティングアルゴリズムで一般的な完全接続QUBO問題は、追加のマッピングステップを要するため、同時に最適化可能な有効変数数が減少する。
• 特徴数が利用可能なQUBO変数数を上回る場合、RQBoostの性能は初期の特徴空間の分割に敏感であり、高次元設定での不安定性を示している。
• RQBoostは個々のモデルとしては強くないが、古典的および量子モデルの大きなアンサンブルの一部として用いることで、独自の予測パターンにより価値を提供する可能性がある。