[論文レビュー] Study of Feature Importance for Quantum Machine Learning Models

Aaron K. Baughman, Kavitha Yogaraj+4 more|arXiv (Cornell University)|Feb 18, 2022

Quantum Computing Algorithms and Architecture被引用数 5

ひとこと要約

この論文は、量子機械学習（QML）モデルにおける特徴量重要度の最初の体系的分析を提示しており、ESPNファンタジー・フットボールデータを用いて、量子サポートベクタークラスファイアー（QSVC）と変分量子回路（VQC）を、それらの古典的同等物と比較している。QiskitシミュレータおよびIBMの量子ハードウェアを用いた研究により、QMLモデルにおける特徴量重要度の大きさに顕著な変動が生じることが明らかになった。これは、多様性指標を用いることで、古典的モデルと補完的であることが示された。

ABSTRACT

Predictor importance is a crucial part of data preprocessing pipelines in classical and quantum machine learning (QML). This work presents the first study of its kind in which feature importance for QML models has been explored and contrasted against their classical machine learning (CML) equivalents. We developed a hybrid quantum-classical architecture where QML models are trained and feature importance values are calculated from classical algorithms on a real-world dataset. This architecture has been implemented on ESPN Fantasy Football data using Qiskit statevector simulators and IBM quantum hardware such as the IBMQ Mumbai and IBMQ Montreal systems. Even though we are in the Noisy Intermediate-Scale Quantum (NISQ) era, the physical quantum computing results are promising. To facilitate current quantum scale, we created a data tiering, model aggregation, and novel validation methods. Notably, the feature importance magnitudes from the quantum models had a much higher variation when contrasted to classical models. We can show that equivalent QML and CML models are complementary through diversity measurements. The diversity between QML and CML demonstrates that both approaches can contribute to a solution in different ways. Within this paper we focus on Quantum Support Vector Classifiers (QSVC), Variational Quantum Circuit (VQC), and their classical counterparts. The ESPN and IBM fantasy football Trade Assistant combines advanced statistical analysis with the natural language processing of Watson Discovery to serve up personalized trade recommendations that are fair. Here, player valuation data of each player has been considered and this work can be extended to calculate the feature importance of other QML models such as Quantum Boltzmann machines.

研究の動機と目的

• 量子機械学習（QML）モデルと古典的機械学習（CML）モデルにおける特徴量重要度を調査・比較すること。
• 量子シミュレータおよび物理的量子ハードウェアを用いて、現実世界のデータにおけるQMLモデルの性能と信頼性を評価すること。
• 現在のNISQ時代の量子システムに適した、新しいデータティアリング、モデル集約、検証手法を開発・適用すること。
• QMLとCMLの特徴量重要度の多様性を定量化し、モデル解釈における補完的役割を評価すること。
• 量子ボルツマンマシンなどの他のQMLモデルへのフレームワークの拡張を可能とすること。

提案手法

• ハイブリッド量子古典アーキテクチャを実装し、ESPNファンタジー・フットボールの選手評価データを用いてQMLモデル（QSVCおよびVQC）を訓練した。
• 解釈可能性を可能にするために、訓練済みの量子モデルに対して古典的後処理アルゴリズムを用いて特徴量重要度を計算した。
• 量子回路はQiskitの状態ベクトルシミュレータおよび物理的IBMQハードウェア（IBMQ MumbaiおよびIBMQ Montreal）で実行した。
• 量子リソース制限を管理し、モデルのスケーラビリティを向上させるために、データティアリング戦略を適用した。
• ノイズの多い量子デバイスにおける結果の信頼性と一般化を向上させるために、モデル集約および新しい検証手法を導入した。
• QMLとCMLモデル間の特徴量重要度分布の比較に多様性指標を用い、それらの補完的性質を評価した。

実験結果

リサーチクエスチョン

• RQ1 QMLモデルにおける特徴量重要度の大きさと分布は、古典的機械学習モデルと比べてどのように異なるか？
• RQ2 QMLモデルは、古典的モデルと比べて、特徴量重要度に顕著に高いばらつきを示すか？
• RQ3 特徴量重要度の多様性に基づいて、QMLモデルとCMLモデルは補完的と見なせるか？
• RQ4 現在のNISQ時代の量子ハードウェアで実行された量子モデルは、現実世界のデータに対してどのように性能を発揮するか？
• RQ5 現在の量子コンピューティングシステムにおいて、信頼性のある特徴量重要度分析を可能にするために、どのような手法的適応が必要か？

主な発見

• QMLモデルにおける特徴量重要度の大きさは、古典的モデルと比べて顕著に高いばらつきを示しており、入力特徴量に対してより感受性が高いことを示している。
• IBMQハードウェアで訓練された量子モデルはノイズがあるにもかかわらず信頼性のある結果を生み出し、NISQ時代における実現可能性を示している。
• QMLとCMLの特徴量重要度分布の多様性が定量的に測定され、両モデルタイプがモデル解釈において独自に貢献していることが確認された。
• ハイブリッド量子古典フレームワークにより、現在の量子ハードウェアの制限がある中でも、効果的な特徴量重要度計算が可能になった。
• 本研究は、量子ボルツマンマシンなどの他のQMLモデルへの特徴量重要度分析の拡張の基盤を確立した。
• モデル集約およびデータティアリング手法により、現実世界のデータセットにおけるQML特徴量重要度評価のロバスト性とスケーラビリティが向上した。