[論文レビュー] Feature Importance and Explainability in Quantum Machine Learning

Luke Power, Krishnendu Guha|arXiv (Cornell University)|May 14, 2024

Machine Learning in Materials ScienceMaterials Science被引用数 3

ひとこと要約

本論文は、Qiskitを用いてアイrisデータセット上で古典的機械学習モデル（SVM、ランダムフォレスト）と量子機械学習モデル（VQC、QSVC）の間で、特徴量重要度および解釈可能性手法（LOO、パーミュテーション重要度、ALE、SHAP）を包括的に比較する。量子機械学習モデルでは、特にVQCにおいてがくびつがくに高い感受性を示す特徴量依存パターンが見られる一方で、解釈可能性手法は量子機械学習へも適用可能であるが、将来のスケーラビリティと信頼性の観点から、量子固有の手法の開発が求められることが示された。

ABSTRACT

Many Machine Learning (ML) models are referred to as black box models, providing no real insights into why a prediction is made. Feature importance and explainability are important for increasing transparency and trust in ML models, particularly in settings such as healthcare and finance. With quantum computing's unique capabilities, such as leveraging quantum mechanical phenomena like superposition, which can be combined with ML techniques to create the field of Quantum Machine Learning (QML), and such techniques may be applied to QML models. This article explores feature importance and explainability insights in QML compared to Classical ML models. Utilizing the widely recognized Iris dataset, classical ML algorithms such as SVM and Random Forests, are compared against hybrid quantum counterparts, implemented via IBM's Qiskit platform: the Variational Quantum Classifier (VQC) and Quantum Support Vector Classifier (QSVC). This article aims to provide a comparison of the insights generated in ML by employing permutation and leave one out feature importance methods, alongside ALE (Accumulated Local Effects) and SHAP (SHapley Additive exPlanations) explainers.

研究の動機と目的

• 量子機械学習（QML）モデルにおける特徴量重要度および解釈可能性手法が、古典的機械学習モデルと比較してどのように適用されるかを調査すること。
• QMLモデルが古典的モデルと異なった特徴量依存パターンを示すかどうか、特に特徴量の関連性とモデルの頑健性の観点から評価すること。
• SHAP、ALE、パーミュテーション重要度といった古典的手法が、QMLモデルに効果的に適用可能かどうかを評価すること。
• 現在の解釈可能性ツールを量子モデルに適用する際の制限を特定し、量子ネイティブな解釈可能性手法の開発の必要性を強調すること。
• ハードウェアおよびスケールの制約がある中でも、既存の手法がQMLに適応可能であることを示し、解釈可能な量子機械学習（XQAI）の基盤を築くこと。

提案手法

• IBMのQiskitプラットフォームを用いて、アイrisデータセット上に古典的機械学習モデル（SVM、ランダムフォレスト）とハイブリッド量子モデル（VQC、QSVC）を実装した。
• 各特徴量を順次除外することで、モデルの精度変化を測定する手法により、leave-one-out（LOO）特徴量重要度を適用した。
• 特徴量の値をシャッフルして性能低下を観察することで、パーミュテーション重要度を用いて特徴量の影響を評価した。
• 蓄積された局所効果（ALE）を用いて、特徴量の変化がモデル予測にどのように影響するかを可視化したが、VQCの実装制約により制限が生じた。
• SHAP（SHapley Additive exPlanations）を用いて、古典的および量子モデルの両方で個々の予測を解釈し、特徴量の寄与度を定量化した。
• モデル間の結果を比較することで、特徴量の優先順位、感受性、意思決定境界の違いを特定した。

実験結果

リサーチクエスチョン

• RQ1 LOO、パーミュテーション、ALEといった異なる特徴量重要度手法は、QMLモデルと古典的機械学習モデルの両方において、主要な特徴量を特定する能力でどのように異なるか？
• RQ2 同じデータセット上で、古典的モデル（SVM、ランダムフォレスト）と量子モデル（VQC、QSVC）の間で、どのような特徴量依存パターンの違いが生じるか？
• RQ3 SHAP や ALE といった古典的手法が、量子機械学習モデルにどの程度効果的に適用可能か？
• RQ4 解釈可能性手法は、特にバーディカルとバージニカを区別する際のQMLモデルの意思決定プロセスについて、どのような知見を明らかにするか？
• RQ5 古典的手法をQMLに適用する際の制限とは何か。これにより、量子ネイティブな解釈可能性手法の開発にどのような影響があるか？

主な発見

• VQCモデルはがくびつがくの削除に対して極めて感受性を示し、顕著な精度低下を示した。これは、この特徴量に強い依存性があることを示しており、古典的モデルとは対照的であった。
• 古典的モデル（SVMおよびランダムフォレスト）はがく特徴量を削除すると精度が向上した。これは、冗長性や過学習の兆候を示しており、QMLモデルとは対照的に、より一貫した特徴量依存性を示した。
• パーミュテーション重要度は、古典的モデルにおけるがく特徴量の優位性を確認した一方で、QSVCではがくの特徴量への影響に、古典的モデルとはわずかに異なる傾向が見られた。
• ALE解析では、QSVCが古典的モデルの傾向を踏襲していたが、特徴量変更に対する感受性が高く、ALEプロットに平坦な線が見られず、全範囲で強い特徴量の影響が確認された。
• SHAP解析により、QSVCは挑戦的なテストインスタンス（点4）を正しくバージニカと分類したのに対し、他のモデルは失敗した。これは、QSVCが局所的な解釈可能性および特徴量相互作用のモデリングにおいて優れた性能を示していることを示している。
• VQCモデルは実装上の制約によりALE解析が不可能であった。これは、特定のQMLアーキテクチャに特定の解釈可能性手法を適用する際の技術的制限を強調している。