[논문 리뷰] Feature Importance and Explainability in Quantum Machine Learning

Luke Power, Krishnendu Guha|arXiv (Cornell University)|2024. 05. 14.

Machine Learning in Materials ScienceMaterials Science인용 수 3

한 줄 요약

이 논문은 Qiskit를 사용하여 아이ris 데이터셋에서 고전적 기계학습 모델(SVM, 랜덤 포레스트)과 양자 기계학습 모델(VQC, QSVC) 간의 특성 중요도 및 해석 가능성 방법(LOO, 순열 중요도, ALE, SHAP)을 종합적으로 비교한다. 양자 기계학습 모델은 특히 VQC에서 꽃잎 너비에 매우 민감한 특성 의존 패턴을 보이며, 해석 가능성 기법은 QML로 이식 가능하지만 향후 확장성과 신뢰성 향상을 위해 양자 특화 방법이 필요할 수 있음을 시사한다.

ABSTRACT

Many Machine Learning (ML) models are referred to as black box models, providing no real insights into why a prediction is made. Feature importance and explainability are important for increasing transparency and trust in ML models, particularly in settings such as healthcare and finance. With quantum computing's unique capabilities, such as leveraging quantum mechanical phenomena like superposition, which can be combined with ML techniques to create the field of Quantum Machine Learning (QML), and such techniques may be applied to QML models. This article explores feature importance and explainability insights in QML compared to Classical ML models. Utilizing the widely recognized Iris dataset, classical ML algorithms such as SVM and Random Forests, are compared against hybrid quantum counterparts, implemented via IBM's Qiskit platform: the Variational Quantum Classifier (VQC) and Quantum Support Vector Classifier (QSVC). This article aims to provide a comparison of the insights generated in ML by employing permutation and leave one out feature importance methods, alongside ALE (Accumulated Local Effects) and SHAP (SHapley Additive exPlanations) explainers.

연구 동기 및 목표

• 양자 기계학습(QML) 모델에 대해 특성 중요도 및 해석 가능성 기법이 고전적 기계학습 모델과 어떻게 적용되는지 조사하기.
• 특성 중요도 및 모델 내성 면에서 QML 모델이 고전적 모델과 다른 특성 의존 패턴을 보이는지 평가하기.
• SHAP, ALE, 순열 중요도와 같은 고전적 해석 기법이 QML 모델에 효과적으로 적용 가능한지 평가하기.
• 현재 해석 도구가 양자 모델에 적용될 때의 한계를 파악하고, 양자 기반 해석 기법 개발의 필요성을 강조하기.
• 기존 기법이 하드웨어 및 스케일 제약에도 불구하고 QML에 적응 가능하다는 것을 입증함으로써 설명 가능한 양자 기계학습(XQAI)의 기초를 마련하기.

제안 방법

• IBM의 Qiskit 플랫폼을 사용하여 아이리스 데이터셋에 고전적 기계학습 모델(SVM, 랜덤 포레스트)과 하이브리드 양자 모델(VQC, QSVC)을 구현하였다.
• 각 특성을 체계적으로 제거하고 모델 정확도 변화를 측정함으로써 이탈한 특성의 중요도(LOO)를 적용하였다.
• 특성 값의 순서를 뒤섞어 성능 저하를 관찰함으로써 특성 영향력을 평가하기 위해 순열 중요도를 사용하였다.
• 누적 국소 효과(ACCUMULATED LOCAL EFFECTS, ALE)를 적용하여 특성 변화가 모델 예측에 어떻게 영향을 주는지 시각화하였으며, VQC의 구현 제약로 인해 일부 제한이 있었다.
• SHAP(SHapley Additive exPlanations)를 적용하여 고전적 및 양자 모델 모두에서 개별 예측을 해석하고 특성 기여도를 정량화하였다.
• 모델 간 결과를 비교하여 특성 우선순위, 민감도 및 결정 경계의 차이를 파악하였다.

실험 결과

연구 질문

• RQ1 LOO, 순열 중요도, ALE와 같은 다양한 특성 중요도 기법이 QML 모델과 고전적 기계학습 모델 간의 핵심 특성을 식별하는 데 얼마나 효과적인가?
• RQ2 동일한 데이터셋에서 고전적 모델(SVM, 랜덤 포레스트)과 양자 모델(VQC, QSVC) 간의 특성 의존 패턴에 어떤 차이가 발생하는가?
• RQ3 SHAP 및 ALE와 같은 고전적 해석 기법이 양자 기계학습 모델에 얼마나 효과적으로 적용될 수 있는가?
• RQ4 해석 기법은 특히 버지니카와 버지니카를 구분하는 데 어려운 점을 고려할 때, QML 모델의 의사결정 과정에 대해 어떤 통찰을 제공하는가?
• RQ5 고전적 해석 도구를 QML에 적용할 때의 한계는 무엇이며, 이는 양자 기반 해석 기법 개발에 어떤 영향을 미치는가?

주요 결과

• VQC 모델은 꽃잎 너비를 제거할 경우 정확도가 크게 떨어져 이 특성에 매우 민감한 강한 의존성을 보이며, 고전적 모델과는 다름을 나타낸다.
• 고전적 모델(SVM 및 랜덤 포레스트)은 꽃잎 특성을 제거할 경우 정확도가 증가하여 여분성 또는 과적합의 징후를 보였지만, QML 모델은 더 일관된 특성 의존성을 보였다.
• 순열 중요도 분석은 고전적 모델에서 꽃잎 특성의 우세함을 확인했으며, QSVC에서는 고전적 모델과 비교해 세파 특성의 영향이 미세하게 다름을 드러냈다.
• ALE 분석 결과 QSVC는 고전적 모델의 경향을 따르지만 특성 변화에 더 민감했으며, ALE 플롯에 평탄한 선이 없어 모든 특성 값에서 강한 영향을 받는 것으로 나타났다.
• SHAP 분석은 QSVC가 도전적인 테스트 인스턴스(점 4)를 정확히 버지니카로 분류한 반면, 다른 모델들은 실패했음을 보여주어 그 우수한 국소 해석 가능성과 특성 상호작용 모델링 능력을 입증했다.
• VQC 모델은 구현 제약으로 인해 ALE 분석이 불가능하여 특정 QML 아키텍처에 일부 해석 기법을 적용할 때의 기술적 한계를 확인할 수 있었다.