[논문 리뷰] Study of Feature Importance for Quantum Machine Learning Models

Aaron K. Baughman, Kavitha Yogaraj외 4명|arXiv (Cornell University)|2022. 02. 18.

Quantum Computing Algorithms and Architecture인용 수 5

한 줄 요약

이 논문은 양자 기계학습(QML) 모델에서의 특성 중요도에 대한 체계적인 연구를 처음으로 제시하며, ESPN 프리미엄 풋볼 데이터를 사용하여 양자 서포트 벡터 분류기(QSVC)와 변량 양자 회로(VQC)를 그들의 고전적 대응 모델과 비교한다. Qiskit 시뮬레이터와 IBM 양자 하드웨어를 사용한 연구는 QML 모델에서 특성 중요도 크기의 변동성이 상당히 높음을 드러내며, 다양성 지표를 통해 고전적 모델과의 상호보완성을 입증한다.

ABSTRACT

Predictor importance is a crucial part of data preprocessing pipelines in classical and quantum machine learning (QML). This work presents the first study of its kind in which feature importance for QML models has been explored and contrasted against their classical machine learning (CML) equivalents. We developed a hybrid quantum-classical architecture where QML models are trained and feature importance values are calculated from classical algorithms on a real-world dataset. This architecture has been implemented on ESPN Fantasy Football data using Qiskit statevector simulators and IBM quantum hardware such as the IBMQ Mumbai and IBMQ Montreal systems. Even though we are in the Noisy Intermediate-Scale Quantum (NISQ) era, the physical quantum computing results are promising. To facilitate current quantum scale, we created a data tiering, model aggregation, and novel validation methods. Notably, the feature importance magnitudes from the quantum models had a much higher variation when contrasted to classical models. We can show that equivalent QML and CML models are complementary through diversity measurements. The diversity between QML and CML demonstrates that both approaches can contribute to a solution in different ways. Within this paper we focus on Quantum Support Vector Classifiers (QSVC), Variational Quantum Circuit (VQC), and their classical counterparts. The ESPN and IBM fantasy football Trade Assistant combines advanced statistical analysis with the natural language processing of Watson Discovery to serve up personalized trade recommendations that are fair. Here, player valuation data of each player has been considered and this work can be extended to calculate the feature importance of other QML models such as Quantum Boltzmann machines.

연구 동기 및 목표

• 양자 기계학습(QML) 모델과 고전적 기계학습(CML) 모델 간의 특성 중요도를 조사하고 비교하는 것.
• 양자 시뮬레이터와 실제 양자 하드웨어를 모두 사용하여 실제 세계 데이터에서 QML 모델의 성능과 신뢰성을 평가하는 것.
• 현재 NISQ 시대의 양자 시스템에 적합한 새로운 데이터 티어링, 모델 집계 및 검증 기법을 개발하고 적용하는 것.
• QML과 CML의 특성 중요도 간의 다양성을 정량화하여 이들이 모델 해석에서 상호보완적인 역할을 하는지 평가하는 것.
• 향후 양자 볼츠만 기계와 같은 다른 QML 모델에 대한 탐색을 지원할 수 있도록 프레임워크를 확장하는 것.

제안 방법

• 하이브리드 양자-고전 아키텍처를 구현하여, QML 모델(QSVC 및 VQC)을 ESPN 프리미엄 풋볼 선수 평가 데이터에 대해 훈련시켰다.
• 해석 가능성 확보를 위해 훈련된 양자 모델에 대한 고전적 후처리 알고리즘을 사용해 특성 중요도를 계산했다.
• 양자 회로는 Qiskit 상태벡터 시뮬레이터와 실제 IBMQ 하드웨어(IBMQ Mumbai 및 IBMQ Montreal 포함)에서 실행되었다.
• 양자 자원 제약를 관리하고 모델 확장성을 향상시키기 위해 데이터 티어링 전략을 적용했다.
• 노이즈가 있는 양자 장치에서 결과의 신뢰성과 일반화 능력을 향상시키기 위해 모델 집계 및 새로운 검증 방법을 도입했다.
• QML과 CML 모델 간의 특성 중요도 분포를 비교하기 위해 다양성 지표를 사용했다.

실험 결과

연구 질문

• RQ1 QML 모델에서 특성 중요도의 크기와 분포는 고전적 기계학습 모델과 비교해 어떻게 다른가?
• RQ2 QML 모델는 고전적 모델에 비해 특성 중요도에서 더 높은 변동성을 보이는가?
• RQ3 특성 중요도의 다양성에 기반해 QML과 CML 모델는 서로 상호보완적인가?
• RQ4 현재 NISQ 시대의 양자 하드웨어에서 실행될 때 QML 모델는 실제 세계 데이터에서 어떻게 성능을 발휘하는가?
• RQ5 현재 양자 계산 시스템에서 신뢰할 수 있는 특성 중요도 분석을 가능하게 하기 위해 어떤 방법론적 적응이 필요한가?

주요 결과

• QML 모델에서 특성 중요도 크기의 변동성이 고전적 모델에 비해 상당히 높게 나타나, 입력 특성에 더 민감함을 시사한다.
• IBMQ 하드웨어에서 훈련된 양자 모델는 노이즈가 있음에도 불구하고 신뢰할 수 있는 결과를 도출하여 NISQ 시대의 실현 가능성을 입증한다.
• QML과 CML의 특성 중요도 분포 간의 다양성이 정량적으로 측정되었으며, 두 모델 유형이 모델 해석에 고유하게 기여한다는 점을 확인한다.
• 하이브리드 양자-고전 아키텍처는 현재의 양자 하드웨어 제약 속에서도 효과적인 특성 중요도 계산을 가능하게 했다.
• 이 연구는 향후 양자 볼츠만 기계와 같은 다른 QML 모델에 대한 특성 중요도 분석의 기반을 마련한다.
• 모델 집계 및 데이터 티어링 기법은 실제 세계 데이터셋에서 QML 특성 중요도 평가의 강건성과 확장성을 향상시켰다.