[논문 리뷰] eXplainable AI for Quantum Machine Learning

Patrick Steinmüller, Tobias Schulz외 2명|arXiv (Cornell University)|2022. 11. 02.

Explainable Artificial Intelligence (XAI)인용 수 9

한 줄 요약

이 논문은 양자 기계 학습에서 파arameterized 양자 회로(PQCs) 전용으로 설계된 새로운 설명 가능성 방법 qSHAP을 제안한다. PQCs의 푸리에 급수 구조를 활용함으로써, qSHAP은 표준 xAI 방법들인 통합 기울기와 비교해 SHAP 값 계산을 가속화하고 노이즈 민감도를 감소시켜, 특성 수에 대해 다항식 시간 복잡도를 달성하며 큐비트 수에 따라 지수적으로 증가하는 복잡도를 피한다.

ABSTRACT

Parametrized Quantum Circuits (PQCs) enable a novel method for machine learning (ML). However, from a computational point of view they present a challenge to existing eXplainable AI (xAI) methods. On the one hand, measurements on quantum circuits introduce probabilistic errors which impact the convergence of these methods. On the other hand, the phase space of a quantum circuit expands exponentially with the number of qubits, complicating efforts to execute xAI methods in polynomial time. In this paper we will discuss the performance of established xAI methods, such as Baseline SHAP and Integrated Gradients. Using the internal mechanics of PQCs we study ways to speed up their computation.

연구 동기 및 목표

• 확장된 위상 공간과 확률적 측정으로 인해 표준 xAI 방법을 노이즈가 많은 파arameterized 양자 회로(PQC)에 적용하는 데 어려움이 존재하는 문제를 해결한다.
• NISQ 시대의 양자 기계 학습 모델에서 설명 가능성의 계산 오버헤드를 감소시킨다.
• 큐비트 수가 아닌 특성 수에 대해 다항식적으로 스케일링되는 방법을 개발하여 더 큰 회로에 대한 효율성을 향상시킨다.
• 기존의 블랙박스 xAI 접근 방식에 비해 양자 노이즈가 설명 품질에 악영향을 미치는 것을 최소화한다.
• 유럽 연합 AI 법령과 같은 규정에서 요구하는 투명성 요구 사항을 충족시키기 위해 고위험 응용 분야에서 실용적인 PQC 기반 모델의 해석 가능성을 보장한다.

제안 방법

• PQC를 잘라낸 푸리에 급수로 간주하여 모델 출력을 주파수 성분으로 분해한다.
• 수렴 기준에 따라 결정되는 샘플 크기를 사용해 몬테 카를로 적분을 통해 양자 회로 샘플링을 통해 SHAP 값을 추정한다.
• 푸리에 단계를 적용해 활성 푸리에 모드를 식별함으로써 설명 계산을 위한 탐색 공간을 축소한다.
• 식별된 푸리에 모드에 기반해 다항식 시간 후처리 단계를 구현하여 SHAP 값을 계산한다.
• 푸리에 분해를 다항식 SHAP와 통합하여 효율적이고 근사적인 SHAP 값 계산을 가능하게 한다.
• 반복적인 양자 회로 평가에 대한 의존도를 최소화하여 NISQ 하드웨어에서의 런타임을 줄이도록 최적화한다.

실험 결과

연구 질문

• RQ1 확률적 측정과 지수적 위상 공간 등 PQCs의 고유한 과제를 고려할 때, 통합 기울기와 SHAP과 같은 기존 xAI 방법들을 어떻게 적응시킬 수 있는가?
• RQ2 PQC의 푸리에 급수 표현을 활용해 기존의 블랙박스 접근 방식보다 더 효율적이고 노이즈에 강건한 xAI 방법을 설계할 수 있는가?
• RQ3 PQC의 큐비트 수와 특성 수에 대해 xAI 방법의 스케일링 행동은 어떻게 되며, 이를 향상시킬 수 있는가?
• RQ4 NISQ 장치의 노이즈가 양자 기계 학습 모델에 대한 xAI 설명의 신뢰성과 수렴에 어떤 영향을 미치는가?
• RQ5 PQC의 구조를 활용해 지수적 스케일링을 피하는 다항식 시간 알고리즘을 통해 SHAP 값 계산을 유도할 수 있는가?

주요 결과

• qSHAP는 표준 xAI 방법의 지수적 스케일링을 큐비트 수에서 특성 수로 전환하여 더 큰 회로에서의 계산 가능성을 보장한다.
• 통합 기울기와 기본 SHAP에 비해 노이즈 민감도가 크게 감소하여, 노이즈가 많은 NISQ 하드웨어에서 설명의 신뢰성이 향상된다.
• Rigetti-M-11 하드웨어에서 단일 큐비트 모델(250개 샘플)에 대해 qSHAP의 런타임은 399.5초, 이중 큐비트 모델은 497.2초, 네 큐비트 모델은 682.5초였으며, 푸리에 및 다항식 단계가 비양자 구성요소 중 주요 성분이었다.
• 통합 기울기는 특성당 20개의 평가 포인트를 필요로 하였고, 모든 모델에서 240.8에서 343.4초의 런타임을 기록하여 유사한 설명 품질을 제공함에도 불구하고 qSHAP보다 런타임이 더 길었다.
• 푸리에 모드 식별 단계는 특성 수에 대해 지수적으로 스케일링되므로, 특성 수가 주요 성능 저하 요인이며 큐비트 수는 아님을 확인했다.
• 이론적 분석을 통해 qSHAP의 복잡도는 특성 수에 대해 다항식임을 확인했으며, 표준 xAI 방법은 위상 공간 확장으로 인해 큐비트 수에 대해 지수적으로 증가함을 입증했다.