[논문 리뷰] Deterministic and random features for large-scale quantum kernel machine

Kouhei Nakaji, Hiroyuki Tezuka외 1명|arXiv (Cornell University)|2022. 09. 05.

Quantum Computing Algorithms and Architecture인용 수 4

한 줄 요약

이 논문은 대규모 양자 커널 기반 기계학습을 가능하게 하는 결정론적 및 난수 기반 특징 매핑을 제안한다. 감소 밀도 행렬(RDM) 기반 양자 커널이 저차원 특징 벡터를 통해 오차 한계가 보장되는 방식으로 근사 가능하다는 것을 보여줌으로써, 이론적으로는 이중적 고전적 비용 문제를 해결하면서도 일반화 능력을 유지한다. 실험 결과는 1,000~10,000개의 샘플을 포함한 데이터셋에서 검증되었다.

ABSTRACT

Quantum machine learning (QML) is the spearhead of quantum computer applications. In particular, quantum neural networks (QNN) are actively studied as the method that works both in near-term quantum computers and fault-tolerant quantum computers. Recent studies have shown that supervised machine learning with QNN can be interpreted as the quantum kernel method (QKM), suggesting that enhancing the practicality of the QKM is the key to building near-term applications of QML. However, the QKM is also known to have two severe issues. One is that the QKM with the (inner-product based) quantum kernel defined in the original large Hilbert space does not generalize; namely, the model fails to find patterns of unseen data. The other one is that the classical computational cost of the QKM increases at least quadratically with the number of data, and therefore, QKM is not scalable with data size. This paper aims to provide algorithms free from both of these issues. That is, for a class of quantum kernels with generalization capability, we show that the QKM with those quantum kernels can be made scalable by using our proposed deterministic and random features. Our numerical experiment, using datasets including $O(1,000) \sim O(10,000)$ training data, supports the validity of our method.

연구 동기 및 목표

• 근접한 양자 기계학습에서 양자 커널 방법(QKM)의 확장성과 일반화 능력에 한계가 있음을 해결한다.
• 일반화 능력을 지닌 양자 커널(QKGC)을 식별하고 분석하며, 특히 감소 밀도 행렬(RDM) 기반의 커널에 집중한다.
• 계산 비용을 감소시킨 선형 문제로 변환할 수 있는 특징 기반 근사법(DQF 및 RQF)을 개발한다.
• RDM 기반 QKGC가 특징 매핑을 통해 효율적으로 근사 가능하다는 것을 보여주어 대규모 응용이 가능하게 한다.
• 제안된 특징 매핑의 근사 오차와 계산 복잡도 감소에 대한 이론적 보장을 제공한다.

제안 방법

• 일반화 능력을 지닌 양자 커널(QKGC)을 정의하며, 특히 RDM 기반 커널이 실현 가능한 클래스임을 강조한다.
• 내적을 통해 RDM 기반 양자 커널을 근사하는 저차원 특징 매핑으로 결정론적 양자 특징(DQF)을 도입한다.
• DQF의 확률적 변종으로서 효율적인 샘플링이 가능하고 오차 한계가 통제되는 난수 기반 양자 특징(RQF)을 제안한다.
• 이론적 분석을 통해 DQF와 RQF가 원래 RDM 커널을 보장된 오차 한계 내에서 근사함을 증명하며, 일반화와 확장성 보장.
• 특징 매핑을 사용하여 커널 리지 회귀를 O(MD²) 복잡도의 선형 모델로 변환하며, 여기서 D는 특징 차원, M은 데이터 포인트 수이다.
• 와인 품질 및 magic04 데이터셋(1,000~10,000개 샘플)을 대상으로 수치 실험을 수행하여 Nystrom 방법과 비교한다.

실험 결과

연구 질문

• RQ1 일반화 능력을 지닌 양자 커널 방법이 대규모 데이터셋에 대해 확장 가능하게 만들 수 있는가?
• RQ2 RDM 기반 양자 커널은 이론적 오차 보장을 갖는 저차원 특징 근사에 적합한가?
• RQ3 결정론적 및 난수 기반 양자 특징(DQF 및 RQF)은 Nystrom과 같은 고전적 커널 근사 방법에 비해 성능과 효율성에서 어떻게 비교되는가?
• RQ4 QKGC의 특징 기반 표현 방식은 양자 우월성을 지닌 새로운 양자 커널 방법 설계 원칙이 될 수 있는가?
• RQ5 특징 매핑의 매개변수(예: 임bedding 매개변수) 조정이 최종 기계학습 모델 성능에 미치는 영향은 무엇인가?

주요 결과

• 제안된 결정론적 및 난수 기반 양자 특징(DQF 및 RQF)은 보장된 오차 한계 내에서 RDM 기반 양자 커널을 효과적으로 근사한다.
• 결과 모델의 계산 비용은 O(M³)에서 O(MD²)로 감소하여, O(1,000)에서 O(10,000) 개 샘플을 포함한 데이터셋에 대한 확장 가능성을 확보한다.
• 수치 실험 결과, DQF는 와인 품질 및 magic04 데이터셋에서 회귀 및 분류 작업 모두에서 Nystrom 방법을 능가하는 성능을 보였다.
• RQF는 동일한 데이터셋에서 Nystrom 방법을 능가하지 못했지만, 향후 조정 및 최적화에 유연성을 제공한다.
• 이론적 분석을 통해 감소 밀도 행렬(RDM) 기반 양자 커널이 QKGC의 주요 실현 가능한 클래스임을 확인하였으며, 다른 구성(예: 감소 관측량)은 거의 동일하거나 양자 우월성을 확보하지 못한다.
• 특징 표현 프레임워크는 새로운 설계 지침을 제공한다: 새로운 QKGC는 반드시 특징 벡터로 표현되어야 하며, 이를 통해 확장성과 일반화를 보장할 수 있다.