[논문 리뷰] Quantum Ensemble for Classification

Antonio Macaluso, L. Clissa외 2명|arXiv (Cornell University)|2020. 07. 02.

Quantum Computing Algorithms and Architecture인용 수 11

한 줄 요약

이 논문은 양자 중첩과 얽힘을 활용하여 단지 log(B)의 연산으로 초과 B개의 분류기를 중첩 상태로 생성함으로써, 선형 회로 깊이에 비례하여 앙상블 크기를 지수적으로 확장할 수 있는 양자 앙상블 분류 알고리즘을 제안한다. 이 방법은 약한 분류기 학습에 대해 덧셈 시간 복잡도를 달성하여 고전적 앙상블보다 뛰어나며, 코스인 분류기와 함께 양자 백싱을 적용하여 실제 데이터셋에서 더 높은 정확도와 더 낮은 분산을 달성한다.

ABSTRACT

A powerful way to improve performance in machine learning is to construct an ensemble that combines the predictions of multiple models. Ensemble methods are often much more accurate and lower variance than the individual classifiers that make them up but have high requirements in terms of memory and computational time. In fact, a large number of alternative algorithms is usually adopted, each requiring to query all available data. We propose a new quantum algorithm that exploits quantum superposition, entanglement and interference to build an ensemble of classification models. Thanks to the generation of the several quantum trajectories in superposition, we obtain $B$ transformations of the quantum state which encodes the training set in only $log\left(B ight)$ operations. This implies exponential growth of the ensemble size while increasing linearly the depth of the correspondent circuit. Furthermore, when considering the overall cost of the algorithm, we show that the training of a single weak classifier impacts additively the overall time complexity rather than multiplicatively, as it usually happens in classical ensemble methods. We also present small-scale experiments on real-world datasets, defining a quantum version of the cosine classifier and using the IBM qiskit environment to show how the algorithms work.

연구 동기 및 목표

• 기계 학습에서 고전적 앙상블 방법의 높은 계산 및 메모리 비용 문제를 해결하기 위해.
• 중첩과 얽힘을 통한 양자 병렬 처리를 활용해 동시에 많은 수의 분류기를 생성하기 위해.
• 양자 회로 설계를 통해 앙상블 학습의 시간 복잡도를 곱셈에서 덧셈으로 감소시키기 위해.
• IBM Qiskit를 사용한 양자 시뮬레이션을 통해 실제 데이터셋에서의 실현 가능성을 입증하기 위해.
• 보조 진폭 인코딩과 간섭 기반 분류기 기반의 확장 가능한 양자 앙상블 학습 기반을 마련하기 위해.

제안 방법

• 알고리즘은 학습 데이터를 양자 상태로 인코딩하고, d 큐비트의 제어 레지스터를 사용하여 2^d개의 양자 경로를 중첩 상태로 생성한다.
• 각 경로는 제어 큐비트와 얽힘을 이루며, 서로 다른 분류기를 나타내어 단일 상태 준비를 통해 B개의 약한 학습자들을 동시에 학습시킬 수 있다.
• 이 방법은 U_{(i,j)}라는 유니터리 연산을 사용하여 중첩 상태에서 다양한 학습 세트를 생성하며, 양자 샘플링을 통해 고전적 백싱을 모방한다.
• 기본 모델로는 양자 코스인 분류기를 사용하고, 모든 경로의 예측을 평균내어 앙상블 출력을 형성한다.
• 전체 회로 깊이는 d에 대해 선형으로 증가하지만, 분류기 수는 B = 2^d로 지수적으로 증가한다.
• 이 프레임워크는 IBM Qiskit 양자 시뮬레이터를 사용하여 아이ris 및 MNIST 데이터셋의 축소된 버전에서 구현 및 테스트되었다.

실험 결과

연구 질문

• RQ1 양자 중첩과 얽힘을 사용해 반복적인 고전적 학습이 필요 없이 동시에 많은 수의 분류기를 생성할 수 있는가?
• RQ2 제안된 양자 앙상블은 단일 양자 분류기보다 낮은 분산과 더 높은 정확도를 달성하는가?
• RQ3 양자 환경에서 다수의 분류기 학습 시간 복잡도를 곱셈에서 덧셈으로 감소시킬 수 있는가?
• RQ4 실제 데이터셋에서 앙상블 크기(B)가 증가함에 따라 양자 앙상블의 성능은 어떻게 변화하는가?
• RQ5 현재의 양자 구현에서 더 큰 데이터셋으로의 확장에 있어 실질적인 제약은 무엇인가?

주요 결과

• 앙상블 크기 B가 증가함에 따라 테스트 세트 오차(BS)가 크게 감소하고 정확도가 향상되어 일반화 능력 향상이 확인되었다.
• Iris 데이터셋(0 대 1)에서 B = 8(d = 3)일 때 정확도가 1.0에 도달했으며, BS는 0.284에서 0.136로 감소하여 분산 감소가 확인되었다.
• MNIST 데이터셋에서 B가 1에서 8로 증가함에 따라 정확도는 0.50에서 0.84로 상승했고, BS는 0.337에서 0.197로 감소했다.
• 앙상블 예측은 항상 개별 분류기 확률의 평균과 일치하여, 양자 평균화 메커니즘이 검증되었다.
• 모든 테스트된 데이터셋에서 단일 양자 분류기보다 체계적인 성능 향상이 관찰되어, 이 알고리즘은 성능 향상이 뚜렷했다.
• 현재 다중 테스트 포인트를 동시에 처리할 수 없는 점이 알고리즘 성능의 제약 요소로 드러나며, 효율적인 데이터 인코딩 전략의 필요성이 강조되었다.