[논문 리뷰] Hybrid Quantum-Classical Machine Learning for Sentiment Analysis

Abu Kaisar Mohammad Masum, Anshul Maurya외 3명|arXiv (Cornell University)|2023. 10. 08.

Quantum Computing Algorithms and ArchitectureComputer Science인용 수 3

한 줄 요약

이 논문은 영어 및 베냐르어 텍스트에 대해 감성 분석을 위한 하이브리드 양자-고전 기계학습 프레임워크를 제안한다. 이는 양자 커널 방법(QSVM)과 변량 양자 회로(VQC)를 고전적 차원 축소 기법인 PCA 및 하르 웨이블릿 변환과 통합한다. 이 방법은 일관된 정확도 향상을 이룩하였으며, 영어 데이터셋에선 84%, 베냐르어 데이터셋에선 72%의 정확도를 달성하였다. 특히 하르 변환과 양자 모델을 결합했을 때, 유사한 압축 조건에서 고전적 SVM보다 뛰어난 성능을 보였다.

ABSTRACT

The collaboration between quantum computing and classical machine learning offers potential advantages in natural language processing, particularly in the sentiment analysis of human emotions and opinions expressed in large-scale datasets. In this work, we propose a methodology for sentiment analysis using hybrid quantum-classical machine learning algorithms. We investigate quantum kernel approaches and variational quantum circuit-based classifiers and integrate them with classical dimension reduction techniques such as PCA and Haar wavelet transform. The proposed methodology is evaluated using two distinct datasets, based on English and Bengali languages. Experimental results show that after dimensionality reduction of the data, performance of the quantum-based hybrid algorithms were consistent and better than classical methods.

연구 동기 및 목표

• 감성 분석을 위한 하이브리드 양자-고전 기계학습 파이프라인을 개발하여, 특징 매핑 및 분류에서 양자적 이점을 활용한다.
• 다국어 텍스트에서 감성 분류에 있어 양자 커널 방법(QSVM)과 매개변수화된 양자 회로(VQC)의 효과성을 조사한다.
• NISQ 시대의 양자 하드웨어에 고전적 NLP 특징을 효율적으로 인코딩하기 위해 PCA 및 하르 웨이블릿 변환과 같은 차원 축소 기법을 평가한다.
• 유사한 데이터 압축 조건에서 양자-고전 모델을 고전적 SVM과 비교하여, 내성 및 성능 트레이드오프를 평가한다.
• 베냐르어와 같이 자원이 부족하고 언어학적으로 복잡한 언어에서 양자 강화 감성 분석의 실현 가능성과 우수성을 입증한다.

제안 방법

• 프레임워크는 고전적 NLP 전처리와 양자 기계학습 모델을 결합하며, 영어 및 베냐르어 텍스트에 대해 워드 임베딩과 문장 토큰화를 사용한다.
• 양자 특징 매핑은 파울리 기반 회로를 사용하여 구현되며, 얽힌 큐비트 쌍은 $ f_{q_j,q_k}(x) = (\pi - x[j])(\pi - x[k]) $로, 단일 큐비트는 $ f_{q_m}(x) = x[m] $로 매핑된다.
• 변량 양자 분류기(VQC)는 파arameterized 양자 회로의 손실 함수를 최소화하기 위해 ADAM 최적화기를 사용하여 훈련된다.
• 양자 서포트 벡터 머신(QSVC)은 Qiskit의 사전 구축된 라이브러리를 활용하여 구현되며, 고전적 SVM 분류를 위한 양자 커널을 활용한다.
• 차원 축소는 특징 공간을 줄이기 위해 PCA를, 데이터 포인트를 압축하기 위해 하르 웨이블릿 변환을 적용하며, 최대 5단계의 분해 수준을 테스트하였다.
• 파이프라인은 두 데이터셋에서 성능을 평가한다: 트위터 기반 영어 감성 데이터셋과 베냐르어 감성 데이터셋으로, 양자 하드웨어에 적합한 언어별 NLP 기법을 사용해 사전 처리하였다.

Figure 1: Workflow for the proposed hybrid quantum-classical methodology for sentiment analysis.

실험 결과

연구 질문

• RQ1 다국어 텍스트에 적용했을 때, 하이브리드 양자-고전 모델이 고전적 방법보다 감성 분류 정확도를 향상시킬 수 있는가?
• RQ2 PCA 및 하르 웨이블릿 변환과 같은 차원 축소 기법은 고전적 NLP 특징을 양자 회로에 효율적으로 인코딩하는 데 얼마나 효과적인가?
• RQ3 하르 웨이블릿 변환을 양자-고전 모델과 통합했을 때, 데이터 압축 조건에서 고전적 SVM보다 더 높은 성능을 내는가?
• RQ4 감성 분석 작업에서 양자 커널 기반(QSVM)과 변량 양자 회로 기반(VQC) 모델 간의 정확도 및 훈련 효율성은 어떻게 비교되는가?
• RQ5 언어 특성, 특히 베냐르어와 같은 특성에서, 양자 강화 감성 분석 모델의 성능에 어떤 영향을 미치는가?

주요 결과

• 영어 데이터셋에서 하이브리드 양자-고전 모델은 테스트 정확도 84%를 기록하였으며, 유사한 압축 조건에서 고전적 SVM보다 뚜렷이 뛰어났다.
• 베냐르어 데이터셋에서는 차원 축소 후에도 일관된 테스트 정확도 72.22%를 유지하였으며, 이는 압축 없이도 동일한 성능를 보이는 고전적 모델과 동일했다.
• VQC 알고리즘은 모든 특징 세트와 분해 수준에서 가장 짧은 훈련 시간을 기록하였으며, 하르 분해 최대 5단계까지 안정적인 정확도를 유지하였다.
• 하르 변환을 사용해 데이터 포인트를 압축했을 때, 양자-고전 모델은 71.23%의 정확도를 기록하였고, 고전적 SVM는 단일 분해 수준에서 정확도가 58%로 떨어졌다.
• QSVC와 VQC 모델은 트위터(영어) 데이터셋에서 양자 커널 SVM보다 높은 테스트 및 훈련 정확도(70–71%)를 기록하였으며, VQC는 훈련 속도가 가장 빠르게 나타났다.
• 하르 웨이블릿 변환과 양자-고전 모델의 조합은 압축 조건에서 고전적 SVM보다 더 효과적이었으며, 자원 효율적인 학습에서의 양자 우위를 시사한다.

Figure 2: Bengali text pre-processing method for sentiment analysis.