[논문 리뷰] Embedding Learning in Hybrid Quantum-Classical Neural Networks

Henry X. Liu, Junyu Liu외 5명|arXiv (Cornell University)|2022. 04. 09.

Quantum Computing Algorithms and Architecture인용 수 4

한 줄 요약

이 논문은 고전적 데이터에서 양자 임bedding을 훈련하는 데 하이브리드 양자-고전 신경망을 사용하여 일반화 능력을 향상시키고 회로 우회 문제(고전적 파rameter가 양자 힐버트 공간을 제대로 활용하지 못함)를 줄이는 양자 소수 학습 프레임워크를 제안한다. 이 방법은 예측할 수 없는 클래스로의 일반화 능력이 뛰어나고, 양자 상태 공간에서 높은 기하학적 분리도를 유지하여 고전적 거리 측도와 기존의 임bedding 방법보다 뛰어나다.

ABSTRACT

Quantum embedding learning is an important step in the application of quantum machine learning to classical data. In this paper we propose a quantum few-shot embedding learning paradigm, which learns embeddings useful for training downstream quantum machine learning tasks. Crucially, we identify the circuit bypass problem in hybrid neural networks, where learned classical parameters do not utilize the Hilbert space efficiently. We observe that the few-shot learned embeddings generalize to unseen classes and suffer less from the circuit bypass problem compared with other approaches.

연구 동기 및 목표

• 소수 학습 설정에서 고전적 데이터로부터 일반적인 목적의 양자 임bedding을 학습할 수 있는 양자 소수 학습 프레임워크를 개발하는 것.
• 하이브리드 양자-고전 신경망에서 발생하는 회로 우회 문제를 해결하는 것 — 즉, 고전적 파rameter가 전체 힐버트 공간을 활용하지 못하는 문제.
• 기존의 고전적 및 양자 임bedding 방법과 비교해, 예측할 수 없는 클래스로의 임bedding 일반화 능력을 향상시키는 것.
• 신규로 통합된 텐서 네트워크 시뮬레이션과 딥 러닝 프레임워크를 통해 고큐비트 양자 회로의 대규모 시뮬레이션을 가능하게 하는 것.
• 고차원적이고 기하학적으로 구분되는 양자 임bedding을 촉진하는 정규화 전략을 탐구하여 잠재적 양자 우위를 해방하는 것.

제안 방법

• 고전적 특징 추출기와 파라미터화된 양자 회로(PQC)를 조합한 하이브리드 양자-고전 신경망 아키텍처를 사용하여 임bedding을 생성한다.
• 소수 학습을 위해 프로토타입 기반 신경망 모델을 활용하며, 지원(set) 및 쿼리(set) 세트에서 거리 기반 학습을 통해 임bedding을 최적화한다.
• 세 단계의 변량 레이어를 갖는 두 큐비트 앤사즈와 함께, 고전적 특징을 단일 큐비트 회전을 통해 양자 상태로 인코딩한다.
• 다양한 다양체 차원을 손실 함수에서 빼는 정규화 전략을 도입하여, 낮은 차원의 임bedding을 억제하고 고차원적 양자 상태 간 분리를 촉진한다.
• 근접한 양자 장치에서 복소 내적을 추정하기 위해 헤다드 테스트를 적용한다.
• 텐서 네트워크 방법과 파이토치를 통합한 QTensorAI라는 하이브리드 시뮬레이션 라이브러리를 개발하여 대규모 양자 회로의 확장 가능하고 고정밀도 시뮬레이션을 가능하게 한다.

실험 결과

연구 질문

• RQ1 양자 소수 학습이 소수 설정에서 예측할 수 없는 클래스로 효과적으로 일반화할 수 있는 임bedding을 생성할 수 있는가?
• RQ2 회로 우회 문제가 하이브리드 양자-고전 신경망의 임bedding 학습 성능에 어떤 영향을 미치는가?
• RQ3 소수 분류에서 양자 임bedding이 고전적 거리 측도(예: 코사인 또는 유클리드)보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 낮은 차원의 다양체를 억제하는 정규화 기법이 양자 임bedding의 기하학적 표현 능력을 향상시키는가?
• RQ5 제한된 데이터로 훈련된 경우에도 제안된 방법이 힐버트 공간에서 높은 기하학적 분리도를 유지하는가?

주요 결과

• 제안된 양자 소수 임bedding 방법은 소수 분류에서 예측할 수 없는 클래스로의 일반화 능력이 뛰어나며, 고전 기반 기준선 방법보다 뛰어난 성능을 보였다.
• 소수 학습을 통해 학습된 양자 임bedding는 다른 접근 방식에 비해 회로 우회 문제의 영향을 크게 덜 받아 고차원 힐버트 공간의 활용도를 유지했다.
• 고전적 코사인 거리보다 뛰어난 성능을 보였고, 양자 속도 향상이 나타나지 않았음에도 불구하고 고전적 유클리드 거리와 동등하거나 이를 초월하는 소수 정확도를 달성했다.
• 손실 함수에서 다양체 차원을 빼는 정규화 기법이 낮은 차원의 임bedding을 효과적으로 억제하고, 양자 상태 공간 내 기하학적 분리도를 향상시켰다.
• QTensorAI를 통해 텐서 네트워크 시뮬레이션과 딥 러닝 프레임워크를 통합함으로써 15 큐비트 이상의 회로에 대한 신뢰할 수 있는 대규모 시뮬레이션을 가능하게 하여 스케일링 결과를 검증하였다.
• 헤다드 테스트를 통해 양자 임bedding 간 내적을 성공적으로 추정하여, 메트릭 학습 앤사즈의 실장치 구현을 가능하게 하였다.