[논문 리뷰] Quantum Large Language Models via Tensor Network Disentanglers

Borja Aizpurua, Saeed S. Jahromi외 2명|arXiv (Cornell University)|2024. 10. 22.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)을 위한 하이브리드 양자-고전 아키텍처를 제안하며, 기존의 조밀한 가중치 행렬을 변량 양자 회로(variational quantum circuits)와 텐서 네트워크, 특히 행렬 곱 연산자(Matrix Product Operators, MPOs)의 조합으로 대체한다. 양자 해결기(quantum disentanglers)를 사용해 가중치 행렬을 분해하고 비상관성 잔류 MPO만을 유지함으로써, 낮은 메모리 오버헤드를 유지하면서도 고전적 LLM보다 높은 모델 정확도를 달성하며, 확장 가능한 양자 강화 언어 모델링을 가능하게 한다.

ABSTRACT

We propose a method to enhance the performance of Large Language Models (LLMs) by integrating quantum computing and quantum-inspired techniques. Specifically, our approach involves replacing the weight matrices in the Self-Attention and Multi-layer Perceptron layers with a combination of two variational quantum circuits and a quantum-inspired tensor network, such as a Matrix Product Operator (MPO). This substitution enables the reproduction of classical LLM functionality by decomposing weight matrices through the application of tensor network disentanglers and MPOs, leveraging well-established tensor network techniques. By incorporating more complex and deeper quantum circuits, along with increasing the bond dimensions of the MPOs, our method captures additional correlations within the quantum-enhanced LLM, leading to improved accuracy beyond classical models while maintaining low memory overhead.

연구 동기 및 목표

• 고전적 대규모 언어 모델(LLMs)의 높은 에너지 소비와 메모리 요구량 문제를 해결하기 위해 양자 계산 기법을 통합한다.
• 순수하게 고전적인 텐서 네트워크 압축 기법의 한계를 극복하기 위해 더 풍부한 상관관계를 포착할 수 있는 양자 회로를 도입한다.
• 기존 트랜스포저 기반 모델과의 호환성을 유지하면서도 양자 강화 성능을 가능하게 하는 하이브리드 양자-고전 LLM 아키텍처를 개발한다.
• 효율적인 매개변수화와 오차 보정 전략을 통해 노이즈가 많은 중규모 양자(NISQ) 하드웨어에서 실용적인 양자 강화 LLM의 구현을 가능하게 한다.

제안 방법

• LLM 레이어 내 조밀한 가중치 행렬을 세 부분으로 구성된 구조로 대체한다: 변량 양자 회로(VQC), 행렬 곱 연산자(MPO), 그리고 두 번째 VQC로 구성된 유니터리 해석기 프레임워크를 형성한다.
• 텐서 네트워크 해석을 적용하여 원래의 가중치 행렬 W를 U × MPO_new × V†로 분해한다. 여기서 U와 V†는 양자 얽힘을 제거하는 유니터리 양자 회로이다.
• 시간에 따라 변화하는 블록 분할(TEBD) 알고리즘을 사용해 원래의 MPO_old로부터 잔류 MPO_new를 효율적으로 계산하며, 이로 인해 봉합 차원 χ_new ≤ χ_old를 보장한다.
• 유사 변량 양자 고유값 해법(Variational Quantum Eigensolver, VQE) 알고리즘과 유사한 자기 일관성 방법을 사용해 양자 회로를 변량 최적화한다.
• 텐서 네트워크 또는 양자 GAN 기반 방법을 사용해 고전적 입력을 양자 상태로 인코딩하고, 측정을 통해 큐비트 결과를 추출한다.
• 분산 텐서 네트워크 재학습 기법을 사용해 MPO 텐서를 재학습함으로써 고전적 및 양자 구성 요소의 하이브리드 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 변량 양자 회로가 LLM의 어텐션 및 피드포워드 레이어에 효과적으로 통합되어 고전적 한계를 초월한 모델 표현력을 향상시킬 수 있는가?
• RQ2 양자 회로와 텐서 네트워크를 어떻게 조합하여 낮은 메모리 오버헤드를 유지하면서도 모델 정확도를 높일 수 있는가?
• RQ3 고전적 LLM 가중치 행렬을 양자 회로와 MPO로 표현하기 위한 최적의 분해 전략은 무엇이며, 이를 극단적 분해와 같은 대안 방법과 비교해 볼 때 어떤가?
• RQ4 결과적으로 도출된 하이브리드 양자-고전 LLM 아키텍처가 현실적인 큐비트 수와 오차율을 가진 NISQ 장치에서 효율적으로 학습될 수 있는가?
• RQ5 양자 강화 LLM이 확장 가능하고 근접한 양자 하드웨어에서 구현 가능한 조건에서 고전적 모델보다 얼마나 더 높은 정확도를 달성할 수 있는가?

주요 결과

• 제안된 방법은 회로 깊이와 봉합 차원에 대해 다항식 스케일링을 보이는 하이브리드 양자-고전 표현으로 고전적 LLM 가중치 행렬을 압축할 수 있다.
• 유니터리 해석기(U와 V†)를 사용함으로써 양자 회로는 얕고 잔류 MPO의 봉합 차원이 감소하여 메모리 오버헤드를 최소화한다.
• 변량 양자 회로를 통해 양자 상관관계를 도입함으로써 기존의 텐서 네트워크 압축 방법을 일반화하여 더 높은 모델 용량을 달성한다.
• 수치적 결과는 수백 개의 큐비트와 다수의 레이어를 가진 양자 회로가 LlaMA와 같은 오픈소스 LLM에서 성능 향상에 충분하다고 시사한다.
• 양자 압축 기법과의 호환성을 고려해 양자화, 지식 정복, 저랭크 근사와 같은 고전적 기법과 융합하여 성능 향상을 이룰 수 있다.
• 프레임워크는 NISQ 장치에 적합하게 설계되었으며, 입력 인코딩과 측정 샘플링은 회로 깊이와 MPO 봉합 차원을 증가시켜 제어 및 보정이 가능하다.