[논문 리뷰] Quantum Vision Transformers

El Amine Cherrat, Iordanis Kerenidis외 4명|arXiv (Cornell University)|2022. 09. 16.

Quantum Computing Algorithms and Architecture참고 문헌 39인용 수 7

한 줄 요약

이 논문은 얕고 NISQ 친화적인 파arametrized 양자 회로를 사용하는 양자 시각 트랜스포머를 제안하며, 양자 어텐션 메커니즘을 포함한 새로운 복합 행렬 기반 트랜스포머를 포함한다. 시뮬레이션과 초기 하드웨어 실험을 통해 의료 영상 데이터셋에서 경쟁적인 분류 성능를 입증하였으며, 어텐션 계산에서 이론적 속도 향상과 기존 모델 대비 훨씬 적은 파라미터를 사용한다.

ABSTRACT

In this work, quantum transformers are designed and analysed in detail by extending the state-of-the-art classical transformer neural network architectures known to be very performant in natural language processing and image analysis. Building upon the previous work, which uses parametrised quantum circuits for data loading and orthogonal neural layers, we introduce three types of quantum transformers for training and inference, including a quantum transformer based on compound matrices, which guarantees a theoretical advantage of the quantum attention mechanism compared to their classical counterpart both in terms of asymptotic run time and the number of model parameters. These quantum architectures can be built using shallow quantum circuits and produce qualitatively different classification models. The three proposed quantum attention layers vary on the spectrum between closely following the classical transformers and exhibiting more quantum characteristics. As building blocks of the quantum transformer, we propose a novel method for loading a matrix as quantum states as well as two new trainable quantum orthogonal layers adaptable to different levels of connectivity and quality of quantum computers. We performed extensive simulations of the quantum transformers on standard medical image datasets that showed competitively, and at times better performance compared to the classical benchmarks, including the best-in-class classical vision transformers. The quantum transformers we trained on these small-scale datasets require fewer parameters compared to standard classical benchmarks. Finally, we implemented our quantum transformers on superconducting quantum computers and obtained encouraging results for up to six qubit experiments.

연구 동기 및 목표

• 양자 계산을 활용하여 기존 시각 트랜스포머를 확장하는 데 목적이 있는 양자 신경망 아키텍처를 설계하는 것.
• 유니터리 및 옥시몰드 연산을 활용하여 천연적으로 양자적인 표현력을 향상시키는 양자 어텐션 메커니즘을 개발하는 것.
• 분류 정확도를 유지하거나 향상시키면서도 수천 개에서 수백만 개의 파라미터를 사용하는 기존 모델 대비 훨씬 적은 파라미터로 모델 복잡도를 감소시키는 것.
• 암함수 인코딩과 해밍 무게 유지 게이트를 사용하여 확장 가능하고 미분 가능한 양자 회로를 구현하여 NISQ 시대 하드웨어에 적합하게 만드는 것.
• 의료 영상 벤치마크를 사용하여 실제 및 시뮬레이션된 양자 하드웨어에서의 실행 가능성과 성능 우수성을 입증하는 것.

제안 방법

• 세 가지 유형의 양자 트랜스포머를 제안: 수직 패치와이즈, 수직 트랜스포머, 복합 트랜스포머. 각각 어텐션 계산을 위한 파arametrized 양자 회로를 사용한다.
• 이미지 패치를 양자 상태로 매핑하기 위해 암함수 인코딩을 적용하여 입력 데이터의 효율적 초월 표현을 가능하게 한다.
• 회로 깊이 감소와 확장성 향상을 위해 해밍 무게 유지 양자 게이트를 사용하여 일반적인 변량 앤사즈의 낮은 확장성 문제를 회피한다.
• 유니터리 연산을 통한 훈련 가능한 행렬 곱셈을 수행하는 양자 수직 레이어를 도입하여 역전파 및 기울기 계산을 가능하게 한다.
• 복합 트랜스포머에서 클리포드 대수 연산을 사용하여 복합 행렬 곱셈을 적용하며, 이는 고전적으로는 해석 불가능하지만 양자적으로는 효율적이다.
• 버블리 회로 등 로그 시간 깊이의 양자 회로를 사용하여 대규모 행렬 연산을 양자 하드웨어에서 효율적으로 구현한다.

실험 결과

연구 질문

• RQ1 천연적으로 양자적인 어텐션 메커니즘을 갖춘 양자 트랜스포머가 기존 트랜스포머와 비교해 영상 분류 작업에서 경쟁적 또는 우수한 성능을 낼 수 있는가?
• RQ2 양자 수직 레이어와 복합 행렬 연산을 사용할 경우, 고전적 대체 방법 대비 어텐션 레이어의 복잡도에서 계산적 우위를 확보할 수 있는가?
• RQ3 수천 개의 파라미터로 구성된 양자 시각 트랜스포머가 기존 모델의 수백만 개의 파라미터에 비해 훨씬 적은 파라미터로도 일반화 성능을 잘 유지할 수 있는가?
• RQ4 현재 NISQ 장치는 양자 시각 트랜스포머의 실행을 어느 정도 지원할 수 있으며, 노이즈와 큐비트 수 제한으로 인한 제약은 무엇인가?
• RQ5 큐비트 수와 회로 깊이가 증가함에 따라 양자 트랜스포머의 성능는 어떻게 변화하며, 경쟁적인 성능를 내기 위해 필요한 하드웨어 요구사항은 무엇인가?

주요 결과

• 복합 트랜스포머는 고전적 방법 대비 어텐션 계산에서 이론적 제곱 속도 향상을 달성하며, 패치 수와 차원에 따라 유리하게 복잡도가 스케일링된다.
• 수치 시뮬레이션을 통해 양자 시각 트랜스포머는 MedMNIST 데이터셋에서 최신 기술의 기존 모델과 비교해 경쟁적이거나 더 높은 분류 정확도를 달성했다.
• 경쟁적인 성능를 달성하기 위해 60에서 600개의 RBS 게이트와 16~32개의 큐비트만 필요로 하여 낮은 파라미터 수와 하드웨어 효율성을 보였다.
• 초전도 양자 프로세서에서의 하드웨어 실험 결과, 최대 6큐비트까지는 유망한 성능를 보였지만, 회로 크기와 큐비트 수 증가에 따라 노이즈가 증가했다.
• 해밍 무게 유지 게이트와 암함수 인코딩을 사용함으로써 일반적인 변량 양자 회로보다 NISQ 장치에 더 적합한 확장 가능하고, 미분 가능한 양자 회로를 확보하였다.
• 복합 트랜스포머의 고차원 복합 행렬 사용은 고전 컴퓨터로는 비현실적인 연산을 가능하게 하여, 모델 표현력에서 고유한 양자 우위를 제공한다.