[논문 리뷰] Quantum Algorithms for Deep Convolutional Neural Networks

Iordanis Kerenidis, Jonas Landman외 1명|arXiv (Cornell University)|2019. 11. 04.

Quantum Computing Algorithms and Architecture참고 문헌 41인용 수 81

한 줄 요약

양자 컨볼루션 신경망(QCNN)을 제안하여 양자 컨볼루션 층과 양자 역전파를 제공하고, 고전 CNN 대비 잠재적 속도 향상을 제시하며 시뮬레이션을 통한 MNIST 분류 가능성을 보여준다.

ABSTRACT

Quantum computing is a new computational paradigm that promises applications in several fields, including machine learning. In the last decade, deep learning, and in particular Convolutional neural networks (CNN), have become essential for applications in signal processing and image recognition. Quantum deep learning, however remains a challenging problem, as it is difficult to implement non linearities with quantum unitaries. In this paper we propose a quantum algorithm for applying and training deep convolutional neural networks with a potential speedup. The quantum CNN (QCNN) is a shallow circuit, reproducing completely the classical CNN, by allowing non linearities and pooling operations. The QCNN is particularly interesting for deep networks and could allow new frontiers in image recognition, by using more or larger convolution kernels, larger or deeper inputs. We introduce a new quantum tomography algorithm with $\ell_{\infty}$ norm guarantees, and new applications of probabilistic sampling in the context of information processing. We also present numerical simulations for the classification of the MNIST dataset to provide practical evidence for the efficiency of the QCNN.

연구 동기 및 목표

• Growing data volumes 및 CNN 배치 확산의 시대에 양자 가속 딥러닝의 필요성을 촉진한다.
• 임의 깊이, 커널 크기, 풀링/비선형성 옵션이 가능한 모듈식 양자 CNN(QCNN) 아키텍처를 도입한다.
• QRAM과 호환되는 컨볼루션, 비선형성, 풀링, 역전파를 위한 양자 서브루틴을 개발한다.
• QCNN의 순전파와 역전파에 대한 이론적 보장 및 복잡도 논의를 제공한다.
• MNIST 시뮬레이션을 통해 실용적 타당성을 입증하고 기존 고전 CNN 성능과의 비교를 제시한다.

제안 방법

• 3D 입력 텐서와 4D 커널를 양자 상태로 매핑하는 양자 컨볼루션 연산을 정의한다.
• l_infty 보장을 가진 양자 토모그래피 기법을 사용하여 양자 상태에서 유의미한 출력을 회복한다.
• Amplitude estimation 및 median evaluation을 적용하여 컨볼루션 내부 곱을 효율적으로 인코딩하고 추출한다.
• 양자 역전파를 이용해 손실의 기울기를 커널 매개변수에 대해 추정하고 학습을 위한 그래디언트를 업데이트한다.
• 전향 패스에서 커널 수의 지수적 유사 요인과 입력 크기에 대한 부분선형 요인을 보여주는 실행 시간 분석을 수행한다.
• 정밀도와 조건화 매개변수를 갖춘 전체 전향-역전파 양자 알고리즘(Algorithm 1 및 Algorithm 2)을 제시한다.

실험 결과

연구 질문

• RQ1 양자 알고리즘이 CNN의 순전파를 재현하고 l_infty 토모그래피를 통해 의미 있는 출력을 양자 상태로 도출할 수 있는가?
• RQ2 QRAM 가정 하에서 QCNN 순전파 및 역전파의 고전 CNN 대비 잠재적 속도 향상은 어느 정도인가?
• RQ3 비선형성 및 풀링을 고전 CNN의 동작을 모방하도록 양자 회로에서 어떻게 구현할 수 있는가?
• RQ4 확장 가능한 QCNN 학습을 지원하기 위한 계산 및 데이터 구조 요구사항(QRAM)은 무엇인가?
• RQ5 MNIST 스타일 분류 작업에서 시뮬레이션상 QCNN이 고전 CNN과 유사한 정확도를 달성하는가?

주요 결과

• 양자 컨볼루션 층이 고전 컨볼루션 결과를 근사하는 상태를 출력하며, 오차는 제어 가능하고 입력 크기 및 커널 수에 비해 다항-로그스케일로 시간 복잡도가 증가한다.
• 역전파를 양자적으로 구현하여 커널 매개변수에 대한 손실의 그래디언트를 추정하고 특정 오차 허용하에서 그래디언트 디센트를 수행할 수 있다.
• QCNN는 제안된 프레임워크 하에서 순전파에서 커널 수의 지수적 증가에 비례하는 속도 향상 및 입력 공간 차원에서 근사적으로 제곱에 근접한 성능 향상을 달성할 수 있다.
• 일부 양자 상태 판독에 대해 L2 토모그래피 대비 지수적 개선을 제공하는 새로운 l_infty-노름 벡터 상태 토모그래피가 개발되었다.
• MNIST에 대한 수치 시뮬레이션은 QCNN이 테스트된 시나리오에서 고전 CNN과 유사한 분류 정확도를 달성함을 시사한다.