Skip to main content
QUICK REVIEW

[논문 리뷰] On quantum backpropagation, information reuse, and cheating measurement collapse

Amira Abbas, Robbie King|arXiv (Cornell University)|2023. 05. 22.
Quantum Information and CryptographyComputer Science인용 수 12
한 줄 요약

본 논문은 parameterized quantum models의 backpropagation 스케일링을 분석하고, 다중 복제 없이 가능하다는 것을 증명하며, shadow-tomography–based quantum backpropagation scheme이 유사한 양자 자원 스케일링을 달성하지만 고전적 오버헤드가 지수적으로 증가한다는 것을 제시한다.

ABSTRACT

The success of modern deep learning hinges on the ability to train neural networks at scale. Through clever reuse of intermediate information, backpropagation facilitates training through gradient computation at a total cost roughly proportional to running the function, rather than incurring an additional factor proportional to the number of parameters - which can now be in the trillions. Naively, one expects that quantum measurement collapse entirely rules out the reuse of quantum information as in backpropagation. But recent developments in shadow tomography, which assumes access to multiple copies of a quantum state, have challenged that notion. Here, we investigate whether parameterized quantum models can train as efficiently as classical neural networks. We show that achieving backpropagation scaling is impossible without access to multiple copies of a state. With this added ability, we introduce an algorithm with foundations in shadow tomography that matches backpropagation scaling in quantum resources while reducing classical auxiliary computational costs to open problems in shadow tomography. These results highlight the nuance of reusing quantum information for practical purposes and clarify the unique difficulties in training large quantum models, which could alter the course of quantum machine learning.

연구 동기 및 목표

  • Backpropagation 스케일링의 정의와 효율적 기울기 계산의 중요성.
  • parameterized quantum circuits에서 backpropagation 스케일링 달성의 타당성 평가.
  • 양자 그래디언트 능력을 고전적 유사체와 비교하고 근본적인 제약을 식별.
  • 완만한 측정과 shadow tomography를 효율적 기울기 추정의 잠재적 경로로 탐구.

제안 방법

  • M개의 매 parameterized Pauli 게이트를 포함하는 간단한 변분 양자 모델 정의.
  • 일반적인 경우에 단일 복제 양자 데이터로 backpropagation 스케일링이 불가능하다는 것을 증명.
  • backpropagation 스케일링 달성을 위한 현재 기울기 추정 방법들(e.g., SPSA, parameter-shift)의 한계를 논의.
  • 완만한 측정이 backpropagation 스케일링을 얻는 특수 사례의 변분 회로 제시.
  • 그레이디언트 추정을 shadow tomography과 연결하는 양자-효율적 프로토콜 도입으로, polylog(M) 복제로 모든 기울기를 근사할 수 있는 양자 연산과 함께 고전적 오버헤드 논의를 포함.

실험 결과

연구 질문

  • RQ1단일 복제의 데이터만으로 parameterized quantum circuits에서 backpropagation 스케일링을 달성할 수 있는가?
  • RQ2다중 복제 상태 접근이 양자 자원에서 backpropagation 스케일링을 가능하게 하는가?
  • RQ3완만한 측정과 shadow tomography가 양자 모델의 기울기 추정 및 스케일링에 어떤 영향을 미치는가?
  • RQ4양자와 고전적 유사체 간에 backpropagation과 같은 효율성 달성에 근본적인 차이는 무엇인가?

주요 결과

  • Backpropagation 스케일링은 일반적인 경우 단일 복제를 사용하는 양자 데이터에 대해 불가능하다.
  • 다중 복제의 경우 shadow tomography–based 프로토콜이 양자 자원에서 backpropagation과 유사한 스케일링을 달성할 수 있지만 고전적 오버헤드가 기하급수적으로 증가한다.
  • 완만한 측정이 있는 특수 사례의 변분 모델은 양자 설정에서 backpropagation 스케일링을 달성할 수 있다.
  • 클래식 유사체(매 parameterized Markov chains)는 backpropagation 스케일링을 보일 수 있어, 양자 측정 붕괴의 근본적 역할을 강조한다.
  • 그레이디언트 추정을 shadow tomography로 축약하면 광범위한 장애물이 드러난다: 완전히 효율적인 그래디언트 체계는 poly-time 관측에 대해 효율적인 shadow tomography를 암시하지만, 일반적으로 실현 가능한지는 알려져 있지 않다.

이 논문 읽기

누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.

누빈트에서 이 논문 읽기

이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.