[論文レビュー] On quantum backpropagation, information reuse, and cheating measurement collapse

Amira Abbas, Robbie King+5 more|arXiv (Cornell University)|May 22, 2023

Quantum Information and Cryptography被引用数 12

ひとこと要約

本論文はパラメータ化された量子モデルのバックプロパゲーションのスケーリングを分析し、状態の複数コピーがなければ不可能であることを証明し、shadow-tomographyに基づく量子バックプロパゲーション方式を提示する。これにより類似の量子資源スケーリングを達成する一方で、指数的な古典オーバーヘッドが生じる。

ABSTRACT

The success of modern deep learning hinges on the ability to train neural networks at scale. Through clever reuse of intermediate information, backpropagation facilitates training through gradient computation at a total cost roughly proportional to running the function, rather than incurring an additional factor proportional to the number of parameters - which can now be in the trillions. Naively, one expects that quantum measurement collapse entirely rules out the reuse of quantum information as in backpropagation. But recent developments in shadow tomography, which assumes access to multiple copies of a quantum state, have challenged that notion. Here, we investigate whether parameterized quantum models can train as efficiently as classical neural networks. We show that achieving backpropagation scaling is impossible without access to multiple copies of a state. With this added ability, we introduce an algorithm with foundations in shadow tomography that matches backpropagation scaling in quantum resources while reducing classical auxiliary computational costs to open problems in shadow tomography. These results highlight the nuance of reusing quantum information for practical purposes and clarify the unique difficulties in training large quantum models, which could alter the course of quantum machine learning.

研究の動機と目的

• 効率的な勾配計算のためのバックプロパゲーションのスケーリングとその重要性を定義する。
• パラメータ化量子回路においてバックプロパゲーションのスケーリングを達成可能かを評価する。
• 量子勾配能力と古典的類推を比較し、根本的なボトルネックを特定する。
• 穏やかな測定とshadow tomographyを、効率的な勾配推定の潜在的経路として探る。

提案手法

• M 個のパラメータ化パウリゲートを持つ単純な変分量子モデルを定義する。
• 一般的な場合において、単一コピーの量子データではバックプロパゲーションのスケーリングは不可能であることを証明する。
• 現在の勾配推定法（例：SPSA、パラメータシフト）のバックプロパゲーションのスケーリング達成の限界を論じる。
• 穏やかな測定によってバックプロパゲーションのスケーリングを得られる特殊ケースの変分回路を示す。
• 勾配推定をshadow tomographyに結びつけ、polylog(M) コピーで全勾配を推定し、量子操作を準線形に行う量子効率的なプロトコルを導入し、古典的オーバーヘッドについて議論する。

実験結果

リサーチクエスチョン

• RQ1 データを単一コピーだけでパラメータ化量子回路のバックプロパゲーションスケーリングは達成できるか？
• RQ2 量子状態の複数コピーへのアクセスは、量子資源におけるバックプロパゲーションスケーリングを可能にするか？
• RQ3 穏やかな測定とshadow tomographyは勾配推定とスケーラビリティにどのような影響を与えるか？
• RQ4 バックプロパゲーション様の効率性を達成するうえで、量子と古典の類似点と根本的な違いは何か？

主な発見

• 一般の場合、単一コピーの量子データを用いたバックプロパゲーションスケーリングは不可能である。
• 複数コピーがある場合、shadow tomographyに基づくプロトコルは量子資源におけるバックプロパゲーション様のスケーリングを達成できるが、古典的オーバーヘッドは指数的となる。
• 穏やかな測定を用いた特殊ケースの変分モデルは、量子設定でバックプロパゲーションスケーリングを達成し得る。
• 古典的類推（パラメトリックマルコフ連鎖）はバックプロパゲーションスケーリングを示し得るが、量子測定崩壊の根本的役割を浮き彫りにする。
• 勾配推定をshadow tomographyに還元することは広範な障害を示す：完全に効率的な勾配スキームはpoly-time observablesのための効率的なshadow tomographyを意味するが、一般に実現可能かは知られていない。