[論文レビュー] Approximation and Generalization Capacities of Parametrized Quantum Circuits for Functions in Sobolev Spaces

Alberto Blázquez Manzano, David Dechant+2 more|arXiv (Cornell University)|Jul 27, 2023

Quantum Computing Algorithms and ArchitectureComputer Science被引用数 3

ひとこと要約

この論文は、適切な正規化と損失関数のもとで、パラメータ付き量子回路（PQC）がソボレフ空間、連続関数、Lp空間の関数を普遍的に近似できることを確立している。入力データにミニマム・マックス特徴スケーリングを適用し、ℓh1 や ℓhk といった一貫性のある損失関数を使用することで、PQCは近似性能と一般化性能が向上し、損失関数とターゲット距離の間の理論的バインディングが確立される。

ABSTRACT

Parametrized quantum circuits (PQC) are quantum circuits which consist of both fixed and parametrized gates. In recent approaches to quantum machine learning (QML), PQCs are essentially ubiquitous and play the role analogous to classical neural networks. They are used to learn various types of data, with an underlying expectation that if the PQC is made sufficiently deep, and the data plentiful, the generalization error will vanish, and the model will capture the essential features of the distribution. While there exist results proving the approximability of square-integrable functions by PQCs under the $L^2$ distance, the approximation for other function spaces and under other distances has been less explored. In this work we show that PQCs can approximate the space of continuous functions, $p$-integrable functions and the $H^k$ Sobolev spaces under specific distances. Moreover, we develop generalization bounds that connect different function spaces and distances. These results provide a theoretical basis for different applications of PQCs, for example for solving differential equations. Furthermore, they provide us with new insight on the role of the data normalization in PQCs and of loss functions which better suit the specific needs of the users.

研究の動機と目的

• PQCがソボレフ空間、連続関数、Lp空間の関数を近似できる理論的基盤を確立すること。
• ミニマム・マックススケーリングによるデータ正規化が、これらの関数空間における普遍的近似を可能にすることを示すこと。
• 微分可能損失関数（例：ℓh1）とターゲット距離（例：supremumノルム）の間の一般化バインディングを導出すること。
• PQCベースのモデルにおける微分可能機械学習および特定の損失関数の使用に対する理論的裏付けを提供すること。
• 量子機械学習における理論的近似能力と実際の訓練性能のギャップを埋めること。

提案手法

• 入力データにミニマム・マックス特徴スケーリングを適用し、入力を区間 [−π/2, π/2] にマップすることで、C0、Lp、Hk空間における普遍的近似を可能にする。
• PQCの期待値 fθ(x) = ⟨0|U†(x;θ)MU(x;θ)|0⟩ を一般化された三角関数級数として扱い、滑らかで可積分な関数の近似を可能にする。
• ソボレフ不等式を用いて、損失関数（例：ℓh1）とターゲット距離（例：L∞）の整合性を導出し、損失を最小化することで漸近的にターゲット距離も最小化されることを保証する。
• ℓhk損失の期待値とLpおよびHk距離を結びつける一般化バインディングを確立し、訓練の安定性に関する理論的保証を提供する。
• 100回の訓練ランを含む数値実験を実施し、正規化とℓh1損失が収束性と近似精度を向上させることを検証する。
• 符号化戦略の選択（例：arcsinマッピング）が、古典的ネットワークにおける活性化関数に類似した良好な近似特性をもたらすことに寄与することを示す。

実験結果

リサーチクエスチョン

• RQ1 適切な入力正規化のもとで、PQCはソボレフ空間 Hk、連続関数 C0、Lp空間の関数を普遍的に近似できるか？
• RQ2 PQCの訓練において、L2、L∞、Hk などのターゲット距離と整合性を持つ損失関数はどのように選べるか？
• RQ3 入力データの正規化が、PQCの近似性能および一般化性能を向上させる役割は何か？
• RQ4 なぜ微分可能機械学習における ℓh1 損失は実際の訓練において標準的な L2 基盤の訓練を上回るのか？これは理論と整合するか？
• RQ5 ソボレフ不等式は、微分可能損失関数が非微分可能ターゲット距離を近似するためにどの程度有効に機能するかをどのように可能にするか？

主な発見

• 入力データが [−π/2, π/2] に正規化されれば、PQCは Lp、C0、Hk距離の下で、Hk、C0、Lp空間の関数を任意に近似可能である。
• ℓh1 損失関数は、実数直線上の本質的ノルム（L∞）距離と整合的であり、非微分可能な l∞ 損失の微分可能な代替手段を提供する。
• 一般化バインディングにより、ℓhk 損失を最小化することは漸近的に Lp および Hk 距離を最小化することを保証し、訓練におけるその使用価値を裏付ける。
• 数値実験により、[−π/2, π/2] への正規化と ℓh1 損失の組み合わせが、標準的な L2 損失よりもターゲット関数の近似性能を著しく向上させることを確認した。
• 導出された結果から、ℓh1 損失は収束速度および精度の両面で ℓl2 を上回り、特に微分情報が利用可能な場合に顕著である。
• 理論的結果から、微分可能機械学習が高次元問題において成功する可能性は、入力次元の閾値に制限される可能性があり、今後の研究が求められる。