[论文解读] Encoding-dependent generalization bounds for parametrized quantum circuits

C. Matthias, Elies Gil-Fuster+3 more|arXiv (Cornell University)|Jan 1, 2021

Quantum Computing Algorithms and Architecture参考文献 62被引用 94

一句话总结

本文通过三角多项式表示和统计学习理论，推导出显式依赖于数据编码策略的参数量子线路（PQC）泛化界。结果表明，泛化性能直接受编码频率谱的影响，从而可通过具有多项式可访问频率规模的结构风险最小化方法，实现数据编码策略的选择。

ABSTRACT

A large body of recent work has begun to explore the potential of parametrized quantum circuits (PQCs) as machine learning models, within the framework of hybrid quantum-classical optimization. In particular, theoretical guarantees on the out-of-sample performance of such models, in terms of generalization bounds, have emerged. However, none of these generalization bounds depend explicitly on how the classical input data is encoded into the PQC. We derive generalization bounds for PQC-based models that depend explicitly on the strategy used for data-encoding. These imply bounds on the performance of trained PQC-based models on unseen data. Moreover, our results facilitate the selection of optimal data-encoding strategies via structural risk minimization, a mathematically rigorous framework for model selection. We obtain our generalization bounds by bounding the complexity of PQC-based models as measured by the Rademacher complexity and the metric entropy, two complexity measures from statistical learning theory. To achieve this, we rely on a representation of PQC-based models via trigonometric functions. Our generalization bounds emphasize the importance of well-considered data-encoding strategies for PQC-based models.

研究动机与目标

• 解决现有PQC模型泛化界中对数据编码策略缺乏显式依赖的问题。
• 通过严格的复杂度度量，实现基于结构风险最小化的编码策略原则性选择。
• 推导出显式依赖于数据编码架构超参数的泛化界，尤其针对包含数据重加载的线路。
• 通过三角多项式表示的频率谱分析，建立PQC表达能力与其泛化性能之间的联系。

提出的方法

• 将PQC模型表示为广义三角多项式（GTP），以建立数据编码策略与频率谱复杂度之间的联系。
• 以可访问频率数量作为复杂度度量，界定GTP的Rademacher复杂度与度量熵。
• 推导出显式依赖于编码特定超参数（如数据编码门数量）的泛化界。
• 应用Dudley定理与Talagrand引理，通过度量熵界定经验Rademacher复杂度。
• 使用结构风险最小化方法，将经验风险与编码依赖的泛化界结合，用于模型选择。
• 分析可访问频率数量随编码门数量多项式增长的各类自然数据编码策略。

实验结果

研究问题

• RQ1 数据编码策略的选择如何影响PQC模型的泛化性能？
• RQ2 能否推导出显式依赖于编码特定架构超参数的泛化界？
• RQ3 PQC的GTP表示的频率谱与其泛化能力之间存在何种关系？
• RQ4 如何在实践中利用编码依赖的泛化界指导模型选择？
• RQ5 所推导的泛化界在何种条件下具有实际意义？与仅依赖线路深度或门数的界相比有何差异？

主要发现

• 推导出显式依赖于数据编码策略的PQC模型泛化界，尤其通过GTP表示中可访问频率的数量体现。
• 该界与可访问频率数量的平方根成比例，直接建立了编码设计与泛化性能之间的联系。
• 对于多种自然数据编码策略，可访问频率数量随编码门数量呈多项式增长，从而导致泛化界也呈多项式增长。
• 所推导的界可实现基于编码依赖的模型选择，通过结构风险最小化将经验风险与泛化风险相结合。
• 该结果适用于具有数据重加载的PQC架构，此类架构已知可增强表达能力，且不局限于“先编码”模型。
• 在中等复杂度范围内，即参数数量少于训练样本数时，该界预计最具实际意义。