[논문 리뷰] Encoding-dependent generalization bounds for parametrized quantum circuits

C. Matthias, Elies Gil-Fuster외 3명|arXiv (Cornell University)|2021. 01. 01.

Quantum Computing Algorithms and Architecture참고 문헌 62인용 수 94

한 줄 요약

이 논문은 삼각함수 다항식 표현과 통계학적 학습 이론을 사용하여 데이터 인코딩 전략에 명시적으로 의존하는 일반화 한계를 유도한다. 일반화 성능이 인코딩의 주파수 스펙트럼에 직접적으로 영향을 받음을 보여주며, 가용 주파수의 다항식 스케일링을 통한 구조적 리스크 최소화를 통해 데이터 인코딩 전략을 선택할 수 있다.

ABSTRACT

A large body of recent work has begun to explore the potential of parametrized quantum circuits (PQCs) as machine learning models, within the framework of hybrid quantum-classical optimization. In particular, theoretical guarantees on the out-of-sample performance of such models, in terms of generalization bounds, have emerged. However, none of these generalization bounds depend explicitly on how the classical input data is encoded into the PQC. We derive generalization bounds for PQC-based models that depend explicitly on the strategy used for data-encoding. These imply bounds on the performance of trained PQC-based models on unseen data. Moreover, our results facilitate the selection of optimal data-encoding strategies via structural risk minimization, a mathematically rigorous framework for model selection. We obtain our generalization bounds by bounding the complexity of PQC-based models as measured by the Rademacher complexity and the metric entropy, two complexity measures from statistical learning theory. To achieve this, we rely on a representation of PQC-based models via trigonometric functions. Our generalization bounds emphasize the importance of well-considered data-encoding strategies for PQC-based models.

연구 동기 및 목표

• 기존 PQC 기반 모델의 일반화 한계에서 데이터 인코딩 전략에 대한 명시적 의존성이 부족한 문제를 해결하기 위해.
• 엄밀한 복잡도 측정 기준을 사용하여 구조적 리스크 최소화를 통한 데이터 인코딩 전략의 체계적 선택을 가능하게 하기 위해.
• 특히 데이터 재업로드를 포함한 회로에서의 아키텍처 초항수에 따라 일반화 한계를 도출하기 위해.
• 삼각함수 다항식 표현의 주파수 스펙트럼 분석을 통해 PQC의 표현 능력과 일반화 성능를 연결하기 위해.

제안 방법

• 데이터 인코딩 전략과 주파수 스펙트럼 복잡도를 연결하기 위해 PQC 기반 모델을 일반화된 삼각함수 다항식(GTP)으로 표현하기 위해.
• 가용 주파수의 수를 복잡도 측정 기준으로 삼아 GTP의 라데마처 복잡도와 메트릭 엔트로피를 한정하기 위해.
• 특정 인코딩 초항수(예: 데이터 인코딩 게이트 수)에 명시적으로 의존하는 일반화 한계를 도출하기 위해.
• empirical 라데마처 복잡도를 메트릭 엔트로피를 통해 한정하기 위해 덕리의 정리와 탈라그란드의 보조정리를 적용하기 위해.
• 모델 선택을 위해 경험 리스크와 인코딩에 의존하는 일반화 한계를 결합하기 위해 구조적 리스크 최소화를 사용하기 위해.
• 가용 주파수의 수가 인코딩 게이트 수에 대해 다항식 스케일링되는 다양한 자연스러운 데이터 인코딩 전략 분석하기 위해.

실험 결과

연구 질문

• RQ1 데이터 인코딩 전략의 선택이 PQC 기반 모델의 일반화 성능에 어떻게 영향을 미치는가?
• RQ2 특정 인코딩 아키텍처 초항수에 명시적으로 의존하는 일반화 한계를 도출할 수 있는가?
• RQ3 PQC의 GTP 표현의 주파수 스펙트럼과 일반화 능력 사이의 관계는 무엇인가?
• RQ4 인코딩에 의존하는 일반화 한계는 실무에서 모델 선택을 어떻게 안내할 수 있는가?
• RQ5 유도된 일반화 한계가 의미 있는 영역는 어디이며, 회로 깊이나 게이트 수에만 의존하는 한계와 비교해보면 어떻게 되는가?

주요 결과

• 가용 주파수의 수에 따라 명시적으로 의존하는 PQC 기반 모델의 일반화 한계가 도출되었으며, 특히 GTP 표현에서의 가용 주파수 수에 의해 영향을 받는다.
• 한계는 가용 주파수 수의 제곱근에 비례하여 스케일링되며, 이는 인코딩 설계와 일반화 성능 사이의 직접적인 연결 고리를 제공한다.
• 다양한 자연스러운 데이터 인코딩 전략에 대해 가용 주파수의 수가 인코딩 게이트 수에 대해 다항식 스케일링되며, 이에 따라 일반화 한계도 다항식 스케일링된다.
• 유도된 한계는 경험 리스크와 일반화 리스크를 결합함으로써 인코딩에 의존하는 모델 선택을 가능하게 한다.
• 이 결과는 표현 능력을 향상시키는 것으로 알려진 데이터 재업로드를 포함한 PQC 아키텍처에 적용 가능하며, '인코딩 우선' 모델을 초월한다.
• 이 한계는 매개변수 수가 학습 샘플 수보다 적은 중간 복잡도 영역에서 가장 의미 있는 것으로 예상된다.