[논문 리뷰] Private learning implies quantum stability

Srinivasan Arunachalam, Yihui Quek외 1명|arXiv (Cornell University)|2021. 02. 14.

Machine Learning and Algorithms참고 문헌 46인용 수 7

한 줄 요약

이 논문은 양자 학습 모델 간의 기초적인 정보이론적 계층을 수립하며, 양자 상태의 차별적 비밀성 있는 PAC 학습이 온라인 학습 가능성을 암시하고, 이는 새로운 개념인 양자 안정성으로 이어진다는 것을 증명한다. 저자들은 적대적 오차에 강건한 양자 온라인 학습자인 강건한 표준 최적 알고리즘(RSOA)을 도입하고, 유한한 순차적 지방 셸링 차원이 다양한 모델에서의 학습 가능성을 특징짓는다고 보여주며, 섀도우 톰그래피의 샘플 복잡도를 향상시키고 양자 채널 용량과의 연결 고리를 설정한다.

ABSTRACT

Learning an unknown $n$-qubit quantum state $ρ$ is a fundamental challenge in quantum computing. Information-theoretically, it is known that tomography requires exponential in $n$ many copies of $ρ$ to estimate it up to trace distance. Motivated by computational learning theory, Aaronson et al. introduced many (weaker) learning models: the PAC model of learning states (Proceedings of Royal Society A'07), shadow tomography (STOC'18) for learning "shadows" of a state, a model that also requires learners to be differentially private (STOC'19) and the online model of learning states (NeurIPS'18). In these models it was shown that an unknown state can be learned "approximately" using linear-in-$n$ many copies of rho. But is there any relationship between these models? In this paper we prove a sequence of (information-theoretic) implications from differentially-private PAC learning, to communication complexity, to online learning and then to quantum stability. Our main result generalizes the recent work of Bun, Livni and Moran (Journal of the ACM'21) who showed that finite Littlestone dimension (of Boolean-valued concept classes) implies PAC learnability in the (approximate) differentially private (DP) setting. We first consider their work in the real-valued setting and further extend their techniques to the setting of learning quantum states. Key to our results is our generic quantum online learner, Robust Standard Optimal Algorithm (RSOA), which is robust to adversarial imprecision. We then show information-theoretic implications between DP learning quantum states in the PAC model, learnability of quantum states in the one-way communication model, online learning of quantum states, quantum stability (which is our conceptual contribution), various combinatorial parameters and give further applications to gentle shadow tomography and noisy quantum state learning.

연구 동기 및 목표

• 핵심 양자 학습 모델 간의 형식적 정보이론적 함의를 수립하는 것: 차별적 비밀성 있는 PAC 학습, 온라인 학습, 양자 안정성.
• 더 약한 양자 학습 모델(예: 비밀성 또는 온라인 제약 조건이 있는 경우)이 양자 상태 클래스의 더 강력한 구조적 성질을 암시하는지 여부라는 근본적인 질문을 다루는 것.
• 적대적 오차에 강건한 새로운 양자 온라인 학습자인 강건한 표준 최적 알고리즘(RSOA)을 도입하고 분석하는 것.
• 양자 학습 복잡도를 조합적 매개변수(예: 순차적 지방 셸링 차원)와 물리적 개념(예: 채널 용량)과 연결하는 것.
• 가벼운 섀도우 톰그래피의 샘플 복잡도를 향상시키고 노이즈 있는 양자 상태 학습을 양자 채널 용량과 연결하는 것.

제안 방법

• 저자들은 적대적 입력 시퀀스에 강건한 양자 온라인 학습 알고리즘인 강건한 표준 최적 알고리즘(RSOA)을 도입하며, 살아남는 양자 상태의 집합을 유지하고 예측 오류가 발생할 때만 이를 갱신함으로써 강건성을 확보한다.
• RSOA가 만드는 실수의 수가 개념 클래스의 순차적 지방 셸링 차원에 의해 유계임을 증명하여, 고전적 온라인 학습 이론을 양자 환경으로 일반화한다.
• RSOA를 활용하여 다음과 같은 함의 사슬을 수립한다: 차별적 비밀성 있는 PAC 학습 → 온라인 학습 → 양자 안정성으로, 비밀성 제약 조건이 양자 상태에서 더 강력한 구조적 안정성을 암시함을 보여준다.
• 온라인 학습자가 적대적 피드백 하에서의 행동을 통해 정의되는 새로운 개념적 프레임워크인 양자 안정성을 공식화하고, 이가 온라인 학습 가능성에 의해 암시됨을 보여준다.
• 일방 통신 복잡도 모델을 활용하여 순차적 지방 셸링 차원을 통해 학습 가능성을 특징짓고, 정보이론적 및 학습이론적 매개변수를 연결한다.
• 이 결과들을 적용하여 가벼운 섀도우 톰그래피를 향상시키며, 필요한 복사 수가 순차적 지방 셸링 차원의 제곱에 비례함을 보이고, 노이즈 있는 학습과 홀로보 정보 및 채널 용량을 연결한다.

실험 결과

연구 질문

• RQ1 양자 상태의 차별적 비밀성 있는 PAC 학습이 온라인 학습 가능성이나 양자 안정성과 같은 더 강력한 구조적 성질을 암시하는가?
• RQ2 입력 데이터에 대한 적대적 오차가 존재하는 상황에서도 효과적으로 작동하는 강건한 온라인 양자 학습 알고리즘을 구성할 수 있는가?
• RQ3 조합적 매개변수(예: 순차적 지방 셸링 차원)와 양자 학습 모델의 샘플 복잡도 사이의 정확한 관계는 무엇인가?
• RQ4 양자 학습의 비밀성 제약 조건은 양자 정보 이론에서의 통신 복잡도와 채널 용량과 어떻게 관련이 있는가?
• RQ5 양자 안정성의 이론적 프레임워크는 가벼운 섀도우 톰그래피와 같은 실용적 프로토콜을 향상시키는 데 사용될 수 있는가?

주요 결과

• 논문은 양자 상태의 차별적 비밀성 있는 PAC 학습이 온라인 학습 가능성을 암시함을 증명하여, 양자 학습 모델 간의 기초적인 계층을 확립한다.
• 강건한 표준 최적 알고리즘(RSOA)이 도입되었으며, 이는 최대 O(sfat(𝒞))회의 실수를 범하며, 여기서 sfat(𝒞)는 개념 클래스의 순차적 지방 셸링 차원이다.
• 가벼운 섀도우 톰그래피에 필요한 복사 수는 O(ℓ² log² m log(1/δ)/ε²)로 개선되었으며, 여기서 ℓ = sfat(𝒞)로, 샘플 복잡도를 크게 감소시켰다.
• 양자 안정성이 공식적으로 정의되었고, 온라인 학습 가능성에 의해 암시됨을 보여주어, 양자 상태 학습 가능성에 대한 새로운 개념적 시각을 제공한다.
• 양자 상태 학습의 일방 통신 복잡도는 순차적 지방 셸링 차원으로 특징지어지며, 학습 이론과 통신 복잡도를 연결한다.
• 노이즈 있는 양자 상태 학습과 홀로보 정보 사이의 연결 고리를 수립하여, 물리적으로 유의미한 학습 시나리오와 양자 채널 용량과의 관련성을 시사한다.