[논문 리뷰] Quantum Cross Entropy and Maximum Likelihood Principle

Zhou Shangnan, Yixu Wang|arXiv (Cornell University)|2021. 02. 23.

Quantum Computing Algorithms and Architecture참고 문헌 5인용 수 8

한 줄 요약

이 논문은 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $로 정의된 양자 교차 엔트로피의 양자 일반화를 제안하고, 양자 허밀토니안과 관련된 수학적 성질을 확립한다. 특히 양자 허밀토니안을 통한 하한을 제시한다. 최소화된 양자 교차 엔트로피는 측정에 의해 영향을 받지 않는 데이터일 경우에만 최대우도 원리와 동치이며, 否론 측정에 의한 정보 손실이 발생하여 이 동치성이 깨지게 된다. 따라서 전체 양자 머신러닝을 위해 지연 측정이 필수적임을 결론 내린다.

ABSTRACT

Quantum machine learning is an emerging field at the intersection of machine learning and quantum computing. Classical cross entropy plays a central role in machine learning. We define its quantum generalization, the quantum cross entropy, prove its lower bounds, and investigate its relation to quantum fidelity. In the classical case, minimizing cross entropy is equivalent to maximizing likelihood. In the quantum case, when the quantum cross entropy is constructed from quantum data undisturbed by quantum measurements, this relation holds. Classical cross entropy is equal to negative log-likelihood. When we obtain quantum cross entropy through empirical density matrix based on measurement outcomes, the quantum cross entropy is lower-bounded by negative log-likelihood. These two different scenarios illustrate the information loss when making quantum measurements. We conclude that to achieve the goal of full quantum machine learning, it is crucial to utilize the deferred measurement principle.

연구 동기 및 목표

• 양자 머신러닝에 응용하기 위한 고전적 교차 엔트로피의 양자 일반화를 체계화하기.
• 양자 측정이 존재하는가 여부에 따라 양자 교차 엔트로피와 최대우도 원리 간의 관계를 조사하기.
• 실제로 측정된 데이터로부터 추정된 밀도 행렬을 구성할 때 발생하는 측정에 의한 정보 손실을 규명하기.
• 최적화 성질을 유지하는 양자 머신러닝 알고리즘 설계를 위한 이론적 기반을 마련하기.
• 지연 측정 원리를 전체 양자 머신러닝을 실현하는 핵심 요소로 주장하기.

제안 방법

• 고전적 교차 엔트로피를 밀도 행렬으로 일반화하여, $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $로 양자 교차 엔트로피를 정의한다.
• 기본 성질을 증명한다: 양수성, 유니타리 불변성, 첫 번째 인자에 대한 선형성, 두 번째 인자에 대한 볼록성, 그리고 공동 볼록성.
• 하한을 확립한다: $ S(\rho,\sigma) \geq -\log \text{tr}(\rho\sigma) \geq -\log F(\rho,\sigma) $로, 이는 양자 허밀토니안과 연결된다.
• 두 가지 시나리오를 분석한다: (1) 측정에 의해 영향을 받지 않는 양자 데이터의 경우, 양자 교차 엔트로피 최소화는 최대우도와 수학적으로 동치이다. (2) 측정 결과로부터 추정된 경험적 밀도 행렬을 사용하는 경우, 양자 교차 엔트로피는 음의 로그우도에 의해 하한이 제시된다.
• 지연 측정 원리를 활용하여 조기 측정을 피할 경우, 양자 교차 엔트로피 최소화와 최대우도 원리 간의 동치성이 유지됨을 주장한다.
• 랭크-1 프로젝터 하에서 랭크 항등식과 교환자 조건에 대한 보조 증명을 제공하여 주요 이론적 주장의 기초를 강화한다.

실험 결과

연구 질문

• RQ1 고전적 교차 엔트로피 최소화와 최대우도 원리 간의 동치성은 양자 영역에서도 성립하는가?
• RQ2 양자 측정은 양자 교차 엔트로피와 최대우도 최적화 간의 관계에 어떤 영향을 미치는가?
• RQ3 제안된 양자 교차 엔트로피의 수학적 구조와 성질 집합은 무엇인가?
• RQ4 측정된 데이터로부터 구성된 양자 교차 엔트로피는 음의 로그우도에 의해 하한이 제시될 수 있는가?
• RQ5 지연 측정 원리는 양자 머신러닝 최적화 구조를 유지하는 데 어떤 역할을 하는가?

주요 결과

• 양자 교차 엔트로피 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $ 는 양수성, 유니타리 불변성, 두 번째 인자에 대한 볼록성, 그리고 공동 볼록성을 갖는 것으로 입증되었다.
• 엄밀한 하한이 확립되었다: $ S(\rho,\sigma) \geq -\log F(\rho,\sigma) $, 여기서 $ F(\rho,\sigma) = \left(\text{tr} \sqrt{\rho\sigma}\right)^2 $ 는 양자 허밀토니안이다.
• 양자 데이터가 측정에 의해 영향을 받지 않는 경우, 양자 교차 엔트로피를 최소화하는 것은 수학적으로 최대우도 함수를 최대화하는 것과 동치이다.
• 측정 결과로부터 추정된 경험적 밀도 행렬을 기반으로 양자 교차 엔트로피를 구성할 경우, 이는 음의 로그우도에 의해 하한이 제시되며, 이는 측정에 의한 정보 손실을 시사한다.
• 영향을 받지 않은 데이터와 측정된 데이터 간의 두 시나리오 간의 차이는, 양자 측정이 고전적 교차 엔트로피 최소화와 최대우도 최대화 간의 동치성을 깨뜨린다는 점을 입증한다.
• 본 연구는 지연 측정 원리가 전체 양자 머신러닝을 위해 교차 엔트로피와 최대우도의 유리한 최적화 구조를 유지하는 데 필수적임을 결론 내린다.