[논문 리뷰] Quantum Data Compression and Quantum Cross Entropy

Zhou Shangnan|arXiv (Cornell University)|2021. 06. 25.

Quantum Computing Algorithms and Architecture참고 문헌 17인용 수 10

한 줄 요약

이 논문은 부분 최적의 양자 소스 코딩에서 압축률로 작용하는 양자 교차 엔트로피 $ S(\rho,\sigma) = -\text{tr}(\rho \log \sigma) $ 를 실현하는 보편적인 양자 데이터 압축 프로토콜을 제안한다. 양자 강한 유형성과 진짜 소스 $ \rho $ 를 인식된 모델 $ \sigma $ 와 일치시키는 유니터리 변환을 활용하여, 유형성 부분공간에 투영함으로써 충실도가 높은 압축을 달성하며, 이 압축률은 양자 교차 엔트로피와 일치한다. 이는 $ \sigma = \rho $ 일 때 바르누아 엔트로피로 최소화된다. 이는 양자 교차 엔트로피가 양자 기계학습에서 자연스러운 손실 함수임을 입증한다.

ABSTRACT

The emerging field of quantum machine learning has the potential of revolutionizing our perspectives of quantum computing and artificial intelligence. In the predominantly empirical realm of quantum machine learning, a theoretical void persists. This paper addresses the gap by highlighting the quantum cross entropy, a pivotal counterpart to the classical cross entropy. We establish quantum cross entropy's role in quantum data compression, a fundamental machine learning task, by demonstrating that it acts as the compression rate for sub-optimal quantum source coding. Our approach involves a novel, universal quantum data compression protocol based on the quantum generalization of variable-length coding and the principle of quantum strong typicality. This reveals that quantum cross entropy can effectively serve as a loss function in quantum machine learning algorithms. Furthermore, we illustrate that the minimum of quantum cross entropy aligns with the von Neumann entropy, reinforcing its role as the optimal compression rate and underscoring its significance in advancing our understanding of quantum machine learning's theoretical framework.

연구 동기 및 목표

• 양자 기계학습의 이론적 격차를 메우기 위해 양자 교차 엔트로피의 기초적 역할을 확립하기 위해.
• 양자 교차 엔트로피를 양자 데이터 압축에서의 압축률로 실용적인 해석을 제공하기 위해.
• 양자 강한 유형성과 가변 길이 코딩 원칙에 기반한 물리적으로 타당한 보편적인 양자 압축 프로토콜을 개발하기 위해.
• 양자 교차 엔트로피를 최소화하면 바르누아 엔트로피와 동일한 최적의 압축률을 달성함을 보여주기 위해.
• 양자 기계학습 알고리즘에 대한 실용적인 손실 함수로 양자 교차 엔트로피를 위치지키기 위해.

제안 방법

• 인식된 양자 소스 상태 $ \sigma $ 에 기반한 계산 기저를 구성하며, 이는 모델 파rameter로 작용한다.
• 진짜 소스 상태 $ \rho $ 를 $ \sigma $ 가 정의한 기저로 매핑하기 위해 유니터리 변환 $ U $ 를 적용하여 유형성 시퀀스와의 일치를 가능하게 한다.
• 변환된 상태 $ U\rho U^\dagger $ 를 양자 강한 유형성에 의해 정의된 부분공간에 투영하며, 총 코드워드 길이가 $ [NS(\rho,\sigma) - \epsilon, NS(\rho,\sigma) + \epsilon] $ 범위 내에 있도록 한다.
• 유형성 조건 하에서 높은 충실도 $ \geq 1 - \delta $ 를 확보하기 위해 투영 연산자 $ \Pi $ 를 사용하여 유형성 시퀀스를 식별한다.
• 압축된 상태를 $ U^\dagger $ 를 사용하여 원래 기저로 되돌림으로써 압축 프로토콜을 완료한다.
• 평균 압축 길이를 $ \langle l \rangle = S(\rho, \sigma) $ 로 정량화하여, 이가 압축률로 작용하는 것을 입증한다.

실험 결과

연구 질문

• RQ1 양자 교차 엔트로피는 양자 소스 코딩에서 압축률로 실용적으로 해석될 수 있는가?
• RQ2 모델 기반 접근법을 사용하여 임의의 양자 소스에 대해 양자 데이터 압축을 일반화할 수 있는가?
• RQ3 양자 교차 엔트로피와 최적 압축률(바르누아 엔트로피) 사이의 관계는 무엇인가?
• RQ4 양자 교차 엔트로피는 바르누아 엔트로피에서 최소가 되는 조건에서 양자 기계학습에서 손실 함수로 기능할 수 있는가?
• RQ5 이 프로토콜은 다양한 소스 상태에 걸쳐 보편성을 유지하면서도 고성능 압축을 보장하는가?

주요 결과

• 양자 교차 엔트로피 $ S(\rho, \sigma) $ 는 부분 최적의 양자 소스 코딩에서의 압축률로 실용적으로 해석된다.
• 유형성 조건 하에서 충실도 $ \geq 1 - \delta $ 를 확보하는 고성능 압축을 달성한다. 여기서 $ \delta $ 는 유형성에서의 이탈 확률이다.
• 모든 $ \sigma $ 에 대해 양자 교차 엔트로피를 최소화하면 바르누아 엔트로피 $ S(\rho) $ 와 일치하며, 이는 최적의 압축률임을 확인한다.
• $ \sigma = \rho $ 일 때 압축률 $ S(\rho, \sigma) $ 는 이론적 하한 $ S(\rho) $ 를 도달하여 그 최적성의 타당성을 입증한다.
• 이 프로토콜은 밀도 행렬로 표현 가능한 임의의 양자 소스에 적용 가능한 보편적이며, 엄격한 유형성 조건을 완화함으로써 슈마허 압축을 일반화한다.
• 정수 큐비트 수를 요구할 경우 압축률 $ \langle l \rangle \in [S(\rho,\sigma), S(\rho,\sigma) + 1) $ 를 만족하여 실용적 구현 가능성을 보장한다.