[논문 리뷰] Equality conditions for internal entropies of certain classical and quantum models

Peter Gmeiner|arXiv (Cornell University)|2011. 08. 26.

Statistical Mechanics and Entropy참고 문헌 2인용 수 7

한 줄 요약

이 논문은 확률적 과정의 고전적 및 양자 모델이 내부 엔트로피를 동일하게 하는 시점을 조사하며, 고전적 최소 모델(ε-기계)과 특정 양자 모델 간의 내부 엔트로피 동일성이 드물게 발생함을 보여준다. 또한, 양자 모델이 메모리 요구량을 크게 줄일 수는 있지만, 내부 엔트로피가 동일해지는 것은 엄격한 조건에서만 가능하며, 심지어 그마저도 모든 양자 구축 방식에 대해 일반화되지 않음을 증명한다.

ABSTRACT

Mathematical models use information from past observations to generate predictions about the future. If two models make identical predictions the one that needs less information from the past to do this is preferred. It is already known that certain classical models (certain Hidden Markov Models called ε-machines which are often optimal classical models) are not in general the preferred ones. We extend this result and show that even optimal classical models (models with minimal internal entropy) in general are not the best possible models (called ideal models). Instead of optimal classical models we can construct quantum models which are significantly better but not yet the best possible ones (i.e. they have a strictly smaller internal entropy). In this paper we show conditions when the internal entropies between classical models and specific quantum models coincide. Furthermore it turns out that this situation appears very rarely. An example shows that our results hold only for the specific quantum model construction and in general not for alternative constructions. Furthermore another example shows that classical models with minimal internal entropy need not to be related to quantum models with minimal internal entropy.

연구 동기 및 목표

• 고전적 은닉 마르코프 모델(HMM)의 내부 엔트로피가 해당하는 양자 모델의 내부 엔트로피와 동일해지는 조건을 규명하는 것.
• 이전의 양자 모델의 기억 효율성 우월성 결과를 ε-기계를 초월하여 모든 최적의 고전적 모델로 확장하는 것.
• 최소 고전적 모델(생성 복잡도 측면에서)이 최소 양자 모델과 대응되는지 조사하는 것.
• 내부 엔트로피가 동일해지는 것이 다양한 양자 모델 구축 방식 전반에 걸쳐 보장되지 않음을 보여주는 것.
• 고전적 최소 모델과 내부 엔트로피가 최소인 양자 모델 간의 관계를 명확히 하는 것.

제안 방법

• 고전적 및 양자 내부 상태를 가진 확률적 과정을 모델링하기 위해 계산 기계학의 프레임워크와 은닉 마르코프 모델(HMM)을 사용한다.
• 양자 연산을 연산자 합 표현으로 표현할 수 있도록 스티네싱-크로우 정리를 적용하여 은닉 양자 마르코프 모델(HQMM)을 구축한다.
• 고전적 샤논 엔트로피 $ C_{Cl} $와 유사하게, 양자 내부 상태 엔트로피 $ C_q $ 를 양자 상태 분포의 바르누아 엔트로피로 정의한다.
• 과거와 미래 사이의 상호정보량 $ I(X;Y) $, 초과 엔트로피 $ E $, 그리고 내부 엔트로피 $ C_q $ 와 $ C_{Cl} $ 를 비교하여 불등식 체인 $ E \leq I(X;Y) \leq C_q \leq C_{Cl} $ 를 수립한다.
• 특정 양자 모델을 고전적 HMM에서 정규직교 프로젝터와 전이 연산자를 사용하여 구성함으로써 $ C_q = C_{Cl} $ 의 등가 조건을 분석한다.
• 결과를 검증하기 위해 $ C_{Cl} = 2 $, $ I(X;Y) = 0.5 $, $ C_q \approx 1.2018 $ 인 4기호 HMM 예제를 사용하여 엄격한 부등식이 성립함을 보였다.

실험 결과

연구 질문

• RQ1 고전적 최소 모델과 특정 양자 모델이 내부 엔트로피를 동일하게 하는 조건은 무엇인가?
• RQ2 고전적 최소 HMM에서 유도된 양자 모델이 항상 내부 엔트로피 측면에서 최소 양자 모델인가?
• RQ3 내부 엔트로피 동일성 $ C_q = C_{Cl} $ 는 달성 가능한가? 만약 그렇다면, 그 과정이나 모델의 구조적 제약 조건은 무엇인가?
• RQ4 내부 엔트로피의 동일성은 다양한 양자 모델 구축 방식 전반에 걸쳐 성립하는가, 아니면 제안된 방법에 특화된 것인가?
• RQ5 내부 엔트로피 측면에서 최소 고전적 모델($ C_{Cl} $ 기준)과 최소 양자 모델($ C_q $ 기준) 간의 관계는 무엇인가?

주요 결과

• 고전적 생성 복잡도 $ C_{Cl} $ 와 양자 내부 상태 엔트로피 $ C_q $ 가 동일해지는 것은 특정 구조적 조건에서만 발생하며, 실질적으로는 드문 경우이다.
• 4기호 HMM 예제에서 $ C_{Cl} = 2 $, $ I(X;Y) = 0.5 $, $ C_q \approx 1.2018 $ 이며, 엄격한 부등식 $ I(X;Y) < C_q < C_{Cl} $ 가 성립함을 보였다.
• 2레벨 시스템만을 사용하는 다른 양자 모델 구축 방식은 $ C_q = 1 $ 을 달성하여, 유도된 HQMM이 최소가 아니며 따라서 $ C_q $ 가 유도된 모델의 엔트로피보다 엄격히 작을 수 있음을 증명하였다.
• ε-기계에서는 $ E = I(X;Y) $ 가 성립하지만, 이는 양자 모델과의 내부 엔트로피 동일성을 의미하지는 않는다.
• 내부 엔트로피 동일성 $ C_q = C_{Cl} $ 는 모든 양자 모델 구축 방식에 대해 일반적으로 성립하지 않으며, 이 결과는 제안된 HQMM 구축 방식에 특화되어 있다.
• 최소 고전적 모델이 반드시 최소 양자 모델과 대응되지는 않으며, 최소 양자 모델의 구조는 여전히 열린 문제이다.