[論文レビュー] Renyi extrapolation of Shannon entropy

Karol Życzkowski|ArXiv.org|May 12, 2003

Quantum Information and Cryptography参考文献 12被引用数 13

ひとこと要約

本稿では、確率ベクトルの長さ $N$ を既知として、シャノンエントロピーの上限・下限と明示的な外挿式を、リーニー・エントロピーの2次および3次に用いて提示する。この手法により、確率ベクトルの全分布が入手不可能な量子情報および統計物理学の文脈において、$H_2$ と $H_3$ のみが利用可能な状況でもシャノンエントロピーの推定が可能となり、境界値のみを用いる場合よりも精度が向上する。

ABSTRACT

Relations between Shannon entropy and Renyi entropies of integer order are discussed. For any N-point discrete probability distribution for which the Renyi entropies of order two and three are known, we provide an lower and an upper bound for the Shannon entropy. The average of both bounds provide an explicit extrapolation for this quantity. These results imply relations between the von Neumann entropy of a mixed quantum state, its linear entropy and traces.

研究の動機と目的

• 既知の長さ $N$ を持つ離散確率分布に対して、シャノン・エントロピー $H_1$ の下限および上限を、リーニー・エントロピー $H_2$ および $H_3$ のみが利用可能な状況で導出すること。
• $H_2$ および $H_3$ を根拠とした $H_1$ の明示的な外挿式を提案し、境界値のみを用いる場合よりも精度を向上させること。
• 全スペクトルが得られない量子系におけるフォン・ノイマン・エントロピーの推定を可能とすること。ここで、$\mathrm{Tr} \rho^2$ および $\mathrm{Tr} \rho^3$ のみが測定可能である。
• 全確率ベクトルが入手不可能な物理系における情報理論的量の推定に実用的なツールを提供すること。
• 整数次整数のリーニー・エントロピー間の関係と、非拡張的エントロピーおよび力学系への影響を明確にすること。

提案手法

• トプソエおよびハーレムスによる不等式を用い、確率ベクトルの長さ $N$ が既知であることを活かして、リーニー・エントロピーの2次および3次を用いて $H_1$ の境界を導出する。
• 下限と上限の平均として定義される明示的な外挿式（式32）を提案し、推定精度を向上させる。
• リーニー・エントロピーを $L_q$ ノルムで表す関係式 $H_q = \frac{1}{1-q}\ln\left(\sum x_i^q\right)$ を用い、$H_2 = -\ln\left(\sum x_i^2\right)$ および $H_3 = \frac{1}{-2}\ln\left(\sum x_i^3\right)$ を明示する。
• 量子系にこの境界を適用し、$H_1$ がフォン・ノイマン・エントロピーに対応し、$H_2$ が線形エントロピーに対応し、$\mathrm{Tr} \rho^k$ が $\sum x_i^k$ に対応することを示す。
• サイズ $N=10$ の $10^4$ 個のランダム確率ベクトルを用いた数値的検証を行い、外挿の誤差分布を分析する。
• $H_q$ が $q$ に関して必ずしも凸でないという以前の主張を見直し、$H_q$ が凸でない場合でも境界値が有効であることを確認する。

実験結果

リサーチクエスチョン

• RQ1 全確率ベクトルが不明な状況で、リーニー・エントロピーの2次および3次からシャノン・エントロピー $H_1$ を信頼性高く推定できるか？
• RQ2 $H_2$ および $H_3$ から導かれる $H_1$ の境界は、確率ベクトルの長さ $N$ にどのように依存するか？
• RQ3 $H_2$ および $H_3$ を根拠とした $H_1$ の外挿式の精度はどの程度か？ また、境界値との比較ではどうなるか？
• RQ4 リーニー・エントロピー $H_q$ が $q$ に関して凸でない場合でも、導出された境界値および外挿式は有効であるか？
• RQ5 これらの手法は、$\mathrm{Tr} \rho^2$ および $\mathrm{Tr} \rho^3$ のみが測定可能な量子系においてフォン・ノイマン・エントロピーを推定するために適用可能か？

主な発見

• 確率ベクトルの長さ $N$ が既知である限り、$H_2$ および $H_3$ から導かれるシャノン・エントロピー $H_1$ の下限および上限は有効であり、適用可能である。
• 下限と上限の平均として定義される外挿式（式32）は、境界値のみを用いる場合よりも $H_1$ の推定精度が向上する。
• サイズ $N=10$ の $10^4$ 個のランダムベクトルを用いた数値シミュレーションでは、外挿値 $H_*$ の誤差がほぼゼロを中心に狭い分布を示しており、高い精度が確認された。
• リーニー・エントロピー $H_q$ が $q$ に関して必ずしも凸でないことが判明したが、補正においてその点を明確にした結果、境界値および外挿式は依然として有効である。
• この手法は、ハーファ・チャーヴァおよびツァリスの非拡張的エントロピーへも拡張可能であり、線形エントロピー $L$ は $S_2$ に等しい。
• 結果は量子系に直接適用可能であり、$\mathrm{Tr} \rho^2$ および $\mathrm{Tr} \rho^3$ の測定値からフォン・ノイマン・エントロピーを推定することが可能である。