[論文レビュー] Bayesian Generalized Probability Calculus for Density Matrices

Manfred K. Warmuth, Dima Kuzmin|ArXiv.org|Jan 9, 2009

Blind Source Separation Techniques参考文献 19被引用数 5

ひとこと要約

本稿は、トレースが1の対称正定値行列（密度行列）に対するベイズ的一般化確率計算を導入する。これは、従来の確率論を量子的状態へと拡張するもので、量子相対エントロピー（Umegakiの発散）を用いて結合確率、条件付き確率、ベイズ則を定義し、行列が対角行列である場合に標準的なベイズ更新を保存する。

ABSTRACT

One of the main concepts in quantum physics is a density matrix, which is a symmetric positive definite matrix of trace one. Finite probability distributions can be seen as a special case when the density matrix is restricted to be diagonal. We develop a probability calculus based on these more general distributions that includes definitions of joints, conditionals and formulas that relate these, including analogs of the Theorem of Total Probability and various Bayes rules for the calculation of posterior density matrices. The resulting calculus parallels the familiar "conventional" probability calculus and always retains the latter as a special case when all matrices are diagonal. We motivate both the conventional and the generalized Bayes rule with a minimum relative entropy principle, where the Kullbach-Leibler version gives the conventional Bayes rule and Umegaki's quantum relative entropy the new Bayes rule for density matrices. Whereas the conventional Bayesian methods maintain uncertainty about which model has the highest data likelihood, the generalization maintains uncertainty about which unit direction has the largest variance. Surprisingly the bounds also generalize: as in the conventional setting we upper bound the negative log likelihood of the data by the negative log likelihood of the MAP estimator.

研究の動機と目的

• 古典的離散分布を超えて、混合量子状態を表す密度行列へとベイズ確率論を拡張すること。
• 古典的条件付き確率を一般化する、整合的な結合および条件付き密度行列の概念を定義すること。
• Kullback-Leibler発散の古典的ベイズ則のバージョンを一般化する、Umegakiの量子相対エントロピーに基づく量子ベイズ則を導出すること。
• 行列空間における連続的ベイズ更新の微分方程式フレームワークを確立すること。これは古典的スコアに基づく更新と類似している。
• 密度行列が対角行列である場合に、一般化された計算が古典的確率を特別なケースとして保存することを示すこと。

提案手法

• 基本事象がランク1射影（dyad）である一般化された確率計算を提案。一般化された確率は、密度行列 $ \mathbf{W} $ に対して $ \mathbf{u}^T \mathbf{W} \mathbf{u} $ で与えられる。
• 行列演算を用いて結合および条件付き密度行列を定義。結合 $ \mathbf{D}(\mathbb{A}, \mathbb{B}) $ は、条件付き $ \mathbf{D}(\mathbb{A}|\mathbb{B}) $ と関係する：$ \mathbf{D}(\mathbb{A}|\mathbb{B}) \odot (\mathbf{I}_\mathbb{A} \otimes \mathbf{D}(\mathbb{B})) $。
• 古典的ケースにおけるKullback-Leibler発散の代わりに、Umegakiの量子相対エントロピーを発散測度として用いて、一般化されたベイズ則を導出する。
• 連続的ベイズ更新のための微分方程式を導入：$ \frac{\partial \mathbf{log} \mathbf{D}(\mathbb{M}|t)}{\partial t} = \mathbf{log} \mathbf{D}(\bm{y}|\mathbb{M}) - \mathrm{tr}(\mathbf{D}(\mathbb{M}|t) \mathbf{log} \mathbf{D}(\bm{y}|\mathbb{M})) $。解は行列指数関数および対数関数を含む。
• $ \odot $（ハダマード積）および行列対数/指数演算を用いて事後分布の更新を表現し、トレース正規化を保証する。
• 最小相対エントロピー原理を用いて、一般化されたベイズ則の動機づけを提供。Umegakiの発散が量子更新則を導く。

実験結果

リサーチクエスチョン

• RQ1 ベイズ推論は、古典的確率分布から、混合量子状態を表す密度行列へとどのように一般化できるか？
• RQ2 密度行列の空間における条件付き確率および結合分布の適切な類似物は何か？
• RQ3 Umegakiの量子相対エントロピーに基づく一般化されたベイズ則は、古典的Kullback-Leiblerバージョンとどのように異なるか？
• RQ4 行列空間における連続的ベイズ更新は微分方程式として定式化可能か？その解は何か？
• RQ5 密度行列が対角行列である場合に、一般化された計算が古典的ベイズ枠組みを特別なケースとして保存するか？

主な発見

• 一般化された確率計算には、全確率の定理およびさまざまなベイズ則の類似物が含まれ、すべての行列が対角行列である場合に古典的ケースが回復される。
• 一般化されたベイズ則は、Umegakiの量子相対エントロピーを最小化することから導出され、古典的Kullback-Leibler最小化の量子版を提供する。
• 行列空間におけるベイズ更新の微分方程式定式化は、行列対数および指数関数を含む閉形式解を導く：$ \mathbf{D}(\mathbb{M}|t) = \frac{\exp(\log \mathbf{D}(\mathbb{M}|0) + t \log \mathbf{D}(\bm{y}|\mathbb{M}))}{\mathrm{tr}(\cdots)} $。
• 更新則はユニタリではなく、固有系を保存しない。これは、今や不確実性がモデルの上ではなく、最大分散方向の上にあることを反映している。
• データの負の対数尤度は、最大事後確率推定値（MAP推定値）の負の対数尤度によって上界で抑えられる。これは古典的結果の一般化である。
• 固有値が固定されたままでも、ユニタリ共役を介して純粋状態から別の純粋状態へと非退化な経路をとることができ、古典的確率よりも豊かな幾何的構造を明らかにする。