[論文レビュー] Relative entropy and the multi-variable multi-dimensional moment problem

Tryphon T. Georgiou|ArXiv.org|Jun 7, 2005

Statistical Mechanics and Entropy参考文献 42被引用数 22

ひとこと要約

本稿は、量子相対エントロピーを用いたホモトピーに基づく正則化法を導入し、2次統計からのスペクトル推定を目的として、多変数・多変化のモーメント問題を解く。エントロピー駆動のリーマン計量の再正規化により、すべての解の完全な特徴付けがなされ、アレイ信号処理および量子情報理論における一貫性のあるパワー スペクトル再構成が可能となる。

ABSTRACT

Entropy-like functionals on operator algebras have been studied since the pioneering work of von Neumann, Umegaki, Lindblad, and Lieb. The most well-known are the von Neumann entropy $trace (ρ\log ρ)$ and a generalization of the Kullback-Leibler distance $trace (ρ\log ρ- ρ\log σ)$, refered to as quantum relative entropy and used to quantify distance between states of a quantum system. The purpose of this paper is to explore these as regularizing functionals in seeking solutions to multi-variable and multi-dimensional moment problems. It will be shown that extrema can be effectively constructed via a suitable homotopy. The homotopy approach leads naturally to a further generalization and a description of all the solutions to such moment problems. This is accomplished by a renormalization of a Riemannian metric induced by entropy functionals. As an application we discuss the inverse problem of describing power spectra which are consistent with second-order statistics, which has been the main motivation behind the present work.

研究の動機と目的

• スペクトル解析および信号処理に生じる多変数・多変化のモーメント問題の解の存在および完全な特徴付けを扱う。
• 特にセンサーアレイおよびレーダーシステムにおいて、観測された2次統計と整合するパワー スペクトルの再構成のための正則化フレームワークを提供する。
• 正則性と一意性を保証するため、古典的モーメント問題の解を量子エントロピー関数形を組み込むことで一般化する。
• 極値解だけでなく、すべての妥当な解を記述する体系的な手法を開発する。
• 演算子代数における解の族を統一するため、エントロピー誘導のリーマン計量を用いて幾何的構造を確立する。

提案手法

• モーメント問題における解の選択に、正則化関数形として量子相対エントロピー $\mathbb{S}(\rho\|\sigma) = \mathrm{trace}(\rho\log\rho - \rho\log\sigma)$ を用いる。
• 基準密度を連続的に変形することでモーメント制約を満たすホモトピー法を用い、極値解への収束を保証する。
• 行列の指数関数および対数関数の微分公式を適用する：$d\exp(A) = \int_0^1 e^{(1-\tau)A} \Delta e^{\tau A} d\tau$ および $d\log(A) = \int_0\infty (A+\tau I)^{-1} \Delta (A+\tau I)^{-1} d\tau$。
• 非可換乗法作用素 $M_C(\Delta) = \int_0^1 C^{1-\tau} \Delta C^{\tau} d\tau$ を定義し、行列の指数関数および対数関数の微分を表現する。
• 作用素 $M_C$ 及びその逆作用素を用いて、エントロピーによって誘導されるリーマン計量を再正規化し、解多様体の幾何的記述を可能にする。
• エントロピー最小化およびホモトピー継続を用いて、モーメント制約 $R = \int_{\mathcal{S}} G_{\text{left}}(\theta) \rho(\theta) G_{\text{right}}(\theta) d\theta$ を解くことで、完全な解の特徴付けを導出する。

実験結果

リサーチクエスチョン

• RQ1 与えられた多変数モーメント制約 $R = \int G_{\text{left}}(\theta) \rho(\theta) G_{\text{right}}(\theta) d\theta$ を満たす正定値密度関数 $\rho(\theta)$ が存在するか？
• RQ2 そのような密度関数が存在する場合、モーメント問題のすべての可能な解の集合は何か？
• RQ3 量子相対エントロピーをどのように用いることで、無限に多くの妥当な密度関数の中から一意に解を選択・正則化できるか？
• RQ4 解空間の幾何的構造は何か？ また、エントロピー誘導のリーマン計量を用いてどのようにパラメータ化できるか？
• RQ5 ホモトピー法は、正定値性およびトレース制約を保ちながら、モーメント問題の極値解を効果的に構成できるか？

主な発見

• ホモトピー法は、量子相対エントロピーを正則化子として用いることで、多変数・多変化のモーメント問題に対する極値解を効果的かつ構成的に生成する手法を提供する。
• すべての解は、エントロピー関数形によって誘導される再正規化されたリーマン計量を通じて完全に記述可能であり、妥当な密度関数の幾何的分類が可能となる。
• 行列の指数関数の微分は $M_{e^A}(\Delta) = \int_0^1 e^{(1-\tau)A} \Delta e^{\tau A} d\tau$ で与えられ、非可換設定における可換乗法の一般化を示す。
• 行列の対数関数の微分は $M_A^{-1}(\Delta)$ であり、ここで $M_A(\Delta) = \int_0^1 A^{1-\tau} \Delta A^{\tau} d\tau$ である。これはリーの重要な結果を確認する。
• モーメント問題の解空間は凸集合であり、相対エントロピー関数形により極値解が一意かつ最大限に偏りのないものとなることが保証される。
• 本フレームワークは、2次統計からのパワー スペクトルの逆問題を効果的に解き、レーダー、センサーアレイ、および量子状態トモグラフィーへの応用を実現する。