[論文レビュー] Information-Theoretic Capacity and Error Exponents of Stationary Point Processes under Random Additive Displacements

Venkat Anantharam, François Baccelli|arXiv (Cornell University)|Dec 22, 2010

Point processes and geometric inequalities参考文献 12被引用数 4

ひとこと要約

本稿は、高次元ユークリッド空間における定常点過程のランダムな加法的変位の下で、容量および誤り指数の鋭い情報理論的閾値を確立する。各点が独立同分布のノイズベクトルでランダムに変位される際、強度の対数的比例係数とノイズの微分エントロピー率の和が負である場合、最尤推定を用いることで誤り確率 → 0 となる信頼性の高い復号が可能である。それ以外の場合は復号に失敗する。誤り指数はノイズのエントロピースペクトルにおける大偏差理論を用いて導出され、ポアソン過程およびマトエルン過程に対して閉形式の式が得られ、シャノンの加法的ノイズチャネルと関連づけられ、ガウス分布の場合に既知の境界が回復される。

ABSTRACT

This paper studies the Shannon regime for the random displacement of stationary point processes. Let each point of some initial stationary point process in $\R^n$ give rise to one daughter point, the location of which is obtained by adding a random vector to the coordinates of the mother point, with all displacement vectors independently and identically distributed for all points. The decoding problem is then the following one: the whole mother point process is known as well as the coordinates of some daughter point; the displacements are only known through their law; can one find the mother of this daughter point? The Shannon regime is that where the dimension $n$ tends to infinity and where the logarithm of the intensity of the point process is proportional to $n$. We show that this problem exhibits a sharp threshold: if the sum of the proportionality factor and of the differential entropy rate of the noise is positive, then the probability of finding the right mother point tends to 0 with $n$ for all point processes and decoding strategies. If this sum is negative, there exist mother point processes, for instance Poisson, and decoding strategies, for instance maximum likelihood, for which the probability of finding the right mother tends to 1 with $n$. We then use large deviations theory to show that in the latter case, if the entropy spectrum of the noise satisfies a large deviation principle, then the error probability goes exponentially fast to 0 with an exponent that is given in closed form in terms of the rate function of the noise entropy spectrum. This is done for two classes of mother point processes: Poisson and Matérn. The practical interest to information theory comes from the explicit connection that we also establish between this problem and the estimation of error exponents in Shannon's additive noise channel with power constraints on the codewords.

研究の動機と目的

• 高次元ユークリッド空間における定常点過程のランダムな変位を用いた信頼性通信の根本的限界を分析すること。
• 強度の対数的係数とノイズの微分エントロピー率の和に基づく復号信頼性の鋭い閾値を確立すること。
• ノイズのエントロピースペクトルにおける大偏差理論を用いて、閉形式の誤り指数を導出すること。
• 再パラメータライゼーションを介して、点過程モデルをパワー制約付きシャノンの加法的ノイズチャネルと結びつけること。
• 高SNR領域において、シャノンおよびガラージェの既知の誤り指数境界（ランダムおよび除去された指数）を回復・一般化すること。

提案手法

• 各点が独立同分布のノイズベクトルでランダムに変位されるR^nにおける定常点過程をモデル化する。
• 母点過程とノイズ分布が与えられたもとで、娘点の母点を特定する復号問題を定義する。
• パルム計算および質量輸送原理を用いて、誤り確率を点過程統計量の形で表現する。
• ノイズのエントロピースペクトルにおける大偏差理論を用いて、誤り確率の指数的減衰率を導出する。
• ゲルナー＝エラーの定理およびラプラス＝ヴァラドハン積分補題を適用して、誤り指数を閉形式で計算する。
• ポアソンおよびマトエルンのハードコア点過程に対して結果を検証し、ガウス分布の場合に既知の境界に収束することを示す。

実験結果

リサーチクエスチョン

• RQ1 高次元空間における変位された点過程の信頼性のある復号の根本的閾値は何か？
• RQ2 強度の対数的係数とノイズの微分エントロピー率の和は、復号性能にどのように影響するか？
• RQ3 大偏差理論を用いて、一般の定常およびエルゴード的ノイズ過程の明示的な誤り指数を導出できるか？
• RQ4 この点過程モデルとパワー制約付きシャノンの加法的ノイズチャネルとの関係は何か？
• RQ5 導出された誤り指数は、シャノンのランダムおよび除去された指数といった既知の結果を回復または一般化するか？

主な発見

• 鋭い閾値が存在する：強度の対数的比例係数とノイズの微分エントロピー率の和が負である場合、誤り確率は次元が増加するにつれて指数関数的に0に収束する。それ以外の場合は1に近づく。
• ポアソンおよびマトエルン点過程に対しては、最尤復号が閾値条件を満たす場合に誤り確率が0に収束する。
• ノイズのエントロピースペクトルのレート関数を仮定することで、誤り指数が大偏差原理に基づき閉形式で導出される。
• 点過程モデルの誤り指数は、単純な再パラメータライゼーションにより、シャノンの加法的ノイズチャネルにおける誤り指数に直接対応する。
• ホワイトガウスノイズの場合、導出された指数はポルティレーヴの領域において、シャノンのランダムおよび除去された誤り指数の両方を回復する。
• 大偏差条件を満たすすべての定常およびエルゴード的ノイズ過程に対して、既存の最良の境界に一致する、新たなタイトな誤り指数の境界が得られる。