[論文レビュー] On Refined Versions of the Azuma-Hoeffding Inequality with Applications in Information Theory

Igal Sason|arXiv (Cornell University)|Nov 8, 2011

Wireless Communication Security TechniquesEngineering参考文献 61被引用数 16

ひとこと要約

本稿では、一様に有界なジャンプを持つ離散的パrameterのマルティンゲールに対するアズマ＝フーディング不等式の洗練版を提示し、より良い分散およびモーメントに基づく解析を通じて、 tightened 濃縮バウンドを導出する。主な貢献は、情報理論、特に仮説検定、符号理論、およびチャネル容量解析における応用を強化する、鋭い指数的尾部バウンドの導出である。OFDM信号のクレストファクタおよび誤差指数についても明示的なバウンドが得られている。

ABSTRACT

This is a survey paper with some original results of the author on refined versions of the Azuma-Hoeffding inequality with some examples that are related to information theory. This work has evolved to the joint paper with Maxim Raginsky in arXiv:1212.4663v3.

研究の動機と目的

• 一様に有界なジャンプを持つ離散的パrameterのマルティンゲールのための、古典的なアズマ＝フーディングバウンドを改善する、よりタイトな濃縮不等式を導出すること。
• 洗練された不等式、確率論における古典的結果、および尾部バウンドの幾何的解釈との関係を確立すること。
• 仮説検定、チャネル符号化、誤差指数解析など、情報理論分野における実用的有用性を示すこと。
• マルティンゲールに基づく濃縮を用いてOFDM信号のクレストファクタを分析し、信号のピーク対平均電力比に対する明示的なバウンドを導出すること。
• グラフに基づく符号のための偏差バウンドの改善を通じて、反復的デコードおよび符号集合の理論的分析を支援すること。

提案手法

• マルティンゲール差分の条件付き分散およびモーメント生成関数の分析を通じて、洗練されたアズマ＝フーディング不等式を導出する。
• ジャンプの制御に、有界差分性質を用い、条件付き期待値および対称性の議論によりバウンドを導出する。
• OFDM信号に洗練された不等式を適用する際、時間領域信号の最大絶対値を、ランダムなコンステレーション記号の関数としてモデル化する。
• M-PSKコンステレーションの単位円上での対称性を用いて、代替の記号選択間の期待二乗差を計算する。
• 条件付き分散 $ \text{Var}(Y_i | \mathcal{F}_{i-1}) $ に対する一様バウンド $ \frac{2}{n} $ を導出し、よりタイトな尾部バウンドを実現する。
• 洗練された不等式を大偏差および中偏差原理と組み合わせ、誤差指数および容量を達成する符号の分析に用いる。

実験結果

リサーチクエスチョン

• RQ1 アズマ＝フーディング不等式は、ジャンプが有界なマルティンゲールに対して、どのように洗練され、よりタイトな濃縮バウンドをもたらすか？
• RQ2 条件付き分散およびモーメント生成関数は、マルティンゲールの尾部確率推定を改善するために果たす役割は何か？
• RQ3 洗練された不等式は、通信システムにおける誤差指数およびチャネル容量の分析をどのように改善するか？
• RQ4 OFDM信号のピーク対平均電力比（クレストファクタ）は何か？ そして、マルティンゲール濃縮を用いてどのようにバウンドできるか？
• RQ5 実用的な情報理論的設定、例えば符号化や仮説検定において、古典的なアズマ＝フーディング不等式よりも洗練された不等式がよりタイトなバウンドを提供できるか？

主な発見

• 本稿では、条件付き分散バウンドが $ \frac{2}{n} $ である洗練されたアズマ＝フーディング不等式を導出しており、標準的なバウンドを改善している。
• M-PSKコンステレーションを用いたOFDM信号では、時間領域信号の最大絶対値が、ほとんど確実に $ |Y_i - Y_{i-1}| \leq \frac{2}{\sqrt{n}} $ を満たすことが示されている。
• マルティンゲール差分の条件付き分散は、M点コンステレーション上の対称性および三角関数の和公式を用いて $ \frac{2}{n} $ でバウンドされている。
• 洗練された不等式は、特に中偏差領域において、古典的なアズマ＝フーディング不等式よりもタイトな指数的尾部バウンドをもたらす。
• 本手法により、非線形および fading チャネルにおける誤差指数および容量を達成する符号の分析が改善された。
• 結果は、OFDM信号のクレストファクタのバウンドを導出するために応用されており、ピーク電力がブロック長 $ n $ に対して非線形的に増加することを示している。