[論文レビュー] Finite-Time Capacity: Making Exceed-Shannon Possible?

Jieao Zhu, Zijian Zhang+2 more|arXiv (Cornell University)|Oct 31, 2021

Sparse and Compressive Sensing Techniques参考文献 15被引用数 5

ひとこと要約

本稿は、ガウス過程における有限時間容量のフレームワークを導入し、極限に基づく表現を導出し、メルサーアクパント展開を用いて、有限観測ウィンドウ内での相互情報量が古典的なシャノン容量を超えることができることを解析的に証明する。これは「シャノンを超える現象」を示している。このアプローチは、有限時間容量を作用素理論と結びつけ、新しい仮定の下でシャノンの極限と整合することを示している。

ABSTRACT

Shannon-Hartley theorem can accurately calculate the channel capacity when the signal observation time is infinite. However, the calculation of finite-time capacity, which remains unknown, is essential for guiding the design of practical communication systems. In this paper, we investigate the capacity between two correlated Gaussian processes within a finite-time observation window. We first derive the finite-time capacity by providing a limit expression. Then we numerically compute the maximum transmission rate within a single finite-time window. We reveal that the number of bits transmitted per second within the finite-time window can exceed the classical Shannon capacity, which is called as the Exceed-Shannon phenomenon. Furthermore, we derive a finite-time capacity formula under a typical signal autocorrelation case by utilizing the Mercer expansion of trace class operators, and reveal the connection between the finite-time capacity problem and the operator theory. Finally, we analytically prove the existence of the Exceed-Shannon phenomenon in this typical case, and demonstrate the achievability of the finite-time capacity and its compatibility with the classical Shannon capacity.

研究の動機と目的

• 実用的な通信システムにおいて信号が境界付き時間ウィンドウで観測される状況における、有限時間容量の分析が不足しているという問題に取り組む。
• シャノン＝ハートリーの定理の無限時間漸近近似を避ける、数学的に厳密な有限時間容量の表現を導出する。
• 有限時間ウィンドウ内での相互情報量が、古典的なシャノン容量を超える可能性があるかどうかを調査する。これは「シャノンを超える現象」として知られる。
• メルサーアクパント展開を用いて、有限時間容量と作用素理論を結びつけることで、解析的取り扱いの容易さを実現する。
• 特定の信号相関モデルの下で、有限時間容量の達成可能性と古典的シャノン理論との整合性を証明する。

提案手法

• 連続時間における情報量を扱うために、密なサンプリングと極限プロセスを用いて有限時間容量を導出する。
• 連続容量表現を行列形式に離散化し、数値計算およびシミュレーションに用いる。
• 信号自己相関に関連するトレースクラス積分作用素にメルサーアクパント展開を適用し、閉形式の有限時間容量式を導出する。
• 共分散カーネルの固有値を作用素理論を用いて分析することで、容量式の解析的取り扱いを可能にする。
• 残留計算および不適切積分の評価を用いて、特に低出力領域における重要な解析的結果を検証する。
• 特定の指数的自己相関モデルの下で、数値的に「シャノンを超える現象」を検証し、小信号出力パワーにおいては解析的にも証明する。

実験結果

リサーチクエスチョン

• RQ1 有限時間観測ウィンドウ内での相互情報量は、古典的なシャノン容量を超えることができるか？
• RQ2 与えられた自己相関構造を持つ相関ガウス過程の有限時間容量の解析的形は何か？
• RQ3 有限時間容量は古典的シャノン容量とどのように関係しているのか。また、「シャノンを超える現象」が成立する条件は何か？
• RQ4 有限時間容量と作用素理論を結びつける数学的枠組みは何か。また、これを用いて閉形式解を導出するにはどうすればよいか？
• RQ5 現実的な信号仮定の下で、有限時間容量は達成可能であり、かつ無限時間シャノン極限と整合的か？

主な発見

• 有限観測ウィンドウ内での有限時間容量が、古典的シャノン容量を超えることが、数値的に確認された。これは「シャノンを超える現象」の存在を裏付けた。
• 特定の指数的自己相関モデルに対して、共分散カーネルのメルサーアクパント展開を用いて、閉形式の有限時間容量式が導出された。
• 「シャノンを超える現象」は、小信号出力パワー $ P < \delta $ に対して解析的に証明された。ここで $ \delta = \frac{n_0\alpha\psi(2\alpha T)}{(1 - \psi(2\alpha T))^2} $、$ \psi(x) = (1 - e^{-x})/x $ である。
• 有限時間容量の $ T \to 0^+ $ における微分係数は $ P/n_0 $ であり、無限小の時間ウィンドウ内でも非ゼロの情報伝送レートが存在することを示している。
• 容量式に含まれる不適切積分は、複素解析を用いて正確に評価され、$ \frac{1}{2}\left(\sqrt{\alpha^2 + \frac{4P\alpha}{n_0}} - \alpha\right) $ を得た。
• 有限時間容量はシャノン極限のより一般的なケースであり、古典的結果は唯一 $ T \to \infty $ の極限で回復される。