[論文レビュー] Information Loss and Anti-Aliasing Filters in Multirate Systems

Bernhard C. Geiger, Gernot Kubin|arXiv (Cornell University)|Oct 31, 2013

stochastic dynamics and bifurcation参考文献 10被引用数 4

ひとこと要約

本稿は、アーリアス防止フィルタを備えたマルチレートデシメーションシステムにおける情報損失を調査し、特定の信号モデルが存在しない場合には、アーリアス防止フィルタが情報損失を低減できないことを示している。ガウス分布および信号＋ノイズモデルの場合、最適フィルタは区分的定数であり、エネルギーベースの設計と一致する。これは、情報理論的観点から2次統計量に基づくフィルタ設計が正当化されることを示している。

ABSTRACT

This work investigates the information loss in a decimation system, i.e., in a downsampler preceded by an anti-aliasing filter. It is shown that, without a specific signal model in mind, the anti-aliasing filter cannot reduce information loss, while, e.g., for a simple signal-plus-noise model it can. For the Gaussian case, the optimal anti-aliasing filter is shown to coincide with the one obtained from energetic considerations. For a non-Gaussian signal corrupted by Gaussian noise, the Gaussian assumption yields an upper bound on the information loss, justifying filter design principles based on second-order statistics from an information-theoretic point-of-view.

研究の動機と目的

• デシメーションシステムにおけるアーリアス防止フィルタを用いた情報損失を情報理論的観点から分析すること。
• 特定の信号モデルが仮定されない状況下で、アーリアス防止フィルタが情報損失を低減できるかどうかを検証すること。
• 関連信号と相関するガウス入力過程に対する最適アーリアス防止フィルタを導出すること。
• 非ガウス信号にガウスノイズが加わった場合の一般化を図り、情報損失の上限を確立すること。
• 2次統計量（例：パワー スペクトル密度）に基づくフィルタ設計が、情報理論的観点からなぜ正当化されるかを説明すること。

提案手法

• 情報損失の定量的評価に、相互情報量および微分エントロピー率を用いる。
• 有限エントロピーおよび安定なフィルタ応答を保証するため、Rényi 情報次元およびPaley-Wiener 条件を適用する。
• ガウス分布の仮定のもとで情報損失を最小化することで、最適フィルタを区分的定数として導出する。
• 最適フィルタが信号対ノイズ比を最大化するエネルギー集約フィルタと一致することを確立する。
• 非ガウス信号＋ノイズ状況における情報損失の上限を求めるためにガウス近似を用いる。
• ガウス仮定が情報損失の上界を提供することを証明し、2次統計量に基づくフィルタ設計の正当性を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 特定の信号モデルが存在しない状況下で、アーリアス防止フィルタはデシメーションシステムにおける情報損失を低減できるか？
• RQ2 関連信号と相関するガウス入力過程に対する最適アーリアス防止フィルタは何か？
• RQ3 非ガウス信号にガウスノイズが加わった場合、情報損失はどのように変化するか？
• RQ4 2次統計量（PSD）に基づくフィルタ設計は、一般状況において情報損失を有界に保てるか？
• RQ5 非ガウス信号＋ノイズ系において、ガウス仮定を用いて情報損失の上界を求めることができるか？

主な発見

• 特定の信号モデルがない場合、入力成分のエネルギーにかかわらずすべてが同等に扱われるため、アーリアス防止フィルタは情報損失を低減できない。
• 関連信号と相関するガウス入力に対して、最適アーリアス防止フィルタは区分的定数であり、エネルギー集約フィルタと一致する。
• ガウス分布の場合の最適フィルタは、平均二乗誤差を最小化し、信号対ノイズ比を最大化するフィルタと一致する。
• ガウスノイズが加わった非ガウス信号では、ガウス仮定が情報損失の上界を提供する。
• 2次統計量（PSD）に基づくフィルタ設計は、情報理論的根拠がある。非ガウス系においても情報損失が有界に保たれるからである。
• 入力と出力の間の相互情報量を最小化することで、最適フィルタ構造が導出され、周波数応答は区分的定数となる。