[論文レビュー] Source Coding with a Side Information "Vending Machine"

Tsachy Weissman, Haim H. Permuter|ArXiv.org|Apr 15, 2009

Wireless Communication Security Techniques参考文献 12被引用数 7

ひとこと要約

本稿は、システムリソースがサイドインフォーメーションの品質に影響する状況をモデル化し、アクションによって能動的に制御可能なサイドインフォーメーションを伴うソース符号化を研究する。エンコーダおよびデコーダのアクション設定におけるレート・歪み・コストのトレードオフを同定し、グリーディなアクション選択が最適でないことを示し、コスト制約下では最適な手法の時間共有でも十分でないことを示している。

ABSTRACT

We study source coding in the presence of side information, when the system can take actions that affect the availability, quality, or nature of the side information. We begin by extending the Wyner-Ziv problem of source coding with decoder side information to the case where the decoder is allowed to choose actions affecting the side information. We then consider the setting where actions are taken by the encoder, based on its observation of the source. Actions may have costs that are commensurate with the quality of the side information they yield, and an overall per-symbol cost constraint may be imposed. We characterize the achievable tradeoffs between rate, distortion, and cost in some of these problem settings. Among our findings is the fact that even in the absence of a cost constraint, greedily choosing the action associated with the `best' side information is, in general, sub-optimal. A few examples are worked out.

研究の動機と目的

• アクションがサイドインフォーメーションの可用性、品質、または性質に影響を与えるソース符号化システムをモデル化・分析すること。
• エンコーダまたはデコーダがアクションを取るシステムにおける、レート、歪み、アクションコストの根本的トレードオフを同定すること。
• コスト制約下でも、各ステップで最高のサイドインフォーメーションをもたらすアクションを選択するグリーディなアクション選択が最適であるかどうかを調査すること。
• 一般および特殊ケース（ガウスモデル、マルコフモデルなど）に対して、達成可能なレートと逆問題の境界を提供すること。
• 特に、エンコーダアクションケースの完全な特徴付けと、因果的アクション依存がサイドインフォーマーションに与える影響という未解決問題を特定すること。

提案手法

• ソース $X^n \sim P_X$ をメモリレスにモデル化し、サイドインフォーマーション $Y^n$ がソースおよびアクション列に依存するチャネル $P_{Y|X,A}$ によって生成されることを仮定する。
• アクションコスト $\Lambda(A)$ を導入し、シンボルごとのコスト制約 $\mathbb{E}[\Lambda(A)] \leq C$ を課す。
• デコーダアクション（図1）の場合、マークフ・チェイン $X - A - Y$ と相互情報量の式を用いて、達成可能なレート・歪み・コスト領域を導出する。
• エンコーダアクション（図2）の場合、サイドインフォーマーションがエンコーダに存在するか否かに応じて、補助確率変数 $U$ または $\hat{X}$ を用いて達成可能なレートを提案する。
• 一般の逆問題下界を導出：$R \geq I(X;\hat{X}) - I(Y;X,A)$ は、エンコーダ・デコーダ両方のアクション設定に適用可能。
• 3つの特殊ケース（ほぼ無歪み圧縮、ガウスモデル $Y = A + X + N$、マルコフモデル $Y - A - X$）に対してタイトな境界を提供する。

実験結果

リサーチクエスチョン

• RQ1 デコーダがサイドインフォーマーションの品質に影響を与えるアクションを選択する場合、レート、歪み、アクションコストの最適なトレードオフは何か？
• RQ2 コスト制約がない状況では、各ステップで最高のサイドインフォーマーションをもたらすアクションを選択するグリーディ戦略が最適であるか？
• RQ3 アクションがデコーダではなくエンコーダによって取られる場合、達成可能なレート領域はどのように変化するか？
• RQ4 異なるコストレベルに最適化された手法の時間共有は、最適なレート・歪み・コストトレードオフを達成できるか？
• RQ5 アクションが以前に生成されたサイドインフォーマーションシンボルに因果的に依存する場合、根本的な限界は何か？

主な発見

• グリーディなアクション選択—各ステップで最高品質のサイドインフォーマーションをもたらすアクションを選択する戦略—は、コスト制約がなくても非最適である。
• シンボルごとのコスト制約がある場合、異なるコストレベルに最適化された手法の時間共有は非最適である。
• 逆問題下界 $R \geq I(X;\hat{X}) - I(Y;X,A)$ は、無歪み圧縮、ガウスモデル、およびマルコフモデル $Y - A - X$ の特殊ケースではタイトである。
• エンコーダアクション設定で、エンコーダにサイドインフォーマーションが利用可能な場合、達成可能なレートは、適切なマークフ・チェインおよびモーメント制約下で $I(\hat{X};X|A,Y) + I(X;A) - I(Y;A)$ に等しい。
• エンコーダにサイドインフォーマーションが利用できないエンコーダアクション設定では、達成可能なレートは $I(U;X|A,Y) + I(X;A) - I(Y;A)$ に等しく、ここで $U$ は補助変数である。
• 一般の逆問題境界 $I(X;\hat{X}) - I(Y;X,A)$ は、常にタイトではない。標準的なWyner-Ziv設定における反例により、真の最小レートを下回っていることが示された。