[論文レビュー] A Pseudo-Euclidean Iteration for Optimal Recovery in Noisy ICA

James Voss, Mikhail A. Belkin+1 more|arXiv (Cornell University)|Feb 13, 2015

Blind Source Separation Techniques参考文献 16被引用数 3

ひとこと要約

本稿では、任意のガウスノイズを伴うノイズのあるICAにおける信号再構成の証明可能最適性を実現するための新規アルゴリズムであるPEGI（疑似ユークリッド勾配反復）を提案する。混合行列の回復を疑似ユークリッド空間における固定点反復として定式化することにより、従来の正定値行列に依存する手法の制限を克服し、信号/ノイズ分解を明示的に必要とせずに、混合行列およびSINR最適な分離の正確かつ効率的な推定を可能にする。

ABSTRACT

Independent Component Analysis (ICA) is a popular model for blind signal separation. The ICA model assumes that a number of independent source signals are linearly mixed to form the observed signals. We propose a new algorithm, PEGI (for pseudo-Euclidean Gradient Iteration), for provable model recovery for ICA with Gaussian noise. The main technical innovation of the algorithm is to use a fixed point iteration in a pseudo-Euclidean (indefinite "inner product") space. The use of this indefinite "inner product" resolves technical issues common to several existing algorithms for noisy ICA. This leads to an algorithm which is conceptually simple, efficient and accurate in testing. Our second contribution is combining PEGI with the analysis of objectives for optimal recovery in the noisy ICA model. It has been observed that the direct approach of demixing with the inverse of the mixing matrix is suboptimal for signal recovery in terms of the natural Signal to Interference plus Noise Ratio (SINR) criterion. There have been several partial solutions proposed in the ICA literature. It turns out that any solution to the mixing matrix reconstruction problem can be used to construct an SINR-optimal ICA demixing, despite the fact that SINR itself cannot be computed from data. That allows us to obtain a practical and provably SINR-optimal recovery method for ICA with arbitrary Gaussian noise.

研究の動機と目的

• 正定値でない共分散行列が生じるため従来のホワイトニング手法が失敗するノイズのあるICAモデルにおける最適独立成分再構成の課題に対処すること。
• 任意のガウスノイズが存在する状況下で、混合行列Aの収束性が保証されるアルゴリズムの開発。
• 混合行列推定とSINR最適分離との間の関係を確立し、SINR最適性が信号/ノイズ分解に依存しないことを示すこと。
• 標準ICAアルゴリズムより優れた実用的で効率的かつ正確なソース再構成手法を提供すること。

提案手法

• ノイズのあるICAにおける高次モーメント行列の正定値性の欠如を克服するため、疑似ユークリッド空間（不定内積）における固定点反復を導入する。
• 共分散行列に依存しない状況下で、4次積率（κ₄）を用いて混合行列Aの構造を推定する。
• 分離行列をB = Aᴴ·cov(X)⁻¹として定式化し、信号/ノイズ分解にかかわらずSINR最適であることが示される。
• Aの方向と観測データの共分散を活用して、バイアスのない分離行列を構築することで、PEGIをSINR最適分離と統合する。
• GI-ICAなどの先行手法で用いられる複雑な準直交化ステップを避ける1ステップで非反復的なアルゴリズムを適用する。
• Aとcov(X)からSINR最適分離行列を構築できることを示し、Aがノイズのあるデータから推定された場合でも成立する。

実験結果

リサーチクエスチョン

• RQ1 疑似ユークリッド空間における固定点反復は、ノイズのあるICAにおける正定値行列要件の制限を克服できるか？
• RQ2 観測データの信号/ノイズ分解を明示的に知らなくてもSINR最適分離が達成可能か？
• RQ3 提案されたPEGIアルゴリズムは、ガウスノイズ下でJADE や FastICA よりもSINR性能に優れているか？
• RQ4 PEGIのサンプル複雑度は、GI-ICA や他のICA手法と比較して、混合行列回復においてどのように異なるか？
• RQ5 ノイズが任意で未知であっても、推定されたAと観測されたcov(X)からSINR最適分離行列を信頼性高く構築できるか？

主な発見

• 十分なサンプル数がある場合、PEGI-κ₄+SINRは、JADE、FastICA-tanh、1FICAと比較して最高のSINR性能を達成する。
• JADE や FastICA といった従来のICAアルゴリズムは、ガウスノイズ下でもサンプルサイズが大きくてもSINR性能に一貫したバイアスを示す。
• PEGI-κ₄+SINRは、4次モーメント推定に起因してFastICA や JADE よりも多くのサンプルを要するが、GI-ICAベースの代替手法よりも速やかに最適SINRに収束する。
• 中程度のサンプル数領域では、qorth+GI-ICA-κ₄ よりもPEGIアルゴリズムがより効率的に収束し、良好な性能に到達するためのサンプル数が少ない。
• SINR最適分離は信号/ノイズ分解に依存せず、Aとcov(X)からのみ最適分離行列を構築可能である。
• 提案手法は、モデルのあいまいさを除き混合行列Aへの証明可能な収束を達成し、ノイズ構造の事前知識なしにSINR最適なソース再構成を可能にする。