[論文レビュー] Blind Signal Separation in the Presence of Gaussian Noise

Mikhail A. Belkin, Luis Rademacher+1 more|arXiv (Cornell University)|Nov 7, 2012

Blind Source Separation Techniques参考文献 17被引用数 10

ひとこと要約

本稿では、観測信号が独立した源の線形混合に加えて加法的ガウスノイズが付加されたノイズ環境においても有効なロバストなブラインド信号分離アルゴリズムを提案する。4次積率テンソルを用いてノイズの影響にもかかわらず元の信号を非相関化することで、多項式的サンプル複雑性と有界な誤差伝播を備えた、理論的に正確な独立成分分析（ICA）を実現する。

ABSTRACT

A prototypical blind signal separation problem is the so-called cocktail party problem, with n people talking simultaneously and n different microphones within a room. The goal is to recover each speech signal from the microphone inputs. Mathematically this can be modeled by assuming that we are given samples from an n-dimensional random variable X=AS, where S is a vector whose coordinates are independent random variables corresponding to each speaker. The objective is to recover the matrix A^{-1} given random samples from X. A range of techniques collectively known as Independent Component Analysis (ICA) have been proposed to address this problem in the signal processing and machine learning literature. Many of these techniques are based on using the kurtosis or other cumulants to recover the components. In this paper we propose a new algorithm for solving the blind signal separation problem in the presence of additive Gaussian noise, when we are given samples from X=AS+η, where ηis drawn from an unknown, not necessarily spherical n-dimensional Gaussian distribution. Our approach is based on a method for decorrelating a sample with additive Gaussian noise under the assumption that the underlying distribution is a linear transformation of a distribution with independent components. Our decorrelation routine is based on the properties of cumulant tensors and can be combined with any standard cumulant-based method for ICA to get an algorithm that is provably robust in the presence of Gaussian noise. We derive polynomial bounds for the sample complexity and error propagation of our method.

研究の動機と目的

• 観測信号が未知の非球面的ガウスノイズで汚染されている状況におけるブラインド信号分離の課題に対処すること。
• ノイズ環境下で標準的なPCAベースのホワイトニングが失敗するのを回避するため、ノイズに依存しない非相関化手順を開発すること。
• カーツィスに基づく最適化フレームワークを保持することで、ノイズ環境下でも信頼性の高い独立成分分析（ICA）を可能にすること。
• 提案された非相関化手法に関するサンプル複雑性と誤差伝播の理論的保証を提供すること。
• 共分散構造がノイズによって汚染されても、真の独立成分基底を近似する準ホワイトニング変換を構築すること。

提案手法

• 観測データの4次積率テンソルを用いて、ノイズの影響を受ける共分散行列に依存せずに、元の信号構造を推定する。
• 標本からの経験的積率テンソルを用いて、独立成分の共分散の逆行列を近似する行列 $ Y $ を構築する。
• 行列 $ Y $ に対して行列逆行列計算を適用し、真の信号成分を非相関化する近似の準ホワイトニング行列 $ \hat{B}^{-1} $ を得る。
• 独立成分基底において $ \hat{B}^{-1}A $ がほぼ対角になるように保証し、その後のカーツィス最大化によるICAを可能にする。
• 濃度不等式を用いて積率テンソルの推定誤差をバウンディングし、多項式的サンプル複雑性バウンズを導出する。
• 提案された非相関化ステップを、任意の標準的な積率ベースICAアルゴリズムと組み合わせることで、ノイズ下でもその理論的保証を保持する。

実験結果

リサーチクエスチョン

• RQ1 未知の非球面的ガウスノイズが存在する状況でも有効に機能する非相関化手順を設計できるか？
• RQ2 共分散行列がノイズによって汚染されている状況で、4次積率テンソルをどのように用いて独立成分構造を回復できるか？
• RQ3 ガウスノイズ下で所望の精度に到達するために必要なサンプル複雑性はどの程度か？
• RQ4 入力データがノイズで汚染されている状況でも、カーツィスベースICAフレームワークを保持し、耐性を確保できるか？
• RQ5 提案手法の誤差伝播バウンズは何か？また、ノイズレベルや信号特性に応じてどのようにスケーリングされるか？

主な発見

• 提案手法は、確率 $ 1 - \delta $ で $ \epsilon $-精度を達成するためのサンプル複雑性を $ O\left(n^{10} \frac{\kappa(A)^{16} \kappa_{\max}^2}{\epsilon^2 \delta \kappa_{\min}^4} \left(\mu_8 + \frac{\sigma^{8}_{\boldsymbol{\eta}}}{\sigma_{\min}(A)^8}\right)\right) $ として達成する。
• 推定された準ホワイトニング行列 $ \hat{B}^{-1} $ の誤差は、$ \| \hat{B}^{-1}A \mathbf{e}_i \|_2 \in (1 \pm \epsilon/2) \| A_i \|_2 $ とバウンディングされ、変換後の成分がほぼ直交することを保証する。
• 異なる成分間の内積は、$ \left| \frac{\langle \hat{B}^{-1}A\mathbf{e}_i, \hat{B}^{-1}A\mathbf{e}_j \rangle}{\| \hat{B}^{-1}A\mathbf{e}_i \|_2 \| \hat{B}^{-1}A\mathbf{e}_j \|_2} \right| \leq \epsilon $（$ i \neq j $）を満たし、ほぼ非相関であることを確認する。
• カーツィスが加法的ガウスノイズに対して不変であるため、本手法は非球面的ガウスノイズに対してロバストであり、標準的なICA手順を有効に保てる。
• 積率に基づく行列 $ Y $ の逆行列に対する誤差バウンズは、$ O\left( \frac{n^3 \kappa(A)^8 \kappa_{\max}}{\kappa_{\min}^2} \eta \right) $ と示され、ここで $ \eta $ は推定誤差を制御する。
• 解析により、元の源分布の成分が独立であれば、ノイズ共分散が未知かつ非等方的であっても、本手法が有効に機能することが示された。