[論文レビュー] Measure Transformed Independent Component Analysis

Koby Todros, Alfred O. Hero|arXiv (Cornell University)|Feb 4, 2013

Blind Source Separation Techniques参考文献 48被引用数 4

ひとこと要約

本稿では、観測データの確率測度に構造的な変換を施すことで独立した源の同定を可能にする、新しい半パラメトリックで統計的根拠を持つICAフレームワーク、Measure-Transformed Independent Component Analysis (MTICA) を提案する。複数の経験的測度変換付き共分散行列の近似的な同時対角化を用いて分離行列を推定するが、指数関数的またはガウス型のMT関数を用いることで、カーネルベースの手法に比べて複雑性を低減しつつ、頑健で一貫性のある源の回復が達成される。

ABSTRACT

In this paper we derive a new framework for independent component analysis (ICA), called measure-transformed ICA (MTICA), that is based on applying a structured transform to the probability distribution of the observation vector, i.e., transformation of the probability measure defined on its observation space. By judicious choice of the transform we show that the separation matrix can be uniquely determined via diagonalization of several measure-transformed covariance matrices. In MTICA the separation matrix is estimated via approximate joint diagonalization of several empirical measure-transformed covariance matrices. Unlike kernel based ICA techniques where the transformation is applied repetitively to some affine mappings of the observation vector, in MTICA the transformation is applied only once to the probability distribution of the observations. This results in performance advantages and reduced implementation complexity. Simulations demonstrate the advantages of the proposed approach as compared to other existing state-of-the-art methods for ICA.

研究の動機と目的

• 反復的なデータ再処理を回避し、実装の複雑性を低減する統計的根拠を持つICA手法の開発。
• 最大で1つの源がガウス分布である場合を含め、緩い条件下でも混合行列の一意的同定を保証すること。
• FisherおよびB-頑健性を持つ経験的MT共分散推定器を活用することで、外れ値および分布のずれに対する頑健性を向上させること。
• 柔軟で構造的な測度変換を通じて、既存のICA手法を統一的に一般化するフレームワークの提供。
• シミュレーションにおいて、最先端のICA技術に比べて性能優位性を示すこと。

提案手法

• 観測ベクトルの確率測度に非負のMT関数（指数関数的またはガウス型）を適用し、観測空間上に新たな確率分布族を誘導する。
• MT関数と源分布に依存する関数として定義される測度変換付き（MT）共分散行列は、緩い正則性条件下で強くおよびFisher一貫性を示すことが示された。
• 複数の異なるテストポイントで計算された経験的MT共分散行列の近似的な同時対角化により、分離行列を推定する。
• テストポイントは、i.i.d. の標準正規分布および一様分布の乱数を用いて単位l2球内にランダムに生成され、解のほとんど確実な一意性を保証する。
• ガウス型MT関数を用いる場合、MT共分散行列に確率1で異なる固有値が存在し、同じ条件下で混合行列の一意的回復が可能となる。
• 経験的MT共分散の影響関数を分析し、B-頑健性を確立する。これに必要なMT関数の十分条件が提示された。

実験結果

リサーチクエスチョン

• RQ1 観測分布に一回の構造的測度変換を施すことで、一貫性があり一意的なICA推定が可能になるか？
• RQ2 提案されたMTICAフレームワークは、カーネルベースのICA手法に比べて外れ値に対してより頑健か？
• RQ3 MT関数および源分布にどのような条件下で、MT共分散行列の対角化により混合行列が一意に同定可能か？
• RQ4 繰り返しデータ再処理を回避しつつも、盲目的源分離において高い性能を達成できるか？
• RQ5 分離精度および計算複雑性の観点から、MTICAは最先端のICAアルゴリズムに比べてどのように性能を発揮するか？

主な発見

• 提案されたMTICAフレームワークは、最大で1つの源がガウス分布であるという条件下で、複数のMT共分散行列の近似的な同時対角化により、混合行列の一意的同定を保証する。
• 経験的MT共分散推定器は強く一貫性があり、Fisher一貫性を示す。外れ値に対するB-頑健性を保証するMT関数の十分条件が提示された。
• 指数関数的MT関数を用いる場合、MT共分散行列はモーメント母関数のヘッセ行列に対応し、Yeredor（2000）の手法など既存のICA手法と関連づけられる。
• ガウス型MT関数を用いる場合、MT共分散行列は確率1で異なる固有値を持つため、同じ条件下で混合行列の一意的回復が保証される。
• シミュレーションにより、MTICAは非ガウス的かつ重たい尾を持つ源が存在する状況においても、他の最先端のICA手法に比べて分離精度および頑健性に優れていることが示された。
• 測度変換がデータの射影に対して反復的に適用されるのではなく、分布に対して一度だけ適用されるため、カーネルベースのICAに比べ実装の複雑性が低減される。