[論文レビュー] Development of ICA and IVA Algorithms with Application to Medical Image Analysis

Zois Boukouvalas|arXiv (Cornell University)|Jan 1, 2017

Blind Source Separation Techniques参考文献 7被引用数 5

ひとこと要約

本稿では、統計的独立性、スパarsity、正確な確率密度推定を統合することで、医用画像解析におけるブランクソース分離を向上させる柔軟なICAおよびIVAアルゴリズムを提案する。最大エントロピーに基づくPDF推定、多次元一般化ガウス分布（MGGD）モデリング、および独立性とスパarsityをバランスさせる統一最適化フレームワークを活用することで、シミュレートされたデータおよびfMRIに類似したデータにおいて、標準的なICA/IVA手法を上回る優れた分離性能を達成する。

ABSTRACT

Blind source separation (BSS) is an active area of research due to its applicability to a variety of problems, especially when there is a little known about the observed data. Applications where BSS has been successfully utilized include the analysis of medical imaging data, such as functional magnetic resonance imaging (fMRI) data, detection of specific targets in video sequences or multi-spectral remote sensing data, among many others. Independent component analysis (ICA) is a widely used BSS method that can uniquely achieve source recovery, subject to only scaling and permutation ambiguities, through the assumption of statistical independence on the part of the latent sources. Independent vector analysis (IVA) extends the applicability of ICA by jointly decomposing multiple datasets through the exploitation of the dependencies across datasets. Though both ICA and IVA algorithms cast in the maximum likelihood (ML) framework enable the use of all available statistical information---forms of diversity---in reality, they often deviate from their theoretical optimality properties due to improper estimation of the probability density function (PDF). This motivates the development of flexible ICA and IVA algorithms that closely adhere to the underlying statistical description of the data. Although it is attractive to let the data ''speak'' and hence minimize the assumptions, important prior information about the data, such as sparsity, is usually available. If incorporated into the ICA model, use of this additional information can relax the independence assumption, resulting in an improvement in the overall separation performance. Therefore, the development of a unified mathematical framework that can take into account both statistical independence and sparsity is of great interest. In this dissertation, we first introduce a flexible ICA algorithm that uses an effective PDF estimator to accurately capture the underlying statistical properties of the data, yielding superior separation performance and maintaining the desirable optimality of ML estimation. We then discuss several techniques to accurately estimate the parameters of the multivariate generalized Gaussian distribution, and how to integrate them into the IVA model and derive a class of flexible IVA algorithms that take both second-order statistics and higher-order statistics into account. Finally, we provide a mathematical framework that enables direct control over the influence of statistical independence and sparsity, and use this framework to develop an effective ICA algorithm that can jointly exploit these two forms of diversity. Hence, by increasing the flexibility of ICA and IVA algorithms and by enriching the models through the incorporation of reliable priors, we enhance the capabilities of ICA and IVA and, thus, enable their application to many problems. We demonstrate the effectiveness of the proposed ICA and IVA algorithms using numerical examples as well as fMRI-like data.

研究の動機と目的

• 最大エントロピーに基づくカーネルベース推定を用いてデータPDFを正確にモデル化することで、ソース分離を向上させる柔軟なICAアルゴリズムの開発。
• 2次および高次モーメントを同時にモデル化する多次元一般化ガウス分布（MGGD）に基づく、効果的なIVAアルゴリズムのクラスの構築。
• 統計的独立性とスパarsityを1つの最適化フレームワークに統合し、標準的なICA/IVAを上回る分離性能を向上させること。
• 合成データおよびfMRIに類似したデータセットを用いた提案アルゴリズムの検証を通じて、より高いロバスト性と正確性を示すこと。

提案手法

• 非ガウス的ソース分布をカーネル密度推定を用いてモデル化する最大エントロピー原理に基づく柔軟なICAアルゴリズム、ICA-EMKを提案する。
• IVAアプリケーションにおける精度向上を目的として、MGGDモデルのための2つのパラメータ推定手法（ML-FSおよびRA-FP）を導入する。
• 複数のデータセットにわたる統合的分解を可能にする、MGGDモデリングと統合された新規なIVAアルゴリズムIVA-A-GGDを開発する。
• 調整可能なコスト関数を通じて統計的独立性とスパarsityの影響をバランスさせる、統一された最適化フレームワークを設計する。
• MGGDの安定的パラメータ推定のため、リーマン幾何学と固定点反復法（RA-FP）を採用し、非拡大性条件の下で収束性を証明する。
• 数値実験およびfMRIに類似したデータを用いて性能を評価し、収束性の検証にリーマン距離解析を用いる。

実験結果

リサーチクエスチョン

• RQ1 最大エントロピーとカーネル密度推定に基づく柔軟なICAアルゴリズムは、標準的なICAと比較して、ソース分離の正確性を向上させることができるか？
• RQ2 MGGDのためのML-FSおよびRA-FPパラメータ推定手法は、複数データセットの分解におけるIVAアルゴリズムの性能にどのように影響を与えるか？
• RQ3 統一フレームワークは、統計的独立性とスパarsityを効果的にバランスさせることで、医用画像におけるソース分離を向上させることができるか？
• RQ4 提案されたIVA-A-GGDアルゴリズムは、fMRIに類似したデータにおいて、従来のIVAを上回る分離性能を達成できるか？
• RQ5 MGGDパラメータ推定のためのRA-FPアルゴリズムは、現実的なデータ条件下で理論的に収束することが保証されるか？

主な発見

• ICA-EMKは、カーネルベースPDF推定を用いて非ガウス的ソース分布を正確にモデル化することで、シミュレーションデータおよび人工画像混合信号において優れた分離性能を達成する。
• MGGDパラメータ推定のためのRA-FPアルゴリズムは、非拡大性およびコンパクト性の仮定の下で最尤推定値に収束することが証明されており、数値結果からその安定性が裏付けられている。
• IVA-A-GGDは、MGGDを用いて2次および高次モーメントを同時にモデル化することで、多データセットfMRIに類似したデータにおける分離性能を標準的なIVAを上回って向上させる。
• 統一された最適化フレームワークにより、独立性とスパarsityのトレードオフを直接制御可能となり、スパarsityが強く、非ガウス的分布を示すデータにおいて、より高いロバスト性と性能が得られる。
• 数値実験により、提案アルゴリズムが最尤（ML）フレームワークにおける理論的最適性を維持するとともに、スパarsityや重尾分布といった現実世界のデータ特性に適応できることを確認した。
• シミュレーションにおいて、RA-FPアルゴリズムはβ = 4およびβ = 8の条件下で非拡大性を示しており、解の周辺に初期化された場合に真のパラメータ推定値に収束することが支持されている。