[論文レビュー] Sparse, complex-valued representations of natural sounds learned with phase and amplitude continuity priors

Wiktor Młynarski|arXiv (Cornell University)|Dec 17, 2013

Hearing Loss and Rehabilitation参考文献 27被引用数 4

ひとこと要約

本稿では、振幅および位相の時間的連続性の事前分布を課すことにより、自然音に対する位相不変性・複素数値スパースコーディングを提案する。これにより、位相を時間的シフトとして保持する、効率的かつロバストな表現が可能になる。自然音には固有の位相不変性がないにもかかわらず、この手法は、ノイズ除去性能が制約なしモデルと同等であるような辞書を学習し、明示的に位相を符号化するため、位相に敏感な聴覚的および機械学習タスクに適している。

ABSTRACT

Complex-valued sparse coding is a data representation which employs a dictionary of two-dimensional subspaces, while imposing a sparse, factorial prior on complex amplitudes. When trained on a dataset of natural image patches, it learns phase invariant features which closely resemble receptive fields of complex cells in the visual cortex. Features trained on natural sounds however, rarely reveal phase invariance and capture other aspects of the data. This observation is a starting point of the present work. As its first contribution, it provides an analysis of natural sound statistics by means of learning sparse, complex representations of short speech intervals. Secondly, it proposes priors over the basis function set, which bias them towards phase-invariant solutions. In this way, a dictionary of complex basis functions can be learned from the data statistics, while preserving the phase invariance property. Finally, representations trained on speech sounds with and without priors are compared. Prior-based basis functions reveal performance comparable to unconstrained sparse coding, while explicitely representing phase as a temporal shift. Such representations can find applications in many perceptual and machine learning tasks.

研究の動機と目的

• 自然音の高次統計を、スパースで複素数値の表現を用いて分析すること。
• 自然音の辞書学習において位相不変性を促進する事前分布を開発すること。
• 聴覚データ表現において、位相を時間的シフトとして明示的に表現可能にする方法を確立すること。
• 位相不変辞書が、符号化効率およびノイズ除去性能において制約なしモデルと同等の性能を達成できるかどうかを評価すること。

提案手法

• 複素数領域における基底関数を用いた複素数値スパースコーディングを定式化し、信号を複素数振幅と基底関数の線形結合として表現する。
• 基底関数の位相および振幅における時間的変動をペナルティ化することで、位相および振幅の連続性事前分布を導入し、時間的にゆっくりで滑らかな変化を促進する。
• これらの事前分布下で、過完備および完全な辞書を学習するための修正K-SVDアルゴリズムを用い、位相不変性を確保するとともに、データ忠実度を維持する。
• 2段階の最適化を採用：まず事前分布下で基底関数を学習し、その後スパース係数をしきい値処理により計算する。
• 係数のエントロピーと音声コーパスにおけるノイズ除去性能を用いて符号化効率を推定し、事前分布付きモデルと制約なしモデルを比較する。
• Kullback-Leibler発散と正規化ヒストグラムを用いたエントロピー推定を用いて、真のデータ分布に近いかどうかを評価する。

実験結果

リサーチクエスチョン

• RQ1 自然音の高次統計的性質は、自然画像と比較して位相不変性の観点でどのように異なるか？
• RQ2 自然音データから、固有の位相不変性が存在しないにもかかわらず、構造的事前分布を用いて位相不変特徴を学習できるか？
• RQ3 基底関数の振幅および位相に時間的連続性を課すと、学習された辞書の構造および性能にどのような影響を与えるか？
• RQ4 事前分布付き辞書は、制約なしモデルと比較して、符号化効率およびノイズ除去性能においてどの程度同等の性能を達成できるか？

主な発見

• 自然音では、画像データとは異なり、位相不変特徴は自然に学習されない。これは音声における強い周波数間相関に起因する。
• 提案された振幅および位相の連続性事前分布は、自然音がそれ自体でこのような不変性を好まないにもかかわらず、学習された基底関数に位相不変性を効果的に導入した。
• 事前分布付き辞書は、制約なしモデルと同等のノイズ除去性能を達成しており、表現品質に損なわれないことが示された。
• 過完備表現は完全な表現よりも係数エントロピーが低く、画像モデルとは対照的に、より優れた符号化効率を示した。
• 類似した性能を示したにもかかわらず、制約なしモデルはわずかにエントロピーが低く、真のデータ生成分布に近い可能性がある。
• 本手法により、空間的聴覚や音源定位などのタスクに不可欠な、位相を時間的シフトとして明示的に表現することが可能になった。