[論文レビュー] Neural separation of observed and unobserved distributions

Tavi Halperin, Ariel Ephrat+1 more|arXiv (Cornell University)|Nov 30, 2018

Speech and Audio Processing被引用数 10

ひとこと要約

本稿では、既知の観測分布と未知の未観測分布が混合された信号を分離するための新しい半教師付き手法、Neural Egg Separation (NES) を提案する。反復的な推定の改善と、LMM（Latent Mixture Masking）を用いた頑健な初期化により、信号構造に関する強い仮定がほとんどない状況でも、音声および画像分離タスクにおいて完全教師ありベースラインと競合する性能を達成する。

ABSTRACT

Separating mixed distributions is a long standing challenge for machine learning and signal processing. Most current methods either rely on making strong assumptions on the source distributions or rely on having training samples of each source in the mixture. In this work, we introduce a new method---Neural Egg Separation---to tackle the scenario of extracting a signal from an unobserved distribution additively mixed with a signal from an observed distribution. Our method iteratively learns to separate the known distribution from progressively finer estimates of the unknown distribution. In some settings, Neural Egg Separation is initialization sensitive, we therefore introduce Latent Mixture Masking which ensures a good initialization. Extensive experiments on audio and image separation tasks show that our method outperforms current methods that use the same level of supervision, and often achieves similar performance to full supervision.

研究の動機と目的

• トレーニング時に未観測分布が入手できない状況下で、混合信号からの分離を解決すること。
• 信号分離タスクにおける強い仮定や完全教師あり学習への依存を低減すること。
• 未観測信号分布の推定値を反復的に改善することで、分離精度を向上させる手法を開発すること。
• 反復的アルゴリズムが初期値に敏感であるのを補う、強固で信頼性の高い初期化を提供すること。

提案手法

• NES は反復的フレームワークを用いる：まず未観測分布 X からのサンプルを推定し、次に既知の B と推定された X から混合信号を合成し、最後にこれらの合成混合信号上で分離関数を学習する。
• 本手法は、観測（B）および未観測（X）の信号分布をモデリングするため、潜在空間における混合を用いて、2つの深層生成器をエンドツーエンドで学習する。
• 潜在混合マスク（LMM）は、B と X が相関している場合でも収束性と性能を向上させる非敵対的初期化手法として導入される。
• 反復的改善プロセスにより誤差が時間とともに減少し、収束は混合マスクの一般化能力と初期推定の品質に依存する。
• 混合マスク m^t+1 は、合成混合信号 Y^t = b + x^t で学習され、その一般化誤差は、m^t+1 が真の Y 分布にどれだけ一般化できるかに依存する要因 λ によって上限が定められる。
• 本手法は混合が加法的であると仮定しており、スパarsity や周期性といった信号固有の性質に関する事前知識は不要である。

実験結果

リサーチクエスチョン

• RQ1 限られた教師信号のもとで、未観測信号推定値の反復的改善が半教師付き設定における信号分離性能を向上させ得るか？
• RQ2 初期化の品質が反復的信号分離手法の収束性と性能に与える影響はいかほどか？
• RQ3 LMM のような非敵対的初期化手法は、信号分離において、敵対的手法に比べて安定性と最終的性能で優れているか？
• RQ4 信号構造に関する最小限の仮定しか行わない手法が、完全教師ありベースラインと同等の性能を達成できる範囲はどの程度か？
• RQ5 混合マスクの一般化誤差と反復的分離プロセスの収束速度との間には、理論的にどのような関係があるか？

主な発見

• Neural Egg Separation は、音声および画像分離タスクにおいて、同程度の教師信号を使用する既存手法を上回る性能を発揮する。
• 本手法は、観測分布のクリアなサンプルと混合信号のみを入手可能としても、完全教師ありベースラインと同等の性能を達成することが多い。
• 潜在混合マスク（LMM）は、観測信号と未観測信号が強く相関している場合でも、敵対的手法よりも著しく優れた初期化を提供する。
• 反復的改善プロセスにより、反復回数が増えるにつれて誤差が減少し、収束は混合マスクの一般化能力と初期化の品質に依存する。
• LMM 初期化は λ（一般化誤差の尺度）の値を低減させ、収束領域の半径を拡大するため、その有効性が説明できる。
• 本手法は信号固有の事前知識に頼らずに頑健であり、スパarsity や滑らかさといったタスク固有の制約を組み込むことで、さらなる性能向上が可能である。