[論文レビュー] Unsupervised Adaptation of SPLDA

Jesús Villalba|arXiv (Cornell University)|Nov 20, 2015

Speech Recognition and Synthesis参考文献 2被引用数 3

ひとこと要約

本稿では、ラベルなしデータのみを用いて、教師なしドメイン適応のための変分ベイズ法を、Speaker-Adapted i-vector Linear Discriminant Analysis (SPLDA) に適用する手法を提案する。スパークの識別子をディリクレ事前分布を用いた潜在変数としてモデル化し、SPLDAパラメータの事後分布を推論することで、ラベルなしの適応データを必要とせずに、リソースが限られた環境やドメイン不一致の状況でも、スパーク認識性能を向上させることができる。

ABSTRACT

State-of-the-art speaker recognition relays on models that need a large amount of training data. This models are successful in tasks like NIST SRE because there is sufficient data available. However, in real applications, we usually do not have so much data and, in many cases, the speaker labels are unknown. We present a method to adapt a PLDA model from a domain with a large amount of labeled data to another with unlabeled data. We describe a generative model that produces both sets of data where the unknown labels are modeled like latent variables. We used variational Bayes to estimate the hidden variables. Here, we derive the equations for this model. This model has been used in the papers: "UNSUPERVISED ADAPTATION OF PLDA BY USING VARIATIONAL BAYES METHODS" publised at ICASSP 2014, "Unsupervised Training of PLDA with Variational Bayes" published at Iberspeech 2014, and "VARIATIONAL BAYESIAN PLDA FOR SPEAKER DIARIZATION IN THE MGB CHALLENGE" published at ASRU 2015.

研究の動機と目的

• ラベルなしデータしか利用できない状況において、SPLDAモデルを新しいドメインに適応する課題に対処すること。
• ラベル付き適応データが不足する低リソース環境やドメイン不一致の状況で、スパーク認識性能を向上させること。
• ラベルなしデータからスパークの識別子とSPLDAパラメータを同時に推定するベイジアンフレームワークを構築すること。
• i-vector平均、固有音声、クラス内精度の不確実性を共役事前分布を用いてモデル化することで、SPLDAの適応を強力に実現すること。
• 固有音声の事後精度推定を用いて、最適なスパーク要因数の数を原理的かつ一貫して推定する方法を提供すること。

提案手法

• スパーク要因、i-vector平均、クラス内精度に共役事前分布を用いたベイジアン階層モデルとしてSPLDAを定式化する。
• ラベルなしセットにおけるスパーク識別子を、スパーク成分に一様なディリクレ事前分布を用いた潜在カテゴリカル変数としてモデル化する。
• 変分ベイズを用いて、潜在変数（スパーク識別子、パラメータ）の事後分布を、周辺尤度の下界を最大化することで近似する。
• 期待値伝播とニュートン・ラプソン法を用いて、ハイパーパrameter（例：$a_\alpha$, $b_\alpha$）の閉形式更新式を導出する。
• 正規逆ウィシャートおよびガンマハイパーパラメータを用いて、$\mathbf{\mu}$および$\mathbf{V}$に事前情報を取り入れ、パラメータ推定を正則化する。
• ラベルなしi-vectorから計算された十分統計量（例：$\mathbf{F}_i$, $\overline{\mathbf{S}}_i$）を活用し、事後期待値を効率的に計算する。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしデータからスパーク識別子とSPLDAパラメータを同時に推定するベイジアンフレームワークは、適応性能の向上に寄与するか？
• RQ2 ラベルなしデータのみを適応に用いる場合、提案手法のスパーク認識精度はどの程度の性能を示すか？
• RQ3 事後分散（$\mathbf{V}$および$\mathbf{W}$のもの）によるモデルの不確実性推定は、データ品質とラベルの信頼性を的確に反映しているか？
• RQ4 各固有音声成分$\mathbf{v}_q$の事後精度$\mathrm{E}[\alpha_q]$は、最適なスパーク要因数の数$n_y$を推定するための原理的手段として有効か？
• RQ5 ハイパーパrameterの更新（例：$a_\alpha$, $b_\alpha$）は、データが少ない状況でのパラメータ推定のロバストネスにどのように影響するか？

主な発見

• 本手法は、ラベルなしの適応データを一切必要とせず、ラベルなしデータ上でのSPLDA適応性能が向上した。
• $\mathbf{V}$および$\mathbf{W}$の事後分散は、スパーク数およびセグメント数の増加に伴い減少し、パラメータ推定の信頼性が向上していることを示している。
• モデルはラベルの不確実性を検出できる：スパークラベルが誤っている場合、正しいラベルと比較して$\mathbf{V}$の事後分散が増加する。
• 各固有音声成分$\mathbf{v}_q$の事後精度$\mathrm{E}[\alpha_q]$は、最適なスパーク要因数の数$n_y$を原理的かつ一貫して推定するための有効な手段を提供する。
• 変分ベイズによるハイパーパラメータ最適化により、特にデータが少ない適応状況においても、安定的かつロバストなパラメータ推定が達成された。
• 共役事前分布と閉形式更新式の使用により、効率的な推論が可能となり、大規模なラベルなしi-vector集合に対してもスケーラブルな手法となった。