[論文レビュー] Deep Discriminant Analysis for i-vector Based Robust Speaker Recognition

Shuai Wang, Zili Huang+2 more|arXiv (Cornell University)|May 3, 2018

Speech Recognition and Synthesis参考文献 25被引用数 3

ひとこと要約

本稿では、i-vector話者認識における非線形ニューラルネットワークベースの補正手法であるDeep Discriminant Analysis (DDA)を提案する。DDAは、softmax損失とセンター損失を同時に最適化することで判別力を向上させる。線形LDAとは異なり、DDAは非線形な射影を学習し、話者内変動を低減するとともに話者間の分離を高める。SREコーパスデータセットにおいて、ユークリッド距離スコアリングで4.69%のEERを達成し、LDAおよびPLDAを上回った。

ABSTRACT

Linear Discriminant Analysis (LDA) has been used as a standard post-processing procedure in many state-of-the-art speaker recognition tasks. Through maximizing the inter-speaker difference and minimizing the intra-speaker variation, LDA projects i-vectors to a lower-dimensional and more discriminative sub-space. In this paper, we propose a neural network based compensation scheme(termed as deep discriminant analysis, DDA) for i-vector based speaker recognition, which shares the spirit with LDA. Optimized against softmax loss and center loss at the same time, the proposed method learns a more compact and discriminative embedding space. Compared with the Gaussian distribution assumption of data and the learnt linear projection in LDA, the proposed method doesn't pose any assumptions on data and can learn a non-linear projection function. Experiments are carried out on a short-duration text-independent dataset based on the SRE Corpus, noticeable performance improvement can be observed against the normal LDA or PLDA methods.

研究の動機と目的

• i-vector話者認識における線形LDAの限界、特にガウス分布の仮定と非線形分離をモデル化できない点を解決する。
• 現実の条件下における複雑な話者変動とチャネル劣化をよりよく捉える非線形LDAの代替手法を開発する。
• 短時間、テキストに依存しない発話において、よりコン act で判別力のある埋め込み空間を学習することで、話者認識性能を向上させる。
• コサイン距離やユークリッド距離といったシンプルなスコアリング手法と組み合わせたニューラルネットワークベースのアプローチが、従来のPLDAおよびLDAシステムを上回ることを示す。

提案手法

• 600次元のi-vector（高次元）を、300次元や400次元などの低次元の判別性の高い空間（低次元空間）に写像する深層ニューラルネットワークを提案。多層構造を用い、PReLU活性化関数とバッチ正規化を適用する。
• ネットワークの訓練には、クラス間分離を最大化するためのソフトマックス損失と、クラス内変動を最小化するためのセンター損失を組み合わせた共同損失関数を用いる。
• 学習率を別々に設定：主ネットワークには0.01、センターパラメータには0.1を設定。ミニバッチごとにセンターを更新することで、訓練の安定性を向上させる。
• λ = 0.01の重み付き損失組み合わせを用い、2つの目的をバランスさせる。これにより、ネットワークが意味のある判別特徴を学習し、識別不能な埋め込み空間に収束するのを防ぐ。
• t-SNE可視化を用いて、DDA変換後の話者内埋め込みのコンパクトさと話者間の分離度を定性的に評価する。
• SREコーパス上で、コサインスコアリングとユークリッドスコアリングの両方を用いて評価し、ベースラインi-vector、LDA、PLDAシステムと比較する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、ガウス分布の仮定をせず、非線形でより判別性の高い射影を学習することで、i-vector空間における線形LDAの代替として効果的に機能できるか？
• RQ2 ソフトマックス損失とセンター損失の共同最適化は、標準的なLDAやPLDAと比較して、どのように話者認識性能を向上させるか？
• RQ3 短時間、テキストに依存しない話者認識タスクにおいて、EERを最小化する最適なDDA埋め込み空間の次元数は何か？
• RQ4 DDAモデルは、ソフトマックス損失とセンター損失のバランスをとるハイパーパrameter λ に対してどれほど感度を示し、収束と性能の最適設定は何か？

主な発見

• DDAはユークリッドスコアリングを用いてEER 4.69%を達成し、ベースラインのPLDAシステム（EER 4.96%）およびLDA（EER 5.22%）を上回った。
• DDAの最良性能は400次元の埋め込み空間で得られ、EERは4.51%まで低下した。一方、LDAは200次元で最良性能を示した。
• λ = 0.01に設定した場合、訓練は安定的に収束し、最良の性能が得られた。一方、λ = 0.1に設定するとセンター損失の支配的影響によりネットワークが学習不能になった。
• t-SNE可視化により、DDAが話者内変動を顕著に低減しており、同じ話者の埋め込みがよりコンパクトで、他の話者と明確に分離されていることが確認された。
• DDAは、テストしたすべての埋め込み次元数においてLDAを上回った。特にユークリッドスコアリングでは顕著な相対的改善が見られ、300次元でのEERはDDAが4.69%、LDAが5.22%であった。
• 提案手法はPLDAと互換性がないことが示唆された。これは、DDAの非線形補正が、埋め込み空間内でのPLDAの役割をすでに代替している可能性を示している。