[論文レビュー] Investigation of Using VAE for i-Vector Speaker Verification

Timur Pekhovsky, Maxim Korenevsky|arXiv (Cornell University)|May 25, 2017

Speech Recognition and Synthesis参考文献 10被引用数 5

ひとこと要約

本稿では、iベクトルを用いた変分オートエンコーダー（VAE）ベースの発話者認証システムを提案し、VAEが教師なしで効果的な発話者埋め込みを学習できることを示している。iベクトルはほぼガウス分布に近いが、'ソフト'な $β$-VAE モードを用いたVAEは、完全共分散PLDAに匹敵する性能を達成しており、一部の設定では対角共分散PLDAを上回っている。

ABSTRACT

New system for i-vector speaker recognition based on variational autoencoder (VAE) is investigated. VAE is a promising approach for developing accurate deep nonlinear generative models of complex data. Experiments show that VAE provides speaker embedding and can be effectively trained in an unsupervised manner. LLR estimate for VAE is developed. Experiments on NIST SRE 2010 data demonstrate its correctness. Additionally, we show that the performance of VAE-based system in the i-vectors space is close to that of the diagonal PLDA. Several interesting results are also observed in the experiments with $β$-VAE. In particular, we found that for $β\ll 1$, VAE can be trained to capture the features of complex input data distributions in an effective way, which is hard to obtain in the standard VAE ($β=1$).

研究の動機と目的

• VAEをiベクトル空間における発話者認識の検証バックエンドとして使用する可能性を調査すること。
• VAEベースの発話者認証のための尤度比（LLR）推定法を開発すること。
• 標準VAEおよび対角共分散PLDAを上回るモデル化能力を$β$-VAEが達成できるかどうかを評価すること。
• 異なるデータおよびアーキテクチャ条件下でのVAEの性能を、従来のPLDAモデルと比較して評価すること。

提案手法

• 非線形性を実現するための決定的隠れ層を組み込んだ、1つの確率的隠れ層を持つ深く、順方向のVAEが使用されている。
• モデルは対角精度行列とガウス事前分布を用いており、変分下界におけるKLダイバージェンスの解析的計算が可能である。
• 再パラメータライゼーショントリックを用いて確率的ノードを介したバックプロパゲーションが可能であり、確率的勾配上昇法により変分下界が最適化されている。
• VAEベースの検証に適した新しいLLR推定法が導出されており、PLDAとの比較が可能になっている。
• $β$-VAEの変種は、再構成と潜在空間正則化のトレードオフを制御する目的関数を変更している。
• iベクトルのPCA次元削減と異なるネットワークアーキテクチャを用いて、NIST SRE 2010およびRusTelecomデータセットで実験が実施された。

実験結果

リサーチクエスチョン

• RQ1 iベクトルがほぼガウス分布に近いにもかかわらず、VAEベースのシステムが発話者認証のためのiベクトルを効果的にモデル化できるか？
• RQ2 VAE用に導出されたLLR推定値は、PLDAと同等の信頼性のある性能を示すか？
• RQ3 β ≪ 1 の $β$-VAE は、標準VAE（β=1）よりもiベクトル空間でより複雑なデータ分布を学習できるか？
• RQ4 iベクトルの次元数およびネットワーク構成が異なる条件下で、VAEの性能は対角共分散PLDAおよび完全共分散PLDAと比べてどうなるか？

主な発見

• NIST-2010コーパスにおいて、$K=1$の条件下でVAEベースのシステムはEERが3.22%、minDCFが0.417を達成し、対角共分散PLDA（EER: 3.13%, minDCF: 0.433）よりもEERで優れているが、minDCFでは劣っている。
• 「ソフト」な $β$-VAE モード（$β=10^{-6}$）では、最良の設定（$D_x=400, D_d=100, D_h=50$）でNIST-2010でEERが3.98%、minDCFが0.497を達成し、標準VAEに比べて一般化性能が向上している。
• より大きなRusTelecomコーパス（$D_x=600$）では、「ソフト」な $β$-VAEがEER 2.53%、minDCF 0.510を達成し、完全共分散PLDA（EER: 1.63%, minDCF: 0.644）に近いが、それを超えることはできていない。
• 標準VAE（$β=1$）は、PCA=10のNIST-2010でEERが9.8–10.0%程度のあいだで対角共分散PLDAと同等の性能を示しており、このパラメータで改善の余地がない。
• 「ソフト」な $β$-VAE は、$D_h=40$ から $D_h=100$ の範囲で性能の極値を示しており、iベクトル空間における複雑な分布を捉える最適な能力を示している。
• LLR推定値は、$K$（試行回数）の変化に対して安定しており、異なるテスト条件でも一貫した性能を示している。