[論文レビュー] Attention-Based Models for Text-Dependent Speaker Verification

F A Rezaur Rahman Chowdhury, Quan Wang+2 more|arXiv (Cornell University)|Oct 28, 2017

Natural Language Processing Techniques参考文献 7被引用数 50

ひとこと要約

この論文はエンドツーエンドのテキスト依存型話者検証システムにアテンション機構を注入し、非アテンション LSTM ベースラインより EER が改善され、最良の結果は分割レイヤーアテンションとスライディングウィンドウプーリングで得られる。

ABSTRACT

Attention-based models have recently shown great performance on a range of tasks, such as speech recognition, machine translation, and image captioning due to their ability to summarize relevant information that expands through the entire length of an input sequence. In this paper, we analyze the usage of attention mechanisms to the problem of sequence summarization in our end-to-end text-dependent speaker recognition system. We explore different topologies and their variants of the attention layer, and compare different pooling methods on the attention weights. Ultimately, we show that attention-based models can improves the Equal Error Rate (EER) of our speaker verification system by relatively 14% compared to our non-attention LSTM baseline model.

研究の動機と目的

• テキスト依存型話者検証を、アテンション機構を用いて音素関連フレームに焦点を当てることで改善する。
• エンドツーエンドTD-SVフレームワーク内で複数のアテンション層トポロジーとプーリング手法を比較する。
• 等価決定誤差率(EER)で測定された検証精度の改善を定量化する。

提案手法

• キーワードベースのセグメントを用いたTD-SVのエンドツーエンドLSTMベースのd-vectorフレームワークを使用する。
• フレームごとの重みを計算し、加重d-vectorを形成するアテンション層を導入する。
• スコアリング関数を検討する：バイアスのみ、線形、共有パラメータ線形、非線形、共有パラメータ非線形。
• アテンション層のバリエーションを提案する：クロス層アテンションと分割レイヤーアテンション。
• アテンション重みのプーリング手法を適用する：プーリングなし、スライディングウィンドウ最大プーリング、グローバルTop-K最大プーリング。

実験結果

リサーチクエスチョン

• RQ1 アテンションを追加することでベースラインのエンドツーエンドTD-SVモデルよりEERが改善されるか。
• RQ2 どのアテンションスコアリング関数が最良の性能を発揮するか。
• RQ3 アテンション層のバリエーション（クロスレイヤー、分割レイヤー）は基本的なアテンションより利点を提供するか。
• RQ4 アテンション重みをプーリングする（スライディングウィンドウやTop-K）ことは検証性能をさらに改善するか。

主な発見

テストデータ	非アテンションベースライン	f_BO	f_L	f_SL	f_NL	f_SNL
OK Google → OK Google	0.88	0.85	0.81	0.80	0.79	0.78
OK Google → Hey Google	2.77	2.97	2.74	2.75	2.69	2.66
Hey Google → OK Google	2.19	2.30	2.28	2.23	2.14	2.08
Hey Google → Hey Google	1.05	1.04	1.03	1.03	1.00	1.01
Average	1.72	1.79	1.72	1.70	1.66	1.63

• アテンションベースのモデルはベースラインと比較してEERを低減させる：基本アテンションで平均1.72%から1.63%へ、最適化されたバリアントでさらに1.63%以上へ。
• 共有パラメータ非線形アテンションと分割レイヤー接続は他の構成より平均EERが良好（基本の1.63%に対して1.56%）。
• 分割レイヤーアテンションは評価セット全体でクロスレイヤーアテンションを上回る。
• アテンション重みのスライディングウィンドウ最大プーリングはEERを平均1.48%へ改善し、プーリングなしおよびTop-Kプーリングを上回る。
• 最適な組み合わせは非アテンションのベースライン（1.72%）に対して相対14%の改善（1.72%→1.48%）を達成。