[論文レビュー] Frame-level speaker embeddings for text-independent speaker recognition and analysis of end-to-end model

Suwon Shon, Hao Tang+1 more|arXiv (Cornell University)|Sep 12, 2018

Speech Recognition and Synthesis参考文献 11被引用数 5

ひとこと要約

本稿では、音声内容に依存しない状況における耐障害性を向上させるために、線形活性化関数を用いた1次元畳み込みニューラルネットワーク（1D-CNN）に基づくエンドツーエンド型発話者認識モデルを提案する。このモデルは、VoxCeleb1でx-vectorを上回る性能を示し（EER: 6.2%）、高層のネットワーク層では個々の音素ではなく、広い音声的クラス（例：直立音／響音）によって発話者アイデンティティがエンコードされていることが明らかになった。また、フレームレベルのコサイン類似度は、異なる音素間でも発話者固有のパターンを示している。

ABSTRACT

In this paper, we propose a Convolutional Neural Network (CNN) based speaker recognition model for extracting robust speaker embeddings. The embedding can be extracted efficiently with linear activation in the embedding layer. To understand how the speaker recognition model operates with text-independent input, we modify the structure to extract frame-level speaker embeddings from each hidden layer. We feed utterances from the TIMIT dataset to the trained network and use several proxy tasks to study the networks ability to represent speech input and differentiate voice identity. We found that the networks are better at discriminating broad phonetic classes than individual phonemes. In particular, frame-level embeddings that belong to the same phonetic classes are similar (based on cosine distance) for the same speaker. The frame level representation also allows us to analyze the networks at the frame level, and has the potential for other analyses to improve speaker recognition.

研究の動機と目的

• 音声内容に依存しない発話者認識に強く、一般化性能に優れたエンドツーエンド型発話者認識モデルの開発。
• 発話者アイデンティティのエンコードが音声的コンテンツに依存しない深層ニューラルネットワークの仕組みを解明すること。
• 異なるネットワーク層におけるフレームレベルの発話者埋め込みの表現的挙動を分析すること。
• 発話者認識において、個々の音素表現よりも音声的クラスレベルの表現がより判別力があるかどうかを調査すること。
• フレームレベルの埋め込みが、変動する音声的コンテンツ下でも発話者固有の特徴をどれだけ捉えられるかを評価すること。

提案手法

• 40次元のMFCCを入力として、4層の1D-CNN（フィルタサイズ：40×5, 1000×7, 1000×1, 1000×1）と2層の全結合層（1500, 600）を用いたネットワークアーキテクチャを採用。
• 最終的な埋め込み層に線形活性化関数を適用し、判別情報の損失を防ぎ、耐障害性を向上。
• ネットワーク構造を変更することで時系列解像度を維持し、各隠れ層からフレームレベルの埋め込みを抽出。
• 最終畳み込み層の後続に統計プーリングを適用し、その後LDAとPLDAを用いて下流の認証タスクを実行。
• SGDを用い、学習率の減少とデータオーグメンテーションを適用して、VoxCeleb1（1,211名の発話者）でモデルを学習。
• フレームレベル表現の評価には、音素認識や広いクラス分類といった代理タスク、およびコサイン類似度解析を用いた。

実験結果

リサーチクエスチョン

• RQ1 ネットワーク層ごとに、フレームレベルの発話者埋め込みが発話者アイデンティティをどの程度適切に表現できるかはどのように異なるか？
• RQ2 音声内容に依存しない状況下で、発話者認識モデルが個々の音素の識別ではなく、音声的クラスの違いにどれほど依存しているか？
• RQ3 どの音声的クラスや特定の音素が、フレームレベルでの発話者識別に最も寄与しているか？
• RQ4 異なる発話文間で、フレームレベルの埋め込み類似度が発話者アイデンティティとどの程度相関しているか？
• RQ5 t-SNEとコサイン類似度行列を用いて、ネットワークが音声的コンテンツを視覚化・解釈可能に表現できるか？

主な発見

• 提案モデルは、同じ評価プロトコル下でVoxCeleb1のテストセットにおいてEER 6.2%を達成し、x-vectorを上回る性能を示した。
• 高層の層（例：層6）からのフレームレベル埋め込みは、低層のものよりも顕著に発話者識別性能が優れており、発話者アイデンティティの段階的抽象化が進んでいることが示された。
• フレームレベル埋め込み間のコサイン類似度は、同一発話者間、および同じ広い音声的クラスに属する音素（例：/s/ と /z/）間で最も高くなるが、音素が異なっていても同様の傾向を示した。
• ネットワークの深い層では、発話者アイデンティティが音素レベルよりも高いレベルの音声的抽象化（例：直立音／響音）にエンコードされていることが示唆された。
• 母音と鼻音が、最も高いコサイン類似度スコアに関連しており、発話者識別においてその重要性が示された。
• 類似度行列の結果から、直立音（例：摩擦音、停止音）は、異なる発話者間でも比較的高い類似度を示しており、埋め込み空間内で共通の音響的特徴を共有している可能性が示唆された。