[論文レビュー] Large Margin Softmax Loss for Speaker Verification

Yi Liu, Liang He+1 more|ArXiv.org|Apr 6, 2019

Speech Recognition and Synthesis参考文献 32被引用数 17

ひとこと要約

本稿では、AM-Softmaxにリング損失と最小超球エネルギー（MHE）基準を統合することで、話者検証用に強化された大マージンソフトマックス損失を提案する。これにより、特徴の識別性学習が顕著に向上する。VoxCelebにおいて、最良のシステムはベースラインと比較してEERを15%、minDCF08を13%、minDCF10を33%削減した。

ABSTRACT

In neural network based speaker verification, speaker embedding is expected to be discriminative between speakers while the intra-speaker distance should remain small. A variety of loss functions have been proposed to achieve this goal. In this paper, we investigate the large margin softmax loss with different configurations in speaker verification. Ring loss and minimum hyperspherical energy criterion are introduced to further improve the performance. Results on VoxCeleb show that our best system outperforms the baseline approach by 15\% in EER, and by 13\%, 33\% in minDCF08 and minDCF10, respectively.

研究の動機と目的

• ニューラルネットワークベースの話者検証における話者埋め込みの識別性と内発話者コンパクト性を向上させること。
• 標準的なソフトマックス損失が、クラス間分離やクラス内コンパクト性を明示的に促進しないという限界を解決すること。
• 大マージンソフトマックス変種（ASoftmax、ArcSoftmax、AMSoftmax）が話者検証に与える効果を調査すること。
• 補助損失（リング損失およびMHE）を統合することで、特徴空間の分離性とロバスト性をさらに向上させること。
• バックエンドの複雑さを最小限に抑え、可能な限りPLDAに依存しない単純なコサインスコアリングを実現しつつ、VoxCelebで最先端の性能を達成すること。

提案手法

• 話者埋め込みの超球上での角度分離を強制するために、加法的マージンを用いたAM-Softmaxを用いる。
• 特徴ノルムのばらつきを安定化させ、スケールに敏感になるのを軽減するため、リング損失をソフト正規化として適用する。
• 超球上での話者間距離の分散を最大化することで、全体の分離性を向上させるために、最小超球エネルギー（MHE）損失を導入する。
• 特徴正規化と出力層での角度マージンを用いて、大きさではなくコサイン類似度に焦点を当てる。
• 組み合わせ損失関数を用いて、x-vectorアーキテクチャをエンドツーエンドで最適化する。
• 評価にはコサインスコアリングにLDAとPLDAを用いるが、今後の研究でPLDAへの依存を排除することを目的としている。

実験結果

リサーチクエスチョン

• RQ1 ASoftmax、ArcSoftmax、AMSoftmaxといった異なる大マージンソフトマックス変種は、話者検証性能においてどのように比較されるか？
• RQ2 リング損失は、話者埋め込み学習における特徴ノルムのばらつきを効果的に安定化させ、学習の安定性を向上させることができるか？
• RQ3 MHE基準は、超球上での話者中心の均一な分布を促進することで、話者間分離性を向上させることができるか？
• RQ4 話者検証の文脈において、各々の大マージンソフトマックス変種の最適なマージン設定は何か？
• RQ5 AMSoftmaxにMHE損失を組み合わせることで、PLDAのような複雑なバックエンド分類器への依存を減らしつつ、最先端の性能を達成できるか？

主な発見

• AM-SoftmaxにMHE損失を組み合わせた最良のシステムは、EERを3.10%から2.00%に低下させ、ベースライン比で15%の相対的改善を達成した。
• AM-Softmax + MHEシステムは、minDCF08を0.0169から0.0106に、minDCF10を0.4977から0.2487に低下させ、それぞれ13%および33%の相対的改善を達成した。
• AMSoftmaxは、すべての指標でASoftmaxおよびArcSoftmaxを上回り、最適なマージン $m_3 = 0.20$ が得られた。
• MHE損失は、正規化された話者重み間のペアワイズ二乗距離の分散を低下させ、超球上でのより均一で分離性の高い分布を示している。
• リング損失は、マージンベースの損失と組み合わせた場合に特徴ノルムのばらつきを低下させるが、AMSoftmaxがすでにノルムを効果的に制約している場合には、それほど大きな影響を及ぼさない。
• AM-Softmax + MHEの組み合わせが最高の性能を達成したため、MHEによる話者間分離性の最大化が、ノルム正則化だけよりも効果的であると考えられる。