[论文解读] The distribution of calibrated likelihood-ratios in speaker recognition

David A. van Leeuwen, Niko Brümmer|arXiv (Cornell University)|Apr 3, 2013

Speech Recognition and Synthesis参考文献 14被引用 8

一句话总结

本文推导了在说话人识别中校准后的对数似然比分数遵循高斯分布的理论条件，表明若非目标分数为高斯分布，则目标分数也必须具有对称方差和相反均值的高斯分布。本文提出了一种闭式线性校准方法（CMLG），其校准性能与逻辑回归方法相当，适用于多种i-vector PLDA系统，尤其在分数分布近似高斯时表现更优。

ABSTRACT

This paper studies properties of the score distributions of calibrated log-likelihood-ratios that are used in automatic speaker recognition. We derive the essential condition for calibration that the log likelihood ratio of the log-likelihood-ratio is the log-likelihood-ratio. We then investigate what the consequence of this condition is to the probability density functions (PDFs) of the log-likelihood-ratio score. We show that if the PDF of the non-target distribution is Gaussian, then the PDF of the target distribution must be Gaussian as well. The means and variances of these two PDFs are interrelated, and determined completely by the discrimination performance of the recognizer characterized by the equal error rate. These relations allow for a new way of computing the offset and scaling parameters for linear calibration, and we derive closed-form expressions for these and show that for modern i-vector systems with PLDA scoring this leads to good calibration, comparable to traditional logistic regression, over a wide range of system performance.

研究动机与目标

• 理解在说话人识别中，校准后的对数似然比分数遵循高斯分布的理论条件。
• 推导校准条件下目标分数与非目标分数分布之间的必要关系。
• 基于高斯假设，开发一种避免迭代优化的新型线性校准方法。
• 在多种系统配置下，将该方法的性能与传统逻辑回归方法进行对比评估。

提出的方法

• 将对数似然比的幂等性定义为校准的核心条件：对数似然比的对数似然比应等于原始对数似然比。
• 在该幂等性条件下，推导分数分布的数学约束，表明目标和非目标分布都必须为高斯分布，且具有相等方差和相反均值。
• 利用推导出的均值与方差之间的关系，提出一种基于等错误率（EER）参数化的闭式线性校准方法（CMLG）。
• 将该方法应用于i-vector PLDA系统，并使用$C_{\rm llr}$和$C_{\rm primary}$等指标对比校准性能。
• 在NIST SRE12数据上验证该方法，并评估其在不同先验概率和系统性能下的鲁棒性。
• 使用数值积分将高斯假设下的$C_{\rm llr}$与EER关联，实现仅通过EER直接计算$C_{\rm llr}$，无需优化。

实验结果

研究问题

• RQ1 在说话人识别中，校准后的对数似然比分数在何种条件下遵循高斯分布？
• RQ2 在校准条件下，目标与非目标分数分布的均值与方差之间存在何种数学关系？
• RQ3 能否从高斯假设中推导出一种闭式线性校准方法，其性能可与逻辑回归等迭代方法相媲美？
• RQ4 所提出方法的性能在不同系统配置和先验概率下如何变化？
• RQ5 现实中的分数分布在多大程度上符合理论模型所要求的高斯假设？

主要发现

• 若非目标分数分布为高斯分布，则在校准条件下，目标分数分布也必须为具有相同方差和相反均值的高斯分布。
• CMLG校准方法在25种条件下实现了平均$C_{\rm llr}$为0.375，几乎与逻辑回归的0.376持平。
• 该方法在多种系统和先验概率下表现良好，当选择正确先验$\alpha$时，$C_{\rm primary}$结果与逻辑回归相当。
• 通过高斯积分建立的$C_{\rm llr}$与EER之间的理论关系，其与最小$C_{\rm llr}$的均方根差仅为0.006。
• 实际分数分布并不严格符合高斯假设，因为DET曲线并非完美呈$45^\circ$，但i-vector PLDA系统表现出近似高斯行为。
• 对于非高斯分数分布，不推荐使用CMLG方法，因其闭式解在根本上依赖于高斯假设。