[论文解读] The History of Speech Recognition to the Year 2030

Awni Hannun|arXiv (Cornell University)|Jul 30, 2021

Speech Recognition and Synthesis参考文献 27被引用 16

一句话总结

本文预测了2020年至2030年语音识别技术的发展趋势，指出尽管词错误率的提升将逐渐放缓，但在设备端个性化、边缘推理、稀疏性以及更丰富的输出表征方面将出现重大进展。作者强调，个性化与上下文感知建模将成为突破当前稳健、通用语音识别技术瓶颈的核心。

ABSTRACT

The decade from 2010 to 2020 saw remarkable improvements in automatic speech recognition. Many people now use speech recognition on a daily basis, for example to perform voice search queries, send text messages, and interact with voice assistants like Amazon Alexa and Siri by Apple. Before 2010 most people rarely used speech recognition. Given the remarkable changes in the state of speech recognition over the previous decade, what can we expect over the coming decade? I attempt to forecast the state of speech recognition research and applications by the year 2030. While the changes to general speech recognition accuracy will not be as dramatic as in the previous decade, I suggest we have an exciting decade of progress in speech technology ahead of us.

研究动机与目标

• 预测2020年至2030年自动语音识别（ASR）研究与应用的发展轨迹。
• 识别将定义未来十年语音技术发展的关键研究与技术转变。
• 探讨个性化、设备端学习与上下文建模如何推动超越准确率提升的进展。
• 评估当前基准测试的局限性，以及人机协同转录系统在未来的作用。
• 评估语音助手发展中的瓶颈，以及语言理解在未来发展中的作用。

提出的方法

• 以2010年至2020年的历史趋势为基础进行预测，特别是深度学习、大规模数据集和GPU加速的发展。
• 应用理查德·哈明（Richard Hamming）的预测方法论，强调实践、根本理解与开放心态。
• 提出未来进展将更多依赖于上下文建模、个性化与高效设备端推理，而非词错误率的提升。
• 识别稀疏性与轻量化模型架构作为实现设备端训练与推理的关键使能技术。
• 倡导采用更丰富、基于图的模型输出，以支持对话与理解等下游任务。
• 依赖来自基准测试（如LibriSpeech，词错误率已低于人类水平）与案例研究（如联系人列表个性化将召回率从2.4%提升至73.5%）的实证证据。

实验结果

研究问题

• RQ1 2020年至2030年，语音识别的主导研究与应用趋势将是什么？
• RQ2 个性化与上下文整合将如何改变语音识别的性能与可用性？
• RQ3 设备端训练与稀疏性将在实现高效、私密且自适应的语音系统中发挥什么作用？
• RQ4 为何到2030年，提升标准基准测试上的词错误率将不再成为主要研究重点？
• RQ5 语音助手将在多大程度上超越当前能力？其发展中的关键瓶颈是什么？

主要发现

• 到2030年，大多数语音识别推理将发生在边缘端，减少对云处理的依赖。
• 设备端模型训练将变得更为普遍，主要受轻量化模型与弱监督学习的推动。
• 稀疏性将成为关键研究方向，以支持高效的设备端推理与训练。
• 随着模型在短时孤立话语上的词错误率趋近贝叶斯误差率，提升标准基准测试上的词错误率将不再作为主要研究目标。
• 语音识别系统将越来越多地输出结构化、基于图的表征，以支持对话与理解等下游任务。
• 个性化模型将变得普遍，显著提升对代表性不足群体及言语障碍人群的识别效果——例如，针对言语障碍用户，个性化可实现64%的相对词错误率降低。