[论文解读] Building and curating conversational corpora for diversity-aware language science and technology

Andreas Liesenfeld, Mark Dingemanse|arXiv (Cornell University)|Mar 7, 2022

Speech and dialogue systems被引用 10

一句话总结

本文提出了一套标准化的流程与最佳实践，用于构建和整理涵盖67种语言及28个语言语系的多样化对话语料库，强调自然化、时间对齐且开放获取的数据。通过一个经过筛选的语料库资源库，包含超过700小时的互动数据、130万条对话轮次标注和800万词，结合开源工具实现质量评估与互操作性，从而推动语言科学的发展与更具多样性的语言技术进步。

ABSTRACT

We present an analysis pipeline and best practice guidelines for building and curating corpora of everyday conversation in diverse languages. Surveying language documentation corpora and other resources that cover 67 languages and varieties from 28 phyla, we describe the compilation and curation process, specify minimal properties of a unified format for interactional data, and develop methods for quality control that take into account turn-taking and timing. Two case studies show the broad utility of conversational data for (i) charting human interactional infrastructure and (ii) tracing challenges and opportunities for current ASR solutions. Linguistically diverse conversational corpora can provide new insights for the language sciences and stronger empirical foundations for language technology.

研究动机与目标

• 解决语言科学与技术领域中自然化、多样化对话语料库稀缺的问题。
• 克服语料收集过程中的障碍，如资源密集与缺乏标准化。
• 通过优先采用免费获取、符合知情同意要求的数据，推动开放科学，数据来源为语言记录项目。
• 为跨语言多样性的对话语料库建立统一框架，实现互操作性与时间对齐。
• 通过标准化、高质量的数据，同时支持语言类型学与语音识别研究。

提出的方法

• 定义统一的互动数据格式的最小结构属性，强调对话轮次与时间信息。
• 应用三项筛选标准：自然性（自由流动、非脚本化互动）、语言多样性（覆盖28个语言语系）以及开放获取与知情同意。
• 通过13个语言资源平台（包括ELAR、Talkbank、LDC和The Language Archive）整合67种语言的数据。
• 实施质量控制方法，聚焦对话轮次的时间对齐与参与动态分析，以确保数据完整性。
• 开发并发布用于评估语料内容与质量的开源Python与R脚本。
• 建立集中化、版本控制的存储库（osf.io/cwvbe），用于追踪与记录语料库的可用性与元数据。

实验结果

研究问题

• RQ1 如何系统化地编纂与整理来自多种语言的对话语料库，以支持开放、可复现的研究？
• RQ2 为实现跨语言与文化多样性的对话数据互操作性，需要哪些最基本的结构与元数据标准？
• RQ3 现有语言记录语料库在多大程度上可支持更具多样性的语言技术发展？
• RQ4 自然化对话模式在不同语言语系中如何变化？这些差异为互动语言学提供了哪些洞见？
• RQ5 当前自动语音识别系统在处理资源匮乏且非印欧语系语言时面临哪些挑战？

主要发现

• 作者整理了一个涵盖67种语言和28个语言语系的70多个开放数据集的语料库资源库，涵盖超过700小时的对话互动。
• 该语料库包含130万条对话轮次标注，约800万词，其中75%的数据源自语言记录项目。
• 该流程通过分析对话轮次动态与时间对齐，成功实现了质量控制，确保了数据保真度。
• 案例研究显示，多样化对话语料库能够揭示跨语言在互动结构方面的共性，并暴露当前ASR系统存在的局限性。
• 开放获取、可复现的流程同时支持语言学研究与更具包容性的语言技术开发。
• 标准化、时间对齐的语料库的可用性，显著提升了语言类型学与互动语言学中比较研究的潜力。