[論文レビュー] Building and curating conversational corpora for diversity-aware language science and technology

Andreas Liesenfeld, Mark Dingemanse|arXiv (Cornell University)|Mar 7, 2022

Speech and dialogue systems被引用数 10

ひとこと要約

本論文は、67ヶ国語および28の言語系統をカバーする、自然主義的で時刻同期された、オープンアクセスのデータを重視した標準化されたパイプラインとベストプラクティスを提示する。言語科学および多様性に配慮した言語技術の向上を可能にするために、700時間以上のインタラクション、130万件のターンレベルのアノテーション、800万語のデータを含む、キュレート済みのリポジトリを提供する。品質評価および相互運用性を支援するオープンソースツールも併せて提供される。

ABSTRACT

We present an analysis pipeline and best practice guidelines for building and curating corpora of everyday conversation in diverse languages. Surveying language documentation corpora and other resources that cover 67 languages and varieties from 28 phyla, we describe the compilation and curation process, specify minimal properties of a unified format for interactional data, and develop methods for quality control that take into account turn-taking and timing. Two case studies show the broad utility of conversational data for (i) charting human interactional infrastructure and (ii) tracing challenges and opportunities for current ASR solutions. Linguistically diverse conversational corpora can provide new insights for the language sciences and stronger empirical foundations for language technology.

研究の動機と目的

• 言語科学および言語技術分野における自然主義的で多様な会話コーパスの不足に対処する。
• リソース集約的で標準化が不十分なコーパス収集の障壁を克服する。
• 言語記録プロジェクトからの同意を遵守した、自由に利用可能なデータを優先することで、オープンサイエンスを推進する。
• 言語的多様性をカバーする統一されたフレームワークを構築し、相互運用可能で時刻同期された会話コーパスを実現する。
• 標準化され、高品質なデータを提供することで、言語類型学および音声認識研究を支援する。

提案手法

• 会話データの統一フォーマットに必要な最小限の構造的特性を定義し、ターンチェンジとタイミングに重点を置く。
• 3つの選定基準を適用する：自然主義（自由な流れで、事前脚色のない対話）、言語的多様性（28の言語系統をカバー）、オープンアクセスと同意取得。
• ELAR、Talkbank、LDC、The Language Archiveを含む13の言語リソースプラットフォームを通じて、67ヶ国語のデータを統合する。
• ターンレベルのタイミングと参加者のダイナミクスに注目した品質管理手法を実装し、データの整合性を確保する。
• コーパスの内容と品質を評価するためのオープンソースPythonおよびRスクリプトを開発・公開する。
• バージョン管理された中央集約リポジトリ（osf.io/cwvbe）を構築し、コーパスの可用性とメタデータを追跡・文書化する。

実験結果

リサーチクエスチョン

• RQ1 多様な言語の会話コーパスを、オープンかつ再現可能である研究を支援する形で体系的に収集・キュレートするには、どのようにすればよいか？
• RQ2 言語的および文化的に多様な会話データ間での相互運用性を実現するための、最小限の構造的およびメタデータ基準とは何か？
• RQ3 既存の言語記録コーパスが、多様性に配慮した言語技術の開発をどの程度支援できるか？
• RQ4 自然主義的な会話パターンは、言語系統ごとにどのように変化するのか。また、それらは対話的言語学にどのような示唆をもたらすか？
• RQ5 現在の自動音声認識（ASR）システムは、リソースが乏しく、インド・ヨーロッパ語族に属さない言語を処理するにあたり、どのような課題に直面しているか？

主な発見

• 著者らは、67ヶ国語および28の言語系統をカバーする70以上のオープンデータセットをキュレートしたリポジトリを構築した。これは700時間以上の会話的インタラクションを含む。
• コーパスには130万件のターンレベルのアノテーションと、推定800万語のテキストが含まれており、そのうち75％が言語記録プロジェクトから供給された。
• ターンチェンジのダイナミクスと時刻同期の分析を通じて、品質管理が成功裏に実施され、データの正確性が保証された。
• 事例研究から、多様な会話コーパスが対話的インfraストラクチャーの言語間パターンを明らかにでき、現在のASRシステムの限界も露呈した。
• オープンアクセスで再現可能なパイプラインは、言語学的研究およびより包括的な言語技術の開発を支援する。
• 標準化され、時刻同期されたコーパスの提供は、言語類型学および対話的言語学における比較研究の可能性を高めた。