[論文レビュー] TLT-school: a Corpus of Non Native Children Speech

Roberto Gretter, Marco Matassoni+2 more|arXiv (Cornell University)|Jan 22, 2020

Linguistic Studies and Language Acquisition参考文献 31被引用数 14

ひとこと要約

本論文では、2017–2018年に北イタリアの小学校で収集された、イタリア語を母語とする児童が英語およびドイツ語を学ぶ際の非ネイティブ児童発話の公開コーパス「TLT-school」を紹介する。このコーパスには、手動でトランスクリプションされた発話応答、CEFR（A1–B1）に整合した人間による熟達度スコア、および詳細な言語的アノテーションが含まれており、ノイズ、コードミキシング、児童発話のばらつきといった現実世界の状況下で、非ネイティブ発話認識および自動的第二言語熟達度評価に関する研究を可能にする。

ABSTRACT

This paper describes "TLT-school" a corpus of speech utterances collected in schools of northern Italy for assessing the performance of students learning both English and German. The corpus was recorded in the years 2017 and 2018 from students aged between nine and sixteen years, attending primary, middle and high school. All utterances have been scored, in terms of some predefined proficiency indicators, by human experts. In addition, most of utterances recorded in 2017 have been manually transcribed carefully. Guidelines and procedures used for manual transcriptions of utterances will be described in detail, as well as results achieved by means of an automatic speech recognition system developed by us. Part of the corpus is going to be freely distributed to scientific community particularly interested both in non-native speech recognition and automatic assessment of second language proficiency.

研究の動機と目的

• 第二言語習得および自動音声認識評価に関する研究を目的とした、大規模で公開可能な非ネイティブ児童発話コーパスの構築。
• 9–16歳のイタリア語を母語とする児童が英語およびドイツ語を学ぶ際の発話応答を収集・アノテーションし、言語的熟達度および発話品質に焦点を当てる。
• 高品質なトランスクリプションおよび人間によるアノテーションを提供することで、自動音声認識（ASR）および自動言語熟達度スコアリングの支援を行う。
• コードミキシング、背景ノイズ、および即興的発話現象といった課題を含む、非ネイティブ児童発話認識における課題に対処する。
• 将来的なエンドツーエンド自動スコアリングシステムおよび非ネイティブ児童発話向けの改善された音響モデルおよび言語モデルの開発を可能にする。

提案手法

• データは、2017–2018年に北イタリアの学校で実施された言語熟達度評価の過程で収集された。9–16歳の児童が対象である。
• 発話応答は、固定時間長のマイクを用いた制御された環境で記録され、ためらい、誤りの修正、遮断を含む即興的発話を捉えている。
• 2017年のデータの一部は、一貫性と正確性を確保するための標準化されたトランスクリプションガイドラインに従って手動でトランスクリプションされた。
• 人間の専門家が、CEFRに整合した事前に定義された熟達度指標（文法的正しさ、語彙の豊かさ、発音、流暢さ、トピック展開）を用いて各応答をアノテーションした。
• コーパスには発話と書言語の両方の応答が含まれており、個人情報や不適切な内容を除去するための正規化および匿名化処理が計画されている。
• 実際の課題に直面する状況下での性能を評価するために、コーパス上で自動音声認識システムが開発および評価された。

実験結果

リサーチクエスチョン

• RQ1 第二言語習得および自動評価に関する研究を目的とした、大規模で現実世界の非ネイティブ児童発話コーパスを、体系的かつ一貫性を持って収集・アノテーションする方法は何か？
• RQ2 コードミキシング、背景ノイズ、および即興的発話といった要因が、非ネイティブ児童発話の自動音声認識に及ぼす主な課題は何か？
• RQ3 CEFRに整合した人間による熟達度指標を自動システムがどれほど信頼性高く予測できるか？
• RQ4 プロソディック特徴（例：イントネーション、リズム）を含めることで、A2およびB1レベルのL2学習者の自動スコアリングはどの程度向上するか？
• RQ5 誘導技法をどのように改善すれば、L2発話におけるコードミキシングやネガティブな転送を低減できるか？

主な発見

• TLT-schoolコーパスには、9–16歳のイタリア語を母語とする児童が英語およびドイツ語を学ぶ際の発話応答が含まれており、手動トランスクリプションおよびCEFRに整合した熟達度アノテーション（A1、A2、B1）が提供されている。
• 発話データの顕著な割合が、ためいき、誤りの修正、語の断片といった即興的発話現象を含んでおり、自然なL2発話の特徴を反映している。
• 特にオープンエンドのプロンプトに対する応答では、イタリア語、英語、ドイツ語の間で頻繁なコードミキシングが見られる。
• 固定時間長の記録間隔のため、背景ノイズが広く存在しており、ASR性能に影響を与え、耐障害性の高いモデリング手法の必要性を示している。
• 自動音声認識システムの予備的結果から、非ネイティブ発音、児童発話のパターン、および複数言語の発話が性能に悪影響を与えていることが判明した。
• 正規化されたトランスクリプション、匿名化された内容、および標準化された評価基準（例：TOEFL Speaking Rubrics）へのスコアマッピングを伴い、コーパスは公開準備が進められている。これにより、将来的なASRおよび自動スコアリングの課題解決が可能になる。