[论文解读] Reconstructing Native Language Typology from Foreign Language Usage

Yevgeni Berzak, Roi Reichart+1 more|arXiv (Cornell University)|Apr 25, 2014

Natural Language Processing Techniques参考文献 12被引用 12

一句话总结

本文提出了一种新颖的无监督方法，通过第二语言（ESL）文本中的形态-句法特征重建母语语言类型学，证明ESL使用模式与母语语言类型学相似性之间存在强烈相关性。该方法在不依赖目标语言类型学知识的情况下，实现了72.2%的准确率来预测类型学特征，优于或匹配依赖大量类型学资源的方法。

ABSTRACT

Linguists and psychologists have long been studying cross-linguistic transfer, the influence of native language properties on linguistic performance in a foreign language. In this work we provide empirical evidence for this process in the form of a strong correlation between language similarities derived from structural features in English as Second Language (ESL) texts and equivalent similarities obtained from the typological features of the native languages. We leverage this finding to recover native language typological similarity structure directly from ESL text, and perform prediction of typological features in an unsupervised fashion with respect to the target languages. Our method achieves 72.2% accuracy on the typology prediction task, a result that is highly competitive with equivalent methods that rely on typological resources.

研究动机与目标

• 探究ESL文本中的结构模式在多大程度上反映说话者母语的类型学特征。
• 开发一种仅使用ESL文本的无监督方法，以预测母语语言类型学，而无需访问目标语言的类型学注释。
• 通过与WALS提供的金标准类型学相似性进行比较，评估ESL推导的语言相似性有效性的验证。
• 证明基于ESL的语言相似性结构可在类型学重建任务中实现具有竞争力的性能。

提出的方法

• 该方法从大规模ESL语料库中提取形态-句法特征，以推导母语语言之间的语言相似性得分。
• 利用平均链接聚类法，从ESL推导出的特征构建分层语言相似性树。
• 利用基于ESL的相似性树，将邻近语言的已知类型学特征投影到目标语言，以预测其特征。
• 预测框架采用最近邻（NN）、3-最近邻（3NN）和基于树的邻居策略，以推断缺失的类型学特征。
• 该方法将ESL推导出的语言相似性视为类型学相似性的代理，即使目标语言缺乏类型学数据，也能实现推断。
• 通过共享全部特征集和共享成对特征集，将ESL方法的性能与基于WALS的基线方法进行比较。

实验结果

研究问题

• RQ1 ESL文本中的结构模式在多大程度上反映作者母语的类型学特征？
• RQ2 从ESL使用中推导出的语言相似性能否可靠地近似母语语言的类型学相似性？
• RQ3 基于ESL的语言相似性结构能否用于在零资源设置下预测缺失的类型学特征？
• RQ4 基于ESL的类型学预测性能与依赖现有类型学数据库的方法相比如何？

主要发现

• ESL推导出的语言相似性结构与WALS提供的金标准类型学相似性表现出强烈相关性，验证了系统性跨语言迁移的存在。
• 所提出的基于ESL的方法在使用分层树状邻居预测时，实现了72.2%的类型学重建准确率，优于或匹配基于WALS的基线方法。
• 该ESL方法仅使用WALS基线方法30%的特征，即可取得具有竞争力的结果，表明其对不完整类型学注释的鲁棒性。
• 该方法在基于树的邻居预测中表现最佳，证实了分层相似性结构在捕捉语言类型学方面的适用性。
• 该方法无需目标语言的任何类型学注释即可实现类型学预测，克服了现有方法的主要局限。
• 结果表明，即使缺乏专家标注的数据，ESL文本也可作为类型学信息的可靠代理。