[论文解读] Treebanking User-Generated Content: a UD Based Overview of Guidelines, Corpora and Unified Recommendations

Manuela Sanguinetti, Lauren C. Cassidy+8 more|arXiv (Cornell University)|Nov 3, 2020

Natural Language Processing Techniques被引用 12

一句话总结

本文提出了一套基于通用依存句法（UD）的统一标注指南，用于用户生成内容（UGC），如社交媒体和网页文本，旨在解决现有语料库中的一致性问题。通过分析拼写错误、缩写和语码转换等常见语言现象，该研究提供了标准化的解决方案，以提升跨语言的一致性，并改善在嘈杂、非正式文本领域中的句法分析效果。

ABSTRACT

This article presents a discussion on the main linguistic phenomena which cause difficulties in the analysis of user-generated texts found on the web and in social media, and proposes a set of annotation guidelines for their treatment within the Universal Dependencies (UD) framework of syntactic analysis. Given on the one hand the increasing number of treebanks featuring user-generated content, and its somewhat inconsistent treatment in these resources on the other, the aim of this article is twofold: (1) to provide a condensed, though comprehensive, overview of such treebanks -- based on available literature -- along with their main features and a comparative analysis of their annotation criteria, and (2) to propose a set of tentative UD-based annotation guidelines, to promote consistent treatment of the particular phenomena found in these types of texts. The overarching goal of this article is to provide a common framework for researchers interested in developing similar resources in UD, thus promoting cross-linguistic consistency, which is a principle that has always been central to the spirit of UD.

研究动机与目标

• 解决现有通用依存句法（UD）语料库中用户生成内容（UGC）标注不一致的问题。
• 识别并系统化整理UGC中影响句法分析的常见语言现象，如拼写错误、缩写和字形拉长。
• 在UD框架内提出一个连贯、跨语言一致的UGC标注框架，确保互操作性和可重用性。
• 通过提供清晰、可操作的标注指南，支持高质量、标准化UGC语料库的开发。
• 推动UGC特有现象融入更广泛的UD生态系统，提升非正式文本处理的NLP工具能力。

提出的方法

• 对多种语言的现有UGC语料库进行对比分析，识别在非标准拼写和缩写等现象上的标注差异。
• 将UGC现象分类为如变音符号省略、音转拼写、拼写错误、缩写和语码转换等类别，并为每类制定不同的标注策略。
• 提出一种标准化的CoNLL-U格式扩展，引入新的MISC特征（如NonCan=Typo、Abbr=Yes、CSType=INTRA），以编码非标准形式及其规范化形式。
• 提出对标签、@提及、URL和表情符号等标记的句法整合类型学，区分句法整合与并列连接。
• 推荐对非标准形式的词形特征进行一致处理，包括支持UniMorph风格的助词和黏着形式的分词。
• 提出一种使用话语关系和更正关系标记不连贯、停顿标记和句子边界的方法，以保留句法结构。

实验结果

研究问题

• RQ1 现有UD语料库在用户生成内容中的非标准形式标注上存在哪些不一致？
• RQ2 UGC中最常见且在语言学上具有重要意义的现象是什么，这些现象对标准依存句法分析构成挑战？
• RQ3 如何设计统一的标注方案，以确保在UD框架内UGC的跨语言一致性？
• RQ4 非标准标记（如标签、URL和表情符号）在依存树中应如何最优表示？
• RQ5 如何在UGC中对非正式、非标准词形一致地应用词形和句法特征？

主要发现

• 本文识别出14种不同的UGC现象，包括拼写错误、缩写和字形拉长，这些现象在现有UD语料库中存在标注不一致。
• 提出一种标准化的CoNLL-U格式扩展，引入如NonCan=Typo、Abbr=Yes和CSType=INTRA等新MISC特征，用于编码非标准形式。
• 研究发现，独立存在的标记如标签和@提及应使用并列关系（如parataxis:hashtag）表示，而句法整合形式则应作为常规词处理，使用适当的POS和DEPREL标签。
• 对于语码转换，建议区分句内（INTRA）和句间（INTER）类型，并通过LangID进行语言特定标记。
• 所提出的指南通过CorrectForm和FullForm等特征支持词形规范化，实现与UniMorph及其他NLP工具的一致对齐。
• 该框架通过话语关系和更正关系一致处理不连贯和停顿标记，提升了在嘈杂文本中的句法分析鲁棒性。