[논문 리뷰] Treebanking User-Generated Content: a UD Based Overview of Guidelines, Corpora and Unified Recommendations

Manuela Sanguinetti, Lauren C. Cassidy외 8명|arXiv (Cornell University)|2020. 11. 03.

Natural Language Processing Techniques인용 수 12

한 줄 요약

이 논문은 소셜 미디어 및 웹 텍스트와 같은 사용자 생성 콘텐츠(UGC)의 통합된 Universal Dependencies(UD)-기반 주석 지침을 제안하며, 기존 트리뱅크에서의 일관성 없는 점을 다룹니다. 철자 오류, 약어, 코드 스위칭과 같은 반복적인 언어 현상들을 분석함으로써, 다국어 간 일관성을 향상시키고, 잡음이 많고 비공식적인 텍스트 도메인에서의 문법적 분석 성능을 향상시키기 위한 표준화된 해결책을 제시합니다.

ABSTRACT

This article presents a discussion on the main linguistic phenomena which cause difficulties in the analysis of user-generated texts found on the web and in social media, and proposes a set of annotation guidelines for their treatment within the Universal Dependencies (UD) framework of syntactic analysis. Given on the one hand the increasing number of treebanks featuring user-generated content, and its somewhat inconsistent treatment in these resources on the other, the aim of this article is twofold: (1) to provide a condensed, though comprehensive, overview of such treebanks -- based on available literature -- along with their main features and a comparative analysis of their annotation criteria, and (2) to propose a set of tentative UD-based annotation guidelines, to promote consistent treatment of the particular phenomena found in these types of texts. The overarching goal of this article is to provide a common framework for researchers interested in developing similar resources in UD, thus promoting cross-linguistic consistency, which is a principle that has always been central to the spirit of UD.

연구 동기 및 목표

• 기존 Universal Dependencies(UD) 트리뱅크에서 사용자 생성 콘텐츠(UGC)의 주석 처리에 나타나는 일관성 없는 점을 해결하기 위해.
• 문법적 분석에 도전이 되는 UGC에서 반복적으로 나타나는 언어 현상(예: 철자 오류, 약어, 그래피크적 확장 등)을 식별하고 체계화하기 위해.
• UD 스키마 내에서 UGC를 주석 처리하기 위한 일관되고 다국어 간 유사한 프레임워크를 제안하여 상호 운용성과 재사용 가능성을 확보하기 위해.
• 명확하고 실행 가능한 주석 지침을 제공함으로써 고품질의 표준화된 UGC 트리뱅크 개발을 지원하기 위해.
• UGC 전용 현상들을 보다 넓은 UD 생태계에 통합함으로써, 비공식 텍스트 처리를 위한 NLP 도구의 성능을 향상시키기 위해.

제안 방법

• 비표준 철자 및 약어와 같은 현상에 대해 여러 언어의 기존 UGC 트리뱅크를 비교 분석하여 주석 방식의 상이함을 규명하기 위해.
• 디아크리틱 생략, 음성화, 철자 오류, 약어, 코드 스위칭 등의 카테고리로 UGC 현상을 분류하고, 각각에 대해 별도의 주석 전략을 제시하기 위해.
• 비표준 형태와 그 정규화를 인코딩하기 위한 새로운 MISC 특성(예: NonCan=Typo, Abbr=Yes, CSType=INTRA)을 포함한 표준화된 CoNLL-U 형식 확장안을 제안하기 위해.
• 해시태그, @멘션, URL, 이모티콘과 같은 토큰의 문법적 통합 방식을 유형화하여, 문법적 통합과 병렬 첨부를 구분하기 위해.
• 비표준 형태에 대한 형태소적 특성 처리를 일관되게 수행하기 위해, 클리틱 및 복합어 형태의 UniMorph 스타일 분할을 지원하기 위해.
• 불완전한 발화, 망설임 표시어 및 문장 경계를 논의 및 병렬 첨부 관계를 통해 표시함으로써, 문법적 구조를 유지하는 프레임워크를 제안하기 위해.

실험 결과

연구 질문

• RQ1 기존 UD 트리뱅크는 사용자 생성 콘텐츠의 비표준 형태를 어떻게 일관성 없게 주석 처리하고 있는가?
• RQ2 표준 의존성 분석에 도전이 되는 UGC에서 가장 흔하고 언어학적으로 중요한 현상은 무엇인가?
• RQ3 UD 프레임워크 내에서 UGC에 대해 다국어 간 일관성을 확보할 수 있는 통합 주석 체계는 어떻게 설계할 수 있는가?
• RQ4 의존성 트리에 비표준 토큰(예: 해시태그, URL, 이모티콘)을 표현하는 최적의 방법은 무엇인가?
• RQ5 UGC의 비표준 어형에 대해 형태소적 및 문법적 특성을 어떻게 일관되게 적용할 수 있는가?

주요 결과

• 논문은 철자 오류, 약어, 그래피크적 확장 등 14종의 별도의 UGC 현상이 기존 UD 트리뱅크에서 일관성 없이 주석 처리되고 있음을 규명하였다.
• 비표준 형태를 인코딩하기 위한 새로운 MISC 특성(예: NonCan=Typo, Abbr=Yes, CSType=INTRA)을 포함한 표준화된 CoNLL-U 형식 확장안을 제안하였다.
• 해시태그나 @멘션과 같은 독립형 토큰은 parataxis 관계(예: parataxis:hashtag)를 사용해 가장 잘 표현되며, 문법적으로 통합된 형태는 적절한 POS 및 DEPREL 태그를 갖는 일반 단어로 취급하는 것이 바람직하다고 발견되었다.
• 코드 스위칭의 경우, 문장 내(INTRA)와 문장 간(INTER) 유형을 구분하고, LangID를 통해 언어별 태깅을 권장한다.
• 제안된 지침은 CorrectForm 및 FullForm 등의 특성을 통해 형태소 정규화를 지원함으로써, UniMorph 및 기타 NLP 도구와의 일관된 정렬을 가능하게 한다.
• 논의 및 수정 관계를 활용한 불완전한 발화 및 망설임 표시어의 처리를 통해, 잡음이 많은 텍스트에서의 분석 정확도 향상이 가능하다.