[논문 리뷰] Prague Dependency Treebank -- Consolidated 1.0

Jan Hajič, Eduard Bejček외 5명|arXiv (Cornell University)|2020. 06. 05.

Natural Language Processing Techniques인용 수 9

한 줄 요약

프라하 의존 트리뱅크 - 통합 1.0(PDT-C 1.0)은 네 가지 다양한 장르—작성된, 번역된, 구어체, 사용자 생성 텍스트—에 걸쳐 18만 개의 체코 문장을 포함하는 통합된 수작업 주석 처리된 어휘자료를 제시한다. 이 자료는 일관된 형태소, 표면, 심층 문법 주석을 특징으로 하며, 장르 다양성을 고려한 표준화된 고품질 다층 주석을 통해 자연어 처리(NLP) 및 언어학 연구를 향상시킨다.

ABSTRACT

We present a richly annotated and genre-diversified language resource, the Prague Dependency Treebank-Consolidated 1.0 (PDT-C 1.0), the purpose of which is - as it always been the case for the family of the Prague Dependency Treebanks - to serve both as a training data for various types of NLP tasks as well as for linguistically-oriented research. PDT-C 1.0 contains four different datasets of Czech, uniformly annotated using the standard PDT scheme (albeit not everything is annotated manually, as we describe in detail here). The texts come from different sources: daily newspaper articles, Czech translation of the Wall Street Journal, transcribed dialogs and a small amount of user-generated, short, often non-standard language segments typed into a web translator. Altogether, the treebank contains around 180,000 sentences with their morphological, surface and deep syntactic annotation. The diversity of the texts and annotations should serve well the NLP applications as well as it is an invaluable resource for linguistic research, including comparative studies regarding texts of different genres. The corpus is publicly and freely available.

연구 동기 및 목표

• 네 가지 서로 다른 체코 의존 트리뱅크를 하나의 통합되고 일관된 주석 처리 자료로 통합하기 위해.
• 모든 데이터셋에서 형태소 및 심층 문법 주석의 품질과 일관성을 향상시키기 위해.
• NLP 시스템 훈련 및 평가, 언어학 연구를 위한 자유로운 접근이 가능한 장르 다양성 있는 언어 자료를 제공하기 위해.
• 기존 트리뱅크에서 발견된 오류를 수정하고 형태소 및 능동성 주석을 표준화하기 위해, 특히 형태소와 능동성 측면에서.
• 공통 주석 프레임워크를 통해 다양한 텍스트 장르 간 비교 언어학 연구를 지원하기 위해.

제안 방법

• 작성된, 번역된, 구어체, 사용자 생성 체코 텍스트로 구성된 네 가지 기존 PDT 스타일 어휘자료를 하나의 통합된 데이터셋으로 통합하기 위해.
• 모든 네 데이터셋에서 형태소 계층의 완전한 수작업 주석 처리(어원어형 및 품사 태깅 포함)를 수행하기 위해.
• 모든 데이터셋에서 핵심 심층 문법 특징인 문장 구조, 기능, 동사 능동성의 수작업 주석 처리를 수행하기 위해.
• 통합된 능동성 어휘사전과 업데이트된 형태소 사전을 제작하여 어휘자료 전반에서 일관된 사용을 보장하기 위해.
• 주석 체계의 표준화 및 수작업 재주석 과정에서 발견된 오류의 수정을 수행하기 위해.
• 어휘자료를 LINDAT/CLARIN 레포지터리에 게시하여 공개적이고 오픈 액세스의 디지털 자료로 제공하기 위해.

실험 결과

연구 질문

• RQ1 서로 다른 장르를 가진 체코 트리뱅크를 어떻게 하나의 일관된 주석 처리 자료로 통합할 수 있는가?
• RQ2 수작업 재주석 처리가 기존 트리뱅크의 형태소 및 심층 문법 주석의 품질과 일관성에 얼마나 기여하는가?
• RQ3 통합된 다층 트리뱅크가 NLP 응용과 장르 간 비교 언어학 연구 양면에서 효과적으로 기능할 수 있는가?
• RQ4 형태소 및 심층 문법 계층의 완전한 수작업 재주석 처리를 통해 주석 품질과 신뢰도는 얼마나 향상되는가?
• RQ5 사용자 생성 및 구어체 언어 데이터의 포함 여부가 의존 트리뱅크의 대표성과 유용성에 어떤 영향을 미치는가?

주요 결과

• PDT-C 1.0은 약 18만 개의 문장을 포함하며, 작성된, 번역된, 구어체, 사용자 생성 텍스트의 네 가지 다른 장르에 걸쳐 균일하게 주석 처리되어 있다.
• 모든 데이터셋에서 형태소 계층이 완전히 수작업 재주석 처리되어 정확도와 일관성이 크게 향상되었다.
• 문장 구조, 기능, 동사 능동성과 같은 심층 문법 특징이 모든 네 데이터셋에서 수작업 주석 처리되어 고품질의 의미 및 문법 표현을 보장하였다.
• 공통의 능동성 어휘사전과 업데이트된 형태소 사전이 제작되어 어휘자료 전반에서 일관된 어휘-의미 분석을 가능하게 하였다.
• 통합 과정에서 원래 트리뱅크에 존재하던 수많은 오류가 수정되었으며, 특히 형태소 및 문법 주석 측면에서 두드러졌다.
• 최종 자료는 LINDAT/CLARIN 을 통해 공개되어 있어 NLP 및 언어학 연구의 광범위한 접근성을 확보하였다.