[논문 리뷰] Preparing Korean Data for the Shared Task on Parsing Morphologically Rich Languages

Jinho D. Choi|arXiv (Cornell University)|2013. 09. 06.

Natural Language Processing Techniques참고 문헌 3인용 수 15

한 줄 요약

이 논문은 형태소가 풍부한 언어를 위한 SPMRL 2013 공동 과제에 대해 코리아어를 중심으로 종합적인 데이터 준비 파이프라인을 제시한다. KAIST 트리뱅크의 27,363개 문장을 펜 트리뱅크 스타일의 구성 트리로 변환하고, 히우리스틱 규칙을 통해 의존성 트리를 유도하며, 평가를 위해 골드 표준 및 두 가지 자동 형태소 분석(한나눔 및 세종)을 제공한다.

ABSTRACT

This document gives a brief description of Korean data prepared for the SPMRL 2013 shared task. A total of 27,363 sentences with 350,090 tokens are used for the shared task. All constituent trees are collected from the KAIST Treebank and transformed to the Penn Treebank style. All dependency trees are converted from the transformed constituent trees using heuristics and labeling rules de- signed specifically for the KAIST Treebank. In addition to the gold-standard morphological analysis provided by the KAIST Treebank, two sets of automatic morphological analysis are provided for the shared task, one is generated by the HanNanum morphological analyzer, and the other is generated by the Sejong morphological analyzer.

연구 동기 및 목표

• 파싱을 위한 고품질의 코리아어 언어 데이터를 준비하여 SPMRL 2013 공동 과제를 지원한다.
• 구성 트리를 펜 트리뱅크 포맷으로 변환하여 코리아어 문법적 구조를 표준화한다.
• 분야 특화 히우리스틱 및 레이블링 규칙을 사용하여 구성 트리에서 의존성 트리를 유도한다.
• 골드 표준 및 두 가지 자동 시스템을 포함한 다층 형태소 분석을 제공하여 비교 가능한 파싱 평가를 가능하게 한다.
• 형태소가 풍부한 언어인 코리아어에서 파싱 모델의 신뢰성 있는 평가를 가능하게 한다.

제안 방법

• KAIST 트리뱅크의 27,363개 문장을 펜 트리뱅크 스타일의 구성 트리로 변환하였다.
• 변환된 구성 트리에서 히우리스틱 기반 변환을 적용하여 의존성 트리를 도출하였다.
• 골드 표준 형태소 분석은 KAIST 트리뱅크의 결과를 기반으로 하였다.
• 한나눔 형태소 분석기를 사용하여 추가적인 자동 형태소 분석을 생성하였다.
• 세종 형태소 분석기를 사용하여 두 번째 자동 형태소 분석을 생성하였다.
• 모든 언어학적 주석의 일관성과 공동 과제 사용에 대한 호환성을 확보하였다.

실험 결과

연구 질문

• RQ1 KAIST 트리뱅크의 구성 트리는 어떻게 효과적으로 펜 트리뱅크 스타일로 변환하여 파싱 평가에 활용할 수 있는가?
• RQ2 코리아어에서 구성 트리에서 의존성 트리를 신뢰성 있게 유도할 수 있는 히우리스틱 규칙은 무엇인가?
• RQ3 자동 형태소 분석기(한나눔 및 세종)는 파싱 과제에서 골드 표준 분석과 비교하여 어떻게 성능을 보이는가?
• RQ4 다양한 형태소 분석 레이어의 가용성이 파싱 모델 평가에 어느 정도 향상되는가?
• RQ5 표준화된 다층 구조의 코리아어 데이터셋은 형태소가 풍부한 언어에 대한 다양한 파싱 모델 간 비교를 신뢰성 있게 지원할 수 있는가?

주요 결과

• 공동 과제를 위해 총 27,363개 문장(350,090개 토큰 포함)이 준비되었다.
• 모든 구성 트리가 일관된 파싱 평가를 위해 펜 트리뱅크 스타일 포맷으로 성공적으로 변환되었다.
• 특히 KAIST 트리뱅크의 구조에 맞게 설계된 히우리스틱 및 레이블링 규칙을 통해 의존성 트리가 생성되었다.
• 한나눔을 사용한 자동 형태소 분석과 세종을 사용한 자동 형태소 분석을 각각 생성하여 다양한 기준 비교가 가능하도록 하였다.
• 골드 표준 형태소 분석이 포함되어 있어 파싱 모델의 고정밀도 평가가 가능하다.
• 준비된 데이터는 형태소가 풍부한 언어, 특히 코리아어에 대한 강력한 벤치마킹을 지원한다.