[논문 리뷰] A Corpus for Automatic Readability Assessment and Text Simplification of German

Alessia Battisti, Sarah Ebling|arXiv (Cornell University)|2019. 09. 19.

Text Readability and Simplification인용 수 9

한 줄 요약

이 논문은 자동 독해도 평가와 텍스트 단순화를 위한 대규모 독일어 코퍼스를 소개하며, 약 211,000개의 문장으로 구성되어 있으며, 텍스트 구조, 서체, 이미지와 같은 메타데이터로 특징화되어 있다. 이 코퍼스를 통해 기계 학습 모델은 문장 수, 폰트 종류, 이미지 배치와 같은 비언어적 특징을 활용할 수 있으며, 실제로 이러한 요소들이 텍스트 복잡도를 예측함을 입증함으로써, 접근성 향상을 위한 다국어 NLP 분야에 새로운 기여를 한다.

ABSTRACT

In this paper, we present a corpus for use in automatic readability assessment and automatic text simplification of German. The corpus is compiled from web sources and consists of approximately 211,000 sentences. As a novel contribution, it contains information on text structure, typography, and images, which can be exploited as part of machine learning approaches to readability assessment and text simplification. The focus of this publication is on representing such information as an extension to an existing corpus standard.

연구 동기 및 목표

• 자동 독해도 평가 및 텍스트 단순화를 위한 독일어 자료의 부족 문제를 해결하기 위해.
• 기존에 기계 학습 모델에서 활용되지 않았던 비언어적 특징—텍스트 구조, 서체, 이미지 정보—를 통합한 코퍼스를 개발하기 위해.
• 재현 가능한 독일어 NLP 연구를 위해 TCF 형식에 맞춰 표준화되고 주석 처리된 코퍼스를 제공하기 위해.
• 구조적 및 시각적 특징이 텍스트 복잡도를 예측하는 데 얼마나 기여하는지 실증적으로 검증하기 위해.
• 향후 독일어 텍스트 단순화를 위한 신경 기계 번역 기반 시스템 개발을 지원하기 위해.

제안 방법

• 코퍼스는 단일 언어 독일어 텍스트 및 병렬로 단순화된 독일어 문서를 포함한 웹 자료에서 수집되었다.
• 문서 레이아웃 분석 및 해석 히ュ리스틱을 사용하여 텍스트 구조 메타데이터(단락, 줄, 문장 구분)를 추출하였다.
• PDF 및 HTML 자료에서 서체 특징(폰트 이름, 스타일, 크기, 두께, 임bed 상태)을 추출하였다.
• 레이아웃 및 OCR 분 析 도구를 사용하여 이미지 메타데이터(위치, 치수, 내용)를 주석 처리하였다.
• NLP 도구인 ParZu, TreeTagger, Zmorge를 사용하여 언어학적 주석(품사, 어형, 의존 구문 분석, 형태학적 정보)을 자동으로 생성하였다.
• 모든 데이터는 상호운용성과 확장성을 확보하기 위해 TCF(Text Corpus Format) 표준에 따라 인코딩되었다.

실험 결과

연구 질문

• RQ1 텍스트 구조, 서체, 이미지 배치와 같은 비언어적 특징이 독일어 텍스트의 복잡도를 예측할 수 있는가?
• RQ2 단락 수, 폰트 두께, 이미지 밀도와 같은 특징들이 독일어 텍스트의 독해도 수준과 어떻게 상관관계가 있는가?
• RQ3 구조적 및 시각적 특징을 포함할 경우, 언어적 특징만을 사용하는 것에 비해 독해도 평가 모델의 성능이 얼마나 향상되는가?
• RQ4 이 코퍼스는 독일어 텍스트 단순화를 위한 신경 기계 번역 시스템 개발을 지원할 수 있는가?
• RQ5 이 코퍼스에는 다수의 서로 다른 단순화 수준이 존재하는가, 그리고 이러한 수준은 구조적 메타데이터를 통해 탐지될 수 있는가?

주요 결과

• 코퍼스는 6,217건의 문서, 210,966개의 문장, 250만 개의 토큰을 포함하며, 378개의 병렬 단일 언어/단순화 독일어 문서 쌍이 포함되어 있다.
• 코퍼스 내 단순화된 독일어 텍스트는 어휘 크기를 51% 감소시켰다(33,384종 대비 16,352종), 다른 단순화 코퍼스의 결과와 유사하다.
• 비지도 학습을 통한 실증 검증을 통해 구조적 특징—이미지 수, 단락 수, 줄 수, 폰트 기반 단어 수—이 텍스트 난이도 수준을 예측함을 확인하였다.
• 레이아웃 및 시각적 메타데이터의 포함으로 전통적인 언어적 특징을 초월한 독해도 모델링을 위한 새로운 신호를 제공할 수 있었다.
• 코퍼스는 향후 신경 기계 번역 기반 텍스트 단순화 연구를 지원하지만, 현재 문장 간 정렬 정보는 누락되어 있으며, CATS 도구를 통해 향후 보완될 예정이다.
• 이 연구는 독일어에서 레이아웃 및 시각적 특징이 텍스트 복잡도를 예측할 수 있음을 실증적으로 입증한 최초의 사례로, 접근성 연구의 이론적 주장에 대한 검증을 제공한다.