[논문 리뷰] Modeling Language Change in Historical Corpora: The Case of Portuguese

Marcos Zampieri, Shervin Malmasi외 1명|arXiv (Cornell University)|2016. 09. 30.

Natural Language Processing Techniques참고 문헌 33인용 수 7

한 줄 요약

이 논문은 역사적 포르투갈어 문체에서 어순 단위와 품사 태그(POS) n-gram을 사용하여 어휘적 및 형태구문적 변화를 모델링하는 지도 학습 기반의 시간적 텍스트 분류 방법을 제안한다. 서포트 벡터 머신(SVM)을 사용하여 100년 또는 50년 단위의 시간 간격으로 텍스트를 분류할 때 99.8%의 정확도를 기록하며, POS 특징이 문법적 및 어조적 변화를 드러내며, 19세기에서 20세기에 걸쳐 형용사 사용 증가와 같은 변화를 보여주고, 고전어 표현은 16세기 텍스트의 강력한 지표임을 입증한다.

ABSTRACT

This paper presents a number of experiments to model changes in a historical Portuguese corpus composed of literary texts for the purpose of temporal text classification. Algorithms were trained to classify texts with respect to their publication date taking into account lexical variation represented as word n-grams, and morphosyntactic variation represented by part-of-speech (POS) distribution. We report results of 99.8% accuracy using word unigram features with a Support Vector Machines classifier to predict the publication date of documents in time intervals of both one century and half a century. A feature analysis is performed to investigate the most informative features for this task and how they are linked to language change.

연구 동기 및 목표

• 역사적 문체의 출판 연도를 예측하는 데 어휘적 및 형태구문적 특징이 효과적으로 기능하는지 조사하기 위해.
• 어순 단위와 POS 분포를 사용한 시간 분류에서 지도 학습 분류기—특히 서포트 벡터 머신(SVM)—의 성능을 평가하기 위해.
• 시간 간격에 따라 언어 변화와 관련된 가장 유informative한 특징을 특정하고 분석하기 위해.
• 역사적 문체에서 데이터 부족 문제를 해결하기 위해 인위적으로 생성된 학습 및 테스트 인스턴스의 사용 가능성을 탐색하기 위해.
• 시간 간격의 세분성(100년 대비 50년)이 분류 정확도와 언어적 해석 가능성에 어떤 영향을 미치는지 조사하기 위해.

제안 방법

• 16세기에서 20세기 초반까지의 기간을 아우르는 역사적 포르투갈어 어휘집(Colonia)을 구축하고, 품사 태그(POS)를 부여하였다.
• 어순 단위와 POS n-gram을 언어적 특징으로 추출하여 어휘적 및 형태구문적 다양성을 표현하였다.
• 사전에 정의된 시간 간격(100년 및 50년 간격)에서 출판 연도를 예측하기 위해 서포트 벡터 머신(SVM) 분류기를 훈련시켰다.
• 유사한 기간에서의 텍스트 조각을 조합하여 합성된 학습 및 테스트 인스턴스를 생성함으로써 데이터 증강 기법을 적용하여 낮은 데이터 가용성 문제를 해결하였다.
• 훈련된 SVM를 사용하여 특징 중요도 분석을 수행하여 가장 분류에 유의미한 단어와 POS 패턴을 특정하였다.
• 상위 특징의 언어학적 해석을 수행하여 고전어 표현과 같은 문맥적 변화 현상과 연결지어 분석하였다.

실험 결과

연구 질문

• RQ1 어순 단위와 POS n-gram은 역사적 포르투갈어 텍스트를 100년 및 50년 단위의 시간 간격으로 효과적으로 분류할 수 있는가?
• RQ2 어휘적 특징(어순 단위)에 비해 형태구문적 특징(POS n-gram)을 포함할 경우 출판 연도 예측 성능는 어떻게 향상되는가?
• RQ3 어떤 특정 언어적 특징이 시간 분류에 가장 유용한가? 이러한 특징들은 실제로 언어 변화를 어떻게 반영하는가?
• RQ4 인위적으로 생성된 학습 인스턴스는 자원이 부족한 역사적 텍스트 분류에서 성능 향상에 어느 정도 기여하는가?
• RQ5 다른 시간 간격의 세분성(100년 대비 50년)은 분류 정확도와 언어적 변화 탐지 가능성에 어떤 영향을 미치는가?

주요 결과

• SVM 분류기는 어순 단위 특징만을 사용하여 100년 단위 시간 간격으로 텍스트를 분류할 때 99.8%의 정확도를 기록하였다.
• 50년 단위 간격에서도 동일한 모델이 99.8%의 정확도를 유지하여, 어휘적 특징이 세분화된 시간 간격에서도 매우 높은 분류 능력을 지닌다는 것을 보여주었다.
• POS n-gram만을 사용했을 때, 100년 간격에서는 90.7%의 정확도, 50년 간격에서는 90.1%의 정확도를 기록하여, 문법적 및 문장 구조적 패턴이 강력한 시간적 지표임을 입증하였다.
• 가장 정보가 많은 특징으로는 'per'와 'pera'와 같은 고전어 표현이 포함되었으며, 이는 16세기 텍스트에서 매우 특징적인 것으로, 라틴어 영향을 반영한다.
• 19세기와 20세기에 걸쳐 형용사 사용 증가가 발견되어, 이는 POS n-gram이 시간에 따른 어조적 변화를 포착하고 있음을 보여주며, 텍스트 스타일의 변화를 시사한다.
• 특징 분석 결과, POS n-gram은 주제 특이성의 영향을 덜 받고, 더 직접적으로 문법적 및 어조적 진화와 연결되어 있어, 언어의 구조적 변화 탐지에 매우 유용하다.