[논문 리뷰] Restoring ancient text using deep learning: a case study on Greek epigraphy

Yannis Assael, Thea Sommerschield외 1명|arXiv (Cornell University)|2019. 10. 14.

Natural Language Processing Techniques참고 문헌 38인용 수 4

한 줄 요약

이 논문은 문맥 이해와 반복적 개선을 통해 손상된 고대 그리스 문자판을 복원하는 딥러닝 모델인 Pythia를 제안한다. Top-20 예측에서 최신 기술 수준의 성능을 달성하여, 누락된 텍스트 복원에서 인간 전문가를 뛰어넘는 뛰어난 성능을 보이며, 기계학습과 에피그래피 학문의 융합 잠재력을 입증한다.

ABSTRACT

Ancient history relies on disciplines such as epigraphy, the study of ancient inscribed texts, for evidence of the recorded past. However, these texts, "inscriptions", are often damaged over the centuries, and illegible parts of the text must be restored by specialists, known as epigraphists. This work presents Pythia, the first ancient text restoration model that recovers missing characters from a damaged text input using deep neural networks. Its architecture is carefully designed to handle long-term context information, and deal efficiently with missing or corrupted character and word representations. To train it, we wrote a non-trivial pipeline to convert PHI, the largest digital corpus of ancient Greek inscriptions, to machine actionable text, which we call PHI-ML. On PHI-ML, Pythia's predictions achieve a 30.1% character error rate, compared to the 57.3% of human epigraphists. Moreover, in 73.5% of cases the ground-truth sequence was among the Top-20 hypotheses of Pythia, which effectively demonstrates the impact of this assistive method on the field of digital epigraphy, and sets the state-of-the-art in ancient text restoration.

연구 동기 및 목표

• 손상된 고대 그리스 문자판의 누락된 텍스트를 복원할 수 있는 딥러닝 모델을 개발하는 것.
• 모델의 성능을 전문 에피그래피 학자들과 기준 데이터셋(Rhodes2003Greek)과 비교 평가하는 것.
• 문맥 모델링이 에피그래피 분야의 텍스트 복원 정확도를 어떻게 향상시키는지 탐구하는 것.
• 모델이 고전학자들과 디지털 인문학자들에게 협업 도구로서의 잠재력을 어떻게 보여주는지 입증하는 것.

제안 방법

• 모델는 문자판의 누락된 문자를 예측하기 위해 반복적이고 자동회귀적인 생성 과정을 사용한다.
• 사전 훈련된 트랜스포머 기반 아키텍처에서 유도된 문맥 임베딩을 활용하여 언어학적 및 페알레오그래피 패턴을 모델링한다.
• 정확도 평가를 위해 예측 결과를 기준 편람(Rhodes2003Greek)과 비교한다.
• 색상 코딩을 통해 시각적 피드백을 제공한다: 파란색은 정확한 예측, 빨간색은 잘못된 예측.
• 모델는 실제 에피그래피 코퍼스, 특히 IG II 2 $116$ 문자판을 포함하여 실제 세계 데이터셋에서 훈련 및 평가된다.
• 오픈소스 파이프라인(Pythia-ML)을 통해 재현 가능성과 디지털 인문학 워크플로우에의 통합이 가능해진다.

실험 결과

연구 질문

• RQ1 딥러닝 모델은 인간 전문가보다 고대 그리스 문자판의 누락된 텍스트를 더 정확하게 복원할 수 있는가?
• RQ2 문맥 모델링은 에피그래피 분야의 텍스트 복원 품질을 어떻게 향상시키는가?
• RQ3 신경망 모델은 높은 불확실성을 지닌 실제 손상된 문자판에 얼마나 잘 일반화되는가?
• RQ4 모델의 성능는 기준 편람과 인간이 애너테이션한 참값과 비교해 어떻게 평가되는가?
• RQ5 인공지능은 에피그래피 학문 연구와 디지털 유산 보존에 어떤 역할을 할 수 있는가?

주요 결과

• Pythia는 복원 과업에서 Top-20 성능을 달성하였으며, 참값 시퀀스가 Top-20 예측 내에 포함되어 있었다.
• 대부분의 경우 정확한 복원을 생성하였으며, 시각적 결과에서는 정확한 예측를 파란색, 오류는 빨간색으로 강조하였다.
• 시스템은 강력한 문맥 이해 능력을 보였으며, 타당하고 언어학적으로 일관된 복원을 생성하였다.
• 다양한 문자판에 걸쳐 복원의 일관성과 속도 면에서 인간 전문가를 뛰어넘는 성능을 보였다.
• Pythia를 디지털 파이프라인에 통합함으로써 확장 가능하고 재현 가능하며 협업 기반의 에피그래피 연구가 가능해졌다.
• 결과는 기계학습과 고전학문의 융합이 고대 텍스트 문화 연구를 발전시키는 데 잠재력을 지닌다는 점을 입증한다.