[논문 리뷰] Deep Learning for Classical Japanese Literature

Tarin Clanuwat, Mikel Bober-Irizar외 4명|arXiv (Cornell University)|2018. 12. 03.

Topic Modeling참고 문헌 15인용 수 485

한 줄 요약

이 논문은 Kuzushiji-MNIST, Kuzushiji-49, Kuzushiji-Kanji를 도입하여 고전 일본 문자에 대한 ML 벤치마크를 제시하고, 현대 Kanji로의 도메인 전달(간단한 분류 기준)을 기반으로 한 baseline 분류 실험을 보여준다.

ABSTRACT

Much of machine learning research focuses on producing models which perform well on benchmark tasks, in turn improving our understanding of the challenges associated with those tasks. From the perspective of ML researchers, the content of the task itself is largely irrelevant, and thus there have increasingly been calls for benchmark tasks to more heavily focus on problems which are of social or cultural relevance. In this work, we introduce Kuzushiji-MNIST, a dataset which focuses on Kuzushiji (cursive Japanese), as well as two larger, more challenging datasets, Kuzushiji-49 and Kuzushiji-Kanji. Through these datasets, we wish to engage the machine learning community into the world of classical Japanese literature. Dataset available at https://github.com/rois-codh/kmnist

연구 동기 및 목표

• Kuzushiji(초서 일본어) 독해 도전과제에 집중하여 문화적으로 및 역사적으로 관련된 작업에서 ML 연구를 고무한다.
• 고전 일본 문학 연구를 위한 머신 러닝 연구에 사용할 수 있는 쉽게 사용 가능한 전처리된 데이터셋을 제공한다.
• Kuzushiji-Kanji에서 Modern Kanji로의 기본 분류 결과를 기준으로 도메인 전달을 설정한다.
• ML과 일본 문학 커뮤니티 간의 학제 간 협력을 장려한다.

제안 방법

• 세 가지 전처리된 데이터셋(Kuzushiji-MNIST, Kuzushiji-49, Kuzushiji-Kanji)을 잘 알려진 벤치마크의 드롭인 대체로 릴리스한다.
• 4-최근접 이웃, 작은 CNN, Regularizers가 적용된 ResNet-18 변형을 사용하여 baseline 분류를 평가한다.
• 두 개의 VAE, MDN, Sketch-RNN 디코더를 사용하여 Kuzushiji-Kanji에서 Modern Kanji의 획(스트로크)을 생성하는 도메인 전달 실험을 수행한다.
• MNIST 및 Fashion-MNIST 유사 벤치마크와의 성능 비교를 통해 난이도 및 분포적 과제를 평가한다.

실험 결과

연구 질문

• RQ1 Kuzushiji 데이터셋이 역사적 서체에서의 이미지 분류를 위한 의미 있고 도전적인 벤치마크를 제공할 수 있는가?
• RQ2 Modern 기반 벤치마크에 비해 Kuzushiji-MNIST 및 Kuzushiji-49에서의 현대 아키텍처 성능은 어떠한가?
• RQ3 픽셀 및 스트로크 기반 표현 모두에서 Kuzushiji-Kanji에서 Modern Kanji로의 전이가 가능한가?
• RQ4 IMixup, manifold mixup 등과 같은 모델링 전략이 불균형한 Kuzushiji 데이터셋에서 정확도를 향상시키는가?

주요 결과

• Baseline 결과는 MNIST에서 높은 정확도와 Kuzushiji-MNIST 및 Kuzushiji-49에서 모델 간 강하지만 낮은 성능을 보이며, PreActResNet-18은 각각 99.56% (MNIST), 97.82% (Kuzushiji-MNIST), 96.64% (Kuzushiji-49)에 도달한다.
• 더 발전된 변형들(Input Mixup, Manifold Mixup)은 Kuzushiji 정확도를 Kuzushiji-MNIST에서 98.41%, Kuzushiji-49에서 97.33%로 향상시킨다.
• Kuzushiji-Kanji는 3832개의 클래스와 심한 불균형을 포함하며, 클래스당 샘플 수가 1에서 1,000개 이상까지 편차가 커서 인식 작업의 도전성을 강조한다.
• 도메인 전달 실험은 두 단계 VAE 접근법과 Sketch-RNN을 사용하여 Kuzushiji-Kanji에서 Modern Kanji를 생성하며 교차 도메인 전사 지원 가능성을 시연한다.
• 데이터셋은 실제 세계의 클래스 불균형과 다중 모드 문자 표현(Hentaigana)을 포착하며, 표준 MNIST 유사 벤치마크를 넘어선 강건한 모델의 필요성을 강조한다.
• 저자들은 데이터셋을 백만 자 이상으로 확장하고 경쟁 대회를 촉진하여 추가 연구를 자극할 계획이라고 전망한다.