[논문 리뷰] Part of Speech Tagging in Thai Language Using Support Vector Machine

Masaki Murata, Qing Ma외 1명|ArXiv.org|2001. 12. 05.

Natural Language Processing Techniques참고 문헌 5인용 수 8

한 줄 요약

이 논문은 단어의 문맥과 순차적 특징을 활용하여 정확도를 햖스하는, 태국어를 위한 지지벡터기계(SVM) 기반의 형태소 태깅 시스템을 제안한다. 소규모 태국어 주석 데이터셋을 사용하여, SVM 방법은 이질적인 단어에 대해 96.1%의 정밀도를 기록했으며, 이는 하이브리드 태거(95.5%)와 탄성 입력 신경망(94.4%)을 능가한 것이다. 이는 태국어와 같이 복합어어형 언어에서 자원이 제한된 형태소 태깅에 있어서 SVM의 효과성을 입증한다.

ABSTRACT

The elastic-input neuro tagger and hybrid tagger, combined with a neural network and Brill's error-driven learning, have already been proposed for the purpose of constructing a practical tagger using as little training data as possible. When a small Thai corpus is used for training, these taggers have tagging accuracies of 94.4% and 95.5% (accounting only for the ambiguous words in terms of the part of speech), respectively. In this study, in order to construct more accurate taggers we developed new tagging methods using three machine learning methods: the decision-list, maximum entropy, and support vector machine methods. We then performed tagging experiments by using these methods. Our results showed that the support vector machine method has the best precision (96.1%), and that it is capable of improving the accuracy of tagging in the Thai language. Finally, we theoretically examined all these methods and discussed how the improvements were achived.

연구 동기 및 목표

• 제한된 학습 데이터를 가진 상황에서도 태국어의 형태소 태깅 정확도를 향상시키기 위한 지도 기반 기계학습 방법을 개선하기 위해.
• 결정 목록, 최대 엔트로피, 지지벡터기계(SVM)의 세 가지 기계학습 방법을 태국어 형태소 태깅에 대해 평가하고 비교하기 위해.
• 태국어 형태소 태깅에서 덜 연구된 방법인 SVM이 기존의 하이브리드 및 신경망 접근 방식을 능가할 수 있는지 조사하기 위해.
• 형태소 수준의 문맥 특징이 태깅 성능에 미치는 기여도를 분석하기 위해, 특히 단지 형태소 전이 확률에 의존하는 모델과의 비교를 통해.
• Viterbi 검색과 같은 더 큰 순차 모델에 통합될 수 있는 구성 요소를 제공하기 위해.

제안 방법

• 시스템은 사전에 분할된 태국어 코퍼스를 입력으로 사용하며, 각 단어를 특징이 부여된 토큰으로 간주한다.
• 특징은 현재 단어, 그 이전 및 이후 단어, 그리고 그들의 형태소 태그를 포함하여 각 단어의 문맥 창을 형성한다.
• 지지벡터기계(SVM) 모델은 커널 함수를 사용해 특징을 고차원 공간으로 매핑함으로써 각 단어를 올바른 형태소 태그로 분류하도록 훈련된다.
• 결정 목록 방법은 조건부 확률 $ p(a|f_j) $ 에 따라 특징을 순위 매기며, 첫 번째로 일치하는 특징을 선택하여 태그를 할당한다.
• 최대 엔트로피 모델은 특징 통계에서 유도된 제약 조건 하에서 엔트로피를 최대화함으로써 가장 가능성이 높은 태그 분포를 계산한다.
• 모든 모델은 동일한 태국어 코퍼스를 기반으로 훈련 및 평가되며, 정확도 측정은 공정한 비교를 위해 오직 이질적인 단어에 대해서만 수행된다.

실험 결과

연구 질문

• RQ1 자원이 제한된 태국어 자연어 처리 환경에서, 지지벡터기계(SVM)가 기존의 하이브리드 및 신경망 모델보다 더 높은 형태소 태깅 정확도를 달성할 수 있는가?
• RQ2 형태소 수준의 문맥 특징이 태국어 형태소 태깅에서 기계학습 모델의 성능에 어떤 영향을 미치는가?
• RQ3 SVM는 단어 확률 정보를 더 적게 사용하고 있음에도 불구하고, 탄성 입력 신경망과 하이브리드 태거보다 성능이 뛰어나게 되는 이유는 무엇인가?
• RQ4 특징 표현 방식과 모델 아키텍처가 태국어 형태소 태깅의 정밀도 향상에 얼마나 기여하는가?
• RQ5 SVM 기반 접근 방식은 Viterbi 스타일의 동시 분할 및 태깅 프레임워크에 효과적으로 통합될 수 있는가?

주요 결과

• 지지벡터기계(SVM) 방법은 이질적인 단어에 대해 96.1%의 최고 정밀도를 기록했으며, 하이브리드 태거(95.5%)와 탄성 입력 신경망(94.4%)을 모두 능가했다.
• SVM 모델은 최대 엔트로피 및 결정 목록 방법보다 뛰어난 성능을 보였으며, 각각 92.3% 및 78.0%의 정밀도를 기록했다.
• 단어 정보를 제거한 경우에도 SVM 방법은 여전히 93.9%의 정밀도를 기록하여, 직접적인 단어 확률 특징이 없어도 강력한 성능을 보임을 시사한다.
• SVM의 뛰어난 성능은 HMM 및 탄성 신경망과 달리 형태소 전이 확률에만 의존하는 것과는 달리, 효과적인 단어 문맥 및 순차적 특징의 활용 덕분으로 기인한다.
• 결과적으로 SVM는 대규모 코퍼스가 확보되지 않은 복합어어형 언어인 태국어의 자원이 제한된 형태소 태깅에 특히 적합하다는 것이 제안된다.
• 향후 연구에서는 탄성 신경망 모델에 형태소 수준의 특징을 통합하여 SVM와의 성능 격차를 줄이는 것을 고려해야 한다.