[논문 리뷰] Beyond Stemming and Lemmatization: Ultra-stemming to Improve Automatic Text Summarization

Juan‐Manuel Torres‐Moreno|arXiv (Cornell University)|2012. 09. 14.

Topic Modeling참고 문헌 30인용 수 20

한 줄 요약

이 논문은 자동 텍스트 요약(Automatic Text Summarization, ATS)에서 벡터 공간 차원을 크게 줄이는 데 목적이 있는 새로운 정규화 기법인 Ultra-stemming을 소개한다. 이 기법은 각 단어를 첫 글자(들)로 축소시켜, 특히 자원이 부족한 언어에서 전통적인 어간 추출 및 표제어 추출보다 뛰어난 성능을 보이며 요약의 내용을 유지하면서도 요약 성능을 크게 향상시킨다. 삼중어 자료집에서의 실험 결과, Ultra-stemming은 차원의 저주 문제를 효과적으로 완화하면서도 요약 품질을 유지하거나 향상시키며, 자원이 제한된 언어 환경에서도 유의미한 성능 향상을 이룬다.

ABSTRACT

In Automatic Text Summarization, preprocessing is an important phase to reduce the space of textual representation. Classically, stemming and lemmatization have been widely used for normalizing words. However, even using normalization on large texts, the curse of dimensionality can disturb the performance of summarizers. This paper describes a new method for normalization of words to further reduce the space of representation. We propose to reduce each word to its initial letters, as a form of Ultra-stemming. The results show that Ultra-stemming not only preserve the content of summaries produced by this representation, but often the performances of the systems can be dramatically improved. Summaries on trilingual corpora were evaluated automatically with Fresa. Results confirm an increase in the performance, regardless of summarizer system used.

연구 동기 및 목표

• 기존의 어간 추출 및 표제어 추출과 같은 정규화 기법에도 불구하고 자동 텍스트 요약(ATS)에서 차원의 저주 문제를 해결하기 위해.
• 표제어 추출기 및 어간 추출기가 이용할 수 없는 자원이 부족한 언어에서 극단적 정규화가 실용적인 대안이 될 수 있는지 탐색하기 위해.
• 단어를 첫 글자(들)로 축소하는 것이 요약 품질을 유지하거나 향상시킬 수 있는지 평가하기 위해.
• 벡터 공간 모델을 사용하는 ATS 시스템에서 시간 및 공간 복잡도를 줄이기 위해.
• 다국어 및 자원이 부족한 NLP 응용 분야에 적합한 경량이며 자원에 의존하지 않는 사전처리 방법을 제공하기 위해.

제안 방법

• 각 단어를 첫 글자(들)로 축소하는 정규화 기법인 Ultra-stemming을 제안하며, 예를 들어 'improving' → 'i', 'information' → 'i'와 같이 처리한다.
• 추출적 요약 시스템에서 벡터 공간 모델(VSM) 표현 전에 텍스트를 사전 처리하기 위해 Ultra-stemming을 적용한다.
• 삼중어 자료집(영어, 프랑스어, 스페인어)에서 요약 품질을 평가하기 위해 Fresa 자동 평가 지표를 사용한다.
• 표준 추출적 요약 파이프라인을 기반으로 하며, 어휘 빈도와 벡터 유사도를 바탕으로 문장을 순위 매긴다.
• 동일한 요약 시스템 아키텍처를 사용하여 Ultra-stemming을 기존의 어간 추출 및 표제어 추출 기법과 비교한다.
• 다양한 언어와 요약 시스템에 대해 이 기법을 적용하여 탄력성과 일반화 능력을 테스트한다.

실험 결과

연구 질문

• RQ1 자동 텍스트 요약에서 단어를 첫 글자(들)로 축소하는 것이 요약의 의미적 내용을 유지할 수 있는가?
• RQ2 Ultra-stemming은 전통적인 어간 추출 및 표제어 추출에 비해 요약 성능에서 뛰어나게 작용하는가?
• RQ3 기존의 정규화 기법에 비해 Ultra-stemming은 시간 및 공간 복잡도를 어느 정도 줄일 수 있는가?
• RQ4 어휘 자료나 파서가 없는 자원이 부족한 언어에서 Ultra-stemming이 실용적인 대안이 될 수 있는가?
• RQ5 다양한 요약 시스템과 다국어 환경에서도 Ultra-stemming의 성능 향상 효과가 유지되는가?

주요 결과

• Ultra-stemming은 테스트된 모든 삼중어 자료집에서, 기반 요약 시스템에 관계없이 요약 성능을 크게 향상시킨다.
• 이 기법은 벡터 공간 차원을 극단적으로 줄여 계산 효율성을 크게 향상시키고 메모리 사용량도 감소시킨다.
• 극단적 정규화에도 불구하고 생성된 요약의 내용과 논리적 일관성이 유지되며, 첫 글자가 충분한 구분 능력을 유지하고 있음을 시사한다.
• Fresa 평가 점수에서 일관된 향상이 관찰되어 Ultra-stemming이 다양한 언어와 시스템에서 뛰어난 탄력성을 보임을 입증한다.
• 기존의 표제어 추출 및 어간 추출 도구가 이용 불가능하거나 비실용적인 자원이 부족한 언어 환경에서 Ultra-stemming이 특히 효과적임을 입증한다.
• 결과적으로 Ultra-stemming은 기존의 형태적 정규화 기법에 비해 실용적이고 경량이며 고성능인 대안으로서의 가능성을 확인한다.