[논문 리뷰] Fuzzy Logic Based Method for Improving Text Summarization

Ladda Suanmali, Naomie Salim외 1명|ArXiv.org|2009. 06. 25.

Topic Modeling참고 문헌 10인용 수 83

한 줄 요약

이 논문은 8개의 특징과 퍼지 추론을 사용하여 문장 가중치를 향상시켜 추출형 텍스트 요약의 품질을 향상시키는 퍼지 논리 기반 방법을 제안한다. DUC2002 데이터에서 평가한 결과, 기준 모델 및 Microsoft Word 2007 요약 도구보다 평균 정밀도, 재현도 및 F-측정치에서 뛰어난 성능을 보이며, 맥락 인식 문장 선택을 통해 요약 품질 향상을 입증한다.

ABSTRACT

Text summarization can be classified into two approaches: extraction and abstraction. This paper focuses on extraction approach. The goal of text summarization based on extraction approach is sentence selection. One of the methods to obtain the suitable sentences is to assign some numerical measure of a sentence for the summary called sentence weighting and then select the best ones. The first step in summarization by extraction is the identification of important features. In our experiment, we used 125 test documents in DUC2002 data set. Each document is prepared by preprocessing process: sentence segmentation, tokenization, removing stop word, and word stemming. Then, we use 8 important features and calculate their score for each sentence. We propose text summarization based on fuzzy logic to improve the quality of the summary created by the general statistic method. We compare our results with the baseline summarizer and Microsoft Word 2007 summarizers. The results show that the best average precision, recall, and f-measure for the summaries were obtained by fuzzy method.

연구 동기 및 목표

• 기존 통계적 방법을 초월하여 문장 선택을 정교화함으로써 추출형 텍스트 요약의 품질을 향상시키기.
• 문장 중요도를 포괄적으로 포착하지 못하는 고정 임계값 기반 문장 가중치의 한계를 해결하기.
• 더 유연하고 맥락 민감한 요약을 위해 특징 기반 문장 점수화에 퍼지 논리를 통합하기.
• 기준 요약 도구와 표준 평가 지표를 사용하여 벤치마크 데이터셋에서 제안된 방법을 평가하기.
• 퍼지 논리가 요약 작업에서 언어적 불확실성과 관련성을 더 자연스럽게 모델링할 수 있음을 입증하기.

제안 방법

• 125개의 DUC2002 문서에 대해 문장 분할, 토큰화, 불용어 제거 및 어간 추출 등의 전처리 단계를 수행한다.
• 문장 위치, 단어 빈도, 문장 길이 등 8개의 핵심 특징을 각 문장에 대해 계산한다.
• 퍼지 추론 시스템은 언어적 규칙과 사전 정의된 퍼지 집합에 기반해 각 특징에 소속도 값을 할당한다.
• 퍼지 논리 엔진은 규칙 기반 집계를 사용하여 특징 점수를 조합하여 최종 문장 중요도 점수를 계산한다.
• 문장은 그들의 퍼지 중요도 점수에 따라 순위를 매기고, 최종 요약을 구성하기 위해 선택된다.
• 기존의 통계적 가중치 방법을 대체로, 불확실성과 관련성을 더 자연스럽게 모델링하는 퍼지 논리 프레임워크를 도입한다.

실험 결과

연구 질문

• RQ1 기존의 통계적 방법에 비해 퍼지 논리는 추출형 요약의 문장 가중치 향상에 기여하는가?
• RQ2 정밀도, 재현도 및 F-측정치 측면에서 기준 모델 및 상용 요약 도구와 비교해 퍼지 논리 기반 접근 방식은 어떤 성능을 보이는가?
• RQ3 언어적 특징과 퍼지 추론은 선택된 요약 문장의 관련성에 얼마나 기여하는가?
• RQ4 임계값 기반 방법에 비해 퍼지 방법은 문장 중요도의 맥락적 및 의미적 뉘앙스를 더 잘 포착하는가?
• RQ5 제안된 방법은 DUC2002 벤치마크의 다양한 문서 유형에 대해 강건한가?

주요 결과

• 퍼지 논리 기반 요약 도구는 DUC2002 데이터셋에서 평가된 모든 방법 중에서 가장 높은 평균 정밀도를 기록했다.
• 가장 높은 평균 재현도 점수를 기록하여 원본 문서의 관련 내용을 더 잘 포괄하고 있음을 시사한다.
• 가장 높은 F-측정치를 확보하여 정밀도와 재현도 모두에서 균형 잡힌 향상을 보였다.
• 결과는 퍼지 논리 모델링이 기준 통계적 방법보다 더 정확하고 포괄적인 요약을 이끌어낸다는 것을 보여준다.
• 제안된 방법은 모든 표준 평가 지표에서 Microsoft Word 2007의 내장 요약 도구를 뛰어넘었다.
• 다양한 언어적 특징과 퍼지 추론의 통합은 요약 품질을 크게 향상시켰다.