[논문 리뷰] A Novel Approach to Document Classification using WordNet

Koushiki Sarkar, Ritwika Law|arXiv (Cornell University)|2015. 01. 01.

Advanced Text Analysis Techniques참고 문헌 4인용 수 3

한 줄 요약

이 논문은 단어 빈도에만 의존하지 않고, WordNet을 활용하여 의미 관계와 어휘의 의미 유사도를 고려함으로써 감성 분류 성능을 향상시키는 새로운 문서 분류 방법을 제안한다. 경로 유사도 기반의 가중치가 부여된 의미 네트워크를 구축함으로써, 전통적인 bag-of-words 모델이 어휘 다양성과 감성 키워드의 저빈도성으로 인해 실패하는 소규모 문서(예: 트윗 또는 리뷰)에서도 뛰어난 성능을 달성한다.

ABSTRACT

Content based Document Classification is one of the biggest challenges in the context of free text mining. Current algorithms on document classifications mostly rely on cluster analysis based on bag-of-words approach. However that method is still being applied to many modern scientific dilemmas. It has established a strong presence in fields like economics and social science to merit serious attention from the researchers. In this paper we would like to propose and explore an alternative grounded more securely on the dictionary classification and correlatedness of words and phrases. It is expected that application of our existing knowledge about the underlying classification structure may lead to improvement of the classifier's performance.

연구 동기 및 목표

• 짧고 다양한 어휘를 가진 문서에서 감성 키워드가 부재하거나 저빈도일 경우 전통적인 bag-of-words 모델의 한계를 해결하기 위해.
• WordNet의 의미 구조를 활용하여 더 견고하고 지식 기반의 분류 특징을 만들기 위해.
• 어휘의 의미 유사도와 개념적 관계(예: 하위개념성)를 활용하여 감성 분류 정확도를 향상시키는 분류기 개발을 위해.
• 유의미한 '좋음'과 '나쁨' 감성 단어 집합의 크기를 균형 있게 유지하기 위해 유사도 임계값(tau = 0.8 및 0.2)을 경험적으로 조정하여 공정한 분류를 위해.

제안 방법

• WordNet의 싱세트와 그들의 경로 유사도 점수를 기반으로 두 가지 별개의 가중치가 부여된 어휘 및 어구 네트워크를 구축한다.
• wn.path_similarity(synset1, synset2)를 사용하여 의미 유사도를 0~1 스케일로 계산하며, 1은 동일한 의미를 나타낸다.
• tau 값(좋음에 대해 0.8, 나쁨에 대해 0.2)을 사용한 임계값 기반 필터링 프로세스를 적용하여 대표적인 감성 단어 집합을 추출한다.
• 책에 대한 위키백과 문서(수신 섹션이 있는 12개)에서 키워드를 추출하고, 이를 WordNet 싱세트에 매핑하여 의미 분석을 수행한다.
• 부분 문자열 매칭을 사용하여 문서 내용에서 선택된 감성 단어의 출현 빈도를 세어 빈도 행렬을 구축한다.
• 감성 반전을 탐지하기 위해 'but' 및 'however'와 같은 문법적 접속어를 활용하며, 감성 평균 계산을 위해 세그먼트에 {+1, -1} 기호를 할당한다.

실험 결과

연구 질문

• RQ1 WordNet의 의미 유사도를 활용할 경우, 감성 키워드의 빈도가 낮거나 문서가 짧은 상황에서 기존 bag-of-words 모델 대비 문서 분류 성능 향상이 가능한가?
• RQ2 WordNet의 어휘의 의미와 개념적 관계는 어떻게 활용되어 더 견고하고 균형 잡힌 감성 특징 집합을 만들 수 있는가?
• RQ3 감성 반전을 탐지하기 위해 'but', 'and'와 같은 문법적 접속어를 통합할 경우 감성 분류 정확도는 어느 정도 향상되는가?
• RQ4 경로 유사도에 대한 어떤 임계값(tau) 설정이 분류에 대해 균형 잡히고 효과적인 '좋음'과 '나쁨' 감성 단어 집합을 생성하는가?

주요 결과

• 제안된 방법은 감성 키워드의 빈도가 낮아 기존 bag-of-words 모델이 실패하는 소규모 문서(예: 책 리뷰)에서 분류 성능 향상을 달성했다.
• WordNet의 경로 유사도(예: path_similarity(hit, slap) = 0.142) 활용으로 의미적으로 관련된 단어를 식별할 수 있었으며, 이는 순수한 빈도 기반 접근을 뛰어넘는 특징 표현을 향상시켰다.
• empirical tuning을 통해 tau 값을 0.8(좋음)과 0.2(나쁨)로 설정함으로써 균형 잡힌 감성 단어 집합을 확보하여 분류 과정에서 한쪽 클래스에 대한 편향을 방지했다.
• 위키백과 문서에서 유도된 빈도 벡터는 높은 희소성을 보였으며, 이는 저자가 유사한 감성을 표현하기 위해 다양한 어휘를 사용한다는 점을 입증하며, 의미 기반 접근의 필요성을 뒷받침한다.
• 감성 반전을 탐지하기 위해 'but' 및 'however'와 같은 문법적 단서를 통합함으로써 복합 문장 구조를 고려한 분류 정확도 향상이 이루어졌다.
• 미리 분류된 문서에서 유도된 초기 감성 단어 집합의 교차 검증과 WordNet 기반 전파를 통한 확장 전략이 확장 가능한 특징 생성에 유망한 가능성을 보였다.