[논문 리뷰] Semantic Similarity Based on Corpus Statistics and Lexical Taxonomy

Jay J. Jiang, David W. Conrath|ArXiv.org|1997. 09. 20.

Topic Modeling참고 문헌 19인용 수 2,224

한 줄 요약

통합된 의미적 유사도 측정으로 WordNet 기반 계통분류와 코퍼스 통계를 novel한 엣지 강도 및 정보-content 프레임워크를 통해 인간 판단과의 상관관계를 기존 모델보다 높게 달성한다.

ABSTRACT

This paper presents a new approach for measuring semantic similarity/distance between words and concepts. It combines a lexical taxonomy structure with corpus statistical information so that the semantic distance between nodes in the semantic space constructed by the taxonomy can be better quantified with the computational evidence derived from a distributional analysis of corpus data. Specifically, the proposed measure is a combined approach that inherits the edge-based approach of the edge counting scheme, which is then enhanced by the node-based approach of the information content calculation. When tested on a common data set of word pair similarity ratings, the proposed approach outperforms other computational models. It gives the highest correlation value (r = 0.828) with a benchmark based on human similarity judgements, whereas an upper bound (r = 0.885) is observed when human subjects replicate the same task.

연구 동기 및 목표

• 다의어와 계통구조가 존재하는 상황에서 의미적 유사도 측정의 도전 과제를 제시한다.
• 엣지 기반과 노드 기반(정보 내용) 접근을 결합한 모델을 개발한다.
• 의미적 거리를 계산하기 위해 코퍼스 유도 확률을 엣지 강도에 반영한다.
• WordNet 명사 어간 의미에 대한 인간의 의미적 유사도 판단과 비교하기 위해 모델을 평가한다.
• 유param 설정에 대한 민감도를 평가하고 유사도 측정에서 계통 관련 편향을 논의한다.

제안 방법

• 개념에 대한 정보 내용(IC)을 정의하고 이를 이용해 최하위 공통 조상(LCU)을 통한 개념 간 유사도를 계산한다(식 1–3).
• LS로 표기되는 엣지 강도를 P(child|parent)의 음의 로그로 모델링하고 이를 IC 차이와 연관시킨다(식 12).
• 깊이, 국지 밀도, 연결 유형을 포함하는 결합 엣지 가중치를 계산한다(식 13).
• 개념 간 최단 경로의 엣지 가중치 합으로 의미적 거리를 도출한다(식 14).
• 인간 판단과의 비교를 위해 거리-유사도 변환으로 거리를 특수화한다(식 10).
• IC 계산에서 데이터 희소성을 다루기 위해 Good-Turing 스무딩을 사용하여 SemCor에서 개념 빈도를 추정한다.

실험 결과

연구 질문

• RQ1 엣지 기반의 계층적 거리와 정보내용 기반의 노드 유사도를 결합하면 인간의 의미 판단과의 정렬이 향상될 수 있는가?
• RQ2 밀도, 깊이, 연결 유형 요인이 제안된 결합 유사도 측정에 어떤 영향을 미치는가?
• RQ3 결합 모델이 표준 명사-쌍 데이터 세트에서 노드 기반의 Resnik(1995) 및 엣지 기반 방법을 능가하는가?
• RQ4 매개변수 설정 α(깊이 영향) 및 β(밀도 영향)에 대한 모델의 민감도는 어떠한가?

주요 결과

• 결합 거리 모델은 인간 판단과의 상관계수(r = 0.828)에서 노드 기반(0.794) 및 엣지 기반(0.600) 베이스라인보다 더 높은 상관을 보인다.
• 관찰된 최적 매개변수는 α = 0.5 및 β = 0.3으로, β가 밀도에 뚜렷하지만 지배적이지 않은 영향을 나타낸다.
• Good-Turing 스무딩이 적용된 SemCor 의미 태깅 빈도는 단어 빈도만 사용한 경우보다 더 정밀한 개념 확률을 제공한다.
• 오류로 잘못 분류된 furnce- stove 쌍을 제거하면 모든 모델의 상관이 크게 개선된다(예: 결합 모델이 0.8654에서 상승하는 등) – 문제 쌍 제외 시 유의한 이득이 보고된다.
• 정보 내용(IC)을 의사결정 요인으로 엣지 강도와 함께 도입하면 Resnik의 IC 접근법에 비해 측정적 이득이 발생한다.
• 제안된 가중치 체계 하에서 이 접근법은 여전히 유효한 지표이며 계량 속성들과 일치한다.