[논문 리뷰] Discovering Latent Concepts and Exploiting Ontological Features for Semantic Text Search

Vuong M. Ngo, Tru H. Cao|arXiv (Cornell University)|2018. 07. 15.

Topic Modeling참고 문헌 56인용 수 12

한 줄 요약

이 논문은 동의어, 상위어 및 어휘의 의미와 같은 온톨로지적 특징을 활용하여 관계 제약이 가해진 확산 활성화를 통해 잠재적 의미 개념을 탐지하는 온톨로지 기반 일반화된 벡터 공간 모델을 제안한다. 기존의 키워드 기반 모델 대비 41.9% 향상되고, 전통적인 제약이 가해진 확산 활성화 모델 대비 29.3% 향상된 성능을 보이며, 평가 지표로 MAP를 사용한 벤치마크 데이터셋에서 검증되었다.

ABSTRACT

Named entities and WordNet words are important in defining the content of a text in which they occur. Named entities have ontological features, namely, their aliases, classes, and identifiers. WordNet words also have ontological features, namely, their synonyms, hypernyms, hyponyms, and senses. Those features of concepts may be hidden from their textual appearance. Besides, there are related concepts that do not appear in a query, but can bring out the meaning of the query if they are added. The traditional constrained spreading activation algorithms use all relations of a node in the network that will add unsuitable information into the query. Meanwhile, we only use relations represented in the query. We propose an ontology-based generalized Vector Space Model to semantic text search. It discovers relevant latent concepts in a query by relation constrained spreading activation. Besides, to represent a word having more than one possible direct sense, it combines the most specific common hypernym of the remaining undisambiguated multi-senses with the form of the word. Experiments on a benchmark dataset in terms of the MAP measure for the retrieval performance show that our model is 41.9% and 29.3% better than the purely keyword-based model and the traditional constrained spreading activation model, respectively.

연구 동기 및 목표

• 검색 쿼리에 명시적으로 존재하지 않는 잠재적 의미 개념을 포착함으로써 키워드 기반 텍스트 검색의 한계를 해결하고자 한다.
• WordNet과 명명된 실체 메타데이터로부터 동의어, 상위어 및 어휘의 의미와 같은 온톨로지적 특징을 활용하여 의미 텍스트 검색 성능을 향상시키고자 한다.
• 쿼리에 명시적으로 존재하는 관계에 한해 확산 활성화를 제한함으로써 잡음이나 관련 없는 정보를 도입하는 것을 방지하고자 한다.
• 다의어 모호성 해소를 위해 가장 구체적인 공통 상위어와 단어 형태를 조합하여 단어 표현을 향상시키고자 한다.
• 온톨로지 지식을 통합하여 향상된 검색 성능를 달성하는 일반화된 벡터 공간 모델을 개발하고자 한다.

제안 방법

• 쿼리에 명시적으로 존재하는 관계를 통해만 관련성을 전파하는 관계 제약이 가해진 확산 활성화 메커니즘을 적용하여, 부적절한 연관성을 방지한다.
• 쿼리어 및 그 온톨로지적 관계(예: 상위어, 동의어 등)를 기반으로 지식 그래프의 노드를 활성화함으로써 잠재적 개념을 탐지한다.
• 다의어 단어의 경우, 가능한 모든 의미의 가장 구체적인 공통 상위어와 단어의 표면 형태를 사용하여 병합 표현을 계산한다.
• 기존의 벡터 공간 모델에 온톨로지적 특징을 텀 가중치 부여 방식에 통합함으로써 의미 표현을 향상시킨다.
• WordNet과 명명된 실체 온톨로지를 활용하여 쿼리 및 문서 표현에 별칭, 클래스, 의미 차이와 같은 의미 메타데이터를 풍부하게 한다.
• 확장된 벡터 공간에서 개선된 쿼리 및 문서 벡터 간의 가중치 코사인 유사도를 사용하여 최종 문서 순위를 계산한다.

실험 결과

연구 질문

• RQ1 쿼리에 명시적으로 존재하지 않는 관련 없는 정보를 도입하지 않으면서도 잠재적 의미 개념을 효과적으로 탐지할 수 있는 방법은 무엇인가?
• RQ2 동의어, 상위어 및 어휘의 의미와 같은 온톨로지적 특징이 의미 텍스트 검색 성능에 얼마나 기여하는가?
• RQ3 모든 관계를 사용하는 전통적인 확산 활성화 대비, 관계 제약이 가해진 확산 활성화 메커니즘이 더 나은 성능을 낼 수 있는가?
• RQ4 의미의 구체성을 유지하면서 모호성을 줄이는 방식으로 다의어 단어를 어떻게 표현할 수 있는가?
• RQ5 일반화된 벡터 공간 모델에 온톨로지적 특징을 통합하면 검색 효과성에 측정 가능한 향상이 이루어지는가?

주요 결과

• 제안된 모델은 순수한 키워드 기반 검색 모델 대비 평균 평균 정확도(MAP)에서 41.9% 향상된 성능을 기록하였다.
• 기존의 제약이 가해진 확산 활성화 모델 대비 MAP 기준 29.3% 향상되어, 관계 제약이 가해진 전파 방식의 효과성을 입증하였다.
• 상위어 및 동의어와 같은 온톨로지적 특징의 통합은 모델이 의미적으로 관련된 문서를 검색하는 능력을 크게 향상시켰다.
• 가장 구체적인 공통 상위어와 단어 형태를 조합하는 방법이 다의어 모호성 해소에 효과적이며 표현 품질을 향상시켰다.
• 관계 제약이 가해진 확산 활성화 메커니즘은 관련 잠재적 개념을 성공적으로 식별하면서도 관련 없는 관계에서 유래하는 잡음을 최소화하였다.
• 결과적으로, 일반화된 벡터 공간 모델에 구조화된 온톨로지 지식을 활용함으로써 의미 텍스트 검색 성능에 상당한 향상이 이루어지는 것으로 확인되었다.