[논문 리뷰] Thinking, Fast and Slow: Combining Vector Spaces and Knowledge Graphs

Sudip Mittal, Anupam Joshi외 1명|arXiv (Cornell University)|2017. 08. 10.

Advanced Graph Neural Networks참고 문헌 38인용 수 33

한 줄 요약

이 논문은 벡터 공간 모델과 지식 그래프를 통합하여 효율적이고 추론 기반의 의미 검색을 가능하게 하는 하이브리드 지식 표현인 벡터 지식 그래프(Vector Knowledge Graph, VKG)를 제안한다. 질의를 '빠른' 벡터 공간 검색과 '느린' 지식 그래프 추론으로 분해함으로써, VKG는 독립적인 모델보다 뛰어난 성능을 보이며, 의미 검색 작업에서 MAP가 0.80에 도달했다—벡터 모델(0.69)과 지식 그래프(0.43)보다 뚜렷하게 높다.

ABSTRACT

Knowledge graphs and vector space models are robust knowledge representation techniques with individual strengths and weaknesses. Vector space models excel at determining similarity between concepts, but are severely constrained when evaluating complex dependency relations and other logic-based operations that are a strength of knowledge graphs. We describe the VKG structure that helps unify knowledge graphs and vector representation of entities, and enables powerful inference methods and search capabilities that combine their complementary strengths. We analogize this to thinking `fast' in vector space along with thinking 'slow' and `deeply' by reasoning over the knowledge graph. We have created a query processing engine that takes complex queries and decomposes them into subqueries optimized to run on the respective knowledge graph or vector view of a VKG. We show that the VKG structure can process specific queries that are not efficiently handled by vector spaces or knowledge graphs alone. We also demonstrate and evaluate the VKG structure and the query processing engine by developing a system called Cyber-All-Intel for knowledge extraction, representation and querying in an end-to-end pipeline grounded in the cybersecurity informatics domain.

연구 동기 및 목표

• 독립적인 벡터 공간 모델과 지식 그래프가 의미 유사성과 기제적 추론을 동시에 포괄하는 데 한계가 있음을 해결하기 위해.
• 두 표현 방식의 강점을 활용하여 복잡한 질의 처리를 위한 통합 프레임워크를 개발하기 위해.
• 검색, 목록, 추론 작업으로 분해된 질의를 통해 효율적인 하이브리드 질의 실행을 가능하게 하기 위해.
• Cyber-All-Intel 시스템을 활용하여 실세계 사이버보안 도메인에서 이 접근법을 구현하기 위해.

제안 방법

• 공통 어휘와 온톨로지 스키마를 사용하여 벡터 임베딩과 공식 지식 그래프를 통합하는 VKG 아키텍처 설계.
• 복잡한 질의를 벡터 공간 또는 지식 그래프 구성 요소에 최적화된 하위 질의로 자동으로 분해하는 질의 처리 엔진 구축.
• 관계적 동시성 가정을 사용하여 word2vec과 GloVe를 통해 단어 임베딩을 생성하고, 이를 지식 그래프 엔티티와 정렬.
• 공통 코퍼스 어휘를 기반으로 한 이중 단계 링킹 프로세스를 통해 벡터 공간 임베딩을 지식 그래프 노드로 매핑.
• 세 가지 질의 유형을 구현: '검색'(벡터 공간), '목록'(지식 그래프), '추론'(그래프 트리플 기반 논리 추론).
• NVD, 어둠의 웹, 보안 블로그 등 다양한 출처에서 위협 및 취약성 데이터를 추출하고 구조화하여 사이버보안 도메인에 기반한 시스템 설계.

실험 결과

연구 질문

• RQ1 벡터 공간과 지식 그래프를 통합한 하이브리드 지식 표현이, 별개로 사용할 경우보다 의미 검색 성능을 향상시킬 수 있는가?
• RQ2 복잡한 질의를 어떻게 효과적으로 하위 질의로 분해하여, 벡터 공간 유사성 검색과 지식 그래프 추론의 강점을 극대화할 수 있는가?
• RQ3 지식 그래프에 기제적 진술을 통합할 경우, 벡터 기반 검색 결과의 정확성과 관련성은 어느 정도 향상되는가?
• RQ4 벡터 모델이나 지식 그래프가 별도로 사용할 경우 불가능한 질의를 VKG 아키텍처가 효율적으로 처리할 수 있는가?

주요 결과

• VKG 아키텍처는 의미 검색 작업에서 평균 평균 정확도(MAP)가 0.80을 기록하여, 독립적인 벡터 모델(0.69)과 지식 그래프(0.43)보다 뚜렷이 뛰어난 성능을 보였다.
• 벡터 공간 모델은 56개의 평가 유사성 그룹 중 47개(83%의 경우)에서 지식 그래프를 앞서며, 의미 유사성 계산에서의 강점을 입증했다.
• 지식 그래프 구성 요소는 높은 정확도를 보였으며, 수작업으로 레이블링된 트리플의 83%가 정확하고, 벡터와 그래프 노드 간 엔티티 연결의 97%가 정확하다고 평가되었다.
• 시스템은 'MySQL에서 서비스 거부 공격와 유사한 취약성이 발견되면 경고를 발령하라'와 같은 복잡한 사이버보안 질의를 성공적으로 처리하여 종단 간 추론 및 검색 기능을 입증했다.
• 질의 분해 엔진은 '검색' 작업을 벡터 공간으로, '목록'/'추론' 작업을 지식 그래프로 효율적으로 라우팅하여 확장 가능하고 정확한 하이브리드 추론을 가능하게 했다.
• Cyber-All-Intel 시스템은 NVD, 어둠의 웹, 보안 블로그 등 다양한 출처의 데이터를 통합하여 사이버보안 지능을 위한 종단 간 파이프라인을 실제로 실현할 수 있음을 보여주었다.