[논문 리뷰] Enabling Cognitive Intelligence Queries in Relational Databases using Low-dimensional Word Embeddings

Rajesh Bordawekar, Oded Shmueli|arXiv (Cornell University)|2016. 03. 23.

Topic Modeling참고 문헌 28인용 수 11

한 줄 요약

이 논문은 관계형 데이터베이스의 표현력을 향상시키기 위해 데이터베이스 토큰(예: 열 이름, 행 값)을 word2vec을 사용해 저차원 벡터 공간에 임bedding하는 Cognitive Intelligence (CI) 쿼리를 소개한다. 이를 통해 의미적 유사성과 유추 기반 쿼리가 가능해지며, 사용자 정의 함수를 통한 SQL 기반 쿼리로 의미 관계를 탐색할 수 있어 문법적 매칭을 넘어서는 쿼리 표현력을 크게 향상시킨다.

ABSTRACT

We apply distributed language embedding methods from Natural Language Processing to assign a vector to each database entity associated token (for example, a token may be a word occurring in a table row, or the name of a column). These vectors, of typical dimension 200, capture the meaning of tokens based on the contexts in which the tokens appear together. To form vectors, we apply a learning method to a token sequence derived from the database. We describe various techniques for extracting token sequences from a database. The techniques differ in complexity, in the token sequences they output and in the database information used (e.g., foreign keys). The vectors can be used to algebraically quantify semantic relationships between the tokens such as similarities and analogies. Vectors enable a dual view of the data: relational and (meaningful rather than purely syntactical) text. We introduce and explore a new class of queries called cognitive intelligence (CI) queries that extract information from the database based, in part, on the relationships encoded by vectors. We have implemented a prototype system on top of Spark to exhibit the power of CI queries. Here, CI queries are realized via SQL UDFs. This power goes far beyond text extensions to relational systems due to the information encoded in vectors. We also consider various extensions to the basic scheme, including using a collection of views derived from the database to focus on a domain of interest, utilizing vectors and/or text from external sources, maintaining vectors as the database evolves and exploring a database without utilizing its schema. For the latter, we consider minimal extensions to SQL to vastly improve query expressiveness.

연구 동기 및 목표

• 분산 단어 임베딩을 통해 데이터베이스 엔티티의 의미를 포착함으로써 관계형 데이터베이스에서 의미 쿼리 기능을 가능하게 하기.
• 기존 SQL의 데이터베이스 엔티티 간 의미 관계 표현 능력의 한계를 해결하기.
• 구문적 매칭을 넘어서 의미적 유사성과 유추 추론을 포함한 데이터베이스 쿼리 기능을 확장하기.
• 기존 관계형 시스템에 학습된 벡터 표현을 통합하기 위한 확장성 있고 스케일러블한 프레임워크 설계하기.
• Spark 기반 프로토타입을 통해 CI 쿼리의 실현 가능성과 표현력을 입증하기.

제안 방법

• 내부 또는 외부 텍스트에서 학습하기 위해, 뷰 또는 스키마 인식 방법을 사용해 데이터베이스 테이블에서 토큰 시퀀스를 추출하는 텍스트화(textification)를 수행한다.
• 분산 word2vec을 적용해 내부 또는 외부 텍스트에서 유도된 데이터베이스 토큰의 저차원(예: 200D) 벡터 표현을 학습한다.
• 쿼리 실행 시 효율적인 검색을 위해 학습된 벡터를 시스템 테이블에 저장한다.
• 유사도 및 유추 쿼리 기능을 SQL 사용자 정의 함수(UDF)를 통해 구현하며, 예를 들어 proximityMAX(), proximityAVG(), proximityTop2Avg() 등의 함수를 사용한다.
• 벡터 재사용 및 증분 업데이트를 지원해 데이터베이스의 변화에 따라 의미 일관성을 유지한다.
• 임베딩 정밀도 향상을 위해 외부 텍스트 소스(예: 위키백과) 및 도메인 특화 뷰를 프레임워크에 통합한다.

실험 결과

연구 질문

• RQ1 저차원 단어 임베딩이 열 이름 및 행 값과 같은 데이터베이스 엔티티 간의 의미 관계를 효과적으로 포착할 수 있는가?
• RQ2 벡터 기반 의미 유사성은 표준 SQL에 어떻게 통합되어 인지 쿼리 기능을 가능하게 하는가?
• RQ3 벡터 기반 쿼리의 성능 영향은 무엇인가? 특히 학습, 저장 및 런타임 거리 계산 측면에서의 영향을 분석한다.
• RQ4 복잡한 데이터베이스 탐색에서 스키마 지식이 필요한 정도를 CI 쿼리가 얼마나 줄일 수 있는가?
• RQ5 기본 데이터베이스의 변화에 따라 벡터 임베딩을 효율적으로 유지하고 업데이트할 수 있는가?

주요 결과

• 데이터베이스 유도 텍스트 시퀀스에 word2vec을 적용함으로써 의미 있는 저차원 벡터를 성공적으로 생성하였으며, 이는 데이터베이스 토큰 간의 의미 관계를 잘 캡처한다.
• proximityMAX() 및 proximityAVG()와 같은 UDF 기반 CI 쿼리는 효과적인 의미적 유사성 검색을 가능하게 하며, 결과는 거리 임계값(예: 0.3 또는 0.2) 및 접근 함수의 선택에 민감하게 반응한다.
• Apache Spark 기반 프로토타입을 통해 기존 관계형 시스템에 벡터 기반 의미 쿼리 기능을 통합하는 것이 실현 가능하다는 것을 입증하였다.
• 벡터 기반 쿼리는 쿼리 표현력을 크게 향상시켜, 최소한의 스키마 지식으로도 대규모 데이터베이스를 탐색할 수 있도록 한다.
• 벡터 학습 및 거리 계산에서 성능 저하 요인이 존재하지만, 배치 처리, 인덱싱, GPU 가속 기법을 통해 이를 완화할 수 있다.
• 외부 텍스트 소스 및 도메인 특화 뷰를 통한 확장성 지원으로 임베딩 품질과 관련성을 향상시킬 수 있다.