[논문 리뷰] Neural Databases

James Thorne, Majid Yazdani외 4명|arXiv (Cornell University)|2020. 10. 14.

Topic Modeling참고 문헌 42인용 수 8

한 줄 요약

이 논문은 사전 정의된 스키마 없이 자연어 쿼리와 업데이트를 처리하는 데 신경망을 사용하는 스키마 없는 데이터베이스 시스템인 NeuralDB를 소개한다. 이 시스템은 사전 훈련된 언어 모델에 기반한 병렬 신경 SPJ(선택-항목-조인) 연산자를 활용하며, 정의된 스키마 없이 수천 개의 문장에서 고정밀도 쿼리가 가능한 학습 가능한 사실 선택 알고리즘을 제공한다.

ABSTRACT

In recent years, neural networks have shown impressive performance gains on long-standing AI problems, and in particular, answering queries from natural language text. These advances raise the question of whether they can be extended to a point where we can relax the fundamental assumption of database management, namely, that our data is represented as fields of a pre-defined schema. This paper presents a first step in answering that question. We describe NeuralDB, a database system with no pre-defined schema, in which updates and queries are given in natural language. We develop query processing techniques that build on the primitives offered by the state of the art Natural Language Processing methods. We begin by demonstrating that at the core, recent NLP transformers, powered by pre-trained language models, can answer select-project-join queries if they are given the exact set of relevant facts. However, they cannot scale to non-trivial databases and cannot perform aggregation queries. Based on these findings, we describe a NeuralDB architecture that runs multiple Neural SPJ operators in parallel, each with a set of database sentences that can produce one of the answers to the query. The result of these operators is fed to an aggregation operator if needed. We describe an algorithm that learns how to create the appropriate sets of facts to be fed into each of the Neural SPJ operators. Importantly, this algorithm can be trained by the Neural SPJ operator itself. We experimentally validate the accuracy of NeuralDB and its components, showing that we can answer queries over thousands of sentences with very high accuracy.

연구 동기 및 목표

• 데이터가 사전 정의된 스키마를 따라야 한다는 기존 데이터베이스 시스템의 전제를 도전하기 위해.
• 스키마 정의 없이도 자연어 쿼리와 업데이트를 가능하게 하기 위해.
• 복잡한 쿼리, 특히 집계를 포함한 쿼리를 자연어 입력만으로 처리할 수 있는 확장 가능한 신경 데이터베이스 시스템을 개발하기 위해.
• 각 쿼리 구성 요소에 대해 관련 문장을 동적으로 식별하는 학습 가능한 사실 선택 알고리즘을 개발하여 정확도와 확장성을 향상시키기 위해.
• 신경 모델이 대규모 비정형 텍스트 컬렉션에서 복잡한 실제 세계 쿼리에 대해 높은 정확도를 달성할 수 있음을 검증하기 위해.

제안 방법

• 선택-항목-조인(SPJ) 쿼리를 해결하기 위한 핵심 추론 엔진으로 사전 훈련된 트랜스포머 기반 언어 모델을 사용한다.
• 쿼리 구성 요소에 해당하는 문장의 부분집합을 처리하는 병렬로 실행되는 여러 신경 SPJ 연산자를 갖는 NeuralDB 아키텍처를 설계한다.
• 각 신경 SPJ 연산자에 가장 관련성이 높은 사실을 식별하고 공급하는 학습 가능한 사실 선택 알고리즘을 적용하며, 이는 SPJ 연산자의 피드백을 사용해 엔드 투 엔드로 훈련된다.
• 쿼리에 집계가 포함된 경우, 여러 SPJ 연산자로부터의 결과를 통합하는 신경 집계 연산자를 통합한다.
• 사전 훈련된 언어 모델의 인덕티브 바이어스를 활용해 동일한 쿼리를 다양한 자연어 표현으로 일반화할 수 있도록 한다.
• SPJ 연산자가 사실 관련성 향상에 도움이 되는 기울기 신호를 제공할 수 있도록 가능한 기울기 기반 파ip라인을 사용해 사실 선택 모듈을 훈련한다.

실험 결과

연구 질문

• RQ1 정확한 관련 사실 집합이 제공될 경우, 사전 훈련된 언어 모델이 복잡한 SPJ 쿼리를 정확히 답변할 수 있는가?
• RQ2 신경 SPJ 연산자는 수천 개의 문장으로 구성된 비트리비얼 데이터베이스를 처리할 수 있도록 확장 가능한가?
• RQ3 사전 정의된 스키마 없이도 신경 데이터베이스 시스템에서 집계 쿼리를 효과적으로 지원할 수 있는가?
• RQ4 학습 가능한 사실 선택 메커니즘이 스키마 없는 환경에서 신경 쿼리 처리의 정확도와 효율성을 향상시킬 수 있는가?
• RQ5 신경 쿼리 연산자로부터의 피드백을 사용해 사실 선택 알고리즘을 엔드 투 엔드로 훈련할 수 있는가?

주요 결과

• 정확한 관련 사실 집합이 제공될 경우, 사전 훈련된 언어 모델이 SPJ 쿼리를 정확히 답변할 수 있어 신경 쿼리 처리의 가능성을 입증한다.
• NeuralDB는 사전 정의된 스키마 없이도 수천 개의 문장에서 복잡한 쿼리에 대해 높은 정확도를 달성한다.
• 여러 신경 SPJ 연산자를 병렬로 실행하는 방식은 단일 연산자 방식에 비해 확장성과 견고성 면에서 뚜렷한 향상을 이룬다.
• 학습 가능한 사실 선택 알고리즘이 관련 데이터베이스 문장을 효과적으로 식별하여 정확하고 효율적인 쿼리 처리를 가능하게 한다.
• 전용 신경 집계 연산자를 통해 집계 쿼리를 지원함으로써 기본 SPJ 연산을 넘어서는 범위를 확장한다.
• SPJ 연산자로부터의 피드백을 사용해 사실 선택 모듈을 엔드 투 엔드로 훈련함으로써 성능 향상과 적응성 향상이 이루어진다.