[논문 리뷰] Database Learning: Toward a Database that Becomes Smarter Every Time

Yongjoo Park, Ahmad Shahab Tajik외 2명|arXiv (Cornell University)|2017. 03. 16.

Advanced Database Systems and Queries참고 문헌 76인용 수 35

한 줄 요약

이 논문은 과거 근사 쿼리 결과에서 학습함으로써 시간이 지남에 따라 더 빠르고 정확해지는 데이터베이스를 가능하게 하는 새로운 프레임워크인 데이터베이스 학습(DBL)을 소개한다. 최대 엔트로피 원리를 사용하여 DBL은 기본 데이터 분포의 통계 모델을 구축하고 개선함으로써, Verdict—Spark SQL 기반 쿼리 엔진—이 더 작은 샘플로 더 효율적으로 새로운 쿼리를 처리할 수 있도록 한다. 이로 인해 기존 AQP 시스템 대비 동일한 정확도에서 최대 23.0×의 성능 향상을 달성한다.

ABSTRACT

In today's databases, previous query answers rarely benefit answering future queries. For the first time, to the best of our knowledge, we change this paradigm in an approximate query processing (AQP) context. We make the following observation: the answer to each query reveals some degree of knowledge about the answer to another query because their answers stem from the same underlying distribution that has produced the entire dataset. Exploiting and refining this knowledge should allow us to answer queries more analytically, rather than by reading enormous amounts of raw data. Also, processing more queries should continuously enhance our knowledge of the underlying distribution, and hence lead to increasingly faster response times for future queries. We call this novel idea---learning from past query answers---Database Learning. We exploit the principle of maximum entropy to produce answers, which are in expectation guaranteed to be more accurate than existing sample-based approximations. Empowered by this idea, we build a query engine on top of Spark SQL, called Verdict. We conduct extensive experiments on real-world query traces from a large customer of a major database vendor. Our results demonstrate that Verdict supports 73.7% of these queries, speeding them up by up to 23.0x for the same accuracy level compared to existing AQP systems.

연구 동기 및 목표

• 기존 데이터베이스에서 과거 쿼리 작업이 버려지는 비효율성을 해결하기 위해.
• 근사 쿼리 결과에서 학습하여 기본 데이터 분포에 대한 이해를 개선할 수 있도록 하기 위해.
• 이전 쿼리 결과에서 유도된 통계 모델을 활용해 향후 쿼리의 응답 시간을 단축하기 위해.
• 원칙적이고 정확하며 빠른 근사 결과를 제공하는 분석용 SQL 쿼리의 광범위한 클래스를 지원하기 위해.
• 더 많은 쿼리가 처리될수록 정확도와 성능이 지속적으로 향상되는 시스템을 개발하기 위해.

제안 방법

• 시스템은 과거 쿼리 결과와 일치하는 가장 가능성이 높은 데이터 분포를 추론하기 위해 최대 엔트로피 원리를 사용하여, 불확실성 하에서 최적의 정확도를 보장한다.
• 각 쿼리를 기본 데이터 분포에 대한 선형 제약 조건의 집합으로 공식화함으로써 반복적 해법 없이 분석적 추론을 가능하게 한다.
• 기존 방법에 비해 지수적 증가를 피하기 위해 다차원 공간에서 겹치는 쿼리 범위를 O(n)개의 변수로 모델링한다.
• Spark SQL 기반으로 개발된 쿼리 엔진인 Verdict는 이러한 모델을 통합하여, 모델 추론과 최소한의 샘플링을 조합함으로써 새로운 쿼리를 처리한다.
• 시스템은 각 쿼리 후에 모델을 동적으로 갱신하여 신뢰 구간을 정교화하고 시간이 지남에 따라 정확도를 향상시킨다.
• 엄격한 쿼리 포함 조건이나 물리적 저장 뷰가 필요 없이 복잡한 다중 컬럼 집계 및 겹치는 범위를 지원한다.

실험 결과

연구 질문

• RQ1 과거 근사 쿼리 결과를 체계적으로 활용하여 향후 쿼리의 성능과 정확도를 향상시킬 수 있는가?
• RQ2 데이터베이스가 쿼리 결과에서 학습하여 시간이 지남에 따라 전체 데이터 스캔에 대한 의존도를 줄일 수 있는가?
• RQ3 어떤 통계 프레임워크가 겹치는 쿼리 결과로부터 효율적이고 확장 가능하며 정확한 모델 개선을 가능하게 하는가?
• RQ4 모델 기반 접근 방식이 기존의 샘플링 기반 AQP에 비해 속도와 정확도 측면에서 얼마나 뛰어나게 성능을 발휘할 수 있는가?
• RQ5 데이터베이스 시스템이 쿼리 작업에서 점진적 학습을 통해 지속적인 성능 향상을 달성할 수 있는가?

주요 결과

• Verdict는 대규모 기업 고객의 쿼리 로그에서 실제 분석 쿼리의 73.7%를 지원한다.
• 동일한 정확도 수준에서 Verdict는 온라인 집계 기반 AQP 시스템 대비 최대 23.0×의 성능 향상을 달성한다.
• 시스템의 모델 정확도는 매번 새로운 쿼리가 처리될수록 향상되어 시간이 지남에 따라 데이터 샘플링의 필요성이 점점 줄어든다.
• 최대 엔트로피 접근 방식은 O(n)개의 변수로 분석적 추론을 가능하게 하여 이전 방법의 O(2^n) 복잡도를 피한다.
• 사전에 부드러움이나 구조를 가정하지 않더라도 자연스럽게 데이터 상관관계를 포착할 수 있다.
• 기존 기법들인 물리적 저장 뷰나 COSMOS에 비해 겹치는 다중 컬럼 쿼리를 지원하며 엄격한 포함 조건이 필요 없어 성능 면에서 뛰어나다.