[논문 리뷰] Multi-Attribute Selectivity Estimation Using Deep Learning

Shohedul Hasan, Saravanan Thirumuruganathan외 3명|arXiv (Cornell University)|2019. 03. 24.

Data Quality and Management참고 문헌 43인용 수 20

한 줄 요약

이 논문은 다중 속성 선택도 추정을 위한 두 가지 딥러닝 기반 접근법을 제안한다: 하나는 자동회귀 플로우를 사용한 비지도 신경 밀도 추정으로 프레임워크화된 것이고, 다른 하나는 쿼리 특징과 진짜 선택도 레이블을 사용한 지도 학습 방식이다. 두 방법 모두 낮은 공간 오버헤드로 높은 정확도를 달성하며, 특히 복잡하거나 고카디널리티, 또는 저선택도 쿼리에서 전통적인 히스토그램 및 샘플링 기법들보다 뚜렷이 뛰어나다.

ABSTRACT

Selectivity estimation - the problem of estimating the result size of queries - is a fundamental problem in databases. Accurate estimation of query selectivity involving multiple correlated attributes is especially challenging. Poor cardinality estimates could result in the selection of bad plans by the query optimizer. We investigate the feasibility of using deep learning based approaches for both point and range queries and propose two complementary approaches. Our first approach considers selectivity as an unsupervised deep density estimation problem. We successfully introduce techniques from neural density estimation for this purpose. The key idea is to decompose the joint distribution into a set of tractable conditional probability distributions such that they satisfy the autoregressive property. Our second approach formulates selectivity estimation as a supervised deep learning problem that predicts the selectivity of a given query. We also introduce and address a number of practical challenges arising when adapting deep learning for relational data. These include query/data featurization, incorporating query workload information in a deep learning framework and the dynamic scenario where both data and workload queries could be updated. Our extensive experiments with a special emphasis on queries with a large number of predicates and/or small result sizes demonstrates that our proposed techniques provide fast and accurate selective estimates with minimal space overhead.

연구 동기 및 목표

• 다양한 상관관계가 있는 속성이 동시에 존재할 때 데이터베이스 내 정확한 선택도 추정 문제를 해결하기 위해.
• 관계형 데이터 내 복잡한 비선형 상관관계를 효과적으로 모델링할 수 있는 딥러닝의 가능성을 탐색하기 위해.
• 동적 데이터베이스 워크로드에 적합한 경량, 빠르고 확장 가능한 딥러닝 모델을 설계하기 위해.
• 기능적 의존성과 쿼리 워크로드 패턴과 같은 도메인 지식을 딥러닝 모델에 통합하여 추정 정확도를 향상시키기 위해.
• 고차원적이고 상관관계가 있는 속성을 가진 실세계 데이터셋과 복잡한 쿼리 워크로드에서 딥러닝 모델의 성능을 평가하기 위해.

제안 방법

• 자기회귀 플로우를 사용하여 공동 분포를 다룰 수 있는 조건부 확률로 분해함으로써, 선택도 추정을 비지도 딥 밀도 추정 문제로 재구성한다.
• 각 조건부 분포의 파라미터를 학습하기 위해 단일 딥 네트워크를 활용하며, 자기회귀 성질을 이용해 속성 간의 의존성을 모델링한다.
• 순서에 민감도를 낮추고 일반화 성능을 향상시키기 위해 다수의 랜덤 속성 순서를 사용하는 모델의 혼합을 도입한다.
• 지도 학습을 위해, 쿼리 로그에서 추출한 쿼리 특징과 진짜 선택도 값에 기반해 훈련된 딥러닝 모델을 구성한다.
• 원-핫 인코딩과 이진 인코딩을 포함한 쿼리 특징화 기법을 사용하며, 실증적 검증 결과 이진 인코딩이 고카디널리티 도메인에서 더 우수한 성능을 보였다.
• 기능적 의존성을 포함하여 속성 순서를 필터링하고 안내함으로써 모델 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 딥러닝은 관계형 데이터 내 복잡한 다중 속성 상관관계를 선택도 추정에 효과적으로 모델링할 수 있는가?
• RQ2 신경 밀도 추정에서 자기회귀 구조가 기존 히스토그램 또는 샘플링 기법 대비 정확도를 어떻게 향상시키는가?
• RQ3 쿼리 로그에서 훈련된 지도 학습 딥러닝 모델이 고차원 예측자를 가진 새로운 쿼리에 얼마나 잘 일반화되는가?
• RQ4 다양한 데이터 인코딩 방식(원-핫 대비 이진)이 고카디널리티 속성에서 모델 성능에 어떤 영향을 미치는가?
• RQ5 기능적 의존성과 같은 도메인 지식을 통합함으로써 딥러닝 기반 선택도 추정기의 강건성과 정확도를 향상시킬 수 있는가?

주요 결과

• 비지도 딥 밀도 추정 접근법은 자기회귀 플로우를 통해 공동 분포를 모델링함으로써 다중 속성 쿼리에서 오차를 감소시키며 높은 정확도를 달성한다.
• 지도 학습 딥러닝 모델은 선택도가 1% 미만인 쿼리에 대해서도 메디안 q-error가 2 이하로 유지되며, 저선택도 케이스에서 강력한 일반화 성능을 보인다.
• IMDB와 같이 고카디널리티 데이터셋에서는 이진 인코딩이 원-핫 인코딩보다 성능이 뛰어나며, 특히 도메인 카디널리티가 수천에서 수만 수준에 이르는 경우 두드러진 성능 향상을 보인다.
• 혼합 모델에서 1~5개의 랜덤 속성 순서를 사용할 경우 최적의 성능을 기록하며, 더 높은 수치는 열악한 순서의 위험을 증가시킨다.
• 기능적 의존성을 사용해 속성 순서를 필터링하면 추정 정확도에 유의미한 향상이 이루어지며, 도메인 지식 통합의 가치를 입증한다.
• q-error를 손실 함수로 사용해 훈련한 지도 학습 모델은 MSE를 사용한 모델보다 뚜렷이 뛰어나며, q-error의 직접 최적화가 실용적 결과로 이어진다는 점을 확인한다.