[논문 리뷰] The Tensor Data Platform: Towards an AI-centric Database System

Apurva Gandhi, Yuki Asada외 7명|arXiv (Cornell University)|2022. 11. 04.

Graph Theory and Algorithms인용 수 8

한 줄 요약

이 논문은 AI 중심의 데이터베이스 시스템인 텐서 데이터 플랫폼(TDP)을 제안한다. TDP는 관계형 모델을 텐서 추상화로 대체하여 다중 모odal 데이터, 하드웨어 가속 계산, 자동 미분을 통한 학습 가능한 쿼리를 네이티브로 지원한다. PyTorch와의 밀착 통합을 통해 TDP는 하이브리드 SQL-ML 워크로드를 효율적이고 선언적으로 실행할 수 있으며, 엔드 투 엔드 딥 러닝 모델에 비해 훨씬 뛰어난 학습 효율성과 모델 일반화 성능을 제공한다.

ABSTRACT

Database engines have historically absorbed many of the innovations in data processing, adding features to process graph data, XML, object oriented, and text among many others. In this paper, we make the case that it is time to do the same for AI -- but with a twist! While existing approaches have tried to achieve this by integrating databases with external ML tools, in this paper we claim that achieving a truly AI-centric database requires moving the DBMS engine, at its core, from a relational to a tensor abstraction. This allows us to: (1) support multi-modal data processing such as images, videos, audio, text as well as relational; (2) leverage the wellspring of innovation in HW and runtimes for tensor computation; and (3) exploit automatic differentiation to enable a novel class of "trainable" queries that can learn to perform a task. To support the above scenarios, we introduce TDP: a system that builds upon our prior work mapping relational queries to tensors. Thanks to a tighter integration with the tensor runtime, TDP is able to provide a broader coverage of new emerging scenarios requiring access to multi-modal data and automatic differentiation.

연구 동기 및 목표

• 이미지, 오디오, 비디오 등의 비관계형 다중 모달 데이터를 처리하는 데에 전통적인 데이터베이스의 한계를 해결하기 위해.
• 외부 UDF나 SQL 내장 모델로 ML 워크로드를 통합할 때 발생하는 성능 및 통합 병목 현상을 해결하기 위해.
• 텐서 계산 런타임(예: PyTorch)의 혁신 생태계를 활용하여 데이터베이스 엔진 내에서 하드웨어 가속, 자동 미분, 모델 학습을 가능하게 하기 위해.
• SQL과 ML 기능을 통합한 유일한 선언적 인터페이스를 제공하여 데이터 과학자가 SQL 전용 워크플로우에 강제되지 않도록 하기 위해.
• 텐서 기반 데이터베이스가 기존 관계형 워크로드와 새로운 AI 네이티브 워크로드(예: 벡터 검색, 비디오 분석)를 효율적으로 처리할 수 있음을 입증하기 위해.

제안 방법

• 열거형 스토리지 모델 내에서 모든 데이터—관계형, 텍스트, 이미지, 오디오, 벡터—을 통합된 텐서 추상화로 표현하기 위해.
• PyTorch 런타임 위에 쿼리 프로세서를 구축하여 CPU, GPU, 전용 가속기(TPU, IPU 등)를 아우르는 하드웨어 가속을 가능하게 하기 위해.
• TQP 시스템을 확장하여 텐서 기반의 전체 SQL 유사 선언적 쿼리(조인, 집계, 사용자 정의 함수(UDF) 포함)를 지원하기 위해.
• 신경망(예: CNN)을 SQL 유사 표현식에 직접 통합하고 PyTorch의 자동 미분을 활용해 종단 간 학습이 가능한 학습 가능한 쿼리를 제공하기 위해.
• 다양한 데이터 유형(예: 이미지, 텍스트)을 조밀한 벡터 임베딩으로 인코딩하여 쿼리 언어의 일등 시민으로 다루는 방식으로 다중 모달 데이터 처리를 지원하기 위해.
• Jupyter 노트북, Pandas, NumPy, TensorBoard와 같은 ML 도구와의 원활한 통합을 통해 전체 스택의 데이터 과학 워크로드를 지원하기 위해.

실험 결과

연구 질문

• RQ1 텐서 계산 런타임 기반의 데이터베이스 시스템이 기존의 관계형 데이터베이스보다 다중 모달 및 AI 네이티브 워크로드를 처리하는 데서 성능 면에서 뛰어나게 되는가?
• RQ2 PyTorch와 같은 딥 러닝 프레임워크와의 밀착 통합이 하이브리드 SQL-ML 쿼리의 성능과 사용성에 어떤 영향을 미치는가?
• RQ3 쿼리 논리에 학습 가능한 구성 요소를 포함하는 학습 가능한 쿼리가 얼마나 다양한 작업에 일반화되고 높은 정확도를 유지할 수 있는가?
• RQ4 유일한 시스템이 성능이나 표현력 손실 없이 기존의 관계형 처리와 현대적인 AI 워크로드를 모두 효율적으로 지원할 수 있는가?
• RQ5 복잡한 하이브리드 데이터 처리 작업 최적화를 위해 데이터베이스 엔진 내에서 자동 미분을 사용할 때 실질적인 이점은 무엇인가?

주요 결과

• TDP 접근 방식은 40,000개의 학습 반복 이내에 MNISTGrid 작업에서 거의 0에 가까운 테스트 오차를 달성했으며, 소형 CNN(850K 파라미터)과 ResNet-18(11.1M 파라미터)에 비해 수렴 속도와 최종 정확도 면에서 뚜렷한 승리를 거두었다.
• TDP 쿼리에서 추출한 학습된 디지트_parser CNN 컴포넌트는 MNIST 레이블에 대해 명시적으로 학습되지 않았음에도 불구하고 MNIST 데이터셋에서 98.15%의 분류 정확도를 달성하여 강력한 일반화 능력과 재사용 가능성을 입증했다.
• PyTorch와의 밀착 통합으로 SQL 및 ML 연산 간의 컨텍스트 스위칭 오버헤드가 제거되어 다양한 하드웨어에서 복잡한 하이브리드 쿼리의 효율적 실행이 가능해졌다.
• TDP는 모든 데이터 유형을 텐서로 표현함으로써 다중 모달 데이터 처리를 네이티브로 지원하며, 한 번의 쿼리 내에서 이미지, 텍스트, 관계형 데이터 간의 원활한 연산을 가능하게 한다.
• 시스템은 데이터 과학자가 SQL 전용 워크플로우로 전환하거나 익숙한 도구를 포기할 필요 없이도 표현력 있고 접근하기 쉬운 하이브리드 ML-SQL 프로그래밍 모델을 제공한다.
• TDP는 백프로파게이션을 통한 최적화가 가능한 새로운 유형의 학습 가능한 쿼리를 지원하여 데이터베이스 엔진이 최적의 쿼리 실행 전략과 데이터 변환 방식을 학습할 수 있도록 한다.