[논문 리뷰] Semantic Caching for OLAP via LLM-Based Query Canonicalization (Extended Version)

Laurent Bindschaedler|arXiv (Cornell University)|2026. 02. 23.

Advanced Database Systems and Queries인용 수 0

한 줄 요약

본 논문은 SQL과 자연어 쿼리를 unified OLAP Intent Signature로 정규화하여 대시보드형 OLAP의 star 스키마에 대한 교차 클라이언트 시맨틱 캐싱을 가능하게 하는 안전 우선 미들웨어 캐시를 도입하며, 정확성 보존적 파생 및 NL 안전 게이팅을 포함합니다.

ABSTRACT

Analytical workloads exhibit substantial semantic repetition, yet most production caches key entries by SQL surface form (text or AST), fragmenting reuse across BI tools, notebooks, and NL interfaces. We introduce a safety-first middleware cache for dashboard-style OLAP over star schemas that canonicalizes both SQL and NL into a unified key space -- the OLAP Intent Signature -- capturing measures, grouping levels, filters, and time windows. Reuse requires exact intent matches under strict schema validation and confidence-gated NL acceptance; two correctness-preserving derivations (roll-up, filter-down) extend coverage without approximate matching. Across TPC-DS, SSB, and NYC TLC (1,395 queries), we achieve 82% hit rate versus 28% (text) and 56% (AST) with zero false hits; derivations double hit rate on hierarchical queries.

연구 동기 및 목표

• 다양한 BI 도구 및 NL 인터페이스 간 쿼리 캐싱의 단편화 문제를 해결합니다.
• SQL 및 NL 쿼리를 위한 통합되고 이식 가능한 키 공간(OLAP Intent Signature)을 제안합니다.
• 스키마 검증, 신뢰도 게이팅 및 안전한 파생(롤업, 필터다운)을 통해 정확성을 보장합니다.
• 표준 OLAP 워크로드에서 히트율, 정확성 및 백엔드 절감을 평가합니다.
• 프로토타입을 제공하고 배포 고려사항 및 제약점을 논의합니다.

제안 방법

• SQL과 NL을 모두 구조화된 OLAP Intent Signature로 정규화하여 JSON으로 인코딩하고 캐시 키로 해싱합니다.
• 스키마에 대해 시그니처를 검증합니다: 측정값, 차원, 시간 창, 조인이 모호하지 않고 지원되는지 확인합니다.
• 시그니처 해시에 의해 캐시를 저장/검색하고 캐시 누락 시 백엔드에서 실행합니다.
• 의도 재사용을 안전하게 확장하기 위해 전제 조건이 명시된 두 가지 정확성 보존 파생(롤업 및 필터다운)을 사용합니다.
• NL 요청은 제약된 JSON 스키마로 매핑되며, 신뢰도 점수를 안전 게이팅에 사용합니다.
• TPC-DS, SSB, NYC TLC 워크로드에서 NL 및 SQL 변형을 평가하고 텍스트 기반 및 AST 기반 캐싱 대baseline과 비교합니다.

실험 결과

연구 질문

• RQ1 OLAP Intent Signature 캐시의 히트율은 다양한 의사 결정 지원 워크로드에서 얼마나 되는가?
• RQ2 정확성 보존 파생(롤업, 필터다운)이 잘못된 히트 없이 캐시 커버리지를 확장할 수 있는가?
• RQ3 OLAP Intent Signature 캐시를 사용할 때 백엔드 계산 절감 및 오버헤드는 어느 정도인가?
• RQ4 캐시 재사용의 의미론적 오류를 방지하기 위한 NL 정규화의 신뢰성은 어떠하며 안전 정책이 정밀도와 커버리지에 어떤 영향을 미치는가?
• RQ5 계층적 드릴 패턴 및 적대적 NL 입력하에서 접근 방식의 성능은 어떠한가?

주요 결과

• 제안된 LLMSigCache는 NYC TLC, SSB 및 TPC-DS에서 평균 82%의 히트율을 달성하여 텍스트 기반 캐싱(28.2%) 및 AST 기반 캐싱(55.6%)을 능가합니다.
• LLMSigCache로 백엔드 계산이 85–90% 감소하며, SQL 부분집합에서 ASTCache와 비슷하고 NL 캐싱으로 전체적으로 더 높습니다.
• 안전한 파생(롤업, 필터다운)은 계층적 워크로드의 히트율을 37%에서 80%로 증가시키며 잘못된 히트는 발생하지 않습니다.
• 적대적 NL 쿼리에서 NL 시맨틱 정확도는 44%, 사람 저작 BIRD 질문에서 51%로 나타나 안전 게이팅 재사용의 필요성을 시사합니다.
• 신뢰도 임계값 0.5에서 정밀도는 76.9%로 커버리지 37%에 도달하며, 스키마별 휴리스틱이 정밀도를 추가로 향상시킵니다.
• 파생은 계층적 드릴 패턴의 커버리지를 확장하여 정확성을 해치지 않으면서 히트율을 크게 높입니다.