[論文レビュー] A Scalable Learned Index Scheme in Storage Systems

Pengfei Li, Yu Hua+2 more|arXiv (Cornell University)|May 8, 2019

Caching and Content Delivery参考文献 34被引用数 12

ひとこと要約

AIDELは、相互に依存しない独立した適応型線形回帰モデルを用いたスケーラブルな学習済みインデックス方式を提案する。これにより、モデル間依存性と再訓練のオーバーヘッドを低減する。学習プローブアルゴリズムにより、データ分布に応じて動的にモデルを割り当てることで、AIDELは、最先端の学習済みインデックスと同等の検索性能を維持しながら、挿入処理を2倍速く実現し、スケーラビリティとメモリ効率性を向上させる。

ABSTRACT

Index structures are important for efficient data access, which have been widely used to improve the performance in many in-memory systems. Due to high in-memory overheads, traditional index structures become difficult to process the explosive growth of data, let alone providing low latency and high throughput performance with limited system resources. The promising learned indexes leverage deep-learning models to complement existing index structures and obtain significant memory savings. However, the learned indexes fail to become scalable due to the heavy inter-model dependency and expensive retraining. To address these problems, we propose a scalable learned index scheme to construct different linear regression models according to the data distribution. Moreover, the used models are independent so as to reduce the complexity of retraining and become easy to partition and store the data into different pages, blocks or distributed systems. Our experimental results show that compared with state-of-the-art schemes, AIDEL improves the insertion performance by about 2$ imes$ and provides comparable lookup performance, while efficiently supporting scalability.

研究の動機と目的

• 既存の学習済みインデックスにおける高いモデル間依存性と高コストな再訓練が原因で生じるスケーラビリティの低さを是正する。
• 爆発的なデータ増加に対応するメモリ内ストレージシステムにおけるメモリオーバーヘッドを低減し、性能を向上させる。
• 異なるデータ領域に跨るモデルを分離することで、効率的なデータパーティショニングと分散配置を可能にする。
• ソート済みリスト構造を用いることで、高精度な検索を維持しながら、低遅延かつ高スループットの挿入処理を実現する。
• 予測誤差の上限を保証するモデル割り当て戦略を開発し、重複または無効なモデルを排除する。

提案手法

• 局所的なデータ分布パターンに応じて線形回帰モデルを適応的に割り当てるための学習プローブアルゴリズム（LPA）を提案する。
• 異なるデータセグメントに跨る独立したモデルを用いることで、モデル間依存性を排除し、セグメントごとの再訓練を可能にする。
• 順序付けられたデータを維持し、範囲クエリを効率的にサポートするためのソート済みリスト構造を構築する。
• 予測誤差の上限を適用することで、高精度なモデルのみを検証し、モデルの信頼性を保証する。
• 従来のインデックス構造にモデルを格納することで、既存システムとの統合を可能にしつつ、機械学習による位置予測の利点を活用する。
• データを領域に分解し、各領域に対して個別の線形モデルを訓練することで、分散ストレージと並列処理を可能にする。

実験結果

リサーチクエスチョン

• RQ1 既存の方式で見られる高いモデル間依存性と高コストな再訓練を受けても、学習済みインデックスをどのようにスケーラブルに実現できるか？
• RQ2 相互に独立した、領域特化の線形回帰モデルは、学習インデックスにおけるスケーラビリティの向上と再訓練のオーバーヘッド低減に寄与するか？
• RQ3 データ分布に基づく適応的モデル割り当ては、モデルの重複をどれほど低減し、予測精度を向上させることができるか？
• RQ4 B+ツリーおよび最先端の学習済みインデックスと比較して、提案手法の挿入および検索スループットはどの程度の性能を示すか？
• RQ5 ソート済みリスト構造を用いることで、学習インデックスの利点を損なわずに範囲クエリを効率的にサポートできるか？

主な発見

• AIDELは、B+ツリーと比較して挿入スループットを1.3倍から2.7倍まで向上させ、書き込み中心のワークロードにおいて顕著な性能向上を示した。
• AIDELは、最先端の学習済みインデックス方式と同等の検索精度を維持しながら、約2倍の高い検索スループットを達成した。
• 学習プローブアルゴリズムにより、ベースラインの学習済みインデックスと比較してモデル数を最大90％まで削減した—無効なモデル17個を含む約20万モデルに対して、有効モデルは約1万5千個にまで減少した。
• すべてのモデルが事前に定義された誤差閾値以下に予測誤差を抑えるように保証することで、AIDELは正しさを保証し、無効または重複するモデルを完全に排除した。
• モデルの独立性により、効率的なデータパーティショニングと分散ストレージが可能となり、再訓練コストが著しく低減され、システム全体のスケーラビリティが向上した。
• データの順序を維持するソート済みリスト構造を用いることで、AIDELは範囲クエリを効率的にサポートし、離散的なデータ構造に起因する非効率性を回避した。