[論文レビュー] FL-RMQ: A Learned Approach to Range Minimum Queries

Andreas Kipf, Ryan Marcus+5 more|arXiv (Cornell University)|Nov 29, 2019

Semantic Web and Ontologies参考文献 14被引用数 36

ひとこと要約

本稿では、実世界および合成データセット上で学習されたインデックス構造を評価するための新しいオープンソースベンチマークであるSOSDを紹介する。本研究では、RMI や RadixSpline といった学習モデルが、データ分布に適応したCDF近似を活用することで、特に歪んだまたは高密度のデータにおいて、Bツリー や ART といった従来のインデックスよりも検索遅延を低減できることを示している。また、低コストのメモリオーバーヘッドと高いキャッシュ効率を維持している。

ABSTRACT

A groundswell of recent work has focused on improving data management systems with learned components. Specifically, work on learned index structures has proposed replacing traditional index structures, such as B-trees, with learned models. Given the decades of research committed to improving index structures, there is significant skepticism about whether learned indexes actually outperform state-of-the-art implementations of traditional structures on real-world data. To answer this question, we propose a new benchmarking framework that comes with a variety of real-world datasets and baseline implementations to compare against. We also show preliminary results for selected index structures, and find that learned models indeed often outperform state-of-the-art implementations, and are therefore a promising direction for future research.

研究の動機と目的

• Bツリー や ART のような高度に最適化された従来インデックスを凌駕できるかどうかについて、データベースコミュニティにおける懐疑的見解を解消すること。
• 整列済みデータ上でメモリ内探索アルゴリズムを公平かつ再現可能に比較できる、標準化されたオープンソースベンチマークフレームワーク（SOSD）を提供すること。
• オンザフライアルゴリズム、補助インデックス、CDF近似型学習モデル、従来インデックスを含む多様なインデックス構造の性能を、さまざまな実世界および合成データセット上で評価すること。
• 学習インデックス設計における、性能、メモリ効率、トレーニングの複雑さのトレードオフを調査すること。
• 将来の研究を可能にするために、データベースとの統合、マルチスレッド実行、GPU や FPGAs といったハードウェアアクセラレータのサポートを可能にすること。

提案手法

• 32ビットおよび64ビットのデータセットをサポートし、キャッシュミス、分岐ミス予測、実行命令数といった低オーバーヘッドで高精度なパフォーマンスカウンタを提供する、オープンソースのC++フレームワークSOSDを設計・実装する。
• キーがキー集合上での一様分布から抽出された1000万回の等価検索を、8種類の多様なデータセット（例：アマゾン販売履歴、ウィキペディア編集履歴、Facebook ID）で実行する。
• 10種類のインデックス技術を実装・比較する：オンザフライ（BinarySearch, InterpolationSearch, TIP）、補助インデックス（RadixBinarySearch）、CDF近似型学習モデル（RMI, RadixSpline）、従来インデックス（ART, B-tree, FAST）。
• RadixSplineを下位から上位のアプローチでトレーニングする。これは、CDFに線形スプラインをフィッティングし、そのセグメントをレディックス構造でインデックス化することで、RMIのトップダウンによるモデルツリー構築と対照的である。
• エンドツーエンドの検索遅延、サイズオーバーヘッド、および低レベルのパフォーマンスカウンタ（キャッシュミス、分岐ミス予測、命令数）を測定し、パフォーマンスボトルネックを分析する。
• 一貫性があり再現可能な測定を全実験で行うために、AWS c5.4xlarge および Intel Xeon E5-2680 v4 を使用する。

実験結果

リサーチクエスチョン

• RQ1 RMI や RadixSpline のような学習インデックス構造は、実世界のデータワークロードにおいて、高度に最適化された従来のメモリ内インデックス（例：Bツリー、ART、FAST）を凌駕できるか？
• RQ2 さまざまなデータ分布（一様、歪み、対数正規、スパars、高密度）において、異なるインデックス構造の遅延およびメモリ効率のパフォーマンスはどのように異なるか？
• RQ3 キャッシュミス、分岐ミス予測、命令数といった低レベルのパフォーマンスカウンタは、エンドツーエンドの検索遅延の差をどの程度説明できるか？
• RQ4 RMI や RadixSpline のような学習モデルにおいて、トレーニング時間とランタイムパフォーマンスのトレードオフはどのようなものか？実世界での導入が可能になるか？
• RQ5 更新頻度や利用可能なチューニング時間といったシステム制約を考慮した場合、インデックス構造の選択はデータ特性にどのように依存するか？

主な発見

• RadixSpline（RS）とRecursive Model Index（RMI）は、ほとんどのデータセットで最も低い検索遅延を達成しており、uspr64 や uden32 のような高密度または歪んだデータでは中央値が100ナノ秒未満である。
• 高密度整数データセットuspr64では、RSが1回あたり54.2ナノ秒の検索遅延を達成し、次に優れたART（112ナノ秒）を2倍以上上回る性能を示しており、データに適応したモデリングの利点を実証している。
• omsc64 のような歪んだデータでは、InterpolationSearch（IS）の遅延が1回あたり95,076ナノ秒にまで悪化するが、RMI（402ナノ秒）とRS（437ナノ秒）は依然として効率的であり、学習モデルのロバスト性を示している。
• RMI と RS は1回あたり約10回のキャッシュミスを発生させるが、FAST（5未満）と同等の水準であり、優れた検索時間にもかかわらず、キャッシュミスだけではパフォーマンスが決定されないことを示している。
• RMI や RS のような学習モデルのパフォーマンスは、データ分布に強く依存しており、特に高密度または歪んだデータで最良の結果を示す。一方、IS は一様で高密度なキーにおいてのみ優位に立つ。
• RS のような学習モデルの構築時間は、スプラインフィッティングのためやや長くなるが、依然として妥当な範囲（2億キーで約100秒）に収まり、サンプリングや最適化により短縮可能である。