[論文レビュー] Farview: Disaggregated Memory with Operator Off-loading for Database Engines

Dario Korolija, Dimitrios Koutsoukos+4 more|arXiv (Cornell University)|Jun 13, 2021

Cloud Computing and Resource Management被引用数 6

ひとこと要約

Farviewは、データベースエンジン向けに非集積化メモリシステムを提案し、選択、投影、集計などのクエリ演算子をFPGAベースのスマートNICにオフロードすることで、ネットワーク接続DRAM上でメモリ内処理を実現する。これは、ローカルメモリキャッシュと同等の性能を達成しながら、データ移動量とDRAM容量を削減し、特に高選択性および集計クエリを含む主要ワークロードでCPUベースのベースラインを上回る性能を発揮する。

ABSTRACT

Cloud deployments disaggregate storage from compute, providing more flexibility to both the storage and compute layers. In this paper, we explore disaggregation by taking it one step further and applying it to memory (DRAM). Disaggregated memory uses network attached DRAM as a way to decouple memory from CPU. In the context of databases, such a design offers significant advantages in terms of making a larger memory capacity available as a central pool to a collection of smaller processing nodes. To explore these possibilities, we have implemented Farview, a disaggregated memory solution for databases, operating as a remote buffer cache with operator offloading capabilities. Farview is implemented as an FPGA-based smart NIC making DRAM available as a disaggregated, network attached memory module capable of performing data processing at line rate over data streams to/from disaggregated memory. Farview supports query offloading using operators such as selection, projection, aggregation, regular expression matching and encryption. In this paper we focus on analytical queries and demonstrate the viability of the idea through an extensive experimental evaluation of Farview under different workloads. Farview is competitive with a local buffer cache solution for all the workloads and outperforms it in a number of cases, proving that a smart disaggregated memory can be a viable alternative for databases deployed in cloud environments.

研究の動機と目的

• 分析的データベースにおけるデータ移動の低効率化とDRAM容量制限の増大に対処すること。
• クラウドベースのデータベースシステムにおけるローカルバッファキャッシュのスケーラブルな代替手段として、非集積化メモリを検討すること。
• フィルタリングおよび処理演算をリモートのネットワーク接続DRAMにオフロードすることで、CPUのオーバーヘッドとメモリフットプリントを削減すること。
• スマートでプログラマブルなメモリノードが、ローカルメモリキャッシュの性能を同等または上回ることを評価すること。
• FPGA上でイン・サイチュ暗号化および復号化を実行することで、セキュアで低遅延なデータストリーム処理を実現すること。

提案手法

• Farviewは、FPGAベースのスマートNICを用い、ネットワーク接続DRAMを処理能力を備えたリモートバッファキャッシュとして公開する。
• システムは、選択、投影、集計、正規表現マッチング、およびAES-128暗号化/復号化（カウンターモード）の演算子オフロードをサポートする。
• 計算ノードと非集積化メモリ間の低遅延・高スルーレートデータ転送のためにRDMAを活用する。
• 演算子はFPGA上でワイヤースピードでインライン実行され、CPUへのデータ移動を最小限に抑える。
• 複数クライアントをサポートする動的リージョン割り当てを実装し、空間的並列性と公平な帯域幅共有を実現する。
• 暗号化および復号化はデータパスに統合され、最小限のパフォーマンスオーバーヘッドで実行され、ラインレート処理によって完全に隠蔽される。

実験結果

リサーチクエスチョン

• RQ1 イン・サイチュ処理機能を備えたスマートでネットワーク接続されたメモリノードは、データベースワークロードにおいてローカルメモリキャッシュの性能を同等または上回ることができるか？
• RQ2 非集積化メモリに演算子オフロードを実施することで、分析クエリにおけるデータ移動量とCPUオーバーヘッドはどの程度削減可能か？
• RQ3 複数クライアントによる同時アクセス下でのシステムの性能はいかに高く、効率的にスケーリングするか？
• RQ4 セキュアなデータ処理（例：暗号化/復号化）は、パフォーマンスにペナルティを負わせることなく、メモリ処理パイプラインに効率的に統合可能か？
• RQ5 集計や選択といった複雑な演算子をリモートメモリにオフロードした場合のパフォーマンスへの影響は何か？

主な発見

• Farviewは、評価したすべてのワークロードでローカルバッファキャッシュと同等のパフォーマンスを達成し、処理機能を備えた非集積化メモリが実用的な代替手段となり得ることを示した。
• TPC-H Q6のような高選択性クエリでは、CPUに到達する前にデータをフィルタリングすることで、Farviewが顕著にデータ移動量を削減した。
• 集計ワークロード（例：GROUP BY）では、Farviewが集計処理を直接メモリ内で実行することで、CPUへのデータ転送量を削減した。
• FPGAベースの暗号化/復号化パイプラインは、測定可能なパフォーマンスペナルティを負わず、RDMAリードのスルーレートと同等のスルーレートを達成した。
• 複数クライアントがアクセスする状況では、空間的並列性と動的リージョンにおける公平な帯域幅共有のおかげで、FarviewはCPUベースのベースラインを上回った。
• 特にキャッシュが冷えている状態では、FPGAの並列AES実装のおかげで、復号処理の応答時間がCPUベースのベースラインよりも顕著に短縮された。