[论文解读] Buffered Count-Min Sketch on SSD: Theory and Experiments

Mayank Goswami, Dzejla Medjedovic+2 more|arXiv (Cornell University)|Apr 27, 2018

Advanced Data Storage Technologies参考文献 13被引用 3

一句话总结

本文提出了一种面向SSD优化的计数-最小堆叠（Buffered Count-Min Sketch, BCMS），通过哈希局部化技术将单个元素的所有哈希操作集中到单个SSD页上，从而减少随机I/O。该方法在SSD上实现了3.7×–4.7×的插入速度提升和4.3×的查询速度提升，同时保持原始计数-最小堆叠的误差保证，将最坏情况下的I/O复杂度从O(r)降低至1。

ABSTRACT

Frequency estimation data structures such as the count-min sketch (CMS) have found numerous applications in databases, networking, computational biology and other domains. Many applications that use the count-min sketch process massive and rapidly evolving datasets. For data-intensive applications that aim to keep the overestimate error low, the count-min sketch may become too large to store in available RAM and may have to migrate to external storage (e.g., SSD.) Due to the random-read/write nature of hash operations of the count-min sketch, simply placing it on SSD stifles the performance of time-critical applications, requiring about 4-6 random reads/writes to SSD per estimate (lookup) and update (insert) operation. In this paper, we expand on the preliminary idea of the Buffered Count-Min Sketch (BCMS) [15], an SSD variant of the count-min sketch, that used hash localization to scale efficiently out of RAM while keeping the total error bounded. We describe the design and implementation of the buffered count-min sketch, and empirically show that our implementation achieves 3.7x-4.7x the speedup on update (insert) and 4.3x speedup on estimate (lookup) operations. Our design also offers an asymptotic improvement in the external-memory model [1] over the original data structure: r random I/Os are reduced to 1 I/O for the estimate operation. For a data structure that uses k blocks on SSD, was the word/counter size, r as the number of rows, M as the number of bits in the main memory, our data structure uses kwr/M amortized I/Os for updates, or, if kwr/M >1, 1 I/O in the worst case. In typical scenarios, kwr/M is much smaller than 1. This is in contrast to O(r) I/Os incurred for each update in the original data structure.

研究动机与目标

• 为解决计数-最小堆叠在主内存之外扩展时的性能瓶颈，特别是在SSD上随机I/O严重降低性能的问题。
• 设计一种计数-最小堆叠的变体，以最小化在SSD上更新和查询操作的外部内存I/O。
• 尽管采用哈希局部化，仍保持原始计数-最小堆叠的 probabilistic 误差保证（Pr[Error ≥ nε(1+o(1))] ≤ δ+o(1)）。
• 通过实验验证，哈希局部化在实际中不会降低高估质量。
• 提供理论和实证证据，证明BCMS在查找操作中达到最优I/O复杂度，在更新操作中实现近乎最优的摊销I/O复杂度。

提出的方法

• 缓冲计数-最小堆叠（BCMS）将堆叠组织为SSD上的固定大小页，通过页级哈希函数将单个项的所有哈希函数映射到同一页面。
• 每次更新或查询操作仅访问一个SSD页，将最坏情况下的随机I/O从O(r)减少至1。
• 该数据结构使用缓冲区来聚合更新操作，以最小化I/O，其摊销I/O成本为kwr/M每条更新，其中k为块数，w为字长，r为行数，M为主存大小。
• 理论分析证明，误差概率仍如原始CMS一样受控：Pr[Error(q) ≥ nε(1+o(1))] ≤ δ + o(1)。
• 堆叠通过参数δ（失败概率）、ε（误差容限）和堆叠大小进行配置，深度r = ⌈ln(1/δ)⌉，宽度⌈e/ε⌉。
• 实验评估使用了1TB SSD和32GB内存，测量了在不同堆叠大小和内存与堆叠比例下的插入和查询吞吐量。

实验结果

研究问题

• RQ1 在计数-最小堆叠变体中，哈希局部化是否能将每次操作的SSD I/O从O(r)减少至1，同时保持误差保证？
• RQ2 由于I/O减少带来的性能提升是否能在实际SSD工作负载中体现为可测量的速度提升？
• RQ3 在实际中，哈希局部化对高估误差的影响有多大？
• RQ4 在外部内存模型中，BCMS的更新操作摊销I/O成本是否显著低于O(r)？
• RQ5 在真实工作负载下，BCMS能否保持与原始计数-最小堆叠相同的误差概率和高估边界？

主要发现

• 在SSD上，缓冲计数-最小堆叠的插入吞吐量比原始计数-最小堆叠高出3.7×–4.7×，且随着堆叠大小超过主存容量，速度提升更加明显。
• BCMS的查询吞吐量比原始计数-最小堆叠快4.3倍，原因是每次查询仅需一次I/O，而非最多r次I/O。
• 在所有测试的堆叠大小下，原始计数-最小堆叠与BCMS的平均和最大高估值完全相同，证实误差质量未下降。
• 理论分析表明，查找操作的I/O复杂度最坏情况从O(r)降低至1，更新操作的摊销I/O复杂度为kwr/M，实际中通常低于1。
• 实证结果证实，哈希局部化不会显著降低误差率，因为高估值仍保持在原始CMS的理论边界内。
• BCMS的设计在查找操作中实现了最优I/O行为，在更新操作中实现了近乎最优的摊销I/O复杂度，表明其在SSD上具有极强的实际效率。