[论文解读] Continuous Partial Quorums for Consistency-Latency Tuning in Distributed NoSQL Storage Systems

Marlon McKenzie, Hua Fan+1 more|arXiv (Cornell University)|Jul 11, 2015

Cloud Computing and Resource Management参考文献 21被引用 3

一句话总结

本文提出连续部分法定人数（CPQ），一种通过可调概率随机在两种一致性级别（例如，read-one 和多数）之间选择，以实现 NoSQL 系统中细粒度一致性-延迟调优的技术。在 Apache Cassandra 上的评估表明，CPQ 实现了与人工延迟相当的一致性，但延迟显著更低，优于固定一致性级别和基于延迟的方法。

ABSTRACT

NoSQL storage systems are used extensively by web applications and provide an attractive alternative to conventional databases when the need for scalability outweighs the need for transactions. Several of these systems provide quorum-based replication and present the application developer with a choice of multiple client-side "consistency levels" that determine the number of replicas accessed by reads and writes, which in turn affects both latency and the consistency observed by the client application. Since using a fixed combination of read and write consistency levels for a given application provides only a limited number of discrete options, we investigate techniques that allow more fine-grained tuning of the consistency-latency trade-off, as may be required to support consistency-based service level agreements (SLAs). We propose a novel technique called \emph{continuous partial quorums} (CPQ) that assigns the consistency level on a per-operation basis by choosing randomly between two options, such as eventual and strong consistency, with a tunable probability. We evaluate our technique experimentally using Apache Cassandra and demonstrate that it outperforms an alternative tuning technique that delays operations artificially.

研究动机与目标

• 为解决 NoSQL 系统中离散一致性级别存在的局限性，这些级别仅提供少量固定的一致性与延迟权衡选择。
• 实现对一致性与延迟的连续、操作级调优，以支持具有精确延迟和数据陈旧度要求的服务级别协议（SLA）。
• 评估并对比 CPQ 与人工延迟（AD），后者是一种通过在客户端注入延迟以提高一致性的竞争技术，但代价是更高的延迟。
• 证明在真实 NoSQL 部署中，CPQ 相较于人工延迟能提供更优的一致性-延迟权衡。
• 为支持分布式存储系统中概率一致性与延迟保证的中间件框架奠定基础。

提出的方法

• CPQ 为每个操作基于可调概率 p ∈ [0,1] 在两种离散一致性级别（例如，read-one 和多数法定人数）之间动态选择，从而实现对一致性-延迟权衡的连续控制。
• 该技术完全在客户端运行，通过概率选择平衡一致性与延迟，无需修改底层存储系统。
• 对于每次读或写操作，客户端以概率 p 和 1−p 随机选择其中一种一致性级别，从而在一致性-延迟谱系上实现平滑调优。
• 通过在 Amazon EC2 上部署的 Apache Cassandra 进行实验评估，工作负载由 Yahoo Cloud Serving Benchmark（YCSB）生成。
• 将 CPQ 的性能与人工延迟（AD）进行比较，后者在操作前或后注入延迟以提高读取新鲜数据的可能性。
• 一致性通过陈旧读取的比例来衡量，延迟则以第 95 百分位响应时间表示，从而在 SLA 约束下实现权衡的直接比较。

实验结果

研究问题

• RQ1 是否可以仅使用现有的离散一致性级别，在法定人数复制的 NoSQL 系统中实现连续的、操作级的一致性-延迟权衡？
• RQ2 在实现期望的一致性-延迟权衡方面，CPQ 与人工延迟相比如何，特别是在延迟和陈旧度方面？
• RQ3 CPQ 是否能在真实部署中实现与人工延迟相当的一致性水平，同时显著降低延迟？
• RQ4 在满足特定延迟和陈旧度约束的服务级别协议下，CPQ 是否优于固定一致性级别（如 read-one、多数）？
• RQ5 该 CPQ 技术是否可推广至支持多种客户端一致性级别的其他 NoSQL 系统？

主要发现

• 在多个实验场景中，CPQ 实现了与人工延迟相当的一致性水平（以陈旧读取比例衡量），但延迟降低了数倍。
• 该技术仅使用两个离散一致性级别，即可实现对一致性-延迟权衡的连续调优，克服了固定离散组合的局限性。
• 在某些情况下，CPQ 相较于人工延迟将延迟降低了数倍，同时保持了等效的一致性保证。
• 实验结果证实，在每个读操作的关键路径中注入人工延迟会严重损害延迟性能，支持了先前的非正式论断。
• 在满足 SLA 约束的场景下，CPQ 在实现最优权衡方面优于固定一致性级别和人工延迟，尤其适用于延迟敏感型工作负载。
• 该方法适用于支持多种客户端一致性级别的任何 NoSQL 系统，表明其具有广泛的实用价值。