[论文解读] UStore: A Distributed Storage With Rich Semantics

Anh Dinh, Ji Wang+10 more|arXiv (Cornell University)|Feb 9, 2017

Distributed systems and fault tolerance参考文献 40被引用 11

一句话总结

UStore 是一种具有丰富语义的分布式存储系统，原生支持数据不可变性、共享和安全——统一了现代应用的核心特性。它采用类似 Git 的内容寻址数据结构（UObject），支持高效的版本化操作，在版本扫描和检索工作负载上优于通用键值存储系统和以太坊等专用系统。

ABSTRACT

Today's storage systems expose abstractions which are either too low-level (e.g., key-value store, raw-block store) that they require developers to re-invent the wheels, or too high-level (e.g., relational databases, Git) that they lack generality to support many classes of applications. In this work, we propose and implement a general distributed data storage system, called UStore, which has rich semantics. UStore delivers three key properties, namely immutability, sharing and security, which unify and add values to many classes of today's applications, and which also open the door for new applications. By keeping the core properties within the storage, UStore helps reduce application development efforts while offering high performance at hand. The storage embraces current hardware trends as key enablers. It is built around a data-structure similar to that of Git, a popular source code versioning system, but it also synthesizes many designs from distributed systems and databases. Our current implementation of UStore has better performance than general in-memory key-value storage systems, especially for version scan operations. We port and evaluate four applications on top of UStore: a Git-like application, a collaborative data science application, a transaction management application, and a blockchain application. We demonstrate that UStore enables faster development and the UStore-backed applications can have better performance than the existing implementations.

研究动机与目标

• 弥合现有存储系统在语义丰富性方面的不足（例如键值存储）或过于僵化（例如关系型数据库）的空白。
• 在一个存储层中统一不可变性、数据共享和安全三个关键特性，以降低应用开发的复杂性。
• 设计一个既高效又可扩展的系统，支持性能调优，并与多样化的硬件和工作负载集成。
• 通过将核心语义卸载到存储层，加速协作式、版本化和安全应用的开发并提升性能。

提出的方法

• 设计一种名为 UObject 的新型数据结构，这是一种内容寻址、不可变的对象，带有版本化指针，受 Git 启发但扩展用于分布式系统。
• 实现一个分布式、可扩展的存储层，支持高效的版本扫描、时间点查询，并通过访问控制策略实现安全访问。
• 利用现代硬件趋势，包括内存性能提升和可信执行环境（如 Intel SGX），以优化性能和安全性。
• 暴露核心 API，如 GetKPreviousVersion/Value 和版本化 Put/Get，以支持高效的版本化数据访问，降低应用层复杂度。
• 构建视图层抽象，以在核心 UObject 层之上支持更高层次的数据模型（例如 Git、协作分析）。
• 通过模块化组件（包括查询引擎和认证模块）与现有系统集成，以支持多样化工作负载。

实验结果

研究问题

• RQ1 统一的存储系统是否能够原生支持不可变性、共享和安全，从而在多样化工作负载中减少应用开发工作量？
• RQ2 与通用键值存储系统和区块链相比，基于 Git 的内容寻址数据模型在真实工作负载下的表现如何？
• RQ3 存储中的丰富语义在多大程度上能提升版本化数据操作（如版本扫描和时间点查询）的性能？
• RQ4 在分布式环境中，该系统能否在保持强一致性和安全保证的前提下实现高效可扩展性？
• RQ5 在高度版本化的分布式存储系统中，如何高效建模和强制执行访问控制与数据溯源？

主要发现

• UStore 在版本扫描操作中优于通用内存键值存储，在版本化数据访问方面表现出更优的效率。
• 在区块链用例中，UStore 通过直接调用 GetKPreviousVersion/Value 访问先前版本，避免了冗余的区块解析，显著降低了检索先前账户状态的开销。
• 在频繁进行版本化查询的工作负载中（如协作分析和事务管理），UStore 的性能优势最为明显。
• 由于支持直接的版本化访问，UStore 在版本化数据检索方面优于以太坊，而以太坊因需逐块解析导致更高的 I/O 开销。
• UStore 通过开箱即用的丰富语义（不可变性、共享、安全）加速了应用开发，减少了对自定义数据结构和协调逻辑的需求。
• 当前实现展现出良好的可扩展性和低延迟，性能优势在涉及版本化数据访问和溯源追踪的工作负载中尤为显著。