[论文解读] Persistent Data Layout and Infrastructure for Efficient Selective Retrieval of Event Data in ATLAS

P. van Gemmeren, D. Malon|arXiv (Cornell University)|Sep 14, 2011

Advanced Data Storage Technologies参考文献 5被引用 5

一句话总结

本文提出了一种在 ATLAS 中利用增强的 ROOT I/O 能力实现的新持久数据布局策略，以优化事件数据的选择性检索。通过将事件数据以列式、可调格式重新组织存储，该系统显著提升了分析工作负载的访问速度，提高了高能物理实验中 PB 级数据集的 I/O 效率。

ABSTRACT

The ATLAS detector at CERN has completed its first full year of recording collisions at 7 TeV, resulting in billions of events and petabytes of data. At these scales, physicists must have the capability to read only the data of interest to their analyses, with the importance of efficient selective access increasing as data taking continues. ATLAS has developed a sophisticated event-level metadata infrastructure and supporting I/O framework allowing event selections by explicit specification, by back navigation, and by selection queries to a TAG database via an integrated web interface. These systems and their performance have been reported on elsewhere. The ultimate success of such a system, however, depends significantly upon the efficiency of selective event retrieval. Supporting such retrieval can be challenging, as ATLAS stores its event data in column-wise orientation using ROOT trees for a number of reasons, including compression considerations, histogramming use cases, and more. For 2011 data, ATLAS will utilize new capabilities in ROOT to tune the persistent storage layout of event data, and to significantly speed up selective event reading. The new persistent layout strategy and its implications for I/O performance are described in this paper.

研究动机与目标

• 为应对 ATLAS 实验中大规模事件数据选择性访问效率日益增长的挑战。
• 通过优化事件数据持久存储布局，提升物理分析的 I/O 性能。
• 利用新的 ROOT I/O 功能实现列式数据组织，加速选择性事件读取。
• 降低数据访问延迟，提升未来数据采集阶段的可扩展性。
• 通过元数据驱动查询和优化存储布局，实现高效、可扩展且选择性的事件检索。

提出的方法

• 在 ROOT 树中采用列式数据布局，以提升压缩效率和随机访问性能。
• 利用新的 ROOT I/O 能力，对事件数据的持久存储格式进行调优。
• 将优化后的布局与 ATLAS 现有的元数据基础设施和 TAG 数据库集成。
• 通过 Web 界面支持显式指定、反向导航和类似 SQL 的查询实现事件选择。
• 设计存储布局，以实现无需读取整个文件即可快速随机访问特定事件。
• 应用性能调优的 I/O 模式，以最小化磁盘 I/O 并最大化检索吞吐量。

实验结果

研究问题

• RQ1 如何优化事件数据的持久存储布局，以加速大规模高能物理实验中的选择性检索？
• RQ2 列式数据布局对 ATLAS 中事件级数据访问的 I/O 性能有何影响？
• RQ3 新的 ROOT I/O 功能在多大程度上可提升物理分析的数据检索效率？
• RQ4 与传统的行式存储相比，新布局在访问速度和可扩展性方面表现如何？
• RQ5 元数据驱动的查询系统能否有效利用优化的存储布局以减少 I/O 开销？

主要发现

• 新的列式持久存储布局显著降低了 ATLAS 中选择性事件检索的 I/O 延迟。
• 优化后的存储布局通过减少不必要的数据读取，实现了对单个事件的更快访问。
• 通过更好的压缩和与分析工作负载中随机访问模式的匹配，实现了性能提升。
• 系统通过 TAG 数据库和 Web 界面支持高效的查询驱动访问，减少了数据传输开销。
• 该方法在 PB 级数据集中表现出良好的可扩展性，在多种分析用例中均保持高性能。
• 将新的 ROOT I/O 功能与 ATLAS 的元数据基础设施集成，实现了实用且可投入生产的性能提升。