[论文解读] HEP Software Foundation Community White Paper Working Group -- Data Organization, Management and Access (DOMA)

D. Berzano, R. M. Bianchi+36 more|arXiv (Cornell University)|Nov 30, 2018

Advanced Data Storage Technologies参考文献 4被引用 4

一句话总结

本白皮书提出高能物理（HEP）领域数据组织、管理与访问（DOMA）的范式转变，倡导采用事件级数据访问、优化存储格式及动态数据放置策略，以应对HL-LHC与DUNE项目面临的艾字节级数据挑战。白皮书规划了协同研发路线图，目标在2020年前完成概念验证试验，实现在云与高性能计算（HPC）等多样化计算环境中高效、经济且可扩展的数据访问。

ABSTRACT

Without significant changes to data organization, management, and access (DOMA), HEP experiments will find scientific output limited by how fast data can be accessed and digested by computational resources. In this white paper we discuss challenges in DOMA that HEP experiments, such as the HL-LHC, will face as well as potential ways to address them. A research and development timeline to assess these changes is also proposed.

研究动机与目标

• 应对HL-LHC与DUNE实验即将面临的艾字节级数据挑战，该挑战可能超出当前数据管理能力的承受范围。
• 克服当前基于文件、以ROOT为中心的数据访问模型在利用云与HPC等动态计算资源方面的局限性。
• 在异构存储与计算基础设施上实现成本效益高、可扩展且低延迟的数据访问，以最大化科学产出。
• 开发并验证新型数据访问范式（如事件粒度访问与数据缓存），使其针对机器学习与实时分析等现代工作负载实现优化。
• 建立协调一致的研发路线图，确保在HL-LHC数据洪流到来之前，实现从传统系统向新一代数据管理框架的平稳过渡。
• 通过使数据管理与硬件、网络及应用趋势的发展保持同步，保障HEP计算的长期可持续性。

提出的方法

• 推动从基于数据集或文件的访问向基于事件或子事件的访问转变，以提升动态计算环境中的效率。
• 评估列式与行式数据组织在模拟、重建与分析工作负载中的性能表现。
• 评估现代数据存储格式（如Parquet、ORC）及针对过滤与硬件加速优化的压缩技术的可行性。
• 研究内容分发网络（CDNs）与命名数据网络（NDN）在广域网中提升数据分发与缓存效率的潜力。
• 开展数据缓存的概念验证实验，尤其针对机器学习工作负载与可抢占的云资源，以提升系统韧性与效率。
• 探索将Map-Reduce与Spark类分析框架集成至HEP数据处理管道，以支持可扩展的原位数据处理。

实验结果

研究问题

• RQ1 事件粒度的数据访问是否能显著提升在云竞价实例与HPC集群等机会性计算资源上的作业可恢复性与效率？
• RQ2 列式与行式数据布局在常见HEP分析工作负载（包括过滤与聚合）中的性能影响如何？
• RQ3 相较于ROOT格式，现代存储格式（如Parquet、ORC）在提升数据访问效率与降低I/O开销方面能实现多大程度的改进？
• RQ4 在HEP计算工作流中，使用CDNs与NDN进行广域数据分发的性能与成本效益如何？
• RQ5 如何针对多样化的存储层级与访问模式优化缓存策略，以降低延迟并提升动态计算资源的利用率？

主要发现

• 基于文件与ROOT为中心的当前数据管理模型，无法满足HL-LHC与DUNE预期的艾字节级数据体量需求。
• 事件粒度的数据访问在动态、可抢占的计算资源（如云竞价实例）上展现出显著提升系统韧性与效率的潜力。
• 列式数据格式在过滤与分析工作负载中具有显著优势，尤其在结合高效压缩与元数据索引时。
• 缓存机制，特别是与CDNs或NDN结合使用时，可显著降低数据访问延迟，并提升分布式计算资源的利用率。
• 机会性与战术性存储解决方案（包括对象存储与键值存储）可降低基础设施成本，并提升数据放置的灵活性。
• 实现数据访问的全局优化（兼顾延迟、成本与CPU效率）需要重新思考数据放置策略，包括采用数据湖架构与智能数据路由技术。