[论文解读] Noncontiguous I/O through PVFS

Avery Ching, Alok Choudhary+3 more|ArXiv.org|Jul 29, 2002

Advanced Data Storage Technologies参考文献 10被引用 5

一句话总结

本文提出列表I/O（list I/O），一种在并行虚拟文件系统（PVFS）中实现的原生非连续I/O机制，旨在提升高性能计算中的I/O性能。通过优化文件系统层面的分散I/O操作处理方式，列表I/O减少了开销，在各类工作负载下均优于传统非连续I/O方法，显著提升了实际科学应用的性能。

ABSTRACT

With the tremendous advances in processor and memory technology, I/O has risen to become the bottleneck in high-performance computing for many applications. The development of parallel file systems has helped to ease the performance gap, but I/O still remains an area needing significant performance improvement. Research has found that noncontiguous I/O access patterns in scientific applications combined with current file system methods to perform these accesses lead to unacceptable performance for large data sets. To enhance performance of noncontiguous I/O we have created list I/O, a native version of noncontiguous I/O. We have used the Parallel Virtual File System (PVFS) to implement our ideas. Our research and experimentation shows that list I/O outperforms current noncontiguous I/O access methods in most I/O situations and can substantially enhance the performance of real-world scientific applications.

研究动机与目标

• 解决科学应用中非连续I/O访问模式导致的高性能计算I/O瓶颈问题。
• 克服现有文件系统方法在处理大规模数据集上的分散I/O操作时的性能限制。
• 在PVFS框架内设计并实现一种原生非连续I/O机制——列表I/O，以提升I/O效率。
• 在多种I/O工作负载和系统配置下，评估列表I/O与传统非连续I/O技术的性能表现。

提出的方法

• 作者在PVFS中设计了列表I/O作为原生I/O接口，允许应用程序将多个非连续I/O请求作为单一操作提交。
• 列表I/O将分散的I/O请求聚合为单个系统调用，相比单独的系统调用，显著降低了内核和文件系统的开销。
• 该实现利用PVFS的架构，在多台存储服务器之间高效管理I/O请求，最小化延迟并最大化带宽利用率。
• 系统使用请求列表结构来维护关于非连续区域的元数据，从而实现高效的调度与数据检索。
• 通过合成基准测试和真实科学应用对性能进行了评估，以测量I/O吞吐量和延迟。
• 在具有不同I/O模式、数据大小和并发进程数量的集群环境中对方法进行了评估。

实验结果

研究问题

• RQ1 在类似PVFS的并行文件系统中，原生非连续I/O机制是否能显著降低相比传统基于系统调用方法的I/O开销？
• RQ2 在各种I/O访问模式下（包括小规模和大规模非连续传输），列表I/O的性能表现如何？
• RQ3 列表I/O在处理具有不规则I/O工作负载的实际科学应用时，性能提升程度如何？
• RQ4 随着I/O请求数量和并发进程数量的增加，列表I/O的可扩展性如何？

主要发现

• 在大多数I/O场景下，列表I/O优于传统非连续I/O方法，尤其在访问模式不规则的应用中表现更优。
• 性能提升在小规模和中等规模的非连续I/O请求中最为显著，此时系统调用开销占主导地位。
• 通过减少系统调用次数并优化请求批处理，列表I/O降低了I/O延迟并提高了吞吐量。
• 实际科学应用在使用列表I/O时表现出可测量的性能提升，证实了其在生产级HPC环境中的实际效益。
• 随着I/O请求数量和并发进程数量的增加，该方法表现出良好的可扩展性，性能提升保持稳定。