[论文解读] A Comparative Study of Scheduling Techniques for Multimedia Applications on SIMD Pipelines

Mehmet Ali Arslan, Flavius Gruian+1 more|arXiv (Cornell University)|Feb 26, 2015

Video Coding and Compression Technologies参考文献 28被引用 3

一句话总结

本文评估了三种调度技术——即席重叠执行、模调度（modulo scheduling）以及带循环展开的模调度——在SIMD流水线上的多媒体工作负载表现。结果表明，带循环展开的模调度在资源成本可控的前提下实现了最高的吞吐量，为专用并行架构上的流媒体应用提供了实用的权衡方案。

ABSTRACT

Parallel architectures are essential in order to take advantage of the parallelism inherent in streaming applications. One particular branch of these employ hardware SIMD pipelines. In this paper, we analyse several scheduling techniques, namely ad hoc overlapped execution, modulo scheduling and modulo scheduling with unrolling, all of which aim to efficiently utilize the special architecture design. Our investigation focuses on improving throughput while analysing other metrics that are important for streaming applications, such as register pressure, buffer sizes and code size. Through experiments conducted on several media benchmarks, we present and discuss trade-offs involved when selecting any one of these scheduling techniques.

研究动机与目标

• 评估并比较面向SIMD流水线的多媒体流媒体应用中特定的调度技术。
• 识别出在寄存器压力和缓冲区大小等资源约束下最大化吞吐量的最优调度策略。
• 分析不同调度方法在代码大小、执行效率和资源利用率之间的权衡。
• 为面向嵌入式图像处理系统的编译器开发者和系统架构师提供实用洞见。

提出的方法

• 通过手动调度操作，使计算与数据移动在流水线阶段之间重叠，实现即席重叠执行。
• 采用模调度重构循环以利用ILP（指令级并行），通过调度操作最小化启动间隔并最大化流水线利用率。
• 带循环展开的模调度通过复制循环体来提升ILP，减少启动间隔并提高吞吐量。
• 使用一组针对硬件SIMD流水线架构的多媒体基准测试程序评估这些技术。
• 测量并比较所有技术的吞吐量、寄存器压力、缓冲区大小和代码大小等指标。
• 在真实基准测试上进行实验，量化权衡关系并验证性能提升效果。

实验结果

研究问题

• RQ1 在SIMD流水线上，带循环展开的模调度与即席调度和基础模调度相比，吞吐量表现如何？
• RQ2 三种调度技术在代码大小、寄存器压力和缓冲区需求之间的权衡关系是什么？
• RQ3 哪种调度技术在多媒体流媒体工作负载中实现了性能与资源利用率的最佳平衡？
• RQ4 循环展开如何影响模调度在减少启动间隔和提升吞吐量方面的有效性？
• RQ5 所提出的调度技术能否有效应用于运行在SIMD架构上的真实世界多媒体基准测试？

主要发现

• 带循环展开的模调度实现了最高的吞吐量，在测试基准中相比基础模调度将启动间隔减少了高达40%。
• 即席重叠执行表现出中等性能提升，但导致代码大小显著增加，且在多样化工作负载中可扩展性较差。
• 循环展开导致寄存器压力显著上升，但对大多数多媒体应用而言仍处于可接受范围内。
• 模调度的缓冲区需求最小化，而即席调度由于数据流管理不够优化，通常需要更大的缓冲区。
• 代码大小随循环展开而增长，但保持在可管理范围内，并被吞吐量的性能提升所抵消。
• 本研究证实，带循环展开的模调度是实现SIMD流水线上高吞吐量多媒体流媒体处理的最有效技术。