[论文解读] Loop Optimization Framework

Michael Kruse, Hal Finkel|arXiv (Cornell University)|Nov 1, 2018

Parallel Computing and Optimization Techniques参考文献 3被引用 4

一句话总结

本文在 LLVM 中提出了一种统一的循环结构 DAG 框架，用于整合循环优化，将独立的优化 pass 替换为单一、协调的转换 pass。通过集中依赖分析、收益启发式方法和代码生成，该框架实现了更安全、可组合且顺序无关的循环转换，减少了代码重复并提升了优化协同效应。

ABSTRACT

The LLVM compiler framework supports a selection of loop transformations such as vectorization, distribution and unrolling. Each transformation is carried-out by specialized passes that have been developed independently. In this paper we propose an integrated approach to loop optimizations: A single dedicated pass that mutates a Loop Structure DAG. Each transformation can make use of a common infrastructure such as dependency analysis, transformation preconditions, etc.

研究动机与目标

• 解决 LLVM 当前独立循环优化 pass 的局限性，这些局限性导致冗余分析、因版本化引起的代码膨胀以及转换顺序的不灵活。
• 通过统一依赖分析、收益启发式方法和转换前提条件等基础设施，实现可组合且安全的循环转换。
• 通过灵活可扩展的表示形式，同时支持 pragma 指导和自动优化（例如通过多面体分析）。
• 通过集中化代码克隆与复用，减少重复循环版本化带来的代码膨胀。
• 通过将 IR 正常化为保留转换自由度的形式，提升对 OpenMP 和向量化优化的支持，从而开启更多优化机会。

提出的方法

• 将循环表示为循环结构 DAG，这是一种高层级、标准化的中间形式，用于捕获语句、谓词和依赖关系，从而实现安全且可组合的转换。
• 引入红色/绿色节点以表示条件执行和控制流，支持仅基于谓词的控制流，使转换无需完全展开 IR。
• 在所有转换中集中进行依赖分析，支持内存、寄存器和控制依赖关系，且精度可调。
• 利用幂等性与可推测性等属性，指导安全的代码移动和值生成，减少不必要的内存操作。
• 通过将 DAG 转换为 LLVM-IR 或 VPlan，与现有 LLVM pass 集成，支持基于转换假设和成本模型的多种版本。
• 通过成本模型选择转换，评估多个 DAG 变体，选择最有利的配置。

实验结果

研究问题

• RQ1 在 LLVM 当前的 pass pipeline 架构下，如何使循环优化实现可组合且顺序无关？
• RQ2 统一的中间表示能否减少因多个独立 pass 重复版本化导致的代码膨胀？
• RQ3 共享基础设施（如依赖分析和收益启发式方法）在多大程度上能提升优化质量和性能？
• RQ4 当中端无法在 LLVM-IR 中看到线程并行语义时，如何有效转换 OpenMP 并行循环？
• RQ5 与当前基于独立启发式驱动的 pass 模型相比，单一集中式转换 pass 是否能在优化质量与编译效率方面表现更优？

主要发现

• 循环结构 DAG 通过将转换逻辑与分析解耦，实现了可组合的循环优化，允许转换共享预计算结果（如依赖信息）。
• 该框架通过集中化代码克隆，减少了版本化带来的代码膨胀——每个转换操作于共享 DAG，避免了独立 pass 层级克隆导致的指数级增长。
• 依赖分析在所有转换中实现统一，消除了冗余重新计算，并实现了对内存、寄存器和控制依赖关系的一致处理。
• 该表示支持 pragma 指导和自动优化（包括向量化与并行化），通过将 IR 正常化为保留转换自由度的形式实现。
• 该框架通过保留元数据并支持中端分析，实现了对 OpenMP 注解循环的安全转换，即使并行性通过运行时调用表达。
• 可生成多个 DAG 变体并进行成本模型评估，从而在不依赖固定 pass 顺序的情况下，选择最有利的转换序列。