[论文解读] MLIR: A Compiler Infrastructure for the End of Moore's Law

Chris Lattner, Mehdi Amini+8 more|arXiv (Cornell University)|Feb 25, 2020

Parallel Computing and Optimization Techniques参考文献 47被引用 120

一句话总结

MLIR 提供一个可重用、可扩展的编译器基础设施，具备模块化的、基于 SSA 的 IR 和方言，以支持异构硬件和领域特定编译器，目标是减少碎片化并加速编译器开发。

ABSTRACT

This work presents MLIR, a novel approach to building reusable and extensible compiler infrastructure. MLIR aims to address software fragmentation, improve compilation for heterogeneous hardware, significantly reduce the cost of building domain specific compilers, and aid in connecting existing compilers together. MLIR facilitates the design and implementation of code generators, translators and optimizers at different levels of abstraction and also across application domains, hardware targets and execution environments. The contribution of this work includes (1) discussion of MLIR as a research artifact, built for extension and evolution, and identifying the challenges and opportunities posed by this novel design point in design, semantics, optimization specification, system, and engineering. (2) evaluation of MLIR as a generalized infrastructure that reduces the cost of building compilers-describing diverse use-cases to show research and educational opportunities for future programming languages, compilers, execution environments, and computer architecture. The paper also presents the rationale for MLIR, its original design principles, structures and semantics.

研究动机与目标

• 提出一个通用、可扩展的编译器基础设施，以减少跨领域和硬件目标的碎片化。
• 提供一个标准的基于 SSA 的 IR，带可定制的方言，以支持多层次的抽象。
• 提供用于解析、验证、转换和调试的基础设施，以简化编译器开发。
• 展示 MLIR 如何统一多样化的编译栈，并促进研究、教育和工具开发。

提出的方法

• 介绍 MLIR 的核心抽象：基于 SSA 的 IR、区域、操作（Ops）以及方言。
• 描述设计原则：尽量少的内置概念、渐进式降低和保持高级语义。
• 通过 Operation Descriptions (ODS) 和 Declarative Rewrite Rules (DRR) 提供声明式 IR 定义。
• 解释 MLIR 的方言、传递、验证和多级 IR 管理的基础设施。
• 展示对多线程、可往返的文本 IR 形式以及丰富的位置/跟踪数据的支持。

实验结果

研究问题

• RQ1 如何在不对概念进行硬编码的情况下，让单一 IR 框架支持多种高级抽象（如 ML 图、ASTs、polyhedral 形式）？
• RQ2 渐进式降级与方言组合是否能够在多样化硬件目标上实现高效的异构编译？
• RQ3 MLIR 如何在可扩展生态系统中实现模块化、可重用的编译传递和可靠的验证？
• RQ4 声明式重写模式与基于 TableGen 的 Op 描述在可扩展性与工具链方面有哪些好处？

主要发现

• MLIR 提供了一个通用的基础设施，通过使方言模块化和可重用的传递来降低构建编译器的成本。
• 该设计在从高级抽象到硬件目标的渐进式降级中保留必要的语义。
• 方言混用和基于区域的 IR 使跨领域的复用成为可能，并促进异构编译。
• 声明式重写模式和 DRR/ODS 使变换更容易、可验证，且可扩展的优化成为可能。
• 该基础设施包含验证、文档生成和可往返的文本 IR，以帮助调试和教育。