[论文解读] Correctness of Speculative Optimizations with Dynamic Deoptimization

Olivier Flückiger, Gabriel Scherer+4 more|arXiv (Cornell University)|Nov 8, 2017

Parallel Computing and Optimization Techniques被引用 8

一句话总结

本文提出了一种形式化框架，用于在动态语言编译器中推理推测性优化，通过在高级中间表示（sourir）中显式表示假设，使用显式的“assume”指令。通过将去优化元数据提升为一等公民，该框架支持正确、具备去优化感知能力的编译器变换，如常量折叠、内联和谓词提升，并通过双模拟关系提供正确性形式化证明。

ABSTRACT

High-performance dynamic language implementations make heavy use of speculative optimizations to achieve speeds close to statically compiled languages. These optimizations are typically performed by a just-in-time compiler that generates code under a set of assumptions about the state of the program and its environment. In certain cases, a program may execute code compiled under assumptions that are no longer valid. The implementation must then deoptimize the program on-the-fly; this entails finding semantically equivalent code that does not rely on invalid assumptions, translating program state to that expected by the target code, and transferring control. This paper looks at the interaction between optimization and deoptimization, and shows that reasoning about speculation is surprisingly easy when assumptions are made explicit in the program representation. This insight is demonstrated on a compiler intermediate representation, named \sourir, modeled after the high-level representation for a dynamic language. Traditional compiler optimizations such constant folding, dead code elimination, and function inlining are shown to be correct in the presence of assumptions. Furthermore, the paper establishes the correctness of compiler transformations specific to deoptimization: namely unrestricted deoptimization, predicate hoisting, and assume composition.

研究动机与目标

• 形式化即时编译器中推测性优化与动态去优化之间的交互机制，适用于动态语言。
• 解决在存在推测性优化与去优化时，缺乏系统性、可重用的编译器变换推理机制的问题。
• 证明在中间表示中显式表达假设可简化对优化与去优化正确性的推理。
• 为具备去优化感知能力的编译器优化提供形式化基础，包括针对恢复机制与推测管理的特定优化。

提出的方法

• 设计一种受 RIR 启发的高级中间表示 sourir，支持函数的多个版本及显式假设。
• 引入一种新的“assume”指令，用于检查谓词，若为假则触发去优化，并附带相应的去优化元数据。
• 定义函数版本之间的双模拟关系，以形式化证明在不同假设下的语义等价性。
• 形式化去优化不变量，以确保在栈上替换期间能够正确重建状态。
• 证明标准优化（如常量折叠、内联）在存在假设与去优化时的正确性。
• 建立专门优化的正确性：无限制去优化、谓词提升与 assume 组合。

实验结果

研究问题

• RQ1 在何种条件下，基于不同假设编译的函数多个版本在语义上是等价的？
• RQ2 传统编译器优化如何在涉及去优化时仍能保持正确性？
• RQ3 对于去优化操作（如状态重建与栈帧合成）可提供哪些形式化保证？
• RQ4 在推测执行存在的情况下，如何形式化证明谓词提升与 assume 组合等优化的正确性？
• RQ5 显式表示假设在简化优化正确性推理方面起到何种作用？

主要发现

• 带有显式“assume”指令的 sourir 中间表示，使得对推测性优化与去优化的清晰、形式化推理成为可能。
• 标准编译器优化（如常量折叠、不可达代码消除、函数内联）在存在假设与去优化时，形式化证明其正确性。
• 通过基于双模拟的推理，专门优化（无限制去优化、谓词提升、assume 组合）的形式化证明其正确性。
• 该方法仅在去优化元数据确认某值对恢复有用时，才支持安全的死存储消除，从而防止错误优化。
• 形式化框架通过双模拟关系，支持优化版本与去优化版本之间的等价终止与语义等价。
• 该模型支持对栈上替换与去优化期间状态重建的推理，确保控制转移的正确性。