[论文解读] Interprocedural Type Specialization of JavaScript Programs Without Type Analysis

Maxime Chevalier-Boisvert, Marc Feeley|arXiv (Cornell University)|Nov 3, 2014

Logic, programming, and type systems参考文献 24被引用 1

一句话总结

本文提出了一种惰性基本块版本化技术，这是一种JIT编译技术，通过在代码生成期间利用上下文相关的类型信息（无需静态类型分析），惰性地生成基本块的类型专业化版本，从而消除冗余的JavaScript类型检查。该技术可实现高达71%的类型检查移除和50%的性能提升，优于传统的基于流的类型分析，并与追踪JIT（如TraceMonkey）具有竞争力。

ABSTRACT

Dynamically typed programming languages such as JavaScript and Python defer type checking to run time. In order to maximize performance, dynamic language VM implementations must attempt to eliminate redundant dynamic type checks. However, type inference analyses are often costly and involve tradeoffs between compilation time and resulting precision. This has lead to the creation of increasingly complex multi-tiered VM architectures. This paper introduces lazy basic block versioning, a simple JIT compilation technique which effectively removes redundant type checks from critical code paths. This novel approach lazily generates type-specialized versions of basic blocks on-the-fly while propagating context-dependent type information. This does not require the use of costly program analyses, is not restricted by the precision limitations of traditional type analyses and avoids the implementation complexity of speculative optimization techniques. We have implemented intraprocedural lazy basic block versioning in a JavaScript JIT compiler. This approach is compared with a classical flow-based type analysis. Lazy basic block versioning performs as well or better on all benchmarks. On average, 71% of type tests are eliminated, yielding speedups of up to 50%. We also show that our implementation generates more efficient machine code than TraceMonkey, a tracing JIT compiler for JavaScript, on several benchmarks. The combination of implementation simplicity, low algorithmic complexity and good run time performance makes basic block versioning attractive for baseline JIT compilers.

研究动机与目标

• 解决传统类型推断在动态语言JIT编译器中成本高且精度有限的问题。
• 在不依赖昂贵的全程序类型分析的前提下，消除JavaScript中的冗余动态类型检查。
• 开发一种轻量级、实用的JIT优化技术，适用于基线编译器，且实现复杂度极低。
• 评估通过基本块版本化实现的运行时类型专业化是否能优于静态类型分析和现有的追踪JIT。

提出的方法

• 基于执行上下文累积的类型信息，在运行时惰性地克隆并专业化基本块。
• 维护一个类型上下文（类型映射），在代码生成期间跟踪每个程序点的变量类型。
• 当遇到类型检查且参数类型已知时，移除该检查并生成一个专业化版本的块。
• 每个基本块可拥有多个版本，每个版本对应一个独立的类型上下文，从而实现类型专业化代码生成。
• 类型信息在控制流边上传播，根据类型检查结果为条件分支创建独立的类型上下文。
• 该技术通过仅在实际执行路径上生成代码，避免了静态过近似，从而减少了代码膨胀。

实验结果

研究问题

• RQ1 是否可以在JIT编译器中不依赖静态类型分析，有效实现类型检查的移除？
• RQ2 与经典的基于流的类型分析相比，惰性基本块版本化在性能和类型检查移除方面表现如何？
• RQ3 基本块版本化在多大程度上减少了代码大小并避免了病态的膨胀？
• RQ4 该技术在复杂基准测试中是否能超越成熟的追踪JIT（如TraceMonkey）？
• RQ5 该方法在多样化JavaScript工作负载中消除类型检查的效率如何？

主要发现

• 平均而言，惰性基本块版本化技术移除了71%的类型检查，而所测试的基于流的类型分析仅移除了16%。
• 该技术在基准测试套件中实现了最高达50%的性能提升，且在所有工作负载中均表现出一致的改进。
• 在每个块最多限制为5个版本的情况下，平均代码大小增加仅为0.19%，表明膨胀极小。
• Higgs（该技术的实现）在大多数基准测试中优于V8的基线编译器，并在复杂工作负载中与或超过TraceMonkey的表现。
• 该方法通过解耦代码路径，有效处理了包含多种数值类型的控制流，实现了高效的类型专业化。
• 该方法对动态语言特性（如eval和动态模块加载）具有鲁棒性，而这些特性通常会破坏传统类型分析。