[论文解读] How fast can we make interpreted Python?

Russell Power, Alex Rubinsteyn|arXiv (Cornell University)|Jun 25, 2013

Logic, programming, and type systems参考文献 14被引用 7

一句话总结

Falcon 是一个高性能的基于寄存器的 Python 解释器，通过将基于栈的字节码转换为寄存器代码、应用优化并使用带缓存的线程化分发机制，其执行速度相比 CPython 最快可提升 2.5 倍。它在保持与 CPython API 完全兼容的同时，在标准基准测试中实现了平均 25% 的性能提升。

ABSTRACT

Python is a popular dynamic language with a large part of its appeal coming from powerful libraries and extension modules. These augment the language and make it a productive environment for a wide variety of tasks, ranging from web development (Django) to numerical analysis (NumPy). Unfortunately, Python's performance is quite poor when compared to modern implementations of languages such as Lua and JavaScript. Why does Python lag so far behind these other languages? As we show, the very same API and extension libraries that make Python a powerful language also make it very difficult to efficiently execute. Given that we want to retain access to the great extension libraries that already exist for Python, how fast can we make it? To evaluate this, we designed and implemented Falcon, a high-performance bytecode interpreter fully compatible with the standard CPython interpreter. Falcon applies a number of well known optimizations and introduces several new techniques to speed up execution of Python bytecode. In our evaluation, we found Falcon an average of 25% faster than the standard Python interpreter on most benchmarks and in some cases about 2.5X faster.

研究动机与目标

• 研究在不破坏现有 C 扩展库的前提下，CPython 兼容解释器的性能提升潜力有多大。
• 评估基于寄存器的字节码和优化技术是否能显著提升 Python 解释器速度，同时保持完整的 C API 兼容性。
• 设计一种系统，实现在无需性能分析或启发式方法的情况下，对 Python 函数进行快速的在线编译。
• 探索在动态语言运行时中，带标签的对象表示方式和高效内存布局对性能的影响。

提出的方法

• 将 CPython 的基于栈的字节码转换为基于寄存器的中间表示，以减少栈操作的开销。
• 对基于寄存器的字节码应用静态优化，如冗余计算消除和寄存器分配减少。
• 使用线程化解释器分发机制，以加速常见执行模式。
• 实现寄存器标记和属性查找缓存，以减少动态方法调用和原语操作的开销。
• 将 Falcon 作为 CPython 的透明扩展集成，使用装饰器（@falcon）将函数标记为由 Falcon 执行。
• 通过保留内部对象布局和行为，确保与 CPython C API 的完全兼容。

实验结果

研究问题

• RQ1 在使用基于寄存器的字节码和优化技术的前提下，CPython 兼容解释器能实现多大的性能提升？
• RQ2 即时注册转换和优化是否足够高效，足以在无需性能分析的情况下实现实时编译？
• RQ3 通过 C API 暴露内部对象布局在多大程度上限制了未来 Python 解释器的性能改进？
• RQ4 带标签的表示方式（如整数或 NaN 标记）在减少原语类型性能开销方面有多有效？
• RQ5 属性查找缓存和专用容器类型是否能进一步提升高级动态语言的性能？

主要发现

• Falcon 在大多数基准测试中相比 CPython 实现了平均 25% 的性能提升，部分工作负载最快可提升 2.5 倍。
• 即时注册转换和优化足够高效，可对每个函数在线应用，从而无需依赖性能分析启发式方法。
• 基于寄存器的执行减少了栈操作的开销，即使对解释器进行最小改动，也能带来可测量的性能提升。
• 带标签的对象格式（如整数或 NaN 标记）可显著减少性能惩罚，有望将解释器的性能损耗从 100 倍降低至 5 倍，接近 C 语言性能。
• 使用属性查找提示和缓存可提升性能，但当前机制作用范围有限，若能在字节码级别添加更多显式提示，效果可进一步增强。
• C API 暴露内部对象布局严重限制了未来性能改进，因为对象表示的更改会破坏现有的 C 扩展。