[論文レビュー] How fast can we make interpreted Python?

Russell Power, Alex Rubinsteyn|arXiv (Cornell University)|Jun 25, 2013

Logic, programming, and type systems参考文献 14被引用数 7

ひとこと要約

Falconは、スタックベースのバイトコードをレジスタベースのコードに変換し、最適化を適用し、キャッシュ付きスレッドディスpatchを用いることで、CPythonより最大2.5倍高速な実行を達成する、高パフォーマンスなレジスタベースのPythonインタプリタです。CPythonのAPI互換性を維持しながら、標準ベンチマークで平均25%の高速化を実現しています。

ABSTRACT

Python is a popular dynamic language with a large part of its appeal coming from powerful libraries and extension modules. These augment the language and make it a productive environment for a wide variety of tasks, ranging from web development (Django) to numerical analysis (NumPy). Unfortunately, Python's performance is quite poor when compared to modern implementations of languages such as Lua and JavaScript. Why does Python lag so far behind these other languages? As we show, the very same API and extension libraries that make Python a powerful language also make it very difficult to efficiently execute. Given that we want to retain access to the great extension libraries that already exist for Python, how fast can we make it? To evaluate this, we designed and implemented Falcon, a high-performance bytecode interpreter fully compatible with the standard CPython interpreter. Falcon applies a number of well known optimizations and introduces several new techniques to speed up execution of Python bytecode. In our evaluation, we found Falcon an average of 25% faster than the standard Python interpreter on most benchmarks and in some cases about 2.5X faster.

研究の動機と目的

• 既存のC拡張ライブラリを破壊しないCPython互換のインタプリタで、どれだけのパフォーマンス向上が達成できるかを調査すること。
• レジスタベースのバイトコードと最適化技術が、完全なCPython C API互換性を保ちながらPythonインタプリタの速度を顕著に向上させられるかを評価すること。
• プロファイリングやヒューリスティクスを必要とせず、オンラインで高速にPython関数をコンパイルできるシステムを設計すること。
• 動的言語ランタイムにおけるタグ付きオブジェクト表現と効率的なメモリレイアウトのパフォーマンスへの影響を調査すること。

提案手法

• スタックベースのバイトコードをレジスタベースの中間表現に変換することで、スタック操作のオーバーヘッドを低減する。
• レジスタバイトコードに対して、重複計算の削除やレジスタ割り当ての削減といった静的最適化を適用する。
• 一般的な実行パターンを高速化するため、スレッドディスパッチ方式のインタプリタディスpatchメカニズムを採用する。
• レジスタタギングと属性参照キャッシュを実装することで、動的メソッド呼び出しやプリミティブ演算のオーバーヘッドを低減する。
• デコレータ（@falcon）を用いて関数をFalcon実行用に選択的に有効化できるようにし、CPython内にFalconを透明な拡張として統合する。
• 内部オブジェクトレイアウトと振る舞いを保持することで、CPythonのC APIとの完全な互換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 レジスタベースのバイトコードと最適化を用いることで、CPython互換のインタプリタでどの程度のパフォーマンス向上が達成できるか？
• RQ2 ジャストインタイムでのレジスタ変換と最適化は、プロファイリングを必要とせずオンラインで適用可能か、その処理速度は十分に高速か？
• RQ3 C APIを通じて内部オブジェクトレイアウトを公開することで、Pythonインタプリタの将来のパフォーマンス向上にどの程度制限が生じるか？
• RQ4 整数やNaNタギングなどのタグ付き表現形式は、プリミティブ型のパフォーマンスオーバーヘッドをどの程度低減できるか？
• RQ5 属性参照ヒントとキャッシュの活用、および特殊化されたコンテナ型の導入は、高水準の動的言語においてさらにパフォーマンス向上をもたらせるか？

主な発見

• Falconは、大多数のベンチマークでCPython比平均25%の高速化を達成しており、一部のワークロードでは最大2.5倍の高速化が実現されている。
• ジャストインタイムでのレジスタ変換と最適化は、関数ごとにオンラインで適用可能であり、プロファイリングやヒューリスティクスの必要性を排除できるほど効率的である。
• レジスタベースの実行によりスタック操作のオーバーヘッドが低減され、インタプリタへの最小限の変更でも顕著な速度向上が得られている。
• タグ付きオブジェクト形式（例：整数タギングやNaNタギング）は、パフォーマンスペナルティを顕著に低減でき、C言語との比較でインタプリタの遅延を100倍から5倍にまで削減する可能性を秘めている。
• 属性参照ヒントとキャッシュの活用によりパフォーマンスが向上しているが、現在の実装は範囲が限定されており、より明示的なバイトコードレベルのヒントを導入することでさらなる改善が可能である。
• C APIが内部オブジェクトレイアウトを公開しているため、オブジェクト表現の変更が既存のC拡張ライブラリを破壊するおそれがあり、将来的なパフォーマンス向上に深刻な制限をもたらしている。