[論文レビュー] DINAMITE: A modern approach to memory performance profiling

Svetozar Miučin, Conor Brady+1 more|arXiv (Cornell University)|Jun 1, 2016

Parallel Computing and Optimization Techniques参考文献 18被引用数 3

ひとこと要約

DINAMITE は、LLVM を活用して正確なソースレベルのトレースを実現し、Spark Streaming を用いて完全なメモリアクセストレースのリアルタイム分析を可能にする、コンパイラベースの動的インストルメンテーションおよびストリーム処理フレームワークであり、高精度なメモリパフォーマンスプロファイリングを実現する。このフレームワークにより、キャッシュのボトル neck やデータレイアウトの問題を特定することで、アプリケーションで 15–20% の性能向上が得られ、キーバリュー ストアで 20 倍の高速化が達成された。

ABSTRACT

Diagnosing and fixing performance problems on multicore machines with deep memory hierarchies is extremely challenging. Certain problems are best addressed when we can analyze the entire trace of program execution, e.g., every memory access. Unfortunately such detailed execution logs are very large and cannot be analyzed by direct inspection. We present DINAMITE: a toolkit for Dynamic INstrumentation and Analysis for MassIve Trace Exploration. DINAMITE is a collection of tools for end-to-end performance analysis: from the LLVM compiler pass that instruments the program to plug-and-play tools that use a modern data analytics engine Spark Streaming for trace introspection. Using DINAMITE we found opportunities to improve data layout in several applications that resulted in 15-20% performance improvements and found a shared-variable bottleneck in a popular key-value store, whose elimination improved performance by 20x.

研究の動機と目的

• 深く階層化されたメモリ・ハイアラルキーを持つマルチコアシステムにおいて、メモリパフォーマンスのボトル neck を診断する課題に対処すること。
• 詳細なメモリアクセスパターンを分析する上で、ポータビリティ、汎用性、柔軟性に欠ける既存のツールの限界を克服すること。
• 最小限のランタイム・オーバーヘッドで、スケーラブルで拡張可能なフレームワークを提供し、エンドツーエンドのメモリトレース分析を実現すること。
• 正確なソースレベルのトレースインテロスペクションとストリーミング分析を通じて、高度なメモリ最適化を可能にすること。
• ハードウェアやオペレーティングシステム固有の依存関係なしに、柔軟でプラグイン可能なメモリアクセスパターンの分析をサポートすること。

提案手法

• すべてのメモリアクセスに対して細粒度のトレースコードを挿入するため、LLVM パスを用いたコンパイル時インストルメンテーションによるプログラムの変更。
• 効率性を高めるためにバッファリングを施したバイナリ形式で、ソースの場所、変数名、型、値、アクセスタイプを含む詳細なトレースデータを収集。
• Spark Streaming を用いてトレースをリアルタイムで処理し、大規模なトレース保存の必要性を排除。
• スケーラブルでモジュラーなアーキテクチャを採用し、Scala や他の言語で記述したカスタムアナリティクスをサポートするプラグイン分析ツールの統合。
• パイプラインにキャッシュシミュレータを統合し、ハードウェアレベルの挙動を再現し、最適化戦略の検証を可能にした。
• LLVM が提供する正確なデバッグ情報を利用して、トレースメタデータにおけるソースレベルの整合性を維持した。

実験結果

リサーチクエスチョン

• RQ1 コンパイラベースのインストルメンテーションフレームワークは、完全な精度のメモリトレース収集を可能にしつつ、低いランタイム・オーバーヘッドを達成できるか？
• RQ2 メモリトレースのリアルタイムストリーム処理は、従来のトレース保存に代わるものとなり、スケーラブルでインタラクティブなパフォーマンス分析を可能にするか？
• RQ3 このようなシステムが、誤った共有（false sharing）や悪いデータローカリティといった複雑なメモリボトル neck をどれほど正確に特定・解決できるか？
• RQ4 プラグイン可能な分析フレームワークの柔軟性は、モノリシックでOS やハードウェア固有のツールと比較して、パフォーマンス問題の特定において優れているか？
• RQ5 このフレームワークは、マルチレベルキャッシュのシミュレーションと細粒度のアクセスパターン分析をサポートするように拡張可能か？

主な発見

• DINAMITE は、トレースベースの分析を用いて、SPEC2006 の 429.mcf の最後段階キャッシュミス率を 55% 減少させ、パフォーマンスを 12% 向上させた。
• フレームワークは、PARSEC の fluidanimate アプリケーションで LLC ミス率を 50% 減少させ、パフォーマンスを 15% 向上させた。
• DINAMITE の2番目のツールによる構造分割を適用することで、429.mcf の LLC ミス率は 60% 減少し、実行時間は 20% 減少した。
• DINAMITE は、人気のあるキーバリュー ストアである WiredTiger における共有変数のボトル neck を検出しており、その修正により 20 倍のパフォーマンス向上が達成された。
• すべてのメモリアクセスをインストルメンテーションしたにもかかわらず、Pin や Valgrind と同等のランタイムスローダウンを実現した。
• Spark Streaming の統合により、最小限のストレージオーバーヘッドで、オンザフライでの分析が可能となり、スケーラブルかつインタラクティブなメモリプロファイリングを実現した。