[論文レビュー] Why Did My Query Slow Down?

Nedyalko Borisov, Shivnath Babu+3 more|arXiv (Cornell University)|Jul 18, 2009

Software System Performance and Reliability参考文献 13被引用数 5

ひとこと要約

この論文では、データベースクエリ実行計画とストレージエリアネットワーク（SAN）のパフォーマンスデータを関連付けるために、アノテートドプラングラフ（APG）を用いた診断フレームワーク「Diads」を提案する。これにより、データベース層とストレージ層の両方におけるクエリ遅延の根本原因を特定できる。マシンラーニングとドメイン固有の症状データベースを統合することで、実際の企業環境においても高い正確性で、複雑なレイヤー間の原因を特定可能となる。

ABSTRACT

Many enterprise environments have databases running on network-attached server-storage infrastructure (referred to as Storage Area Networks or SANs). Both the database and the SAN are complex systems that need their own separate administrative teams. This paper puts forth the vision of an innovative management framework to simplify administrative tasks that require an in-depth understanding of both the database and the SAN. As a concrete instance, we consider the task of diagnosing the slowdown in performance of a database query that is executed multiple times (e.g., in a periodic report-generation setting). This task is very challenging because the space of possible causes includes problems specific to the database, problems specific to the SAN, and problems that arise due to interactions between the two systems. In addition, the monitoring data available from these systems can be noisy. We describe the design of DIADS which is an integrated diagnosis tool for database and SAN administrators. DIADS generates and uses a powerful abstraction called Annotated Plan Graphs (APGs) that ties together the execution path of queries in the database and the SAN. Using an innovative workflow that combines domain-specific knowledge with machine-learning techniques, DIADS was applied successfully to diagnose query slowdowns caused by complex combinations of events across a PostgreSQL database and a production SAN.

研究の動機と目的

• データベースシステムとSANインfra構造の相互作用に起因するクエリ遅延の診断課題に対処すること。これは、管理の分離（スイカ）により、しばしば誤って原因が特定されがちな問題である。
• データベース管理者とSAN管理者の間の「責任のなすり合い」を排除することで、トラブルシューティングの時間とコストを削減し、エンドツーエンドの可視性を提供すること。
• データベース層とストレージ層の両方のパフォーマンスデータを統合する、新たな抽象化であるアノテートドプラングラフ（APG）を用いた統合診断フレームワークの開発。
• データベース演算子とSANコンponent間の依存関係をモデル化することで、プロアクティブな診断と構成変更の影響分析を可能にすること。
• ノイジーで高次元な監視環境において、機械学習と専門家が定義した症状、因果推論を組み合わせることで、診断の正確性を向上させること。

提案手法

• データベースクエリ実行計画をSANコンponent（パフォーマンスメトリクスや構成データを含む）にマッピングするアノテートドプラングラフ（APG）を構築する。
• ドメイン知識（症状データベース経由）と機械学習を組み合わせたハイブリッドアプローチを用い、複数レイヤーにまたがる異常行動の検出と関連付けを行う。
• SQLクエリから実行計画、演算子、最終的にはSANレベルのI/O、遅延、構成メトリクスに至るまでのマルチステージ診断ワークフローを適用する。
• 歴史的パフォーマンスデータを活用し、イベントが時間的に分散している場合でも、観察された症状と根本原因の因果関係を特定する。
• 統計的パターンと専門家ルールの両方から導かれる尤度スコアを用いて、潜在的な根本原因をランク付けする症状ベースの診断エンジンを実装する。
• 構成変更やワークロード変更がエンドツーエンドパフォーマンスに与える影響をモデル化することで、フレームワークを「もしも」分析やプロアクティブ診断をサポートするように拡張する。

実験結果

リサーチクエスチョン

• RQ1 監視データがノイジーで粗い状況下で、データベースとSAN管理者が協働してクエリ遅延を診断するには、どのような方法が有効か？（根本原因が両方のシステムにまたがる場合を想定）。
• RQ2 データベース実行計画とSANレベルのパフォーマンス・構成データを効果的に結びつける抽象化として、どのようなものが必要か？
• RQ3 複雑で多層的なシステムにおいて、誤った相関関係を避けるために、機械学習をドメイン固有の知識と効果的に統合するにはどうすればよいか？
• RQ4 実際の企業環境において、統合型診断システムは、分離されたルールベースのツールと比較して、診断時間を短縮し、正確性を向上させることができるか？
• RQ5 このようなシステムは、パフォーマンス問題が発生する前に、どの程度までプロアクティブな診断や構成変更の影響分析をサポートできるか？

主な発見

• Diadsは、PostgreSQLデータベースとSANを搭載した本番環境で、従来の孤立した監視では検出できなかった実際のクエリ遅延を正常に診断した。
• アノテートドプラングラフの活用により、クエリ演算子とSAN I/Oパターンの正確なマッピングが可能となり、共有ボリューム上のI/O競合といった隠れた依存関係が明らかになった。
• ドメイン知識（症状データベース）と機械学習の統合により、ノイジーな監視環境でも誤検出が著しく減少し、診断の正確性が向上した。
• クエリ実行計画の変更がSANの混雑状態やポートの飽和と相互作用することで生じる、複雑で連鎖的な原因（例：I/O負荷の増加）をDiadsは特定できた。
• 診断プロセスの短縮により、データドリブンな協働を可能にしたことで、トラブルシューティングのサイクルが著しく短縮された。
• このアプローチはプロアクティブ分析をサポートしており、生産ワークロードに影響が出る前にパフォーマンスの劣化を予測・防止することが可能となった。