[論文レビュー] The first deployment of workload management services on the EU DataGrid Testbed: feedback on design and implementation

Giuseppe Avellino, Stefano Beco+27 more|ArXiv.org|May 31, 2003

Distributed and Parallel Computing Systems参考文献 2被引用数 8

ひとこと要約

この論文は、EU DataGrid Testbedにおけるワークロード管理サービスの1年間の展開を分析し、分散ジョブスケジューリングにおける重要な設計および実装上の欠陥を特定している。8つの主要な原則——リソース制限の強制、信頼性の高い通信の確保、状態保持リポジトリの最小化——を提案し、2回目のメジャーリリースの再設計を支援することで、システムの安定性とフォールトトレランスを著しく向上させた。

ABSTRACT

Application users have now been experiencing for about a year with the standardized resource brokering services provided by the 'workload management' package of the EU DataGrid project (WP1). Understanding, shaping and pushing the limits of the system has provided valuable feedback on both its design and implementation. A digest of the lessons, and "better practices", that were learned, and that were applied towards the second major release of the software, is given.

研究の動機と目的

• EU DataGrid Testbedにおけるワークロード管理サービスの1年間の展開中に発生した運用上の課題を分析すること。
• WP1ワークロード管理システムの設計および実装におけるシステム的問題を特定し、パフォーマンスと信頼性の低下要因を同定すること。
• 実際の展開経験から得たフィードバックをもとに、2回目のメジャーソフトウェアリリースのアーキテクチャを指針づける設計原則を抽出・形式化すること。
• 非線形挙動、リソースリーク、通信障害といった分散グリッド環境に一般的に見られる問題に対処することで、システムのレジリエンスを向上させること。

提案手法

• ジョブリクエストの流れを分析し、潜在的なボトルネックを同定するため、ワークロード管理システムをキューのネットワークとしてモデル化すること。
• 実地のトラブルシューティングとパフォーマンス監視を適用し、従来のキュー理論の予測を無効にする非線形システム挙動を検出すること。
• 無制限のスレッド／プロセス生成や、制限のない動的メモリ割り当てといった問題のあるプログラミングパターンを同定すること。
• ネットワーク通信のためのダブルコミット／ロールバックと、ファイルシステムベースのメッセージングを導入することで、メッセージ損失を防止する信頼性の高いメカニズムを実装すること。
• ジョブライフサイクルコンponentの監視と回復を担当するペアのプロセスまたはエンティティを導入し、責任の所在を明確にすること。
• ジョブおよびリクエスト情報の単一の権威あるソースを指定することで、状態保持リポジトリを設計段階から最小限に抑え、不一致と複雑性を低減すること。

実験結果

リサーチクエスチョン

• RQ1 初期のWP1ワークロード管理システムに見られた、実運用展開中にパフォーマンス劣化と不安定性を引き起こしたシステム的設計欠陥は何か？
• RQ2 分散システムにおける非線形挙動——無制限のリソース割り当てやロック競合——は、従来のキュー理論モデルのパフォーマンス予測をどのように無効にしているか？
• RQ3 運用フィードバックから導き出せる、グリッドワークロード管理システムにおけるフォールトトレランスとスケーラビリティを向上させるアーキテクチャ的原則は何か？
• RQ4 ダブルコミットやファイルシステムベースのメッセージングといった通信パターンによって、信頼性と回復可能性はどの程度向上できるか？
• RQ5 分散コンポONENT間での状態管理をどのように単純化・一貫性を持たせれば、複雑性と障害発生リスクを低減できるか？

主な発見

• 初期展開の結果、無制限のスレッド生成やメモリリークといった非線形効果のため、従来のキュー理論はシステム挙動の予測に不適切であることが判明した。
• スレッド、プロセス、メモリオブジェクトの制限のない動的割り当ては、リソース枯渇とシステム不安定化を引き起こし、厳密なチューナブルな制限の導入が不可欠であった。
• システム全体のロックが必要なパイプライン領域は、競合のため深刻なボトルネックとなり、適切なリソース調整の重要性が浮き彫りになった。
• ダブルコミット／ロールバックメカニズムとファイルシステムによるローカルメッセージングを採用することで、障害発生時におけるメッセージ損失を防止し、信頼性の高い通信を実現した。
• 各ジョブライフサイクル要因に専用の監視プロセスを割り当てることで、責任の所在を明確にし、自動回復を可能にした。これにより、障害回復が著しく向上した。
• ジョブ情報の単一の権威あるソースを指定することで、状態保持リポジトリを最小限に抑え、不一致の低減とトラブルシューティング・展開の簡素化を達成した。