[論文レビュー] Load Balancer Tuning: Comparative Analysis of HAProxy Load Balancing Methods

Connor Rawls, Mohsen Amini Salehi|arXiv (Cornell University)|Dec 29, 2022

Cloud Computing and Resource Management被引用数 4

ひとこと要約

本稿は、多様なワークロードおよびバックエンド構成下でのHAProxyの負荷分散アルゴリズムの評価を行い、スレッド数のチューニングとアルゴリズム選定が応答時間およびリソース効率に顕著な影響を与えることを示している。同研究では、均質的環境ではランダム、leastconn、roundrobinが最適であると特定し、非均質的環境ではNLBに比べALBベースの手法が優れていることを示し、クラウドコストとパフォーマンス最適化のための実用的なチューニングガイドラインを提示している。

ABSTRACT

Load balancing is prevalent in practical application (e.g., web) deployments seen today. One such load balancer, HAProxy, remains relevant as an open-source, easy-to-use system. In the context of web systems, the load balancer tier possesses significant influence over system performance and the incurred cost, which is decisive for cloud-based deployments. Therefore, it is imperative to properly tune the load balancer configuration and get the most performance out of the existing resources. In this technical report, we first introduce the HAProxy architecture and its load balancing methods. Then, we discuss fine-tuning parameters within this load balancer and examine their performances in face of various workload intensities. Our evaluation encompasses various types of web requests and homogeneous and heterogeneous back-ends. Lastly, based on the findings of this study, we present a set of best practices to optimally configure HAProxy.

研究の動機と目的

• 異なる負荷分散アルゴリズムと負荷強度の下でのHAProxyのパフォーマンスを評価すること。
• 特にスレッド数を含む設定パラメータが応答時間およびシステム効率に与える影響を調査すること。
• 均質的および非均質的バックエンドサーバ環境におけるネットワーク層（NLB）とアプリケーション層（ALB）の負荷分散手法の有効性を比較すること。
• クラウドコストを最小限に抑えつつパフォーマンスを最大化するためのデータ駆動型ベストプラクティスを提供すること。

提案手法

• 均質的および非均質的バックエンドサーバ構成下で、実世界のWebワークロードを用いてHAProxyのベンチマークを実施した。
• 動的負荷分散意思決定を支援するため、libvirtを用いてカスタムCPU使用率監視を実装した。
• リアルタイムCPU使用率しきい値に基づいてサーバーをフィルタリングするカスタムランダムアルゴリズムをHAProxyのソースコードに拡張した。
• Makefile設定およびカスタムコンパイルフラグを用いて、追加ライブラリ（例：libvirt）を含めた変更済みHAProxyをコンパイルした。
• 複数の負荷分散アルゴリズムおよびスレッド構成下での応答時間とシステムスルーレットを測定した。
• 増加するリクエスト負荷下でのパフォーマンストレンドを分析し、アルゴリズム的および構成上のトレードオフを同定した。

実験結果

リサーチクエスチョン

• RQ1 HAProxyの処理スレッド数は、隔離環境および共有ホスト環境下で応答時間にどのように影響するか？
• RQ2 均質的バックエンドサーバ環境下で、ランダム、leastconn、roundrobinなどの負荷分散アルゴリズムのうち、どのアルゴリズムが最も低い応答時間を達成するか？
• RQ3 バックエンドサーバーの能力が非均質な状況下で、ALBベースのアルゴリズムとNLBベースのアルゴリズムのパフォーマンスはどのように比較されるか？
• RQ4 サーバーの非均質性は負荷分散パフォーマンスにどのような影響を及ぼし、どのアルゴリズムがそれを最も効果的に活用できるか？
• RQ5 リアルタイムサーバーメトリクス（例：CPU使用率）を考慮したカスタムチューニング済みアルゴリズムは、負荷分散効率を向上させることができるか？

主な発見

• HAProxyを隔離環境で実行する場合、デフォルトのスレッド数が最良の応答時間を達成するが、他のプロセスと共有する場合、わずかにスレッド数を減らすことでパフォーマンスが向上する。
• 均質的バックエンド環境では、ランダム、leastconn、roundrobin、static-rrアルゴリズムが最小で安定した応答時間を達成し、変動も最小限に抑えられる。
• 非均質なサーバー環境下では、アプリケーション層情報とサーバー状態を考慮するALBベースのアルゴリズムが、NLBベースのものよりも優れたパフォーマンスを示す。
• 非均質なバックエンドでは、ソースベースやURIベースのハッシュ化アルゴリズムが必要となり、一般的なアルゴリズムでは負荷の偏りが生じ、性能が低下する可能性がある。
• リアルタイムCPU使用率監視を組み込んだHAProxyのカスタマイズにより、高使用率サーバーへの過負荷リスクを低減するスマートなリクエストルーティングが可能になる。
• 本研究では、アルゴリズムの複雑さとパフォーマンス向上のトレードオフが明確に特定され、実際の運用では単純なアルゴリズムが複雑なものよりも優れている場合が多いことが判明した。