[論文レビュー] Cluster Workload Allocation: Semantic Soft Affinity Using Natural Language Processing

Leszek Śliwko, Jolanta Mizeria-Pietraszko|arXiv (Cornell University)|Jan 14, 2026

Cloud Computing and Resource Management被引用数 0

ひとこと要約

論文は、自然言語処理を用いた意味論的・意図指向のクラスタワークロードスケジューリング手法を提案し、ソフトアフィニティのヒント解釈のために Kubernetes スケジューラ拡張を通じてLLMを統合します。

ABSTRACT

Cluster workload allocation often requires complex configurations, creating a usability gap. This paper introduces a semantic, intent-driven scheduling paradigm for cluster systems using Natural Language Processing. The system employs a Large Language Model (LLM) integrated via a Kubernetes scheduler extender to interpret natural language allocation hint annotations for soft affinity preferences. A prototype featuring a cluster state cache and an intent analyzer (using AWS Bedrock) was developed. Empirical evaluation demonstrated high LLM parsing accuracy (>95% Subset Accuracy on an evaluation ground-truth dataset) for top-tier models like Amazon Nova Pro/Premier and Mistral Pixtral Large, significantly outperforming a baseline engine. Scheduling quality tests across six scenarios showed the prototype achieved superior or equivalent placement compared to standard Kubernetes configurations, particularly excelling in complex and quantitative scenarios and handling conflicting soft preferences. The results validate using LLMs for accessible scheduling but highlight limitations like synchronous LLM latency, suggesting asynchronous processing for production readiness. This work confirms the viability of semantic soft affinity for simplifying workload orchestration and presents a proof-of-concept design.

研究の動機と目的

• クラスタワークロードの設定と割り当てにおける使い勝手のギャップを動機づける。
• 自然言語処理を活用した意味論的・意図指向のスケジューリングパラダイムを導入する。
• クラスタ状態キャッシュと意図アナライザを備えたプロトタイプを開発し、LLMベースの割り当て解釈をテストする。
• 特に複雑なシナリオにおいて、LLM駆動のスケジューリングがベースラインの Kubernetes 配置と同等以上を達成できるか評価する。

提案手法

• 自然言語の割り当てヒントを解釈するために Kubernetes スケジューラ拡張を通じて Large Language Model (LLM) を統合する。
• ソフトアフィニティの嗜好を導出するために AWS Bedrock を用いた意図アナライザを実装する。
• スケジューリング決定を高速化するクラスタ状態キャッシュを備えたプロトタイプを開発する。
• LLMベースの解釈精度を実データセットと比較して経験的に評価する。
• 標準の Kubernetes 設定と比較して配置結果を複数シナリオで比較するスケジューリング品質テストを実行する。

実験結果

リサーチクエスチョン

• RQ1 自然言語ヒントは LLM によってクラスタワークロードのアフィニティを正確に解釈できるか。
• RQ2 複雑または対立するソフト嗜好がある場合において、LLM支援スケジューリングはベースラインの Kubernetes 配置と比べて優れたまたは同等の配置品質を達成するか。
• RQ3 生産環境でのスケジューリングにおける LL M のレイテンシと準備完了の影響は何か。
• RQ4 提案された意味論的ソフトアフィニティ手法は、アクセス可能なワークロードオーケストレーションの概念実証として実現可能か。

主な発見

• LLM の解釈精度はトップクラスのモデル（例：Amazon Nova Pro/Premier および Mistral Pixtral Large）で ground-truth データセット上の 95% 超の部分精度を達成。
• プロトタイプは六つのシナリオで標準の Kubernetes 設定と比較して優れたまたは同等の配置を達成。
• 複雑で定量的なシナリオや矛盾するソフト嗜好を扱う際に特に優れている。
• LLM の同期レイテンシのためスケジューリング性能が影響を受け、生産準備には非同期処理が必要となる可能性。