[論文レビュー] STOMP: A Tool for Evaluation of Scheduling Policies in Heterogeneous Multi-Processors

Augusto Vega, Aporva Amarnath+7 more|arXiv (Cornell University)|Jul 28, 2020

Distributed and Parallel Computing Systems被引用数 7

ひとこと要約

STOMP は、ドメイン固有の SoC におけるタスクスケジューリングアルゴリズムの迅速なプロトタイピングと検証を可能にする、オープンソースで即座に利用可能な離散イベントシミュレータであり、異種マルチプロセッサシステムにおけるスケジューリングポリシーの評価に適している。閉形式モデルと比較した際の定常状態応答時間解析において、平均相対誤差が 0.50% から 1.45% の高精度を達成している。

ABSTRACT

The proliferation of heterogeneous chip multiprocessors in recent years has reached unprecedented levels. Traditional homogeneous platforms have shown fundamental limitations when it comes to enabling high-performance yet-ultra-low-power computing, in particular in application domains with real-time execution deadlines or criticality constraints. By combining the right set of general purpose cores and hardware accelerators together, along with proper chip interconnects and memory technology, heterogeneous chip multiprocessors have become an effective high-performance and low-power computing alternative. One of the challenges of heterogeneous architectures relates to efficient scheduling of application tasks (processes, threads) across the variety of options in the chip. As a result, it is key to provide tools to enable early-stage prototyping and evaluation of new scheduling policies for heterogeneous platforms. In this paper, we present STOMP (Scheduling Techniques Optimization in heterogeneous Multi-Processors), a simulator for fast implementation and evaluation of task scheduling policies in multi-core/multi-processor systems with a convenient interface for "plugging" in new scheduling policies in a simple manner. Thorough validation of STOMP exhibits small relative errors when compared against closed-formed equivalent models during steady-state analysis.

研究の動機と目的

• 異種マルチプロセッサシステムにおけるスケジューリングポリシーの初期段階評価に向けた柔軟でオープンソースのツールの不足に対処すること。
• 多様なプロセッシング要素を備えたドメイン固有 SoC において、新しいスケジューリングアルゴリズムの迅速なプロトタイピングと比較を支援すること。
• 初心者にも使いやすく、熟練者にもカスタマイズ可能な柔軟性を備えたシミュレーション環境を提供すること。
• さまざまなシステム利用度とワークロード特性の下で、シミュレータの正確さを解析的モデルと比較して検証すること。
• 低レベルのシミュレータコードを変更せずに、研究者がカスタムスケジューリングポリシーを簡単に統合して評価できるようにすること。

提案手法

• STOMP は QUTE フレームワークに基づくキュー駆動型離散イベントシミュレーションモデルを採用しており、確率的およびトレースベース実行モードの両方をサポートしている。
• 一般用途コア、GPU、アクセラレータ、DSP を含む、設定可能なプロセッシング要素を備えた異種システムをモデル化している。
• アプリケーションは、合成的または実際のプロファイリングデータから得られる有向非巡回グラフ（DAG）として表現される。
• ユーザーが内部コードを変更せずに新しいスケジューリングポリシーを実装・テストできる、即座に利用可能なインターフェースを提供している。
• 確率的（タスクの到着時間とサービス時間に設定可能な確率分布を使用）と現実的（実ワークロードからのトレースファイルを使用）の2つのシミュレーションモードをサポートしている。
• シミュレーション終了後、STOMP は応答時間、待機時間、キュー長ヒストограм、および各タスクおよびプロセッシング要素タイプごとのプロセッサ利用率といった詳細な統計を出力する。

実験結果

リサーチクエスチョン

• RQ1 STOMP は、解析的モデルと比較して、異種マルチプロセッサシステムの定常状態応答時間をどの程度正確にシミュレートできるか？
• RQ2 タスクの到着レートやサービス時間分布の違いに応じて、スケジューリングポリシーの性能はどのように変化するか？
• RQ3 計算時間の分散が大きい状況下で、残り時間推定に依存するスケジューリングポリシーはどのように影響を受けるか？
• RQ4 STOMP のシミュレーションの忠実度は、ドメイン固有 SoC におけるスケジューリングアルゴリズムの初期段階での探索をどの程度支援できるか？
• RQ5 低レベルのシミュレータコードの変更なしに、STOMP が新しいスケジューリングポリシーの効率的で柔軟かつ正確な評価を可能にするか？

主な発見

• STOMP は定常状態応答時間解析において小さな相対誤差を示しており、1サーバーでは 0.50%、2サーバーでは 0.83%、3サーバーでは 1.45% であり、閉形式モデルと比較した結果である。
• 平均タスク到着時間の短縮に伴い、タスクキュー長は顕著に増加し、50 単位の時間ではキューが空である割合が 54% に、100 単位では 94% にまで上昇する。
• 正確な残り時間推定に依存するポリシー（例：v3 および v4）は、計算時間の分散が大きくなると推定誤差の影響を受けて応答時間が長くなる。
• 分散が大きい状況下で v5 は v3 や v4 よりも優れた性能を示し、より頑健な残り時間推定手法を採用することで、性能劣化を低減している。
• トレースベースモードにより、実ワークロードプロファイルを用いた正確なシミュレーションが可能となり、スケジューリングポリシーの現実的評価が可能になっている。
• STOMP のオープンかつモジュール型の設計により、研究者が新しいスケジューリングポリシーを簡単に統合でき、迅速な実験と比較が可能になっている。