[論文レビュー] MSC: A Dataset for Macro-Management in StarCraft II

Huikai Wu, Zong, Yanqi+2 more|arXiv (Cornell University)|Oct 9, 2017

Artificial Intelligence in Games参考文献 31被引用数 11

ひとこと要約

本稿では、StarCraft IIにおけるマクロマネジメントのための大規模で標準化されたデータセットMSCを紹介する。このデータセットには、選別された前処理、事前に定義されたハイレベルアクション、および分割された学習／検証／テストセットが含まれる。グローバル状態評価（TvTで61.1％の正解率）とビルドオーダー予測（TvTで74.1％の正解率）のベースラインモデルを確立し、マクロマネジメントタスクにおける再現可能で確実な研究を可能にする。

ABSTRACT

Macro-management is an important problem in StarCraft, which has been studied for a long time. Various datasets together with assorted methods have been proposed in the last few years. But these datasets have some defects for boosting the academic and industrial research: 1) There're neither standard preprocessing, parsing and feature extraction procedures nor predefined training, validation and test set in some datasets. 2) Some datasets are only specified for certain tasks in macro-management. 3) Some datasets are either too small or don't have enough labeled data for modern machine learning algorithms such as deep neural networks. So most previous methods are trained with various features, evaluated on different test sets from the same or different datasets, making it difficult to be compared directly. To boost the research of macro-management in StarCraft, we release a new dataset MSC based on the platform SC2LE. MSC consists of well-designed feature vectors, pre-defined high-level actions and final result of each match. We also split MSC into training, validation and test set for the convenience of evaluation and comparison. Besides the dataset, we propose a baseline model and present initial baseline results for global state evaluation and build order prediction, which are two of the key tasks in macro-management. Various downstream tasks and analyses of the dataset are also described for the sake of research on macro-management in StarCraft II. Homepage: https://github.com/wuhuikai/MSC.

研究の動機と目的

• StarCraft IIにおけるマクロマネジメントのための標準化され大規模なデータセットの不足が、再現可能な研究を阻害しているという問題に対処すること。
• SC2LEのリプレイデータに対して統一された前処理、解析、特徴抽出パイプラインを提供すること。
• マクロマネジメントモデルの公平な評価を可能にするために、学習・検証・テストセットへの一貫した分割を定義すること。
• グローバル状態評価やビルドオーダー予測といった重要なマクロマネジメントタスクのためのベースラインモデルと結果を確立すること。
• 共通のベンチマークデータセットを提供することで、異なる研究間での手法の直接比較を可能にすること。

提案手法

• データセットMSCは、PySC2を用いてSC2LEの80万件のリプレイをフィルタリング・解析し、定期的な間隔で状態スナップショットを抽出することで構築される。
• 特徴ベクトルは、グローバルゲーム状態と空間的ユニット分布の両方を捉えるように設計され、標準化された前処理と正規化が施されている。
• ハイレベルアクションは、ユニット生産やテクノロジーの強化といったゲーム内意思決定に基づき事前に定義され、離散的アクション空間を形成する。
• 最終的なデータセットは、モデルの評価とハイパーパramータチューニングを支援するため、学習・検証・テストセットに分割される。
• ベースラインモデルは、PyTorchを用いてGRUと全結合層を実装し、グローバル特徴と空間的特徴を共有ネットワークアーキテクチャで統合する。
• 損失関数には、ビルドオーダー予測のための負の対数尤度と、グローバル状態評価のための交差エントロピーが含まれ、ADAMによる最適化が行われる。

実験結果

リサーチクエスチョン

• RQ1 標準化され大規模なデータセットが、StarCraft IIにおけるマクロマネジメント研究の再現可能性と比較可能性を向上させることができるか？
• RQ2 統一されたデータセットを用いた場合、グローバル状態評価とビルドオーダー予測におけるベースラインモデルの性能はどの程度か？
• RQ3 空間的特徴の組み込みが、マクロマネジメントタスクにおけるモデル性能にどのように影響するか？
• RQ4 グローバル状態評価において、ゲームの進行に伴いモデルの正解率がどの程度向上するか？
• RQ5 異なるレース対戦（例：TvT、TvZ、ZvZ）において、ベースライン結果はどのように変動するか？

主な発見

• グローバル状態評価のベースラインモデルは、Terran対Terran対戦においてテストセットで61.1％の正解率を達成した。正解率は、序盤（0％～25％）の52.9％から終盤（75％～100％）の79.7％へと上昇した。
• ビルドオーダー予測のベースラインモデルは、Terran対Terran対戦でトップ1正解率74.1％を達成した。全レース対戦において正解率は73.1％～76.1％の範囲に収まった。
• グローバル特徴と空間的特徴の両方を組み込むことで性能が向上し、ZvZ対戦では74.9％、PvP対戦では76.3％のビルドオーダー予測正解率に到達した。
• グローバル状態評価におけるモデルの性能は、時間の経過に伴い正解率が明確に上昇する傾向を示しており、ゲームが進むにつれて状態がより予測可能になることを示している。
• MSCデータセットは、事前に定義された分割と標準化された特徴を備えており、今後のマクロマネジメントモデルの直接比較を可能にする一貫したベンチマークを提供する。
• ベースライン結果は、今後の研究の強力な出発点を提供しており、高度なアーキテクチャーや特徴工学の応用によりさらなる向上が期待できる。