[논문 리뷰] MSC: A Dataset for Macro-Management in StarCraft II

Huikai Wu, Zong, Yanqi외 2명|arXiv (Cornell University)|2017. 10. 09.

Artificial Intelligence in Games참고 문헌 31인용 수 11

한 줄 요약

이 논문은 대규모 표준화된 데이터셋 MSC를 소개하며, 스타크래프트 II에서의 마크로 관리 작업을 위한 것으로, 정제된 전처리, 사전 정의된 고수준 행동, 분할된 훈련/검증/테스트 세트를 포함한다. 전역 상태 평가( TvT에서 61.1% 정확도) 및 빌드 오더 예측( TvT에서 74.1% 정확도)을 위한 베이스라인 모델을 수립하여 마크로 관리 작업 분야에서 재현 가능한 연구를 가능하게 한다.

ABSTRACT

Macro-management is an important problem in StarCraft, which has been studied for a long time. Various datasets together with assorted methods have been proposed in the last few years. But these datasets have some defects for boosting the academic and industrial research: 1) There're neither standard preprocessing, parsing and feature extraction procedures nor predefined training, validation and test set in some datasets. 2) Some datasets are only specified for certain tasks in macro-management. 3) Some datasets are either too small or don't have enough labeled data for modern machine learning algorithms such as deep neural networks. So most previous methods are trained with various features, evaluated on different test sets from the same or different datasets, making it difficult to be compared directly. To boost the research of macro-management in StarCraft, we release a new dataset MSC based on the platform SC2LE. MSC consists of well-designed feature vectors, pre-defined high-level actions and final result of each match. We also split MSC into training, validation and test set for the convenience of evaluation and comparison. Besides the dataset, we propose a baseline model and present initial baseline results for global state evaluation and build order prediction, which are two of the key tasks in macro-management. Various downstream tasks and analyses of the dataset are also described for the sake of research on macro-management in StarCraft II. Homepage: https://github.com/wuhuikai/MSC.

연구 동기 및 목표

• 스타크래프트 II에서 마크로 관리 작업을 위한 표준화되고 대규모인 데이터셋의 부족으로 인해 재현 가능한 연구가 저해되고 있다는 문제를 해결하기 위해.
• SC2LE에서의 레코딩 데이터에 대해 통합된 전처리, 파싱, 특징 추출 파이프라인을 제공하기 위해.
• 모델 평가의 공정성을 확보하기 위해 훈련, 검증, 테스트 세트로 일관된 분할을 정의하기 위해.
• 전역 상태 평가 및 빌드 오더 예측과 같은 핵심 마크로 관리 작업을 위한 베이스라인 모델과 결과를 수립하기 위해.
• 공통의 벤치마크 데이터셋을 제공하여 다양한 연구 간의 방법 비교를 직접 가능하게 하기 위해.

제안 방법

• MSC 데이터셋은 PySC2를 사용하여 SC2LE의 800만 개 레코딩을 필터링하고 파싱하여, 정기 간격으로 상태 스냅샷을 추출함으로써 구성된다.
• 특징 벡터는 전역 게임 상태와 공간적 유닛 분포를 모두 반영하도록 설계되었으며, 표준화된 전처리 및 정규화를 포함한다.
• 고수준 행동은 게임 내 결정, 예를 들어 유닛 생산 또는 기술 업그레이드와 같은 것들에 기반하여 사전 정의되며, 이는 이산 행동 공간을 형성한다.
• 최종 데이터셋은 모델 평가 및 하이퍼파rameter 튜닝을 지원하기 위해 훈련, 검증, 테스트 세트로 분할된다.
• 베이스라인 모델은 PyTorch를 사용하여 GRU와 완전 연결 계층을 구현하였으며, 전역 및 공간적 특징을 공유 네트워크 아키텍처를 통해 통합한다.
• 손실 함수로는 빌드 오더 예측에 음의 로그우도, 전역 상태 평가에 교차 엔트로피를 사용하며, ADAM으로 최적화된다.

실험 결과

연구 질문

• RQ1 표준화되고 대규모인 데이터셋이 스타크래프트 II 마크로 관리 연구의 재현 가능성과 비교 가능성 향상에 기여할 수 있는가?
• RQ2 통합된 데이터셋을 사용할 때 전역 상태 평가 및 빌드 오더 예측 작업에 대한 베이스라인 모델의 성능은 어떠한가?
• RQ3 공간적 특징의 포함이 마크로 관리 작업의 모델 성능에 어떤 영향을 미치는가?
• RQ4 전역 상태 평가에서 게임 진행에 따라 모델 정확도가 얼마나 향상되는가?
• RQ5 다양한 종족 전투 조합(TvT, TvZ, ZvZ 등)에서 베이스라인 결과는 어떻게 달라지는가?

주요 결과

• 전역 상태 평가를 위한 베이스라인 모델은 테라안 대 테라안 전투에서 테스트 세트 정확도 61.1%를 기록했으며, 게임 초반(0%-25%)의 52.9%에서 게임 종반(75%-100%)의 79.7%로 정확도가 증가함을 확인하였다.
• 빌드 오더 예측을 위한 베이스라인 모델은 테라안 대 테라안 전투에서 Top-1 정확도 74.1%를 기록했으며, 모든 종족 전투 조합에서 73.1%에서 76.1%의 정확도를 기록하였다.
• 전역 및 공간적 특징을 모두 포함한 모델은 성능 향상을 보였으며, ZvZ 전투에서는 빌드 오더 예측 정확도가 74.9%에 도달했고, PvP 전투에서는 76.3%에 도달하였다.
• 전역 상태 평가에서 모델의 성능은 시간이 지남에 따라 정확도가 증가하는 명확한 추세를 보였으며, 이는 게임이 진행될수록 게임 상태가 더 예측 가능해짐을 시사한다.
• MSC 데이터셋은 사전 정의된 분할과 표준화된 특징을 제공하여 일관된 벤치마크를 제공하며, 향후 마크로 관리 모델 간 직접 비교를 가능하게 한다.
• 베이스라인 결과는 향후 연구를 위한 강력한 기초를 제공하며, 고도의 아키텍처 및 특징 공학을 통해 향상 가능성이 있다.