[논문 리뷰] Automatic Playtesting for Game Parameter Tuning via Active Learning

Alexander Zook, Eric Fruchter외 1명|arXiv (Cornell University)|2019. 08. 04.

Artificial Intelligence in Games참고 문헌 26인용 수 28

한 줄 요약

이 논문은 슈팅 게임의 제어 및 난이도 설정과 같은 게임 파라미터 튜닝을 위한 인간 플레이테스팅의 자동화와 비용 절감을 위해 액티브 러닝(Active Learning, AL)을 제안한다. 플레이테스팅을 AL 문제로 모델링함으로써, 최적의 파라미터 설정을 선택하여 인간 플레이테스팅의 횟수를 크게 줄이고, 랜덤 샘플링 대비 더 높은 효율성으로 설계 목표를 달성한다.

ABSTRACT

Game designers use human playtesting to gather feedback about game design elements when iteratively improving a game. Playtesting, however, is expensive: human testers must be recruited, playtest results must be aggregated and interpreted, and changes to game designs must be extrapolated from these results. Can automated methods reduce this expense? We show how active learning techniques can formalize and automate a subset of playtesting goals. Specifically, we focus on the low-level parameter tuning required to balance a game once the mechanics have been chosen. Through a case study on a shoot-`em-up game we demonstrate the efficacy of active learning to reduce the amount of playtesting needed to choose the optimal set of game parameters for two classes of (formal) design objectives. This work opens the potential for additional methods to reduce the human burden of performing playtesting for a variety of relevant design concerns.

연구 동기 및 목표

• 게임 개발에서 인간 플레이테스팅의 높은 비용과 노력을 줄이기 위해 파라미터 튜닝의 자동화를 목표로 한다.
• 저수준의 게임 파라미터 튜닝을 액티브 러닝(Active Learning, AL) 문제로 체계화하여 인간 테스트 반복 횟수를 최소화한다.
• 난이도 균형과 제어 반응성이라는 두 가지 핵심 설계 목표를 최적화하는 데서 AL의 효과성을 평가한다.
• 기계 기반 플레이테스팅이 수렴 속도와 정확도 면에서 랜덤 샘플링 대비 뛰어나다는 것을 입증한다.
• 다양한 플레이어 선호도를 충족시키는 기본 제어 설정을 자동으로 선택할 수 있는 AL의 잠재력을 탐색한다.

제안 방법

• 각 파라미터 설정을 입력으로, 인간 피드백을 출력으로 하는 액티브 러닝(Active Learning, AL) 문제로 게임 파라미터 튜닝을 모델링한다.
• 엔트로피, QBB 투표, 오차 감소, 분산 감소와 같은 할당 함수를 사용하여 인간 테스트에 가장 정보가 많은 파라미터 세트를 선정한다.
• 참가자들이 게임 설정을 비교하고 난이도 또는 제어 품질 기준으로 평가하는 온라인 연구를 통해 인간 선호도 데이터를 수집한다.
• 진행적으로 선정된 데이터를 기반으로 지도 학습 분류기(Gaussian Process, Kernel SVM, Neural Network)를 훈련하여 최적의 파라미터를 예측한다.
• 불확실성 또는 영향력이 큰 영역을 중심으로 설계 공간에서의 파라미터 선택을 반복적으로 개선한다.
• 학습 효율성 향상을 측정하기 위해 F1 점수와 분류 정확도를 기준으로 AL 성능을 랜덤 샘플링과 비교한다.

실험 결과

연구 질문

• RQ1 액티브 러닝은 원하는 설계 목표를 달성하면서도 인간 플레이테스팅 횟수를 줄일 수 있는가?
• RQ2 인간 선호도 피드백 기반 게임 파라미터 튜닝에서 액티브 러닝의 할당 함수 중 어떤 것이 가장 효과적인가?
• RQ3 난이도 및 제어 관련 게임 파라미터 최적화에서 액티브 러닝은 랜덤 샘플링 대비 어떻게 비교되는가?
• RQ4 기계 기반 플레이테스팅은 다양한 플레이어 선호도를 충족시키는 기본 제어 설정의 선택을 어느 정도 자동화할 수 있는가?
• RQ5 액티브 러닝은 파라미터 튜닝을 넘어서 레벨 디자인이나 균형 조정과 같은 다른 게임 디자인 작업으로 일반화될 수 있는가?

주요 결과

• 액티브 러닝은 랜덤 샘플링 대비 필수 플레이테스팅 횟수를 크게 줄였으며, 최고의 할당 함수는 200개 샘플에서 F1 점수를 최대 12% 향상시켰다.
• Gaussian Process 분류기와 함께 사용된 QBB(Query by Committee) 확률 할당 함수는 200개 샘플에서 F1 점수 0.792를 기록하여 가장 높은 성능을 보였다.
• 엔트로피 기반 할당 함수는 모든 분류기 유형에서 랜덤 샘플링을 능가했으며, 100개 샘플에서 F1 점수 5.9% 향상되었다.
• 오차 감소 할당 함수를 사용한 Gaussian Process(GP) 분류기는 200개 샘플에서 F1 점수 0.795를 기록하여 불확실성 인식 선택에서 뛰어난 성능을 보였다.
• 모든 AL 방법이 일관되게 랜덤 샘플링을 능가했으며, 이는 정보가 풍부한 테스트 설정 선택이 최적의 파라미터에 더 빨리 수렴시킨다는 것을 보여준다.
• 연구 결과 액티브 러닝이 난이도 및 제어 파라미터 양쪽을 효과적으로 최적화할 수 있으며, 인간 피드백을 활용한 분류 성능 향상이 측정 가능하다는 점을 입증했다.