[논문 리뷰] Practical Bayesian Optimization for Transportation Simulators

Laura Luise Schultz, Vadim Sokolov|arXiv (Cornell University)|2018. 10. 08.

Simulation Techniques and Applications참고 문헌 30인용 수 3

한 줄 요약

이 논문은 복잡하고 고차원적인 교통 시뮬레이터를 校정하기 위해 차원 축소를 통합한 완전 베이지안 최적화 프레임워크를 제안한다. 활성 학습, 가우시안 프로세스 회귀, 선형/비선형 차원 축소(활성 부분공간 및 신경망)를 결합함으로써, 계산 비용을 줄이고 샘플 효율성을 향상시키며, 평균 6.4분 이내로 실세계의 다중 모odal 네트워크(인디アナ주 블루밍턴)를 정확하게 校정할 수 있는 효율적이고 병렬 처리 가능한 최적화를 가능하게 한다.

ABSTRACT

We provide a method to solve optimization problem when objective function is a complex stochastic simulator of an urban transportation system. To reach this goal, a Bayesian optimization framework is introduced. We show how the choice of prior and inference algorithm effect the outcome of our optimization procedure. We develop dimensionality reduction techniques that allow for our optimization techniques to be applicable for real-life problems. We develop a distributed, Gaussian Process Bayesian regression and active learning models that allow parallel execution of our algorithms and enable usage of high performance computing. We present a fully Bayesian approach that is more sample efficient and reduces computational budget. Our framework is supported by theoretical analysis and an empirical study. We demonstrate our framework on the problem of calibrating a multi-modal transportation network of city of Bloomington, Illinois. Finally, we discuss directions for further research.

연구 동기 및 목표

• 해석적 기울기가 없고 계산 비용이 높은 고차원적, 확률적 교통 시뮬레이터의 校정 문제를 해결하기 위해.
• 사전 분포 잘못 설정에 대한 민감도 분석과 불확실성 정량화를 가능하게 하는 완전 베이지안 접근법을 개발하기 위해.
• 활성 부분공간과 딥 러닝 기반 차원 축소 기법을 통해 시뮬레이터 校정에서 차원의 극복 문제를 해결하기 위해.
• 스케일러블하고 분산된 최적화를 위해 병렬 배치 및 고성능 컴퓨팅을 통한 실용적 구현을 가능하게 하기 위해.
• 기존 메타휴리스틱 방법보다 샘플 효율성과 정확도에서 뛰어난 이론적으로 탄탄하고 경험적으로 검증된 프레임워크를 제공하기 위해.

제안 방법

• 프레임워크는 시뮬레이터의 블랙박스 목적 함수를 모델링하기 위해 완전 베이지안 하이퍼파rameter 추론을 적용한 가우시안 프로세스 회귀를 사용한다.
• 활성 학습을 위한 확보 기대값(예: EI)을 할당 함수로 사용하여, 평가할 가장 정보가 많은 파라미터 조합을 순차적으로 선택한다.
• 활성 부분공간을 통한 선형 차원 축소는 시뮬레이터 출력이 가장 크게 변하는 저차원 부분공간을 식별하여 최적화 차원을 감소시킨다.
• 신경망을 통한 비선형 차원 축소는 고차원 파라미터를 예측 정확도를 유지하면서도 저차원 잠재 공간으로 매핑한다.
• 분산형 배치 최적화 전략은 시뮬레이터 실행을 병렬로 수행할 수 있게 하여 수렴 속도를 가속화하고 고성능 컴퓨팅 환경을 지원한다.
• 이 방법은 제약 조건이 있는 파라미터 범위를 통해 사전 지식을 통합하고, 초기 실험 설계에 라틴 하이퍼큐브 샘플링(LHS)을 사용한다.

실험 결과

연구 질문

• RQ1 해석적 기울기가 없는 고차원적, 확률적 교통 시뮬레이터에 대해 베이지안 최적화를 효과적으로 적용할 수 있는가?
• RQ2 완전 베이지안 접근법이 빈도주의나 휘리스틱 방법에 비해 샘플 효율성과 불확실성 정량화에서 얼마나 향상되는가?
• RQ3 활성 부분공간과 신경망이 복잡한 교통 모델 파라미터의 차원을 효과적으로 축소하면서도 校정 정확도를 유지할 수 있는가?
• RQ4 기존의 메타휴리스틱 최적화 기법(예: SPSA 또는 유전자 알고리즘)과 비교할 때 제안된 프레임워크의 성능과 확장성은 어떠한가?
• RQ5 실세계 도시 교통 校정에서 분산형 배치 베이지안 최적화 프레임워크의 계산 오버헤드와 수렴 속도는 어떠한가?

주요 결과

• 프레임워크는 24시간 동안의 실제 수요와 평균 6.4분 이내의 정확도로 校정을 달성했으며, 표준편차는 5분이었다. 이는 실세계 데이터에 뛰어난 일치도를 보임을 시사한다.
• 활성 부분공간의 사용으로 파라미터 공간의 효과적 차원이 감소하여 고차원 환경에서도 효율적인 최적화가 가능해졌다.
• 완전 베이지안 접근법은 견고한 불확실성 정량화를 제공했고, 사전 분포에 대한 민감도 분석을 가능하게 하여 모델 신뢰도를 향상시켰다.
• 병렬 배치 전략은 벽시계 시간을 크게 감소시켜 고성능 컴퓨팅 클러스터에서 대규모 시뮬레이터에 대해 실용적인 방법이 되었다.
• 비선형 차원 축소를 위해 신경망을 통합함으로써, 복잡하고 비선형적인 시뮬레이터 환경에서 선형 방법 대비 더 높은 校정 정확도를 달성했다.
• 경험적 결과는 제안된 방법이 기존 메타휴리스틱 접근법보다 샘플 효율성이 뛰어나 최적의 校정에 도달하기 위해 필요한 시뮬레이터 평가 횟수가 적었음을 보여주었다.