[논문 리뷰] Distributed Multi-Agent Deep Reinforcement Learning Framework for Whole-building HVAC Control

Vinay Hanumaiah, Şahika Genç|arXiv (Cornell University)|2021. 10. 26.

Building Energy and Comfort Optimization인용 수 4

한 줄 요약

이 논문은 전체 건물의 허브리케이션 제어를 최적화하기 위해 Ray RLlib와 EnergyPlus를 공동 시뮬레이션하는 확장 가능하고 분산형 다중 에이전트 강화학습(DRL) 프레임워크를 제안한다. 난방 및 냉방 설정 온도를 별도의 에이전트로 운영함으로써, 열적 편안함을 유지하면서도 75% 이상의 에너지 절감을 달성하였으며, 효율적인 프로세스 간 동기화를 통해 이질적인 CPU와 GPU에서 훈련 속도를 높였다.

ABSTRACT

It is estimated that about 40%-50% of total electricity consumption in commercial buildings can be attributed to Heating, Ventilation, and Air Conditioning (HVAC) systems. Minimizing the energy cost while considering the thermal comfort of the occupants is very challenging due to unknown and complex relationships between various HVAC controls and thermal dynamics inside a building. To this end, we present a multi-agent, distributed deep reinforcement learning (DRL) framework based on Energy Plus simulation environment for optimizing HVAC in commercial buildings. This framework learns the complex thermal dynamics in the building and takes advantage of the differential effect of cooling and heating systems in the building to reduce energy costs, while maintaining the thermal comfort of the occupants. With adaptive penalty, the RL algorithm can be prioritized for energy savings or maintaining thermal comfort. Using DRL, we achieve more than 75\\% savings in energy consumption. The distributed DRL framework can be scaled to multiple GPUs and CPUs of heterogeneous types.

연구 동기 및 목표

• 상업용 건물에서 에어컨 및 난방 시스템이 총 에너지 소비의 최대 50%를 차지하는 높은 에너지 소비 문제를 해결하기 위해.
• 규칙 기반 및 모델 기반 제어 방법의 한계를 극복하기 위해, 강화학습을 통한 모델 자유형 및 적응형 최적화를 가능하게 하기 위해.
• 대규모 건물의 복잡한 열역학적 동역학을 위한 다중 존 및 다중 에이전트 제어를 지원하는 확장 가능하고 분산형 DRL 프레임워크를 개발하기 위해.
• 다양한 기상 조건과 에너지 절감 및 열적 편안함 간의 상호 트레이드오프를 고려한 프레임워크의 효과성을 입증하기 위해.
• 실제 구현을 위해 AWS와 같은 이종 클라우드 인스턴스를 활용하여 훈련 비용과 수렴 시간을 최적화하기 위해.

제안 방법

• 프레임워크는 Ray RLlib과 EnergyPlus 간의 공동 시뮬레이션 인터페이스를 사용하며, EnergyPlus는 건물의 열역학적 동역학을 시뮬레이션하고 상태 관측값을 OpenAI Gym 환경에 제공한다.
• RLlib 내의 강화학습 에이전트는 관측값에 기반해 행동을 결정하고, 에너지 소비와 열적 편안함에 기반한 보상을 수신하며, 정책 기반 알고리즘(예: PPO, APEX-DDPG)을 통해 정책을 업데이트한다.
• 에너지 비용과 열적 편안함 간의 균형을 맞추기 위해 차등 보상 계수(α)를 도입하여 에너지 절감과 온도 위반 간의 트레이드오프 분석을 가능하게 한다.
• 난방 및 냉방 설정 온도를 위한 별도의 신경망을 사용하여 다중 에이전트 제어를 구현함으로써 각 모드에 특화된 최적화를 가능하게 한다.
• RLlib의 다중 워커 아키텍처를 통해 분산 훈련을 구현하며, 에너지 절감 및 메시지 큐를 통한 에너지 절감 콜백을 통해 프로세스 간 통신을 관리한다.
• 시스템은 AWS 클라우드 인스턴스에 배포되었으며, GPU 및 CPU 구성에서 훈련 비용과 성능을 평가하였다.

실험 결과

연구 질문

• RQ1 이 분산 DRL 프레임워크는 다양한 기상 조건에서 허브리케이션 에너지 소비를 얼마나 줄이는가?
• RQ2 에너지-온도 보상 계수(α)는 에너지 절감과 열적 편안함 간의 트레이드오프에 어떤 영향을 미치는가?
• RQ3 난방 및 냉방을 위한 별도의 에이전트를 사용하는 다중 에이전트 제어와 다중 존 제어 간의 성능 비교는 보상, 에너지 소비 및 온도 위반 측면에서 어떻게 다른가?
• RQ4 PPO와 APEX-DDPG 중 어떤 DRL 알고리즘이 유사 성능를 유지하면서도 더 빠른 수렴 속도와 더 짧은 훈련 시간을 달성하는가?
• RQ5 HVAC DRL 훈련에서 훈련 비용과 시간을 최소화하기 위한 최적의 클라우드 하드웨어 조합(CPU/GPU)은 무엇인가?

주요 결과

• 프레임워크는 기준 규칙 기반 제어 대비 허브리케이션 에너지 소비를 75% 이상 감소시켰다.
• 모든 α 값에서 다중 에이전트 제어가 다중 존 제어를 능가하며, 보다 높은 보상, 더 낮은 에너지 소비 및 감소된 온도 위반을 기록했다.
• APEX-DDPG는 PPO 대비 84% 더 빠르게 수렴하고 훈련 시간을 60% 감소시켰으며, 유사한 보상 수준을 유지했다.
• ml.g4dn.16xlarge AWS 인스턴스는 테스트된 구성 중에서 가장 낮은 훈련 비용($1.36)과 가장 빠른 수렴 시간(15분)을 기록했다.
• 시스템은 이질적인 CPU와 GPU에서 효율적으로 확장되며, 콜백 기반 동기화를 통해 최소한의 지연으로 분산 훈련을 가능하게 했다.
• 기상 조건은 성능에 큰 영향을 미치며, 습도가 높은 도시에서는 외부 온도가 더 안정적이기 때문에 온도 위반이 낮게 나타났다.