[논문 리뷰] Dynaformer: A Deep Learning Model for Ageing-aware Battery Discharge Prediction

Luca Biggio, Tommaso Bendinelli외 2명|arXiv (Cornell University)|2022. 06. 01.

Advanced Battery Technologies Research인용 수 15

한 줄 요약

이 논문은 校정이 필요 없이 모든 노후화 수준에서 높은 정확도로 전체 배터리 방전 곡선을 예측할 수 있는 새로운 Transformer 기반 딥러닝 모델인 Dynaformer를 제안한다. 소수의 초기 전압/전류 샘플만을 사용하여 배터리 노후화 상태를 동시에 추론하고 전압 궤적을 예측하며, 최적화 후 중앙값 RTE가 0.03에 도달하여 일반화 능력과 시뮬레이션-실세계 분포 간 격차에 대한 강건성을 입증한다.

ABSTRACT

Electrochemical batteries are ubiquitous devices in our society. When they are employed in mission-critical applications, the ability to precisely predict the end of discharge under highly variable environmental and operating conditions is of paramount importance in order to support operational decision-making. While there are accurate predictive models of the processes underlying the charge and discharge phases of batteries, the modelling of ageing and its effect on performance remains poorly understood. Such a lack of understanding often leads to inaccurate models or the need for time-consuming calibration procedures whenever the battery ages or its conditions change significantly. This represents a major obstacle to the real-world deployment of efficient and robust battery management systems. In this paper, we propose for the first time an approach that can predict the voltage discharge curve for batteries of any degradation level without the need for calibration. In particular, we introduce Dynaformer, a novel Transformer-based deep learning architecture which is able to simultaneously infer the ageing state from a limited number of voltage/current samples and predict the full voltage discharge curve for real batteries with high precision. Our experiments show that the trained model is effective for input current profiles of different complexities and is robust to a wide range of degradation levels. In addition to evaluating the performance of the proposed framework on simulated data, we demonstrate that a minimal amount of fine-tuning allows the model to bridge the simulation-to-real gap between simulations and real data collected from a set of batteries. The proposed methodology enables the utilization of battery-powered systems until the end of discharge in a controlled and predictable way, thereby significantly prolonging the operating cycles and reducing costs.

연구 동기 및 목표

• 변동하는 운영 및 환경 조건 하에서 리튬이온 배터리의 정확한 종료 방전(EoD) 예측 문제를 해결하기 위해.
• 기존의 모델 기반 및 데이터 기반 접근 방식의 한계를 극복하기 위해, 校정이 필요하거나 노후화 수준 간 일반화에 실패하는 문제를 해결하기 위해.
• 최소한의 입력 데이터에서 배터리의 노후화 상태를 동시에 추론하고 전체 방전 곡선을 예측할 수 있는 통합된 딥러닝 프레임워크를 개발하기 위해.
• 실세계 데이터에 대한 최적화를 통해 시뮬레이션-실세계 격차를 해소하기 위해, 추가 데이터가 최소한인 상태에서 효과적으로 적응할 수 있도록 하기 위해.

제안 방법

• 모델은 순차적인 전압 및 전류 입력 데이터를 처리하기 위해 Transformer 기반 아키텍처를 활용하여 정확한 방전 곡선 예측을 위한 장기적 문맥 시퀀스 모델링을 가능하게 한다.
• 두 가지 작업을 동시에 수행한다: 전체 전압 방전 곡선 예측 및 소수의 초기 샘플에서 배터리의 노후화 수준 추정.
• 물리 기반 배터리 시뮬레이션에서 생성된 대규모 시뮬레이션 데이터셋을 기반으로 사전 훈련하여 배터리 동역학에 강력한 인덕티브 바이어스를 통합한다.
• 실세계 데이터에 대한 경량 최적화 절차를 적용하여, 추가 데이터가 최소한인 상태에서 실배터리 행동에 적응할 수 있도록 한다.
• 아키텍처는 미분 가능하여, 궤적 제어나 프로파일 설계와 같은 후행 작업을 위한 기울기 기반 최적화를 가능하게 한다.
• 네 대의 배터리에서 수집한 데이터를 사용한 교차 검증을 통해, 한 개는 훈련용, 세 개는 테스트용으로 활용하여 배터리 변동성에 대한 일반화 능력을 평가한다.

실험 결과

연구 질문

• RQ1 교정이 필요 없이 모든 노후화 수준에서 딥러닝 모델이 전체 배터리 방전 곡선을 정확하게 예측할 수 있는가?
• RQ2 시뮬레이션 데이터로 사전 훈련한 모델이 실세계 배터리 데이터로 일반화되는 정도는 어떻게 되며, 최적화로 시뮬레이션-실세계 격차를 메울 수 있는가?
• RQ3 재훈련 없이도 다양한 전류 프로파일과 배터리 노후화 상태에 대해 단일 모델이 얼마나 잘 일반화되는가?
• RQ4 일괄 학습 프레임워크가 높은 정밀도로 노후화 상태를 동시에 추론하고 방전 궤적을 예측할 수 있는가?
• RQ5 최적화 데이터셋의 크기가 모델 성능에 어떻게 영향을 미치는가?

주요 결과

• 실세계 데이터로의 최적화 후 모델은 중앙값 상대 진짜 오차(RTE)가 약 0.03에 도달하여, 최적화 이전 성능 대비 50% 향상된 것으로 나타났다.
• 모델은 방전 곡선의 마지막 부분에서 성능 향상이 두드러지며, 이는 EoD 근처에서 신뢰성이 향상되었음을 시사한다.
• 80개의 실세계 배터리 곡선 중 일부만으로도 최적화를 수행해도 거의 최적의 성능를 달성하여, 사전 훈련에서의 강력한 일반화 능력을 시사한다.
• 모델은 다양한 전류 프로파일과 노후화 수준에서도 높은 정확도를 유지하여 입력 복잡성과 배터리 변동성에 대한 강건성을 보였다.
• 최적화를 통해 시뮬레이션-실세계 격차가 효과적으로 해소되었으며, 적응 후 모델의 예측이 실제값과 밀접하게 일치함을 확인했다.
• 모델는 시뮬레이션 및 실세계 평가 모두에서 경쟁적인 딥러닝 기반 모델들을 상당한 격차로 능가했다.