[논문 리뷰] State-of-Charge Estimation of a Li-Ion Battery using Deep Forward Neural Networks

Alexandre Barbosa de Lima, Maurício B. C. Salles외 1명|arXiv (Cornell University)|2020. 09. 20.

Advanced Battery Technologies Research참고 문헌 38인용 수 5

한 줄 요약

이 논문은 주행 사이클 데이터셋을 사용하여 파나소닉 18650PF 리튬이온 배터리의 충전 상태(SOC)를 추정하기 위해 두 개 및 네 개의 은닉층을 가진 딥 프롭어드 신경망(DFN)을 제안한다. K-폴드 교차검증, 배치 정규화, 드롭아웃, L1/L2 정규화를 적용하여 네 은닉층을 가진 DFN은 테스트 MAE 2.0%를 달성하였으며, 강력한 정규화 기법 덕분에 다소 높은 오차에도 불구하고 얕은 모델보다 더 우수한 일반화 성능을 보였다.

ABSTRACT

This article presents two Deep Forward Networks with two and four hidden layers, respectively, that model the drive cycle of a Panasonic 18650PF lithium-ion (Li-ion) battery at a given temperature using the K-fold cross-validation method, in order to estimate the State of Charge (SOC) of the cell. The drive cycle power profile is calculated for an electric truck with a 35kWh battery pack scaled for a single 18650PF cell. We propose a machine learning workflow which is able to fight overfitting when developing deep learning models for SOC estimation. The contribution of this work is to present a methodology of building a Deep Forward Network for a lithium-ion battery and its performance assessment, which follows the best practices in machine learning.

연구 동기 및 목표

• 리튬이온 배터리의 정확한 충전 상태(SOC) 추정을 위한 머신러닝 기반 방법 개발.
• 배터리 SOC 추정을 위한 딥러닝 모델에서의 과적합 문제를 정규화 기법을 통해 해결.
• 실제 배터리 주행 사이클 데이터셋에서 깊이와 아키텍처 구성 요소가 다른 딥 프롭어드 네트워크의 성능 평가.
• 배터리 관리 시스템에서 딥러닝 모델을 훈련시키기 위한 재현 가능하고 최적의 실무 워크플로우 수립.
• 통제된 초모수 튜닝 조건 하에서 얕은 구조와 더 깊은 DFN 아키텍처 간의 일반화 성능 비교.

제안 방법

• 연구는 각각 두 개 및 네 개의 은닉층을 가진 두 개의 딥 프롭어드 신경망(DFN)을 사용하며, ReLU 활성화 함수와 Adam 옵timizer를 적용한다.
• 데이터셋은 스케일링된 35kWh 전기 트럭 배터리 팩에서 유도되며, 단일 18650PF 세포로 모델링된다.
• 모델 성능 평가 및 데이터 누출 방지를 위해 K-폴드 교차검증(4-폴드 및 8-폴드)이 사용된다.
• 과적합을 줄이기 위해 L1/L2 가중치 페널티와 드롭아웃 비율 0.5인 두 개의 드롭아웃 레이어를 정규화 기법으로 적용한다.
• 배치 크기(64, 128, 256)와 에포크 수(30, 50, 100)와 같은 초모수는 일반화 성능을 최적화하기 위해 튜닝된다.
• 모델는 파이썬 3.7과 텐서플로우 2, 케라스 API를 사용해 구현되었으며, 훈련 모니터링을 위해 텐서보드를 활용한다.

실험 결과

연구 질문

• RQ1 딥 프롭어드 신경망은 실질적인 주행 사이클 데이터를 사용하여 리튬이온 배터리의 SOC를 효과적으로 추정할 수 있는가?
• RQ2 모델의 깊이(두 개 대비 네 개의 은닉층)는 SOC 추정 정확도와 일반화 성능에 어떤 영향을 미치는가?
• RQ3 드롭아웃과 L1/L2 정규화는 리튬이온 배터리 SOC 추정을 위한 딥러닝 모델에서 과적합을 어느 정도 감소시키는가?
• RQ4 K-폴드 교차검증은 표준 훈련/검증 분할 대비 모델의 강건성을 향상시키는가?
• RQ5 배치 크기, 에포크 수, 뉴런 수 등의 초모수 설정은 정확도와 일반화 사이의 최적의 트레이드오프를 어떻게 도출하는가?

주요 결과

• 두 은닉층을 가진 DFN은 약 1.60%의 최저 테스트 평균절대오차(MAE)를 기록하였다.
• 네 은닉층을 가진 DFN은 약 2.0%의 더 높은 MAE를 보였지만, 고도화된 정규화 덕분에 더 뛰어난 일반화 성능을 보였다.
• 두 층 모델에서는 훈련 MAE와 검증 MAE 곡선 간 격차가 증가하는 것으로 나타나 과적합이 관찰되었다.
• 네 층 모델는 약 35 에포크 이후 검증 MAE가 안정화되어 과적합이 최소화되었으며, 이는 더 나은 일반화 성능을 의미한다.
• 드롭아웃 레이어와 L1/L2 정규화의 조합은 특히 더 깊은 아키텍처에서 과적합을 크게 감소시켰다.
• 은닉층당 256개의 뉴런, 배치 크기 128, 8-폴드 교차검증 조합을 사용한 모델가 가장 균형 잡힌 성능과 일반화 성능을 보였다.