[論文レビュー] Dynaformer: A Deep Learning Model for Ageing-aware Battery Discharge Prediction

Luca Biggio, Tommaso Bendinelli+2 more|arXiv (Cornell University)|Jun 1, 2022

Advanced Battery Technologies Research被引用数 15

ひとこと要約

本稿では、校正を必要とせず、あらゆる劣化レベルにおいて高精度に全バッテリ放電曲線を予測できる、新しいTransformerベースの深層学習モデル、Dynaformerを提案する。微少な初期電圧/電流サンプルのみを用いて、同時にバッテリ劣化状態を推定し、電圧トレースを予測する。ファインチューニング後、中央絶対誤差（RTE）の中央値は0.03に達し、汎用性とシミュレーションから実世界への分布ギャップに対するロバスト性が裏付けられる。

ABSTRACT

Electrochemical batteries are ubiquitous devices in our society. When they are employed in mission-critical applications, the ability to precisely predict the end of discharge under highly variable environmental and operating conditions is of paramount importance in order to support operational decision-making. While there are accurate predictive models of the processes underlying the charge and discharge phases of batteries, the modelling of ageing and its effect on performance remains poorly understood. Such a lack of understanding often leads to inaccurate models or the need for time-consuming calibration procedures whenever the battery ages or its conditions change significantly. This represents a major obstacle to the real-world deployment of efficient and robust battery management systems. In this paper, we propose for the first time an approach that can predict the voltage discharge curve for batteries of any degradation level without the need for calibration. In particular, we introduce Dynaformer, a novel Transformer-based deep learning architecture which is able to simultaneously infer the ageing state from a limited number of voltage/current samples and predict the full voltage discharge curve for real batteries with high precision. Our experiments show that the trained model is effective for input current profiles of different complexities and is robust to a wide range of degradation levels. In addition to evaluating the performance of the proposed framework on simulated data, we demonstrate that a minimal amount of fine-tuning allows the model to bridge the simulation-to-real gap between simulations and real data collected from a set of batteries. The proposed methodology enables the utilization of battery-powered systems until the end of discharge in a controlled and predictable way, thereby significantly prolonging the operating cycles and reducing costs.

研究の動機と目的

• リチウムイオンバッテリにおいて、変動する運用および環境条件下での正確な放電終了時刻（EoD）予測の課題に対処すること。
• 校正を必要とするか、劣化レベルを越えて一般化に失敗する既存のモデルベースおよびデータ駆動型手法の限界を克服すること。
• 最小限の入力データからバッテリの劣化状態を同時に推定し、全放電曲線を予測できる統合的深層学習フレームワークの開発。
• 実世界データへの最小限の追加データでファインチューニング可能な方法を用いて、シミュレーションから実世界へのギャップを埋めること。

提案手法

• モデルは、順序付き電圧および電流入力データを処理するTransformerベースのアーキテクチャを採用し、正確な放電曲線予測のための長距離文脈シーケンスモデリングを可能にする。
• 2つのタスクを同時に実行する：全電圧放電曲線の予測と、初期サンプルの少数からバッテリの劣化レベルの推定。
• 物理ベースのバッテリシミュレーションから生成された大規模な合成データセット上で事前学習を行い、バッテリダイナミクスに強いインダクティブバイアスを埋め込む。
• 実世界データ上で軽量なファインチューニング手順を適用し、最小限の追加データでモデルが実バッテリの挙動に適応可能にする。
• アーキテクチャは微分可能であり、トラジェクトリ制御やプロファイル設計などの後続タスクにおける勾配ベース最適化を可能にする。
• 4つのバッテリからのデータを用いた交差検証を実施し、1つを訓練用、3つをテスト用に使用して、バッテリのばらつきにおける汎用性を評価。

実験結果

リサーチクエスチョン

• RQ1 校正を必要とせず、あらゆる劣化レベルにおいて、深層学習モデルが全バッテリ放電曲線を正確に予測できるか？
• RQ2 シミュレーションデータで事前学習したモデルは、実世界バッテリデータにどの程度一般化できるか？また、ファインチューニングでシミュレーションから実世界のギャップを埋められるか？
• RQ3 再トレーニングなしで、単一のモデルが多様な電流プロファイルおよびバッテリ劣化状態にどの程度一般化できるか？
• RQ4 統合学習フレームワークは、高精度に劣化状態を推定すると同時に放電トレースを予測できるか？
• RQ5 ファインチューニングデータセットのサイズが、モデルの性能にどのように影響するか？

主な発見

• 実データでのファインチューニング後、中央絶対誤差（RTE）の中央値は約0.03に達し、ファインチューニング前の性能比で50％の改善を示した。
• 放電曲線の最終部における性能向上が顕著で、予測誤差が最も重要な領域で信頼性が向上していることを示し、EoD近辺での信頼性が向上している。
• 80個の実バッテリ曲線のサブセットでさえ、すでにほぼ最適な性能が得られるため、事前学習による強力な一般化能力が裏付けられた。
• 多様な電流プロファイルおよび劣化レベルにおいても高い精度を維持し、入力の複雑さやバッテリのばらつきに対してもロバストであることが示された。
• ファインチューニングにより、シミュレーションから実世界へのギャップが効果的に埋められ、適応後、モデルの予測は真値と密接に一致した。
• シミュレーションおよび実世界評価の両方で、競合する深層学習ベースラインを著しく上回る性能を示した。