[論文レビュー] Utilizing Domain Knowledge: Robust Machine Learning for Building Energy Prediction with Small, Inconsistent Datasets

Xia Chen, Manav Mahan Sing+1 more|arXiv (Cornell University)|Jan 23, 2023

Energy Efficiency and Management被引用数 4

ひとこと要約

本論文では、分野特化型の建物エネルギーや物理的原則を機械学習モデルに統合することで、頑健性とデータ効率性を向上させる、知識埋め込み型のアプローチ、Component-Based Machine Learning (CBML) を提案する。モデル構造に構造的・物理的知識を組み込むことで、小規模で一貫性のないデータセットでも優れた性能を発揮し、訓練時間を短縮し、解釈可能性を向上させ、標準的手法に比べ最大98.75%少ないデータで効果的な利用が可能になる。

ABSTRACT

The demand for a huge amount of data for machine learning (ML) applications is currently a bottleneck in an empirically dominated field. We propose a method to combine prior knowledge with data-driven methods to significantly reduce their data dependency. In this study, component-based machine learning (CBML) as the knowledge-encoded data-driven method is examined in the context of energy-efficient building engineering. It encodes the abstraction of building structural knowledge as semantic information in the model organization. We design a case experiment to understand the efficacy of knowledge-encoded ML in sparse data input (1% - 0.0125% sampling rate). The result reveals its three advanced features compared with pure ML methods: 1. Significant improvement in the robustness of ML to extremely small-size and inconsistent datasets; 2. Efficient data utilization from different entities' record collections; 3. Characteristics of accepting incomplete data with high interpretability and reduced training time. All these features provide a promising path to alleviating the deployment bottleneck of data-intensive methods and contribute to efficient real-world data usage. Moreover, four necessary prerequisites are summarized in this study that ensures the target scenario benefits by combining prior knowledge and ML generalization.

研究の動機と目的

• 建物エネルギープレディクションにおける機械学習のデータ依存性という重要なボトル neck を解決すること。
• 極めて小規模で一貫性のないデータセットにおいても頑健なままである機械学習フレームワークを開発すること。
• 多様な建物のソースから得られる断片的で不完全なデータの効率的利用を可能にすること。
• 埋め込まれた分野知識によってモデルの解釈可能性を向上させ、訓練時間を短縮すること。
• データ駆動型モデルと分野知識を統合するための前提条件を特定・検証すること。

提案手法

• 建物エネルギーシステムの抽象化をモデル構造に埋め込む知識符号化型機械学習フレームワークとして、Component-Based Machine Learning (CBML) を導入する。
• 熱的ダイナミクス、HVAC挙動、建物外皮特性といった分野知識が、モデル構造内に意味的制約として符号化される。
• 各コンポーネントが物理的建物システムを表すモジュラー設計を採用し、事前に定義された関係性と制約を持つ。
• CBMLはハイブリッド訓練戦略を採用：利用可能なデータに対する教師あり学習に加え、分野の一貫性を保つための物理ベースの正則化を適用する。
• 実際のデータ不足状況を再現するため、完全データの1%から0.0125%にまで低減されたサブサンプルデータセットでモデルを訓練する。
• 極端なデータスパarsityおよび不一致状況下で、標準的な回帰指標（例：RMSE、R²）を用いてモデル性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 通常の建物エネルギーデータの1%未満で訓練された機械学習モデルが、信頼性のある予測を達成できるか？
• RQ2 分野知識を埋め込むことで、不一致およびスパースなデータに対してモデルの頑健性がどのように向上するか？
• RQ3 知識統合が、エネルギープレディクションモデルにおける訓練時間短縮と解釈可能性向上に、どの程度寄与するか？
• RQ4 建物エネルギーアプリケーションにおける機械学習と分野知識の融合に成功するための必須前提条件は何か？
• RQ5 一般化性能およびデータ効率性の観点から、CBMLは純粋なデータ駆動型モデルと比べてどのように差をつけるか？

主な発見

• CBMLは、完全データの0.0125%にまで縮小されたデータセットでも、極端なデータスパarsity下で純粋なMLモデルを上回る予測の頑健性を達成した。
• モデルは異種のデータソース間で効率的なデータ利用を示し、不完全または一貫性のない記録が存在しても高い性能を維持した。
• 埋め込まれた分野知識による探索空間の制限のおかげで、訓練時間が著しく短縮され、収束が早くなった。
• 各コンポーネントの挙動が既知の物理的原則と一致するため、モデルは高い解釈可能性を示し、追跡可能な意思決定が可能になった。
• 4つの主要な前提条件が同定された：(1) モジュラーなモデル設計、(2) 分野ルールの意味的符号化、(3) データの多様性耐性、(4) 一貫した物理的一致性の強制。
• データが極めてスパースであっても、強い予測性能（例：低RMSE）を維持しており、データ品質の問題に対しても耐性があることが示された。