[論文レビュー] Hybrid Feature Learning with Time Series Embeddings for Equipment Anomaly Prediction

Takato Yasuno|arXiv (Cornell University)|Feb 16, 2026

Anomaly Detection Techniques and Applications被引用数 0

ひとこと要約

論文は、64次元の Granite TinyTimeMixer 時系列埋め込み（LoRA fine-tuning 経由）と28のドメイン情報統計特徴を組み合わせ、LightGBM に入力してマルチホライズンの HVAC 異常予測を行い、ROC-AUC がほぼ完璧に近づき、偽陽性を低く抑えるハイブリッドフレームワークを提示します。

ABSTRACT

In predictive maintenance of equipment, deep learning-based time series anomaly detection has garnered significant attention; however, pure deep learning approaches often fail to achieve sufficient accuracy on real-world data. This study proposes a hybrid approach that integrates 64-dimensional time series embeddings from Granite TinyTimeMixer with 28-dimensional statistical features based on domain knowledge for HVAC equipment anomaly prediction tasks. Specifically, we combine time series embeddings extracted from a Granite TinyTimeMixer encoder fine-tuned with LoRA (Low-Rank Adaptation) and 28 types of statistical features including trend, volatility, and drawdown indicators, which are then learned using a LightGBM gradient boosting classifier. In experiments using 64 equipment units and 51,564 samples, we achieved Precision of 91--95\% and ROC-AUC of 0.995 for anomaly prediction at 30-day, 60-day, and 90-day horizons. Furthermore, we achieved production-ready performance with a false positive rate of 1.1\% or less and a detection rate of 88--94\%, demonstrating the effectiveness of the system for predictive maintenance applications. This work demonstrates that practical anomaly detection systems can be realized by leveraging the complementary strengths between deep learning's representation learning capabilities and statistical feature engineering.

研究の動機と目的

• 純粋な深層学習が実世界の HVAC 異常データで苦戦する理由を特定する。
• 時系列埋め込みと統計特徴を組み合わせたハイブリッドアーキテクチャを提案する。
• ハイブリッド特徴上の勾配ブースト木が実運用性能を発揮することを示す。
• 30/60/90 日のマルチホライズン異常予測を実証する。」,

提案手法

• Granite TinyTimeMixer エンコーダを用いて 90 日ウィンドウから 64 次元の時系列埋め込みを抽出する（LoRA fine-tuned、rank r=16）。
• 28 のドメイン情報統計特徴を算出する（トレンド、ボラティリティ、ドローダウン、基本統計量）。
• 埋め込みと統計を連結して 92 次元のハイブリッド特徴ベクトルを形成する。
• 92 次元特徴量で早期停止とクラス重み付けを用いた 3 つの LightGBM 分類器をホライズンごとに訓練する。
• 30/60/90 日のホライズンで精度、再現率、F1、ROC-AUC、偽陽性率を評価する。

実験結果

リサーチクエスチョン

• RQ1 時系列埋め込みと統計特徴のハイブリッドが、産業用異常検知において純粋な深層学習や純粋な統計ベースを上回るか。
• RQ2 ハイブリッド手法は複数の予測ホライズン（30、60、90 日）で精度、再現率、ROC-AUC の観点でどう機能するか。
• RQ3 HVAC 機器の偽陽性と検出率の点で、システムは生産 ready か。
• RQ4 最終的な意思決定における埋め込み特徴と統計特徴の相対的重要性はどれくらいか。

主な発見

Model	Horizon	Precision	Recall	F1-Score	ROC-AUC	FPR (%)
Granite TS (v1.0)	30d	0.10	0.77	0.18	0.54	98.9
Granite TS (v1.0)	60d	0.09	0.95	0.17	0.48	99.1
Granite TS (v1.0)	90d	0.11	0.47	0.18	0.52	98.9
LightGBM (statistical)	30d	0.79	0.85	0.82	0.987	2.6
LightGBM (statistical)	60d	0.81	0.85	0.83	0.989	2.4
LightGBM (statistical)	90d	0.87	0.78	0.82	0.987	1.9
Hybrid (proposed)	30d	0.91	0.94	0.92	0.995	0.6
Hybrid (proposed)	60d	0.93	0.94	0.93	0.995	0.5
Hybrid (proposed)	90d	0.95	0.88	0.91	0.995	1.1

• ハイブリッドモデルは各ホライズンで 91–95% の精度、FPR0.5–1.1%、ROC-AUC0.995 を達成。
• 純粋な Granite TinyTimeMixer ベースラインは 9–11% の精度と非常に高い FPR（約 99%）にとどまる。
• 統計特徴のみでは 79–87% の精度と FPR ≤ 2.6%。
• ハイブリッド手法は両ベースラインを大きく上回り、純粋 DL に対して相対的改善は ≈810–933%。
• 特徴重要度は、時系列埋め込みが予測力の約 48.5%、ボラティリティ特徴が約 29.3% を各ホライズンで寄与；ホライズン長が長くなるとボラティリティの寄与が強まる。