[論文レビュー] PaAno: Patch-Based Representation Learning for Time-Series Anomaly Detection

Jinju Park, Seokho - Kang|arXiv (Cornell University)|Feb 1, 2026

Anomaly Detection Techniques and Applications被引用数 0

ひとこと要約

PaAnoは1D-CNNを用いて短時間系列パッチを埋め込む軽量なパッチベース表現学習法を提案し、時間・メモリ効率の高い異常検知を実現。TSB-ADで最先端の成績を示し、単変量・多変量データの両方に適用可能。

ABSTRACT

Although recent studies on time-series anomaly detection have increasingly adopted ever-larger neural network architectures such as transformers and foundation models, they incur high computational costs and memory usage, making them impractical for real-time and resource-constrained scenarios. Moreover, they often fail to demonstrate significant performance gains over simpler methods under rigorous evaluation protocols. In this study, we propose Patch-based representation learning for time-series Anomaly detection (PaAno), a lightweight yet effective method for fast and efficient time-series anomaly detection. PaAno extracts short temporal patches from time-series training data and uses a 1D convolutional neural network to embed each patch into a vector representation. The model is trained using a combination of triplet loss and pretext loss to ensure the embeddings capture informative temporal patterns from input patches. During inference, the anomaly score at each time step is computed by comparing the embeddings of its surrounding patches to those of normal patches extracted from the training time-series. Evaluated on the TSB-AD benchmark, PaAno achieved state-of-the-art performance, significantly outperforming existing methods, including those based on heavy architectures, on both univariate and multivariate time-series anomaly detection across various range-wise and point-wise performance measures.

研究の動機と目的

• 時系列異常検知のための重いTransformerベース手法に対する軽量な代替を動機づける。
• 局所的な時系列パターンを捉えるパッチベースの表現学習を提案する。
• パッチを正常パターンと比較するメモリバンクベースの異常スコアリング機構を開発する。
• 厳密な評価の下でTSB-ADベンチマークにおいて最先端の性能を示す。

提案手法

• スライディングウィンドウを用いて正常時系列の訓練データから重複なくパッチを抽出する。
• 各パッチをコンパクトな1D-CNNで埋め込み、パッチレベルの表現へ変換する。
• 結合目的関数として、類似パッチをクラスタリングするトリプレットロスと、時系列の関係性を強制するプリテキストロスを用いて訓練する。
• 訓練データからパッチ埋め込みのメモリバンクを構築し、サイズを削減するためコアセットサブサンプリングを適用する。
• 推論時には、パッチ埋め込みと縮小されたメモリバンクとの最近傍距離を用いて異常スコアを計算し、周囲パッチで平均化する。

Figure 3: Training procedure of PaAno. The training dataset is split into patches. Using the patch set, three model components—a patch encoder, a projection head, and a classification head—are trained with the training objective that consists of two losses. Triplet loss encourages temporally similar

実験結果

リサーチクエスチョン

• RQ1 軽量な1D-CNNでモデリングされたパッチレベル表現は、重いアーキテクチャを用いずに競争力のある異常検知を達成できるか。
• RQ2 トリプレットロスとプリテキストロスを組み合わせると、時系列異常のための頑健で識別的なパッチ埋め込みになるか。
• RQ3 メモリバンクベースのスコアリングは、厳密な評価の下で単変量・多変量の時系列データでどの程度機能するか。
• RQ4 提案手法は非定常性およびハイパーパラメータ設定に対して頑健で、効率性を維持できるか。

主な発見

Method	VUS-PR	VUS-ROC	Range-F1	AUC-PR	AUC-ROC	Point-F1	#Params	Run Time
PaAno (Ours)	0.52 /1	0.89 /1	0.48 /1	0.46 /1	0.86 /1	0.51 /1	0.3M	6.9s
(KAN-AD)	0.43 /2	0.82 /2	0.43 /2	0.41 /2	0.80 /2	0.44 /2	<0.1M	12.1s

• PaAnoは単変量・多変量の時系列データセットでTSB-ADベンチマークにおける最先端の性能を達成した。
• 広範な範囲指標および点指標の複数で、 extensiveなハイパーパラメータ調整を必要とせずに高性能を上回った。
• パッチベースの埋め込みを用いた軽量な1D-CNNは、局所的な時系列依存性に着目することで強力な異常識別を提供する。
• コアセットサブサンプリングを伴うメモリバンクは、リアルタイム実装に適した効率的でスケーラブルな異常スコアリングを提供する。
• 単純なオンラインメモリ更新を通じて、ハイパーパラメータ設定および非定常な正常状態に対して頑健性を示す。

Figure 4: Anomaly detection procedure of PaAno.