[논문 리뷰] Time series forecasting with Hahn Kolmogorov-Arnold networks

Md. Kamrul Hasan, A. Ben Hamza외 1명|arXiv (Cornell University)|2026. 01. 25.

Time Series Analysis and Forecasting인용 수 0

한 줄 요약

HaKAN은 Hahn 다항식 기반 KAN을 채널 독립성과 패칭으로 구현하여 경량이고 해석가능한 상태에서 다변량 장기 시계열 예측의 정확성을 달성합니다.

ABSTRACT

Recent Transformer- and MLP-based models have demonstrated strong performance in long-term time series forecasting, yet Transformers remain limited by their quadratic complexity and permutation-equivariant attention, while MLPs exhibit spectral bias. We propose HaKAN, a versatile model based on Kolmogorov-Arnold Networks (KANs), leveraging Hahn polynomial-based learnable activation functions and providing a lightweight and interpretable alternative for multivariate time series forecasting. Our model integrates channel independence, patching, a stack of Hahn-KAN blocks with residual connections, and a bottleneck structure comprised of two fully connected layers. The Hahn-KAN block consists of inter- and intra-patch KAN layers to effectively capture both global and local temporal patterns. Extensive experiments on various forecasting benchmarks demonstrate that our model consistently outperforms recent state-of-the-art methods, with ablation studies validating the effectiveness of its core components.

연구 동기 및 목표

• Transformer와 표준 MLP를 넘어서는 효율적인 다변량 장기 예측의 필요성을 자극한다.
• Spectral bias를 완화하고 전역/지역 시간 패턴을 포착하는 Hahn-KAN 기반 프레임워크 HaKAN을 제안한다.
• 채널 독립성, 패칭, 패치 간/내부 KAN, 병목 출력 스테이지를 갖춘 경량 아키텍처를 설계한다.
• 다양한 예측 데이터셋에서 최근 벤치마크 대비 실험적 개선을 입증한다.

제안 방법

• Kolmogorov-Arnold Networks에서 Univariate 활성화가 Hahn 다항식으로 매개된 HaKAN을 구축한다.
• 채널별로 RevIN( reversible instance normalization )을 적용하여 분포를 안정화한다.
• 각 채널의 시퀀스를 패치로 구분하고 위치 정보를 포함한 패치를 임베딩한다.
• intra-patch 및 inter-patch 계층으로 구성된 R Hahn-KAN 블록의 스택을 사용해 지역적 및 글로벌 패턴을 포착한다.
• 최종 피처를 평탄화하고 채널당 horizon T를 예측하기 위한 2계층 병목을 거친 후 RevIN 역정규화를 수행한다.]

실험 결과

연구 질문

• RQ1 HaKAN이 다변량 장기 시계열 예측에서 최첨단 Transformer- 및 MLP 기반 모델을 능가할 수 있는가?
• RQ2 KAN에서 Hahn 다항식 매개변수화가 고정 활성화보다 함수 근사 및 spectral bias 완화에 더 나은가?
• RQ3 패칭과 채널 독립성이 다양한 데이터셋 전반에서 효율성과 예측 정확도를 개선하는가?
• RQ4 모델 구성요소(RevIN, 패칭, 패치 간/내부 KAN, 병목)가 성능에 미치는 영향은 무엇인가?

주요 결과

• HaKAN은 여러 데이터셋과 휴먼 시간에 걸쳐 대부분의 벤치마크를 꾸준히 능가한다.
• HaKAN은 표 1의 32개 케이스 중 MSE 최다 18건, MAE 최다 19건으로 최상이다.
• Illness에서 상대 오차가 8.98% MSE, 3.96% MAE로 눈에 띄는 감소를 보이고 ETTh2에서 5.28% MSE, 2.07% MAE의 감소를 보인다.
• 고정된 look-back L=96에서 HaKAN은 짧은 horizon에서 다섯 벤치마크에서 평균 MSE/MAE를 최적으로 달성한다.
• HaKAN은 다양한 horizon에서 PatchTST 및 Crossformer에 비해 경쟁력 있거나 우수한 성능을 보이며, 계산적으로도 효율적이다.