[论文解读] FTS: A Framework to Find a Faithful TimeSieve

Songning Lai, Ninghui Feng+6 more|arXiv (Cornell University)|May 30, 2024

Time Series Analysis and Forecasting被引用 17

一句话总结

本文定义了 Faithful TimeSieve (FTS) 并提出一个框架，通过提高对随机种子和输入扰动的鲁棒性来提升 TimeSieve 的保真性，在 Exchange Rate 数据集上进行了验证。

ABSTRACT

The field of time series forecasting has garnered significant attention in recent years, prompting the development of advanced models like TimeSieve, which demonstrates impressive performance. However, an analysis reveals certain unfaithfulness issues, including high sensitivity to random seeds and minute input noise perturbations. Recognizing these challenges, we embark on a quest to define the concept of extbf{\underline{F}aithful \underline{T}ime\underline{S}ieve \underline{(FTS)}}, a model that consistently delivers reliable and robust predictions. To address these issues, we propose a novel framework aimed at identifying and rectifying unfaithfulness in TimeSieve. Our framework is designed to enhance the model's stability and resilience, ensuring that its outputs are less susceptible to the aforementioned factors. Experimentation validates the effectiveness of our proposed framework, demonstrating improved faithfulness in the model's behavior. Looking forward, we plan to expand our experimental scope to further validate and optimize our algorithm, ensuring comprehensive faithfulness across a wide range of scenarios. Ultimately, we aspire to make this framework can be applied to enhance the faithfulness of not just TimeSieve but also other state-of-the-art temporal methods, thereby contributing to the reliability and robustness of temporal modeling as a whole.

研究动机与目标

• 识别 TimeSieve 在种子敏感性和输入扰动相关的保真性问题。
• 给出具有三个关键属性的 Faithful TimeSieve (FTS) 的形式化概念。
• 开发一个基于极小极大（minimax）的框架，在提升保真性的同时保持性能。
• 将保真性损失整合到 TimeSieve 中并通过实验验证改进。

提出的方法

• 利用 Wavelet Decomposition Block (WDB) 和 Wavelet Reconstruction Block (WRB) 从时间序列中提取多尺度特征。
• 基于 Information Bottleneck 的 Information Filtering and Compression Block (IFCB) 用于滤除噪声并压缩信息。
• 提出一个具有三个属性的 FTS 正式定义：在 IB 空间中的相似性、预测的接近度，以及预测的稳定性。
• 使用 PGD 构造带扰动半径 R 的极小极大优化，以强制在输入和模型扰动下的鲁棒性。
• 将三个辅助稳定性损失 L1、L2 和 L3 整合到 TimeSieve 的损失中，得到最终的训练目标。
• 在 Exchange Rate 数据集上进行验证，并在种子变异和输入扰动下与最新模型进行对比。

实验结果

研究问题

• RQ1 在扰动和种子变异下，是什么使 TimeSieve 模型具备保真性？
• RQ2 我们如何为时间序列预测定义一个严格的保真性概念？
• RQ3 一个训练框架是否能在扰动下强制预测的相似性、接近性和稳定性？
• RQ4 保真性增强的模型在提高鲁棒性的同时，是否能维持或提升原始任务性能？

主要发现

• FTS 降低对随机种子的敏感性，与基于 TimeSieve 的基线相比，种子引起的性能波动减少高达 99.23% 。
• 在带高斯噪声的输入扰动下，FTS 将鲁棒性下降从 28.35%（TimeSieve）降至 4.71%（FTS）。
• 在非扰动任务上，FTS 相对于 SOTA 基线达到具竞争力或更优的性能。
• 所提出的框架在不同种子下提升了预测的稳定性，同时保持或提高原始预测准确性。
• 实验表明，保真性优化可以推广到鲁棒预测，而不牺牲原始任务性能。