[论文解读] Multiscale Adaptive Representation of Signals: I. The Basic Framework

Cheng Tai, E Weinan|arXiv (Cornell University)|Jul 17, 2015

Image and Signal Denoising Methods参考文献 38被引用 16

一句话总结

本文提出AdaFrame，一种多尺度自适应框架，结合了字典学习的数据自适应性与小波框架的计算效率及多尺度结构。通过在类似卷积的架构中使用可学习滤波器，AdaFrame 实现了快速、可逆且稀疏的信号表示，适用于低层次（如去噪、压缩）和高层次（如特征提取）任务，在推理速度上优于传统字典学习，同时在编码效率方面优于经典小波。

ABSTRACT

We introduce a framework for designing multi-scale, adaptive, shift-invariant frames and bi-frames for representing signals. The new framework, called AdaFrame, improves over dictionary learning-based techniques in terms of computational efficiency at inference time. It improves classical multi-scale basis such as wavelet frames in terms of coding efficiency. It provides an attractive alternative to dictionary learning-based techniques for low level signal processing tasks, such as compression and denoising, as well as high level tasks, such as feature extraction for object recognition. Connections with deep convolutional networks are also discussed. In particular, the proposed framework reveals a drawback in the commonly used approach for visualizing the activations of the intermediate layers in convolutional networks, and suggests a natural alternative.

研究动机与目标

• 解决字典学习在推理阶段计算效率低下的问题，该问题限制了其在大规模应用中的实时部署。
• 克服标准字典学习方法仅在小块上操作而缺乏多尺度表示的局限性。
• 通过实现全局、平移不变的信号表示，消除基于块的字典学习中常见的块效应。
• 开发一种框架，在保留学习字典的稀疏性与自适应性的同时，实现类似小波等分析变换的速度与结构。
• 为机器学习中的低层次信号处理与高层次特征提取提供比字典学习更高效、更鲁棒的替代方案。

提出的方法

• 提出一种基于可学习分解与重建滤波器的多尺度、平移不变框架构造方法，采用类似卷积的结构。
• 将表示形式化为一系列带有可学习滤波器的卷积操作，实现与小波变换相当的快速推理。
• 采用两阶段学习程序训练自适应双框架，其中分解与重建滤波器分别训练，以提升稳定性和收敛性。
• 通过在频域上对滤波器响应施加约束，实现完美重建，确保框架为紧框架或对偶紧框架。
• 利用滤波器组与采样理论（通过广义采样定理）的数学结构，推导出精确重建的条件。
• 将该框架应用于一维与二维信号，包括图像，并证明其与深度学习架构的兼容性。

实验结果

研究问题

• RQ1 所提出的可学习框架能否在保持字典学习数据自适应性的同时，达到小波变换的计算效率？
• RQ2 如何使用可学习滤波器构建一种多尺度、平移不变且可逆的表示，同时不牺牲重建精度？
• RQ3 所提出的AdaFrame框架与深度卷积神经网络中间层激活之间存在何种关系？
• RQ4 所提出的框架能否消除字典学习中常见的基于块的信号表示中的块效应？
• RQ5 在编码效率与鲁棒性方面，AdaFrame相较于字典学习与小波框架的性能如何？

主要发现

• AdaFrame 的推理速度与快速小波变换相当，对于长度为 N 的信号仅需 O(N) 次运算，而传统字典学习每轮推理需 O(mN) 次运算。
• 通过在滤波器频率响应上施加约束，框架实现了完美重建，确保了表示的可逆性与稳定性。
• 实验表明，自适应双框架比自适应框架更容易训练且更鲁棒，尤其在高度冗余设置下表现更优。
• 所提出的框架揭示了标准卷积神经网络特征可视化方法的根本缺陷，提出了一种基于框架理论解释的更自然的替代方案。
• AdaFrame 在编码效率上优于传统字典学习，并避免了拼接块效应，适用于图像压缩与去噪任务。
• 该框架具有良好的泛化能力，不仅适用于图像，还可扩展至时间序列、视频甚至图结构数据，具备在实时目标识别系统中应用的潜力。