[论文解读] How to quantify fields or textures? A guide to the scattering transform

Sihao Cheng, Brice Ménard|arXiv (Cornell University)|Nov 30, 2021

Machine Learning in Materials Science参考文献 1被引用 24

一句话总结

本文将散射变换推广为一个无需训练、可解释的统计框架，能够在场/纹理中捕捉超出功谱的信息，提供稳定、紧凑的描述符。

ABSTRACT

Extracting information from stochastic fields or textures is a ubiquitous task in science, from exploratory data analysis to classification and parameter estimation. From physics to biology, it tends to be done either through a power spectrum analysis, which is often too limited, or the use of convolutional neural networks (CNNs), which require large training sets and lack interpretability. In this paper, we advocate for the use of the scattering transform (Mallat 2012), a powerful statistic which borrows mathematical ideas from CNNs but does not require any training, and is interpretable. We show that it provides a relatively compact set of summary statistics with visual interpretation and which carries most of the relevant information in a wide range of scientific applications. We present a non-technical introduction to this estimator and we argue that it can benefit data analysis, comparison to models and parameter inference in many fields of science. Interestingly, understanding the core operations of the scattering transform allows one to decipher many key aspects of the inner workings of CNNs.

研究动机与目标

• 动机：为场和纹理提供超越功谱的有信息量的描述符的必要性。
• 将散射变换引入为一个可解释、无需训练且具有良好稳定性的估计量。
• 解释关键运算（小波卷积、模量、平均化）以及它们如何产生平移不变和旋转不变的描述符。
• 讨论散射系数与CNN的关系并为数据分析与推断提供实际、非技术性指南。

提出的方法

• 将散射变换描述为一层层的小波卷积、模量和平均的层次结构，以产生平移不变的描述符。
• 定义 0th-, 1st-, 和 2nd-order 散射系数 S0、S1、S2 及在对方向进行平均时的简化形式。
• 解释能量分配、尺度相互作用，以及归一化如何得到无量纲统计量。
• 展示小波如何提供局部化、对尺度敏感的分析，捕捉超越功谱的非高斯形态信息。
• 强调与简化的CNN的联系：使用预定义的卷积核、模量非线性以及通过平均进行池化。

实验结果

研究问题

• RQ1 散射系数是否能够捕捉超越功谱的非高斯形态与跨尺度的相互作用？
• RQ2 一阶和二阶散射系数如何与尺度相互作用以及场/纹理中的能量分布相关？
• RQ3 散射描述符在科学数据分析中的稳定性、收敛性与可解释性特性如何？
• RQ4 散射框架在参数推断和模型比较方面与传统光谱方法以及基于CNN的方法在概念上有何异同？

主要发现

• 散射系数提供一组紧凑、可解释的描述符，能够捕捉超越功谱的信息，包括形态和尺度相互作用。
• 输入场的能量可以在散射阶之间进行分配，实现稳定的多层描述，在许多实际情形下收敛迅速。
• 模量操作将信息向低频移动，增强对形变与噪声的鲁棒性，同时揭示稀疏性。
• 散射系数的归一化产生无量纲统计量，便于比较与推断。
• 该方法通过使用预定的小波并避免训练，在传统光谱分析与基于CNN的方法之间架起桥梁。
• 二阶散射，即使在尺度数量较小的情况下，也能为广泛的场提供有信息的摘要。