[논문 리뷰] How to quantify fields or textures? A guide to the scattering transform

Sihao Cheng, Brice Ménard|arXiv (Cornell University)|2021. 11. 30.

Machine Learning in Materials Science참고 문헌 1인용 수 24

한 줄 요약

이 논문은 학습 없이도 해석 가능한 통계 프레임워크로서의 scattering transform을 제시하여 fields/textures에서 power spectrum을 넘어선 정보를 포착하고, 안정적이고 간결한 디스크립터를 제공합니다.

ABSTRACT

Extracting information from stochastic fields or textures is a ubiquitous task in science, from exploratory data analysis to classification and parameter estimation. From physics to biology, it tends to be done either through a power spectrum analysis, which is often too limited, or the use of convolutional neural networks (CNNs), which require large training sets and lack interpretability. In this paper, we advocate for the use of the scattering transform (Mallat 2012), a powerful statistic which borrows mathematical ideas from CNNs but does not require any training, and is interpretable. We show that it provides a relatively compact set of summary statistics with visual interpretation and which carries most of the relevant information in a wide range of scientific applications. We present a non-technical introduction to this estimator and we argue that it can benefit data analysis, comparison to models and parameter inference in many fields of science. Interestingly, understanding the core operations of the scattering transform allows one to decipher many key aspects of the inner workings of CNNs.

연구 동기 및 목표

• 필드와 질감에 대해 power spectrum을 넘어서는 정보성 디스크립터의 필요성을 동기 부여한다.
• scattering transform을 해석 가능하고 학습이 필요 없는 추정기로, 우수한 안정성 특성을 가진 것으로 소개한다.
• 주요 연산(웨이브렛 컨볼루션, 모듈러스, 평균화)을 설명하고 이들이 어떻게 평행이동 및 회전에 불변인 디스크립터를 생성하는지 설명한다.
• scattering 계수와 CNN 간의 관계를 논의하고 데이터 분석 및 추론을 위한 실용적이고 비기술적인 지침을 제공한다.

제안 방법

• scattering transform을 연쇄적 계층으로 설명하여 웨이브렛 컨볼루션, 모듈러스, 평균화를 통해 평행이동 불변 디스크립터를 생성한다.
• 0차, 1차, 2차 차수의 scattering coefficients S0, S1, S2와 방향성 평균화 시의 축약 형태를 정의한다.
• 에너지 분할, 스케일 간 상호작용 및 정규화가 어떻게 무차원 통계를 만들어내는지 설명한다.
• 웨이브렛이 국소화된 스케일 인식 분석을 제공하여 파워 스펙트럼을 넘어서는 비가 Gaussian적 형태 정보와 형태 정보를 포착하는 방식을 설명한다.
• 전제된 웨이브렛과 모듈러스 비선형성, 평균화를 통한 풀링을 사용하여 간단화된 CNN들과의 연결을 강조한다.

실험 결과

연구 질문

• RQ1 scattering coefficients가 파워 스펙트럼을 넘어 비가 Gaussian한 형태와 스케일 간 상호 작용을 포착할 수 있는가?
• RQ2 1차 및 2차 scattering coefficients가 필드/질감에서 스케일 간 상호 작용 및 에너지 분포와 어떻게 연관되는가?
• RQ3 과학 데이터 분석을 위한 scattering descriptors의 안정성, 수렴성 및 해석 가능성은 어떠한가?
• RQ4 scattering 프레임워크가 매개변수 추정 및 모델 비교를 위한 개념적 관점에서 CNN 및 전통적 스펙트럴 방법과 어떻게 비교되는가?

주요 결과

• scattering coefficients는 파워 스펙트럼을 넘어서는 형태 정보와 스케일 간 상호 작용을 포착하는 간결하고 해석 가능한 디스크립터 집합을 제공한다.
• 입력 필드의 에너지는 scattering 차수 across하여 분할될 수 있으며, 많은 실제 사례에서 빠른 수렴을 보이는 안정적인 다층 설명을 가능하게 한다.
• 모듈러스 연산은 정보를 더 낮은 주파수로 이동시켜 변형 및 잡음에 대한 강건성을 높이고 희소성을 드러낸다.
• scattering coefficients의 정규화는 비교 및 추론을 용이하게 하는 무차원 통계를 제공한다.
• 전통적 스펙트럴 분석과 CNN 기반 방법 사이의 다리 역할을 하며, 미리 정의된 웨이브렛을 사용하고 학습을 피한다.
• 2차 scattering은 비교적 적은 스케일 수로도 다양한 필드에 대해 정보성 요약을 제공할 수 있다.