[논문 리뷰] Group Invariant Scattering

Stéphane Mallat|arXiv (Cornell University)|2011. 01. 12.

Mathematical Analysis and Transform Methods참고 문헌 12인용 수 9

한 줄 요약

이 논문은 파동장 변환과 절댓값 연산의 연쇄 구조를 통해 이동 및 회전 불변 표현을 구축함으로써 C² 미분형식의 작용에 대해 리프시츠 연속인 군 불변 산란 변환을 소개한다. 주요 기여는 신호 에너지를 유지하면서도 고차원 모멘트를 포착하여 동일한 파wer 스펙트럼을 가진 신호를 구별할 수 있는 안정적이고 비확장성(Nonexpansive)인 산란 변환을 제공하는 것이다.

ABSTRACT

This paper constructs translation invariant operators on L2(R^d), which are Lipschitz continuous to the action of diffeomorphisms. A scattering propagator is a path ordered product of non-linear and non-commuting operators, each of which computes the modulus of a wavelet transform. A local integration defines a windowed scattering transform, which is proved to be Lipschitz continuous to the action of diffeomorphisms. As the window size increases, it converges to a wavelet scattering transform which is translation invariant. Scattering coefficients also provide representations of stationary processes. Expected values depend upon high order moments and can discriminate processes having the same power spectrum. Scattering operators are extended on L2 (G), where G is a compact Lie group, and are invariant under the action of G. Combining a scattering on L2(R^d) and on Ld (SO(d)) defines a translation and rotation invariant scattering on L2(R^d).

연구 동기 및 목표

• 소규모 미분형식 변형에 대해 안정적인 L²(Rᵈ) 내의 이동 불변 신호 표현을 개발하는 것.
• SO(d)를 포함한 컴act Lie 군에 대한 산란 프레임워크를 확장하여 회전 불변성을 달성하는 것.
• L² 노름을 유지하고 C² 미분형식에 대해 리프시츠 연속적인 산란 변환을 구축하는 것.
• 동일한 파워 스펙트럼을 가진 정상 과정을 고차원 모멘트를 통해 구별할 수 있도록 하는 것.
• 창문 적용 및 무한 경로 산란 변환의 이론적 수렴성과 안정성을 확립하는 것.

제안 방법

• 비선형이고 비가환적인 연산자들의 경로 순서 곱으로 구성된 산란 전파자(Propagator)를 정의하며, 각 연산자는 파동장 변환의 절댓값을 계산한다.
• 산란 전파자 출력의 국소적 통합을 통해 창문 산란 변환을 정의함으로써 비확장성과 노름 보존을 보장한다.
• 이동장의 기울기 및 헤시안 항을 사용하여 산란 연산자와 미분형식 연산자의 교환자(commutator)를 유계화함으로써 C² 미분형식에 대한 리프시츠 연속성을 증명한다.
• 컴 pact Lie 군 G에 대해 L²(G)로 프레임워크를 확장하여 군 작용에 대한 불변성을 달성한다.
• L²(Rᵈ)와 L²(SO(d))에서의 산란을 조합하여 이동 및 회전 불변 산란 변환을 구축한다.
• 무한 경로 공간 P̄∞에서의 측도 이론을 사용하여 한계 산란 변환을 정의하고, L²(P̄∞, dμ)에 속함을 증명한다.

실험 결과

연구 질문

• RQ1 소규모 미분형식 변형에 대해 안정된 이동 불변 신호 표현을 구성할 수 있는가?
• RQ2 웨이브릿 기반 표현을 어떻게 이동 불변성으로 만들 수 있으며, 同시에 고주파 정보를 유지할 수 있는가?
• RQ3 C² 미분형식에 대한 산란 변환의 리프시츠 연속성을 보장하는 조건은 무엇인가?
• RQ4 산란 계수는 동일한 파워 스펙트럼을 가진 정상 과정을 구별할 수 있는가?
• RQ5 SO(d)와 같은 컴 pact Lie 군으로 산란을 어떻게 확장하여 회전 불변성을 달성할 수 있는가?

주요 결과

• 창문 산란 변환은 비확장성이며 L² 노름을 보존한다: 모든 f ∈ L²(Rᵈ)에 대해 ||Φ(f)||𝓗 = ||f||.
• 산란 변환은 C² 미분형식에 대해 리프시츠 연속이며, ||∇τ||∞ 및 ||Hτ||∞에 의존하지만 ||τ||∞에는 의존하지 않는다.
• 창문 크기가 증가함에 따라 창문 산란 변환은 비가산 경로 공간 P̄∞에서의 이동 불변 산란 변환으로 수렴한다.
• 산란 계수는 정상 과정의 고차원 모멘트를 포착하여 푸리에 파wer 스펙트럼을 넘어서서 신호를 구별할 수 있도록 한다.
• 무한 경로 산란 변환은 L²(Rᵈ) 함수를 L²(P̄∞, dμ)로 매핑함으로써 힐버트 공간 프레임워크 내에서 이론적 타당성을 확립한다.
• 웨이브릿 교환자 커널은 정상성과 적분 가능성 조건을 만족하여 무작위 미분형식에 대한 산란 변환의 안정성을 보장한다.