[論文レビュー] Scattering Networks on the Sphere for Scalable and Rotationally Equivariant Spherical CNNs

Jason D. McEwen, Christopher G. R. Wallis+1 more|arXiv (Cornell University)|Feb 4, 2021

Seismic Imaging and Inversion Techniques被引用数 8

ひとこと要約

本稿では、球面上の高分解能信号向けにスケーラブルで回転等変性な表現を提供する球面散乱ネットワーク—波letに基づく散乱変換を球面に適応することで導入する。一般化された球面畳み込みニューラルネットワーク（CNN）の初期層として統合され、効率的で安定的かつ不変な特徴抽出を可能にし、360°画像や宇宙背景放射マップなどの高分解能データにおける性能を顕著に向上させる。

ABSTRACT

Convolutional neural networks (CNNs) constructed natively on the sphere have been developed recently and shown to be highly effective for the analysis of spherical data. While an efficient framework has been formulated, spherical CNNs are nevertheless highly computationally demanding; typically they cannot scale beyond spherical signals of thousands of pixels. We develop scattering networks constructed natively on the sphere that provide a powerful representational space for spherical data. Spherical scattering networks are computationally scalable and exhibit rotational equivariance, while their representational space is invariant to isometries and provides efficient and stable signal representations. By integrating scattering networks as an additional type of layer in the generalized spherical CNN framework, we show how they can be leveraged to scale spherical CNNs to the high-resolution data typical of many practical applications, with spherical signals of many tens of megapixels and beyond.

研究の動機と目的

• 高分解能（例：数百万画素以上）における既存の回転等変性球面CNNの計算不能性を解決する。
• 等長変換に対して不変で、周波数成分のすべてに感度を持つ球面信号の表現空間を構築する。
• 一般化された球面CNNフレームワークにスケーラブルで学習なしの層を統合し、高分解能処理を可能にする。
• 球面の調和構造を活用して、効率的で理論的裏付けのある信号表現を設計する。
• 散乱ネットワークが球面CNNをスケーリング可能にし、回転等変性を保持する有効な初期層として機能することを示す。

提案手法

• ユークリッド空間の散乱ネットワークにインspiredされ、スケール分解能球面waveletと絶対値非線形性を用いて球面散乱ネットワークを構築する。
• 球面調和変換と高速アルゴリズムを用い、球面上でのwavelet変換を効率的に計算する。
• 連続するwavelet変換に続いて点ごとの絶対値を適用することで、安定で不変な係数を生成する。
• 一般化された球面CNNフレームワークに固定で学習なしの初期層として散乱ネットワークを統合する。
• 球面調和基底を活用して回転等変性を維持し、球面の連続的対称性を活用する。
• 評価には最適化されていない単一スレッド実装を用い、学習前一度だけ散乱を計算する。

実験結果

リサーチクエスチョン

• RQ1 球面上の散乱ネットワークは、高分解能球面信号に対してスケーラブルで回転等変性かつ安定した表現を提供できるか？
• RQ2 球面散乱ネットワークは、ハイブリッド球面CNNの初期層として、高分解能データの性能向上にどの程度効果的か？
• RQ3 球面散乱ネットワークは、等長変換に対して不変で、微小変形（diffeomorphisms）に対して安定しながら、高周波成分に感度を保つことができるか？
• RQ4 球面散乱ネットワークにより、360°画像やCMBマップなどの数百万画素級の信号にまで球面CNNをスケーリング可能か？
• RQ5 散乱ネットワークの導入が、下流タスクにおける収束速度と分類精度にどのように影響するか？

主な発見

• $ L = 256 $ の場合、球面散乱ネットワークによりMNIST分類の正確性が、散乱なしの75.12％から、挑戦的なNR/R（回転テスト）条件下で96.02％に向上した。
• $ L = 1024 $ におけるCMB分類では、散乱付きモデルが95.3％の正確性を達成したのに対し、散乱なしでは53.1％にとどまり、弱非ガウス的信号に対しても有効性が示された。
• 評価は $ L = 1024 $ 時に2分未満で完了し、高分解能にもかかわらず実用的であることが示され、一度だけ計算すればよかった。
• 散乱ネットワークにより高周波成分が低周波係数に混合され、以降のCNN層が細部を効果的に捉えることができた。
• 散乱層を含む・含まないモデル間で、学習の収束速度に顕著な差は観察されなかった。
• 理論的に予想された通り、散乱ネットワークが提供する表現空間は、指定されたスケールまで等長変換に対して不変で、微小変形に対して安定であった。