[論文レビュー] Rotation Equivariance and Invariance in Convolutional Neural Networks

Benjamin Chidester, N. Minh+1 more|arXiv (Cornell University)|May 31, 2018

Cell Image Analysis Techniques参考文献 14被引用数 24

ひとこと要約

本稿では、回転等長性を保証するための新しいラジアル畳み込み層と、遷移層における2次元DFTの応答の大きさを用いて回転不変性を実現する回転不変畳み込みニューラルネットワーク（RiCNN）を提案する。MNIST、合成顕微鏡画像、および実際のユーラス酵母細胞画像の3つのデータセットにおいて、標準的なCNNやG-CNNを上回る分類精度、学習速度、ハイパーパrameter選択へのロバスト性を達成した。特にデータが限られた状況下でも優れた性能を示した。

ABSTRACT

Performance of neural networks can be significantly improved by encoding known invariance for particular tasks. Many image classification tasks, such as those related to cellular imaging, exhibit invariance to rotation. We present a novel scheme using the magnitude response of the 2D-discrete-Fourier transform (2D-DFT) to encode rotational invariance in neural networks, along with a new, efficient convolutional scheme for encoding rotational equivariance throughout convolutional layers. We implemented this scheme for several image classification tasks and demonstrated improved performance, in terms of classification accuracy, time required to train the model, and robustness to hyperparameter selection, over a standard CNN and another state-of-the-art method.

研究の動機と目的

• 細胞および顕微鏡画像分野において回転が重要な対称性を示す状況を想定し、回転不変分類タスクにおけるCNNの性能を向上させること。
• 標準CNNやG-CNNのような既存の等長性手法に起因する限界、例えばグローバルな回転構造の喪失や過剰なパラメータ数の増加を是正すること。
• 畳み込み層内での回転等長性を維持するとともに、新しい遷移層によって不変性を強制する、計算効率の高い手法を開発すること。
• 等長性と不変性を明示的に符号化することで、特に小規模なトレーニングセットにおいてより優れた一般化性能が得られることを示すこと。

提案手法

• 回転したフィルタを特徴マップの円錐領域に沿って畳み込むことで、畳み込み層全体で回転等長性を維持する新しいラジアル畳み込み層を提案する。
• 回転した特徴マップを円形シフトに変換する2次元DFTに基づく遷移層を導入し、その大きさ応答の回転不変性を活用する。
• 2次元DFTの大きさを回転不変表現として用い、フィルタ応答間の相互回転情報の保持を図る。これはG-CNNにおけるフィルタごとのプーリングとは対照的である。
• ラジアル畳み込み層と2次元DFT層を統合した新しいネットワークアーキテクチャ、RiCNNを設計し、一貫したフレームワーク内で等長性と不変性を両立する。
• 限られたアノテーションを伴う顕微鏡データに適応した、データ増強とドロップアウトを組み合わせた改良型トレーニングプロトコルを採用する。
• 回転MNIST、合成バイオマーカー画像、およびサブセルラーゾンのタンパク質局在を有する実際のバッドユーラス酵母細胞画像の複数のデータセットで手法を検証した。

実験結果

リサーチクエスチョン

• RQ1 標準CNNやG-CNNと比較して、パラメータ数を削減しつつも、回転等長性を効果的に維持できる新しいラジアル畳み込み層は、CNNに有効に機能するか？
• RQ2 G-CNNにおけるフィルタごとのプーリングと比較して、2次元DFTの応答の大きさは、回転不変性のためのより強固で情報量の多い表現を提供するか？
• RQ3 回転等長性畳み込みと2次元DFTに基づく不変性の組み合わせは、細胞画像分野のような小規模かつ複雑なデータセットにおいて分類精度をどのように向上させるか？
• RQ4 標準CNNやG-CNNと比較して、RiCNNは学習時間の短縮とハイパーパrameterへの感受性の低減をどの程度達成するか？
• RQ5 微細な表型差異と限られたトレーニングデータを伴う実世界の生物学的画像分野において、RiCNNはより優れた一般化性能を示せるか？

主な発見

• RiCNNは、回転MNISTや合成バイオマーカー画像を含むすべてのテストデータセットで、標準CNNやG-CNNを上回る分類精度を達成し、統計的に有意な改善が認められた。
• ユーラス酵母のタンパク質局在タスクにおいて、最良の非ディープラーニング手法（ensLOC）がより簡単なセットで0.49を達成したのに対し、RiCNNはわずか約10％のデータ量で平均適合率0.60～0.67を達成した。
• 2次元DFT遷移層の導入により、2D-DFTを備えないReCNN（回転等長性CNN）よりも顕著に性能が向上した。これは、フィルタ間の回転情報の保持に本手法が有効であることを示している。
• RiCNNは標準CNNやG-CNNと比較して、より高速に学習が完了し、ハイパーパrameter設定の変化に伴う性能のばらつきも小さく、より高いロバスト性を示した。
• 2次元DFT層を含まない場合でも、ReCNNは標準CNNを上回り、より少ないパラメータ数で動作した。これは、ラジアル畳み込み層が等長性を実現する上で有効であることを裏付けている。
• RiCNNの性能スプレッドは、G-CNNや標準CNNと比較して一貫して高く、最適でないハイパーパrameter設定下でも一般化性能が優れていることを示している。