[論文レビュー] Learning to Convolve: A Generalized Weight-Tying Approach

Nichita Diaconu, Daniel E. Worrall|UvA-DARE (University of Amsterdam)|May 12, 2019

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

この論文は、回転を含む一様な変換を学習するための、一般化された重み縛り手法を提案する。この手法は、手動で設計された補間法に依存せず、基底分解を用いてフィルタ変換（特に回転）を学習する。フィルタを学習された基底における係数として表現し、フィルタそのものを回転させる代わりに基底を回転させることで、より優れた等長性と入力回転に対するロバスト性を達成する。MNISTおよびCIFAR-10において、双線形補間やフーリエベースの補間法よりも優れた性能を示し、競争力のある精度を達成する。

ABSTRACT

Recent work (Cohen & Welling, 2016) has shown that generalizations of convolutions, based on group theory, provide powerful inductive biases for learning. In these generalizations, filters are not only translated but can also be rotated, flipped, etc. However, coming up with exact models of how to rotate a 3 x 3 filter on a square pixel-grid is difficult. In this paper, we learn how to transform filters for use in the group convolution, focussing on roto-translation. For this, we learn a filter basis and all rotated versions of that filter basis. Filters are then encoded by a set of rotation invariant coefficients. To rotate a filter, we switch the basis. We demonstrate we can produce feature maps with low sensitivity to input rotations, while achieving high performance on MNIST and CIFAR-10.

研究の動機と目的

• 連続的変換の後処理による離散化が原因で生じる、既存の回転・平行移動群CNNにおける非等長性の問題を解決すること。
• 固定された補間ルールに依存するのではなく、フィルタの回転を学習する一般化された重み縛りメカニズムを開発すること。
• フィルタ表現を回転不変に学習することで、入力回転に対するグループCNNのロバスト性と性能を向上させること。
• 学習されたフィルタ変換が、手動で設計された補間手法よりも優れた等長性と分類精度を達成できることを示すこと。

提案手法

• フィルタは、回転に対して不変な係数を持つ、学習された基底フィルタの線形結合として表現される。
• フィルタの回転は、学習された基底の回転版に切り替えることで実現され、係数ベクトルはそのままである。
• 基底およびその回転版は、エンド・トゥ・エンドで訓練され、ネットワークが離散的回転用に最適な補間を学習できるようにする。
• この手法は、標準的な重み縛りを一般化し、置換に基づかない変換（例えば補間された回転）を許容する。
• このフレームワークは、畳み込み内積におけるユニタリ変換を保証し、等長性を保証する。
• このアプローチは、離散的回転・平行移動群に適用され、MNISTおよびCIFAR-10での実験が行われた。

実験結果

リサーチクエスチョン

• RQ1 回転・平行移動群CNNにおいて、手動で設計された補間法よりも、学習された基底表現によるフィルタがより優れた等長性を達成できるか？
• RQ2 フィルタ変換を学習することで、双線形補間やフーリエベースの補間法と比較して、入力回転に対するロバスト性が向上するか？
• RQ3 基底回転を学習する一般化された重み縛りメカニズムが、固定された変換ルールよりも、精度と安定性の面で優れているか？
• RQ4 非ユニタリ変換（例：双線形補間）が、グループCNNにおける等長性に与える影響は何か？
• RQ5 提案手法は、入力回転に対する感受性を顕著に低減しつつ、高い性能を維持できるか？

主な発見

• 提案手法は、双線形補間、ガウス補間、フーリエベースの補間法よりも等長性誤差が低く、特に深層部において顕著に優れた性能を示した。
• 基底学習の「Partial」手法は「Full」手法よりも等長性の面で優れており、これは「Full」基底にわずかな非対称性があると、深さを重ねるごとに性能が劣化することを示唆している。
• CIFAR-10において、同等の容量を持つベースラインアーキテクチャと比較して、同等またはそれ以上の高い分類精度を達成した。
• この手法は、既存の手法と比較して、入力回転に対する感受性が著しく低く、回転摂動に対して顕著にロバストであることが示された。
• 本研究では、非ユニタリフィルタ変換（例：双線形補間）が等長性を破壊することを特定し、これにより先行研究の劣悪な性能が説明できた。
• 結果から、変換基底を学習することで、対称性を保つデータオーグメンテーション下での表現安定性と一般化性能が向上することが確認された。