[論文レビュー] Same-different problems strain convolutional neural networks

Matthew Ricci, Junkyung Kim+1 more|arXiv (Cornell University)|Feb 9, 2018

Industrial Technology and Control Systems被引用数 6

ひとこと要約

この論文は、畳み込みニューラルネットワーク（CNN）が根本的に同じ・異なる視覚的関係タスクに苦労することを示しており、長期間の訓練を経ても一般化に失敗する。これは、人間や動物が少数の例からそのような関係を学べるのとは対照的である。著者らは、CNNが抽象的推論ではなく記憶に依存していることを示し、真の視覚的関係検出にはフィードバック機構（例：アテンションや知覚的グループ化）が不可欠であると提唱する。

ABSTRACT

The robust and efficient recognition of visual relations in images is a hallmark of biological vision. We argue that, despite recent progress in visual recognition, modern machine vision algorithms are severely limited in their ability to learn visual relations. Through controlled experiments, we demonstrate that visual-relation problems strain convolutional neural networks (CNNs). The networks eventually break altogether when rote memorization becomes impossible, as when intra-class variability exceeds network capacity. Motivated by the comparable success of biological vision, we argue that feedback mechanisms including attention and perceptual grouping may be the key computational components underlying abstract visual reasoning.\

研究の動機と目的

• CNNが視覚的関係タスクで失敗するのは、アーキテクチャの制限によるものか、ハイパーパrameterの選択によるものかを調査すること。
• 複数のCNNアーキテクチャを、合成視覚的推論タスク（SVRT）上で系統的に評価し、特に同じ・異なる関係と空間的関係の問題を区別すること。
• CNNが同じ・異なる問題を一般化ではなく記憶によって解くことの証明となる、制御された実験を設計すること。
• 生物的視覚にインspiredして、フィードバック機構（例：アテンションや知覚的グループ化）が抽象的視覚的推論に不可欠であると主張すること。
• 非フォワードプロセス（例：動的アテンションや特徴グループ化）を統合する新しい視覚的推論アーキテクチャの開発を促すこと。

提案手法

• 2, 4, 6層の畳み込み層を備えた9種類のCNNアーキテクチャを、深さ、初期受容野サイズ（2×2, 4×4, 6×6）、フィルタ数（6, 12, 18）を変化させ、全23のSVRT問題で訓練した。
• ReLU活性化関数、各畳み込み層の後に3×3のマックスプーリング（ストライド2）、3層の全結合層（各1,024ユニット）と2クラス分類層を用いた。
• すべての実験でXavier重み初期化とAdam最適化（学習率10⁻⁴）を適用した。
• SVRT問題における性能を評価し、正確度でモデルをランク付けし、問題定義に基づきタスクを「同じ・異なる」（赤）または「空間的関係」（青）に分類した。
• 知覚的グループ化を模倣するために、シーン内のアイテムを別々の特徴チャネルに割り当てる仕組みを導入した新規のPSVRT（Perceptual-Grouping SVRT）タスクを設計し、未観測のオブジェクトペアへの一般化をテストした。
• 標準CNNと関係性ネットワーク（Santoro et al., 2017）を、組み合わせ的爆発を回避するためチャネルベースのグループ化によって動的アテンションシフトを模倣する、変更されたフォワードパスネットワークと比較した。

実験結果

リサーチクエスチョン

• RQ1 現代のCNNは、同じ・異なる視覚的関係問題を一般化できるのか、それとも単に記憶に依存しているのか？
• RQ2 CNNの性能は、同じ・異なる問題と空間的関係問題の両方の視覚的推論タスクにおいて、どのように異なるのか？
• RQ3 アテンションや知覚的グループ化といったフィードバック機構は、フォワードパスCNNを上回る一般化をどの程度向上できるのか？
• RQ4 チャネルベースのグループ化によって動的アテンションシフトを模倣するフォワードパスネットワークは、過学習を回避しながら、標準CNNを上回って同じ・異なるタスクを解けるのか？
• RQ5 人間や動物は少数の例から同じ・異なる関係を一般化できるが、なぜ深層ネットワークは何百万例も学習した後でも失敗するのか？

主な発見

• 全23のSVRTタスクにおいて、CNNは「同じ・異なる」問題（赤棒）で一貫して低い正確度を示し、「空間的関係」問題（青棒）よりも劣っていた。
• 最も挑戦的な「同じ・異なる」問題（SVRT #20）においても、最高性能のCNNは100万例の訓練後でも偶然の性能を超えることができず、一方人間は平均6例でルールを学習した。
• 制御された実験では、CNNが「同じ・異なる」タスクを記憶に依存して解くことのみを示し、ネットワークの容量を超えるクラス内変動が生じると完全に崩壊した。
• シーン内のアイテムを別々のチャネルに割り当てることで知覚的グループ化を模倣したフォワードパスネットワークは、過学習を回避してPSVRTタスクを正しく学習し、標準CNNや関係性ネットワークを上回った。
• 関係性ネットワーク（Santoro et al., 2017）も、すべての特徴ペアにアテンションを向けるための組み合わせ的アテンション機構を採用したが、負荷が大きく過学習を起こした。これは、組み合わせ的アテンション機構がスケーラブルではないことを示している。
• 結果から、非フォワードプロセス（特にアテンションと知覚的グループ化）が抽象的視覚的推論に不可欠であり、今後の視覚的推論アーキテクチャに統合されるべきであると示唆される。