[論文レビュー] Cognitive Deficit of Deep Learning in Numerosity

Xiaolin Wu, Xi Zhang+1 more|arXiv (Cornell University)|Feb 9, 2018

Cognitive and developmental aspects of mathematical skills被引用数 3

ひとこと要約

この論文は、エンドツーエンド学習を用いて、深層学習（DL）が人間のような即時認識（subitizing）——小規模なオブジェクトの数を即座に認識する能力——を達成できるかを調査している。強力な監視のもとでも、標準的な深層畳み込みネットワークは、サイズ、形状、色の視覚的変化に対して一般化に失敗する。これに対して、モルフォロジカル操作（収縮、連結成分、数え上げ）を明示的に組み込んだ再帰的畳み込みニューラルネットワーク（RCNN）は、人間由来の認知的前提知識を活用することで、成功裏に即時認識を実現した。この結果から、DLの認知的欠陥はアーキテクチャの問題ではなく、最適化の制限に起因することが示された。

ABSTRACT

Subitizing, or the sense of small natural numbers, is an innate cognitive function of humans and primates; it responds to visual stimuli prior to the development of any symbolic skills, language or arithmetic. Given successes of deep learning (DL) in tasks of visual intelligence and given the primitivity of number sense, a tantalizing question is whether DL can comprehend numbers and perform subitizing. But somewhat disappointingly, extensive experiments of the type of cognitive psychology demonstrate that the examples-driven black box DL cannot see through superficial variations in visual representations and distill the abstract notion of natural number, a task that children perform with high accuracy and confidence. The failure is apparently due to the learning method not the CNN computational machinery itself. A recurrent neural network capable of subitizing does exist, which we construct by encoding a mechanism of mathematical morphology into the CNN convolutional kernels. Also, we investigate, using subitizing as a test bed, the ways to aid the black box DL by cognitive priors derived from human insight. Our findings are mixed and interesting, pointing to both cognitive deficit of pure DL, and some measured successes of boosting DL by predetermined cognitive implements. This case study of DL in cognitive computing is meaningful for visual numerosity represents a minimum level of human intelligence.

研究の動機と目的

• エンドツーエンドの深層学習が、多様な形状・サイズ・色を示す視覚的数え上げの提示から、自然数の抽象的概念を学習できるかを検証すること。
• データ駆動型の深層学習が、統計的推論を超えた認知的抽象化を達成する際の限界を調査すること。
• 人間由来の認知的前提知識（例：モルフォロジカル操作）を組み込むことで、深層学習が即時認識を実現できるかを検討すること。
• 正しいアーキテクチャを備えた決定的即時認識ネットワークを、バックプロパゲーションで正しく学習できない理由を分析すること。
• 即時認識を原始的認知機能に分解することで、視覚的変化に一般化可能なモジュラーで神経認知的にインspiredな深層学習システムを構築すること。

提案手法

• モルフォロジカル操作（収縮、連結性の維持）を明示的にエンコードした$3\times3$畳み込みカーネルを備えた再帰的畳み込みニューラルネットワーク（RCNN）を設計し、即時認識に用いた。
• 即時認識を3つのサブネットワークに分解した：収縮（モルフォロジカルアトム）、連結成分検出、数え上げ。それぞれを別々に学習した。
• 連結性を保つ低減処理を安定して学習可能にするために、収縮サブネットワークに残差ブロックとReLU活性化関数を用いた。
• 学習済みサブネットワークを連結することで、i.i.d.データを超える一般化を実現するモジュラーDCNNを構築した。
• ランダムおよびインフォームドな重み初期化を用いたRCNNの勾配降下法による学習を検討し、最適解付近で不連続な損失関数のため収束しないことが判明した。
• RCNNを生物学的にインspiredなアーキテクチャとみなした。視覚腹側経路に類似した構造を持ち、再帰的収縮をコア演算として用いた。

実験結果

リサーチクエスチョン

• RQ1 標準的なバックプロパゲーションを用いたエンドツーエンドの深層学習は、多様な形状・サイズ・色を示す視覚的刺激から、自然数の抽象的概念を学習できるか？
• RQ2 強力な監視と高品質な訓練データのもとでも、深層学習が即時認識タスクで一般化に失敗するのはなぜか？
• RQ3 人間由来の認知的プリミティブ（例：モルフォロジカル操作）を組み込むことで、深層学習モデルが決定的即時認識を達成できるか？
• RQ4 正しいアーキテクチャを備えた事前に構造化されたRCNNに、既知の最適カーネルを用いても勾配降下法が収束しないのはなぜか？
• RQ5 深層学習は、事前に存在する認知的構造をどれほど補完することで、即時認識のような認知的機能を達成できるか？

主な発見

• 標準的な深層畳み込みニューラルネットワークは、強力な監視のもとでも、オブジェクトのサイズ・形状・色・方向の変化に対して一般化が著しく劣り、即時認識に失敗する。
• この失敗は、シーンの意味的構造ではなく、訓練データ内の統計的パターンへの過剰な依存に起因し、純粋なデータ駆動型学習における根本的な認知的欠陥を示している。
• モルフォロジカルにエンコードされたカーネルを備えた再帰的CNNは、視覚的変化から数を抽象化することで、決定的即時認識を成功裏に実行した。これは、人間の知見によって導かれた場合、アーキテクチャが即時認識を実現可能であることを証明している。
• インフォームドな初期化を用いても、最適解付近で極めて不連続な損失関数のため、RCNNの勾配降下法による学習は収束しなかった。これは整数計画法に類似していた。
• 即時認識を収縮・連結成分検出・数え上げの3つのサブ関数に分解することで、個別学習とモジュラー構成が可能となり、一般化可能な即時認識システムが実現された。
• モジュラー手法の成功は、深層学習が、エンドツーエンド学習のみではなく、事前に存在する認知的前提知識を補完することで認知的抽象化を達成できることを示している。