[論文レビュー] End-to-end Deep Prototype and Exemplar Models for Predicting Human Behavior

Pulkit Singh, Joshua C. Peterson+2 more|arXiv (Cornell University)|Jul 17, 2020

Child and Animal Learning Development参考文献 20被引用数 10

ひとこと要約

本論文は、生の入力からスティムラスおよびカテゴリの表現を同時に学習するエンド・ツー・エンドのディープニューラルネットワークモデル—Deep Prototype Models (DPM)、Deep Exemplar Models (DEM)、Deep Gaussian Mixture Models (DGMM)—を導入する。これらの認知的にインspiredなモデルをエンド・ツー・エンドで訓練することで、従来のディープネットワークよりも人間の不確実性行動への適合性が向上し、分類精度も向上する。

ABSTRACT

Traditional models of category learning in psychology focus on representation at the category level as opposed to the stimulus level, even though the two are likely to interact. The stimulus representations employed in such models are either hand-designed by the experimenter, inferred circuitously from human judgments, or borrowed from pretrained deep neural networks that are themselves competing models of category learning. In this work, we extend classic prototype and exemplar models to learn both stimulus and category representations jointly from raw input. This new class of models can be parameterized by deep neural networks (DNN) and trained end-to-end. Following their namesakes, we refer to them as Deep Prototype Models, Deep Exemplar Models, and Deep Gaussian Mixture Models. Compared to typical DNNs, we find that their cognitively inspired counterparts both provide better intrinsic fit to human behavior and improve ground-truth classification.

研究の動機と目的

• 従来のカテゴリ学習モデルが、カテゴリ学習とは独立してスティムラス表現を固定するという限界に対処すること。
• 特徴学習を、プロトタイプ理論やエクземプラーティーリー理論などの古典的で心理的モデルの分類理論と統合すること。
• スティムラスおよびカテゴリの表現を同時に学習できるディープニューラルネットワークアーキテクチャを開発し、人間の認知プロセスとより良い整合性を図ること。
• 表現と分類の共同最適化により、人間の行動予測および下流の分類タスクの両方でモデル性能を向上させること。
• 心理的理論に基づいたカテゴリ学習を深層学習と統合できるスケーラブルで微分可能なフレームワークを提供すること。

提案手法

• プロトタイプ、エクземプラーモデル、およびガウス混合モデルを統合した確率的フレームワークを提案し、スティムラスおよびカテゴリ表現の共同学習を実現する。
• 分類コンポonentを含むモデル全体に対してバックプロパゲーションを適用し、特徴学習ネットワークをエンド・ツー・エンドで訓練する。
• 学習可能な共分散行列を用いたマハラノビス距離を、スティムラスとカテゴリプロトタイプまたはエクземプラーリング間の類似度測度として採用する。
• 潜在空間におけるカテゴリ中心およびスティムラス表現の分布を分析するためにt-SNE可視化を適用する。
• 人間の不確実性判断が50万件以上含まれるCIFAR10-Hデータセットを用いて、人間の行動への適合性を評価する。
• カテゴリ表現（プロトタイプまたはエクzemプラーリング）をネットワーク内でのパラメータとして学習し、勾配降下法で訓練する統一アーキテクチャを採用する。

実験結果

リサーチクエスチョン

• RQ1 エンド・ツー・エンドで訓練されたディープニューラルネットワークは、人間の認知プロセスをよりよく反映する形で、スティムラスおよびカテゴリ表現を同時に学習できるか？
• RQ2 スティムラスおよびカテゴリ表現の共同学習は、分類における人間の不確実性へのモデル適合性にどのように影響するか？
• RQ3 これらのエンド・ツー・エンドモデルは、標準的なディープネットワークと比較して、標準的な画像分類ベンチマークにおける一般化性能および精度を向上させるか？
• RQ4 これらのモデルが学習する内部表現はどのようなものか？また、心理的理論におけるカテゴリ学習とはどのように比較されるか？
• RQ5 認知理論を深層学習と統合することで、より強固で解釈可能なモデルが得られるか？

主な発見

• 提案されたDeep Prototype ModelおよびExemplar Modelは、人間の基づく監視なしでも、従来のモデルよりも人間の不確実性行動への適合性が顕著に向上している。
• 固定されたよく知られたアーキテクチャを用いながらも、標準的なディープニューラルネットワークよりも真値分類精度が向上している。
• t-SNE可視化の結果、DPMは単一モードで中心的なプロトタイプを生成するが、DGMMは非退化的で多様なモードを持ち、非線形に分布する中心を学習しており、複雑なカテゴリ構造をよりよく捉えている。
• 10回の訓練ランで一貫した性能を示しており、モデルの優位性を得るためにハイパーパramータのチューニングが不要である。
• 人間の不確実性への適合性向上は、先行研究と比較して顕著であり、同程度の結果を得るには膨大な人間の監視が必要であったが、本研究ではその必要がなかった。
• 1カテゴリあたり最大5,000の中心を扱える状態でも安定した訓練が可能であり、スケーラビリティとロバストネスを示している。