[論文レビュー] Attentive Recurrent Comparators

Pranav Shyam, Shubham Gupta+1 more|arXiv (Cornell University)|Mar 2, 2017

Neural dynamics and brain function参考文献 18被引用数 64

ひとこと要約

この論文は Attentive Recurrent Comparators (ARCs) を導入し、学習済みの注意と再帰を用いて対になった画像を繰り返し観察し、動的な表現を形成することで、最先端のワンショット Omniglot 分類と高い類似性学習の結果を達成します。

ABSTRACT

Rapid learning requires flexible representations to quickly adopt to new evidence. We develop a novel class of models called Attentive Recurrent Comparators (ARCs) that form representations of objects by cycling through them and making observations. Using the representations extracted by ARCs, we develop a way of approximating a \textit{dynamic representation space} and use it for one-shot learning. In the task of one-shot classification on the Omniglot dataset, we achieve the state of the art performance with an error rate of 1.5\%. This represents the first super-human result achieved for this task with a generic model that uses only pixel information.

研究の動機と目的

• 動的な表現が新しい証拠とともに進化することで迅速な学習を動機づける。
• 2つの画像間で注意を交互に行う微分可能な ARC モデルを提案する。
• ARC（畳み込みを含む場合と含まない場合の両方）を用いて、類似タスクで convnet に匹敵するまたはそれを上回ることができることを示す。
• ARC がワンショット分類のための高性能な遅延的・相対的表現空間を提供することを示す。

提案手法

• RNN コントローラと微分可能な注意機構からなる ARC を導入し、時刻ごとに二つの画像の間を交互に観察する。
• 前の RNN 状態から注意の glimpse パラメータを計算し、現在の画像の領域に注目して G_t を形成し、RNN 状態 h_t を更新する。
• 畳み込み特徴マップに対して注意を適用することで CNN 特徴を組み込むことも可能（ConvARC）。
• ワンショット学習のため、テストサンプルに条件付けられた相対表現空間を構築し、Matching Networks に似た階層的な二段階比較とソフトマックススコアリングを用いる。
• Omniglot および CASIA WebFace のタスクで類似性目的地のエンドツーエンド学習を行い、最適化する。

実験結果

リサーチクエスチョン

• RQ1 ARCs は視覚的類似タスクのための効果的な動的・文脈条件付き表現を形成できるか？
• RQ2 畳み込み特徴の有無にかかわらず ARC は検証タスクで Siamese ネットワークと競合または上回るパフォーマンスを達成できるか？
• RQ3 テストサンプルに条件付けられた遅延的な相対表現空間は最先端のワンショット分類をサポートできるか？
• RQ4 二つの入力間で反復的な注意は並列注意や Siamese 風の融合と比較して性能と効率の点でどうであるか？

主な発見

Model	Accuracy (Test Set)
Siamese Network	60.52%
Deep Siamese Net (Koch et al.)	93.42%
Siamese ResNet (d=24, w=1)	93.47%
Siamese ResNet (d=30, w=2)	94.61%
Siamese ResNet (d=60, w=4)	93.57%
ARC	93.31%
ConvARC	96.10%
Across Alphabets - 4: Naive ARC	90.30%
Across Alphabets - 4: Naive ConvARC	96.21%
Across Alphabets - 4: Full Context ConvARC	97.5%

• ARC ベースの類似性学習は検証タスクで強力なベースラインを上回るか、これらと同等となり、ワンショット Omniglot の最先端性能を達成する。
• 畳み込みを含まない単純な ARC でも Omniglot の検証で AlexNet レベルの性能に匹敵でき、畳み込みを用いた ConvARC で Wide ResNet Siamese ベースラインを上回る。
• ConvARC は Omniglot の検証で Alphabet 全体で 96.10%、Within Alphabet で 97.5% を達成し、いくつかの方法を上回る。
• CASIA WebFace の検証で ConvARC は CNN ベースラインの 79.48% を上回り 81.73% を記録。
• ワンショット Omniglot の結果：Naive ARC 90.30%、Naive ConvARC 96.21%、Full Context ConvARC 97.5% Across Alphabets；Within Alphabets: Naive ARC 91.75%、Naive ConvARC 97.75%、Full Context ConvARC 98.5%。
• miniImageNet 5-way 1-shot では Naive ConvARC が 49.14% を記録し、Full Context ConvARC がそれを上回る（表には Naive ConvARC の 49.14% が記載され、Full Context ConvARC はそれより高い値を示す）。