[論文レビュー] Learning Hierarchical Visual Representations in Deep Neural Networks Using Hierarchical Linguistic Labels

Joshua C. Peterson, Paul Soulos+2 more|arXiv (Cornell University)|May 19, 2018

Face Recognition and Perception参考文献 18被引用数 3

ひとこと要約

本稿では、同じ画像に対して基本的レベル（例：'dog'）と従属的レベル（例：'Dalmatian'）の階層的言語的ラベルを用いて深層畳み込みニューラルネットワークを訓練することで、より人間らしい視覚的表象を学習することを提案する。複数レベルの監視を組み込むことで、モデルはより豊かな階層的構造を学習し、視覚的に異なるが意味的に関連するカテゴリのクラスタリングが向上するとともに、人間の認知パターンに近く、基本的レベルへの一般化バイアスが強化される。

ABSTRACT

Modern convolutional neural networks (CNNs) are able to achieve human-level object classification accuracy on specific tasks, and currently outperform competing models in explaining complex human visual representations. However, the categorization problem is posed differently for these networks than for humans: the accuracy of these networks is evaluated by their ability to identify single labels assigned to each image. These labels often cut arbitrarily across natural psychological taxonomies (e.g., dogs are separated into breeds, but never jointly categorized as "dogs"), and bias the resulting representations. By contrast, it is common for children to hear both "dog" and "Dalmatian" to describe the same stimulus, helping to group perceptually disparate objects (e.g., breeds) into a common mental class. In this work, we train CNN classifiers with multiple labels for each image that correspond to different levels of abstraction, and use this framework to reproduce classic patterns that appear in human generalization behavior.

研究の動機と目的

• 階層的言語的ラベル（例：'dog' と 'Dalmatian'）を用いた複数レベルの監視が、深層ニューラルネットワークにおける視覚的表象学習をどのように改善するかを調査すること。
• 基本的レベルのラベルで訓練した場合、従属的レベルのみで訓練した場合と比較して、視覚的表象に階層的分類構造をよりよく捉えられるかを検討すること。
• 基本的レベルのラベルで訓練したモデルが、心理学者の研究で観察された人間らしい基本的レベルの一般化バイアスを再現できるかを評価すること。
• 複数レベルの監視が、人間の認知行動を模倣するように、モデルの新規例への一般化能力をどのように向上させるかを特定すること。

提案手法

• 階層的分類体系に対応する複数のラベルを備えたデータセットを用いて、Szegedy et al. (2015) に基づくほぼ最先端のCNNを微調整する。
• 別々のモデルを、従属的レベルのラベルのみ（Subモデル）、基本的レベルのラベルのみ（Basicモデル）、または両方（Bothモデル）で訓練し、それらが学習する表象を比較する。
• 階層的クラスタリングとデンドログラムを用いて、学習された表象がデータの潜在的な分類体系をどの程度反映しているかを評価する。
• ユークリッド距離に基づく確率的一般化モデルと、正規化手法（正例の数 n を組み込む）を用い、人間らしい一般化行動を模倣する。
• テスト用刺激全体の一般化確率を正規化し、Xu & Tenenbaum (2007) の人間データと比較可能にする。主に相対的な尤度に注目する。
• 訓練およびテスト用の刺激を、少なくとも3つの従属クラスを有する88/308の基本的レベルのカテゴリから抽出し、一般化実験に十分なデータを確保する。

実験結果

リサーチクエスチョン

• RQ1 基本的レベルのラベルで訓練した場合、従属的レベルのラベルのみで訓練した場合と比較して、視覚的表象の階層的クラスタリングがより優れているか？
• RQ2 複数レベルの監視で学習した表象は、人間の類似性判断および一般化パターンとどの程度一致するか？
• RQ3 基本的レベルのラベルで訓練した深層ニューラルネットワークが、人間認知で観察された基本的レベルの一般化バイアスを再現できるか？
• RQ4 観測例の数が、モデルにおける基本的レベルの一般化バイアスの強度にどのように影響するか。また、その傾向は人間の行動と一致するか？

主な発見

• 基本的レベルのラベルで訓練した場合、視覚的に異なるが意味的に関連する例（例：さまざまな犬種）のクラスタリングが、従属的レベルのみの訓練よりも顕著に向上することが、デンドログラムから明らかになった。
• 基本的レベルのラベルで訓練したモデルは、人間の類似性判断を説明する観点で、従属的レベルのみのモデルと同等またはそれ以上の一般化性能を達成した。
• 基本的レベルのラベルで訓練したモデルは、強い基本的レベルの一般化バイアスを示した—つまり、新しいラベル（例：'dax'）を広いカテゴリ（例：すべての犬）に一般化する非ゼロの確率を割り当てた—これは、例数が少ないほど強まり、例数が多いほど弱まる傾向で、人間の行動と非常に類似していた。
• 従属的レベルのラベルでのみ訓練したSubモデルは、弱い基本的レベルバイアスを示しており、視覚的類似性だけでは、強固な階層的一般化を誘発できないことが示唆された。
• 両方のラベルタイプを用いたBothモデルは、人間の一般化パターンとの一致をさらに高め、複数レベルの監視が表象品質を向上させることを示した。
• 一般化モデル式に例数（n）を組み込むことで、人間データとの一致が顕著に向上し、特に3例の条件ではモデルの行動が人間の傾向と非常に類似していた。