[論文レビュー] Which one is the dax? Achieving mutual exclusivity with neural networks

Kristina Gulordava, Thomas Brochhagen+1 more|arXiv (Cornell University)|Apr 8, 2020

Child and Animal Learning Development参考文献 37被引用数 4

ひとこと要約

本研究では、干渉要因を含むクロス状況学習モデルを用いて、ニューラルネットワークが未知の参照対象に対して新しい語を好む「相互排他的性」を示すかどうかを検討する。競合する語と学習および参照選択における制約が、新しい語-参照対応タスクのパフォーマンスを顕著に向上させることを発見した。これは、構造化された条件下でニューラルモデルがこの認知的バイアスを模倣できることを示している。

ABSTRACT

Learning words is a challenge for children and neural networks alike. However, what they struggle with can differ. When prompted by novel words, children have been shown to tend to associate them with unfamiliar referents. This has been taken to reflect a propensity toward mutual exclusivity. In this study, we investigate whether and under which circumstances neural models can exhibit analogous behavior. To this end, we evaluate cross-situational neural models on novel items with distractors, contrasting the interaction between different word learning and referent selection strategies. We find that, as long as they bring about competition between words, constraints in both learning and referent selection can improve success in tasks with novel words and referents. For neural network research, our findings clarify the role of available options for enhanced performance in tasks where mutual exclusivity is advantageous. For cognitive research, they highlight latent interactions between word learning, referent selection mechanisms, and the structure of stimuli.

研究の動機と目的

• ニューラルネットワークが語学習における子どもたちの相互排他的性バイアスを再現できるかどうかを検討すること。
• 語学習と参照選択における制約が、新しい語-参照対応タスクのパフォーマンスに与える影響を調査すること。
• 語の間の競合が、ニューラルモデルにおける学習成功を向上させる役割を明らかにすること。
• 刺激構造と学習メカニズムを分析することで、認知科学とニューラルネットワーク研究の知見を統合すること。

提案手法

• クロス状況学習モデルを、新しいアイテムと干渉要因を含む複数の語-参照対応で学習させる。
• 語学習と参照選択における制約の異なる条件下でモデルを評価する。
• 複数の候補となる参照対象（既知のものと新しいもの）を提示することで、語の間の競合を誘発する。
• 新しい語が新しい参照対象に割り当てられる正確さをパフォーマンス指標として測定する。
• 制約の有無にかかわらずモデルを比較し、相互排他的性行動に与える影響を隔離する。
• 刺激構造を操作して、参照対象のなじみやすさと語の新規性が学習結果に与える影響を評価する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、子どもたちと同様に語学習において相互排他的性を示すことができるか？
• RQ2 語の間の競合は、ニューラルモデルにおける相互排他的性の出現にどのように影響するか？
• RQ3 語学習と参照選択における制約が、新しい語タスクのパフォーマンス向上に果たす役割は何か？
• RQ4 刺激の構造が、ニューラルネットワークにおける相互排他的性の発現確率にどのように影響するか？

主な発見

• 語の間の競合が存在する場合、ニューラルネットワークは新しい語に対して新しい参照対象を好む。
• 語学習と参照選択の両方における制約が、新しい語と参照対象を含むタスクのパフォーマンスを顕著に向上させる。
• 干渉要因の存在が学習成功を高めるため、競合がパフォーマンス向上の主要因であることが示唆される。
• 刺激の構造的特徴（既知の参照対象と新しい参照対象の混合）が、相互排他的性に類似した行動の発現に重要な役割を果たす。
• 学習と選択のメカニズムの両方が制約を受けると、ニューラルモデルは新しい語学習においてより高い正確性を達成する。これは相乗効果を示唆する。
• 結果から、相互排他的性は本質的ではないが、学習メカニズムと刺激設計の相互作用から生じることが示された。