[論文レビュー] Deep daxes: Mutual exclusivity arises through both learning biases and pragmatic strategies in neural networks

Kristina Gulordava, Thomas Brochhagen+1 more|arXiv (Cornell University)|Apr 8, 2020

Language and cultural evolution被引用数 6

ひとこと要約

この論文は、新しい語と新しい対象の間の相互排他的な関連付けが、学習バイアス（例：マックスマージン損失）または実用的対象選択戦略によって、ニューラルネットワークで生じうることを示している。特に語と対象の識別が向上した場合に顕著である。視覚データでは、相反多義性制約が対象の識別性を高めることで性能が著しく向上し、構造的で複雑な刺激が学習結果に大きな影響を与えることが示された。

ABSTRACT

Children's tendency to associate novel words with novel referents has been taken to reflect a bias toward mutual exclusivity. This tendency may be advantageous both as (1) an ad-hoc referent selection heuristic to single out referents lacking a label and as (2) an organizing principle of lexical acquisition. This paper investigates under which circumstances cross-situational neural models can come to exhibit analogous behavior to children, focusing on these two possibilities and their interaction. To this end, we evaluate neural networks' on both symbolic data and, as a first, on large-scale image data. We find that constraints in both learning and selection can foster mutual exclusivity, as long as they put words in competition for lexical meaning. For computational models, these findings clarify the role of available options for better performance in tasks where mutual exclusivity is advantageous. For cognitive research, they highlight latent interactions between word learning, referent selection mechanisms, and the structure of stimuli of varying complexity: symbolic and visual.

研究の動機と目的

• ニューラルネットワークが、子どもたちの語の学習行動を模倣するように、どのような条件下で相互排他的性を示すかを調査すること。
• 学習バイアス（例：損失関数）と実用的対象選択戦略の役割を分離し、相互排他的性の促進に寄与する要因を解明すること。
• 自然な対象の共起がある記号的データと大規模な視覚データの両方において、相互排他的性がどの程度効果的に生じるかを評価すること。
• 相互排他的性をベイズ推論プロセスとして形式化し、確率的実用的モデルと結びつけること。
• 同一状況下での語の学習タスクにおいて、同義語制約と多義語制約が性能に与える影響を評価すること。

提案手法

• 著者たちは、記号的データと大規模な画像データの両方を用いて、クロスシチュエーション語の学習タスクでニューラルネットワークを訓練した。
• 正例と負例の対象を分離するように、語-対象ペアにマックスマージン損失を適用し、反同義語性を促進した。
• 語レベルと対象レベルの両方のマックスマージン制約を組み合わせた共同損失目的関数を導入し、語と対象の両方の識別性を向上させた。
• 対象選択のためのベイズ推論を用いてモデルを評価し、新しい語の理解における実用的推論をモデル化した。
• 異なる損失構成（例：語のみ、対象のみ、共同）の間で性能を比較し、30回の独立した初期化による分散を分析した。
• 訓練の安定化と対象レベルの識別効果の隔離を目的に、事前学習済みの視覚埋め込みを用いた。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、新しい語の理解において相互排他的性を示すことができ、どのような条件下でそれが生じるのか？
• RQ2 学習バイアス（例：マックスマージン損失）と実用的対象選択戦略のどちらが相互排他的性をより効果的に支援するのか？
• RQ3 刺激の構造（記号的 vs. 視覚的）が、相互排他的性メカニズムの有効性にどのように影響するのか？
• RQ4 相反多義語性による対象の識別性の向上が、視覚的語の学習タスクの性能にどの程度向上効果をもたらすのか？
• RQ5 語と対象の表現を両方制約する共同学習目的関数は、単一目的アプローチと比較してどの程度優れているのか？

主な発見

• 視覚データでは、語と対象の両方に対して共同マックスマージン損失を用いて訓練したモデルが、新しい対象での平均正解率0.79を達成し、ランダムベースラインの0.45を著しく上回った。
• 対象レベルのマックスマージン損失のみを用いたモデルは、語のみの損失（0.54）よりも性能が向上（平均正解率0.59）しており、対象の識別性が相互排他的性を強化していることが示された。
• 相反多義語性の成功は、対象の識別性に依存しており、視覚的対象同士の視覚的類似性が高いため、視覚データでは記号的データよりも対象の識別性がより重要であることがわかった。
• 反同義語性（語レベルの損失）のみを用いたモデルは、新しい語の埋め込みのランダム初期化に起因して実験間で高いばらつきを示し、追加の制約がないと不安定であることが明らかになった。
• 共同目的関数は個別の目的関数を上回った。語と対象の両方の識別性の同時向上が、強固な相互排他的性を実現するために不可欠であることが示された。
• 結果から、連続的表現を用いたスケーラブルなニューラルネットワークでも相互排他的性が達成可能であることが明らかになった。これは、かつての仮定である「このような行動は特殊なアーキテクチャを必要とする」という考えに反するものである。