[論文レビュー] A Property Induction Framework for Neural Language Models

Kanishka Misra, Julia Taylor Rayz+1 more|arXiv (Cornell University)|May 13, 2022

Topic Modeling被引用数 10

ひとこと要約

この論文は、神経言語モデルが概念的知識に基づいて、新しい性質（例：「スズメはダックスである」）を一般化する方法を評価するプロパティ誘導フレームワークを導入する。微調整された言語モデルを用いて性質の真偽を判断し、その上で誘導一般化をテストすることで、モデルが強い分類的バイアスを示すことが判明した。具体的には、同じカテゴリー内にある概念に新しい性質を優先的に投影する傾向があり、これは単なる特徴の重複を超えた、潜在的な概念的組織の存在を示唆している。

ABSTRACT

To what extent can experience from language contribute to our conceptual knowledge? Computational explorations of this question have shed light on the ability of powerful neural language models (LMs) -- informed solely through text input -- to encode and elicit information about concepts and properties. To extend this line of research, we present a framework that uses neural-network language models (LMs) to perform property induction -- a task in which humans generalize novel property knowledge (has sesamoid bones) from one or more concepts (robins) to others (sparrows, canaries). Patterns of property induction observed in humans have shed considerable light on the nature and organization of human conceptual knowledge. Inspired by this insight, we use our framework to explore the property inductions of LMs, and find that they show an inductive preference to generalize novel properties on the basis of category membership, suggesting the presence of a taxonomic bias in their representations.

研究の動機と目的

• 神経言語モデルが、学習データを超えて、ある概念から他の概念へと新しい性質を一般化できるかどうかを調査すること。
• 言語モデルが、新しい性質の知識を投影する際に、分類的カテゴリーの所属関係に依存しているかどうかを検討すること。
• モデルの一般化行動における、性質の重複と分類的バイアスの影響を分離すること。
• 大規模言語モデルにおける概念的知識と誘導的推論を体系的かつ柔軟にプローブするための方法を開発すること。

提案手法

• 二値分類ヘッドを用いて、言語モデルを微調整し、概念-性質文（例：「ネコは毛を持っている」→真）の真偽を判断できるようにする。
• 微調整済みモデルを性質判断ヘッドとして用い、新しい性質（例：「持っている」）が特定の概念に適用されるかどうかを評価する。
• 標準的なバックプロパゲーションを用いて、種まき概念（例：「スズメはダックスである」）から他の概念へと新しい性質を一般化するようにモデルを訓練する。
• 同じ分類的カテゴリー内（例：スズメ）の概念と異なるカテゴリー内（例：シマウマ）の概念に対するモデルの予測を比較することで、一般化の好みをテストする。
• 性質の重複を制御するため、訓練データにおける共起する特徴からの影響を統計的に分離する。
• バランスの取れた意味のある評価セットを確保するため、補助的なデータフィルタリングパイプラインとネガティブサンプリングアルゴリズムを用いる。

実験結果

リサーチクエスチョン

• RQ1 神経言語モデルは、他の特徴よりも分類的カテゴリーの所属関係に基づいて、新しい性質を一般化する傾向を示すのか？
• RQ2 観察された誘導バイアスは、訓練データにおける性質の重複に起因しているのか、それともより深い概念的組織に起因しているのか？
• RQ3 言語モデルの誘導的好みは、人間の性質誘導行動とどのように比較できるか？
• RQ4 標準的な自然言語推論タスクを超えて、言語モデルの誘導一般化を体系的にプローブ・評価できるフレームワークを設計できるか？
• RQ5 大規模テキストでの事前学習が、下流の性質誘導における分類的バイアスをどのように形成しているのか？

主な発見

• モデルは、タスク固有の微調整なしに、新しい性質が概念に適用されるかどうかを、ランダムよりも著しく高い精度で判断できており、これは性質知識を一般化できることを示している。
• モデルは、同じ分類的カテゴリー内（例：スズメ）の概念に新しい性質を一般化する傾向を一貫して示しており、分類的バイアスがあることが示唆されている。
• 性質の重複を制御した後でもこの分類的好みが維持されることから、バイアスが訓練データにおける特徴の共起に起因するものではないことが判明した。
• 結果から、言語モデルは事前学習段階で潜在的な分類的構造をエンコードしており、誘導的推論時にそれを活性化していることが示唆された。
• このフレームワークは、生物学的およびカテゴリー的推論において、人間と類似した誘導一般化のパターンをうまく捉えている。
• 本研究は、言語モデルが体系的で非演繹的な推論を可能にできることを示しており、それらの概念的知識と推論メカニズムを理解するための新たな視点を提供している。