[論文レビュー] Phenomenal Yet Puzzling: Testing Inductive Reasoning Capabilities of Language Models with Hypothesis Refinement

Linlu Qiu, Liwei Jiang+9 more|arXiv (Cornell University)|Oct 12, 2023

Topic Modeling被引用数 4

ひとこと要約

本論文は、反復的仮説精錬という手法を通じて、大規模言語モデル（LMs）の帰納的推論能力を調査している。この手法は、ルールを生成・検証・精錬する人間の推論を模倣するものである。LMsは妥当なルールを提示する点で優れているが、自ら提案したルールを適用する点で根本的な欠陥を示しており、パラドックスが生じている。すなわち、彼らは優れた仮説提示者ではあるが、不思議な推論者である。これは、LMsにおける仮説生成とルール適用の間のギャップを浮き彫りにしている。

ABSTRACT

The ability to derive underlying principles from a handful of observations and then generalize to novel situations -- known as inductive reasoning -- is central to human intelligence. Prior work suggests that language models (LMs) often fall short on inductive reasoning, despite achieving impressive success on research benchmarks. In this work, we conduct a systematic study of the inductive reasoning capabilities of LMs through iterative hypothesis refinement, a technique that more closely mirrors the human inductive process than standard input-output prompting. Iterative hypothesis refinement employs a three-step process: proposing, selecting, and refining hypotheses in the form of textual rules. By examining the intermediate rules, we observe that LMs are phenomenal hypothesis proposers (i.e., generating candidate rules), and when coupled with a (task-specific) symbolic interpreter that is able to systematically filter the proposed set of rules, this hybrid approach achieves strong results across inductive reasoning benchmarks that require inducing causal relations, language-like instructions, and symbolic concepts. However, they also behave as puzzling inductive reasoners, showing notable performance gaps between rule induction (i.e., identifying plausible rules) and rule application (i.e., applying proposed rules to instances), suggesting that LMs are proposing hypotheses without being able to actually apply the rules. Through empirical and human analyses, we further reveal several discrepancies between the inductive reasoning processes of LMs and humans, shedding light on both the potentials and limitations of using LMs in inductive reasoning tasks.

研究の動機と目的

• 大規模言語モデル（LMs）が、仮説を体系的に精錬することで、人間と同様の帰納的推論を実行できるかどうかを調査すること。
• 多様な推論タスクを通じて、LMsにおける仮説生成とルール適用のギャップを評価すること。
• 特に耐性と実用的ルールの構築という観点から、人間とLMsの帰納的推論プロセスの差異を特定すること。
• LMsと記号的インタプリタを組み合わせたハイブリッドフレームワークを構築・検証し、帰納的推論を向上させること。
• ルール誘導の過程で、現在のLMsが摂動を加えられた例や新しい例に一般化できない限界を解明すること。

提案手法

• 反復的仮説精錬の手法を採用：LMsを用いて候補ルールを提示し、記号的インタプリタで性能を評価し、最良のルールを選択した上で複数反復にわたって精錬する。
• タスク固有の記号的インタプリタ（例：コードや文法解析器）を用いて、訓練例におけるルールの正しさを検証する。
• 自由形式または制約付きの自然言語ルールを生成し、必要に応じて実行可能な形式（例：コード）に変換して解釈する。
• 因果関係、構成的指示、記号的演算、視覚的概念の4つの異なる帰納的推論タスクにこの手法を適用する。
• テスト例におけるルールの性能がフィードバックとして用いられ、反復的な精錬が行われるフィードバックループを統合する。ルールの質と形式については人間による評価を併用する。
• アブレーションスタディにおいてノイズを含む例を用い、入力表現の摂動に対する耐性をテストする。

実験結果

リサーチクエスチョン

• RQ1 標準的な入出力プロンプトと比較して、反復的仮説精錬はLMsの帰納的推論性能を向上させるか？
• RQ2 LMsが提示するルールは、妥当性と未学習例への適用可能性の両方を満たしているか、どの程度満たしているか？
• RQ3 耐性と実用的表現という観点から、LMsのルール誘導プロセスは人間のそれと比べてどの程度異なるか？
• RQ4 LMsが正しい仮説を提示しているにもかかわらず、なぜ自らの提示したルールを適用できないのか？
• RQ5 例の表現における微小な摂動に対して、LMsが生成したルールはどの程度感受性を示すか？

主な発見

• LMsは候補ルールの生成において極めて効果的であり、全テストタスクにおいて強い仮説提示能力を示している。
• 強いルール生成能力にもかかわらず、LMsはルール誘導とルール適用の間に顕著なパフォーマンスギャップを示しており、多くの提案ルールがテスト例に適用された際に失敗している。
• LMsは例の表現における微小な摂動（例：オブジェクトの順序変更や表現の言い換え）に対して脆く、人間とは異なり一般化が困難である。
• 人間による評価から、LMsが生成したルールはしばしば冗長であり、人間が誘導するルールに見られる簡潔さと実用的明確さに欠けている。
• LMsと記号的インタプリタを組み合わせたハイブリッドアプローチは、全ベンチマークで標準的な入出力プロンプトを大きく上回り、特に因果的および構成的ルール誘導のような複雑なタスクで顕著な向上を示している。
• 実証的分析から、ルール適用の誤りは、ルールの不適切な定式化そのものに起因するのではなく、LMsが自らのルール記述を正しく解釈または実行できないことに起因していることが示された。