[論文レビュー] Will the Real Linda Please Stand up...to Large Language Models? Examining the Representativeness Heuristic in LLMs

Pengda Wang, Zilin Xiao+2 more|arXiv (Cornell University)|Apr 1, 2024

Artificial Intelligence in Law被引用数 4

ひとこと要約

この論文では、6つの認知バイアスタイプにまたがる202の代表性ヒューリスティック問題を含むベンチマークデータセットReHeATを紹介し、大規模言語モデル（LLM）のヒューリスティック推論エラーへの感受性を評価する。正しく統計的知識を備えているにもかかわらず、テストされた4つのLLM（GPT-3.5、GPT-4、PaLM 2、LLaMA 2）はステレオタイプが存在する際、統計的推論を適用できず、代表的ヒューリスティックバイアスを示した。ただし、プロンプトのヒントを加えることで性能が著しく向上した。これは、データバイアスとは異なる、独自の認知的罠を示している。

ABSTRACT

Although large language models (LLMs) have demonstrated remarkable proficiency in modeling text and generating human-like text, they may exhibit biases acquired from training data in doing so. Specifically, LLMs may be susceptible to a common cognitive trap in human decision-making called the representativeness heuristic. This is a concept in psychology that refers to judging the likelihood of an event based on how closely it resembles a well-known prototype or typical example, versus considering broader facts or statistical evidence. This research investigates the impact of the representativeness heuristic on LLM reasoning. We created ReHeAT (Representativeness Heuristic AI Testing), a dataset containing a series of problems spanning six common types of representativeness heuristics. Experiments reveal that four LLMs applied to ReHeAT all exhibited representativeness heuristic biases. We further identify that the model's reasoning steps are often incorrectly based on a stereotype rather than on the problem's description. Interestingly, the performance improves when adding a hint in the prompt to remind the model to use its knowledge. This suggests the uniqueness of the representativeness heuristic compared to traditional biases. It can occur even when LLMs possess the correct knowledge while falling into a cognitive trap. This highlights the importance of future research focusing on the representativeness heuristic in model reasoning and decision-making and on developing solutions to address it.

研究の動機と目的

• 大規模言語モデル（LLM）が、統計的証拠ではなくプロトタイプとの類似性によって可能性を判断する、代表的ヒューリスティックという認知バイアスを示すかどうかを調査すること。
• 主に推論の短絡的アプローチに起因するバイアスに焦点を当て、データ分布バイアス以外のLLMにおける認知バイアスに関する研究の空白を埋めること。
• LLMのヒューリスティック推論エラーへの感受性を評価する包括的かつ標準化されたベンチマークを構築すること。
• プロンプト戦略（例：ヒント）が、正しい統計的知識を備えたモデルにおいても、これらのヒューリスティックエラーを軽減できるかどうかを検討すること。

提案手法

• 代表的ヒューリスティックの6種類のタイプ（ベースレートの誤謬、結合の誤謬、選言の誤謬、標本サイズへの感受性の欠如、確率の誤解、回帰の誤謬）をカバーする202の問題を含むReHeATというデータセットを構築した。
• 古典的心理学研究（例：Tversky & Kahneman, 1983）の問題を改変し、統計的推論とステレオタイプ的直感の間に矛盾が生じる状況を再構成した。
• ゼロショット、チェーン・オブ・チャンス、イン・コンテキスト・ラーニング、自己一貫性プロンプティングの技術を用いて、4つのLLM（GPT-3.5、GPT-4、PaLM 2、LLaMA 2）をReHeATで評価した。
• 各インスタンスに対して2つの並列質問を設計した：統計的プロトタイプを表現する統計的プロトタイプ質問（SPQ）と、同じ論理をステレオタイプ的状況に埋め込んだ代表的ヒューリスティック質問（RHQ）。
• モデルの知識を思い出させるヒントを含むプロンプト戦略を採用し、知識の想起がヒューリスティックバイアスを克服できるかをテストした。
• モデルの推論ステップを分析し、意思決定がステレオタイプ的関連性に基づいているか、統計的事実に基づいているかを特定した。

実験結果

リサーチクエスチョン

• RQ1 大規模言語モデルは、人間と同様に、代表的ヒューリスティックを推論に用いるか？
• RQ2 問題が統計的に中立な形で提示された場合は正しく統計的推論を適用できるが、ステレオタイプ的記述が加わると失敗するのか？
• RQ3 モデルの知識を思い出させるプロンプトのヒントを提供することで、LLMにおけるヒューリスティックバイアスはどの程度軽減されるか？
• RQ4 代表的ヒューリスティックバイアスは、データ分布バイアスとは異なるLLMのバイアスの種類であるか？
• RQ5 チェーン・オブ・チャンスやイン・コンテキスト・ラーニングなどの異なるプロンプト戦略は、LLMの代表的ヒューリスティックエラーへの感受性にどのように影響するか？

主な発見

• 評価された4つのLLM（GPT-3.5、GPT-4、PaLM 2、LLaMA 2）は、すべて顕著な代表的ヒューリスティックバイアスを示し、統計的に妥当な結果よりもステレオタイプ的な結果をより起こりやすいと誤って評価した。
• 統計的プロトタイプ質問（SPQ）では正しく回答できたにもかかわらず、代表的ヒューリスティック質問（RHQ）では同じ推論を適用できず、ヒューリスティックの圧力下で知識の転送に失敗した。
• プロンプトのヒントを追加することで、RHQにおけるモデルのパフォーマンスが著しく向上した。これは、モデルが正しい知識を備えているが、認知的短絡によってその知識が遮断されていることを示唆している。
• モデルの推論は、たとえ明示的に述べられていたとしても、『女子はアートに多い』といったステレオタイプ的関連性に依存する傾向が強く、『多くの生徒がアートクラブにいる』といった統計的事実に依拠する傾向は弱かった。
• 代表的ヒューリスティックバイアスはデータバイアスとは異なり、モデルが偏りのないデータで学習されており、正しい知識を備えていても失敗する可能性がある。
• 本研究は、LLMに特有の認知的罠を明らかにした：統計的ツールを備えていても、直感的でプロトタイプに基づく推論にだまされてしまうことがある。