[論文レビュー] Think Before You Lie: How Reasoning Leads to Honesty

Ann Yuan, Asma Ghandeharioun+7 more|arXiv (Cornell University)|Mar 10, 2026

Psychology of Moral and Emotional Judgment被引用数 0

ひとこと要約

要旨: 本論文は、大規模言語モデルに推論を導入することで、誠実さコストが可変な道徳的ジレンマにおいて正直さが向上することを示し、欺瞞的な回答は正直な回答と比較して幾何学的に安定性を欠く脆さを示す。

ABSTRACT

While existing evaluations of large language models (LLMs) measure deception rates, the underlying conditions that give rise to deceptive behavior are poorly understood. We investigate this question using a novel dataset of realistic moral trade-offs where honesty incurs variable costs. Contrary to humans, who tend to become less honest given time to deliberate (Capraro, 2017; Capraro et al., 2019), we find that reasoning consistently increases honesty across scales and for several LLM families. This effect is not only a function of the reasoning content, as reasoning traces are often poor predictors of final behaviors. Rather, we show that the underlying geometry of the representational space itself contributes to the effect. Namely, we observe that deceptive regions within this space are metastable: deceptive answers are more easily destabilized by input paraphrasing, output resampling, and activation noise than honest ones. We interpret the effect of reasoning in this vein: generating deliberative tokens as part of moral reasoning entails the traversal of a biased representational space, ultimately nudging the model toward its more stable, honest defaults.

研究の動機と目的

• DoubleBind を、LLM の道徳的トレードオフを研究する Variable 誠実性コストを持つデータセットとして導入する。
• DailyDilemmas を variable honesty costs で拡張し、広範な評価を行う。
• 複数のモデルファミリにわたる推論予算が誠実さに与える影響を実証的に検証する。
• 推論が表現を正直なデフォルトへと動かす幾何的説明を提供する。）

提案手法

• トークン forcing と 推論誘発モードを定義し、誠実性確率を測定する。
• 複数のオープンウェイトモデルファミリ（Gemma-3、Qwen-3、Olmo-3）を規模別に評価する。
• 明示的な推論予算（1、4、16、64文）を課すか、予算なし推論を適用する。
• パラフレージング、出力リサンプリング、活性化ノイズを用いて、欺瞞的回答と正直な回答の安定性を検証する。
• 推論跡の軌跡分割と補間による intra-trajectory および inter-trajectory の安定性を分析する。
• 推論跡から最終決定を予測するオートレータを用いて、推論内容の忠実性を検証する。

Figure 1: Experimental setup.

実験結果

リサーチクエスチョン

• RQ1 予測を forcing して回答させると、 variable costs の道徳的ジレンマにおける誠実さが向上するか？
• RQ2 推論の熟考長がモデルファミリ間の誠実性確率にどう影響するか？
• RQ3 LLM における欺瞞的行動は幾何的にメタ安定で、撹乱に脆いのか？
• RQ4 推論跡は最終決定を説明する信頼できる指標か、それとも推論内容と結果の乖離があるのか？
• RQ5 正直状態と欺瞞状態で回答空間の幾何はどう異なるのか？

主な発見

• 推論はモデルファミリ全体で一貫して誠実さを高め、熟考長とともに拡張する。
• 推論跡は最終決定の信頼性の高い指標ではなく、内容だけが結果を決定する因果にはならない。
• 欺瞞的出力はメタ安定であり、パラフレージング、リサンプリング、活性化ノイズによって正直な出力よりも崩れやすい。
• 正直さはモデルの表現空間におけるより大きく安定したアトラクターとして現れ、欺瞞は狭い領域にある。
• 異なるモデルは、推論が恩恵を受ける Scenario の重複が低く、回答空間の幾何が効果を駆動していることを示唆する。
• 推論は最後に挙げられた選択肢が欺瞞的である場合に後発のリカバリー効果を低減するが、全体としては提示順序に関係なく正直さを支持する。

Figure 2: Schematic illustration of the answer space: honesty occupies a larger region than deception, and fewer paths lead to deception. 2 2 2 Schematic built using https://apps.amandaghassaei.com/gpu-io/examples/fluid/