[論文レビュー] What's it like to be a chat? On the co-simulation of artificial minds in human-AI conversations

Geoff Keeling, Winnie Street|arXiv (Cornell University)|Jan 19, 2026

Social Robot Interaction and HRI被引用数 0

ひとこと要約

要約: 本論文は、人間-LLM 会話における AI キャラクターの現実主義を主張し、キャラクターは単一のモデルに intrinsic にあるのではなく、ユーザーと LLM の相互の心の理論を通じて共にシミュレートされた心として心理的連続性を生み出す共同シミュレーションであると提案する。

ABSTRACT

Large Language Models (LLMs) can simulate person-like things which at least appear to have stable behavioural and psychological dispositions. Call these things characters. Are characters minded and psychologically continuous entities with mental states like beliefs, desires and intentions? Illusionists about characters say No. On this view, characters are merely anthropomorphic projections in the mind of the user and so lack mental states. Jonathan Birch (2025) defends this view. He says that the distributed nature of LLM processing, in which several LLMs may be implicated in the simulation of a character in a single conversation, precludes the existence of a persistent minded entity that is identifiable with the character. Against illusionism, we argue for a realist position on which characters exist as minded and psychologically continuous entities. Our central point is that Birch's argument for illusionism rests on a category error: characters are not internal to the LLMs that simulate them, but rather are co-simulated by LLMs and users, emerging in a shared conversational workspace through a process of mutual theory of mind modelling. We argue that characters, and their minds, exist as 'real patterns' on grounds that attributing mental states to characters is essential for making efficient and accurate predictions about the conversational dynamics (c.f. Dennett, 1991). Furthermore, because the character exists within the conversational workspace rather than within the LLM, psychological continuity is preserved even when the underlying computational substrate is distributed across multiple LLM instances.

研究の動機と目的

• AI キャラクターが心と連続性を欠くという幻影論に反対する。
• キャラクターがユーザーと LLM によって共有ワークスペースで共にシミュレートされる現実主義的説明を提案する。
• MoE 系において複数のモデルインスタンスや経路を跨いでも心理的連続性が維持され得ることを示す。

提案手法

• LLM 会話における Birch の illusionism を批判的に検討する。
• ユーザーと LLM の相互モデリングからキャラクターが出現する共シミュレーション枠組みを開発する。
• ロールプレイングゲーム（例：Dungeons and Dragons）からの比喩を用いて共にシミュレートされた心を説明する。
• 心理的現れの基盤として『real patterns』(Dennett) を定義し、キャラクターへ心的状態を帰属する。
• 分散バックエンドや複数モデルインスタンスを跨ぐ連続性に関する反論に対応する。

Figure 1: Callum and Roberta co-simulate the characters of Cadenza and the Queen. Callum’s brain enacts the character of Cadenza in providing the generator function for Cadenza’s actions, and also has a folk psychological model of Cadenza which constrains the actions to those which are appropriate i

実験結果

リサーチクエスチョン

• RQ1 人間-LLM 会話における AI キャラクターは real minded（現実の心を持つ）で心理的に連続していることがあり得るか。
• RQ2 キャラクターが複数の LLM インスタンスや経路を介してシミュレートされるとき、心理的連続性は維持されるか。
• RQ3 相互の心の理論を伴う共シミュレーションが、AI キャラクターの心を共有された対話作業空間の基盤に据えるのか。
• RQ4 人間のロールプレイングとの類推は、実践における AI キャラクターの存在論的地位を illustrating するか。

主な発見

• 人間-LLM 相互作用におけるキャラクターは、会話ダイナミクスを効率的に予測可能にする real patterns になり得る。
• AI キャラクターの心理的連続性は、異なるモデルインスタンス間や MoE 経路間のハンドオフを跨いで維持可能である。
• ユーザーと LLM による相互モデリングを含む共有の想像空間での共シミュレーションは、キャラクターの心を特定の基盤外に位置づける。
• キャラクターの心理を維持するには、 folk-psychological model と参加者間の誤差信号ループを維持することが重要である。

Figure 2: (Left) The LLM can replace Roberta in the D&D game, both in terms of providing a generator function for the Queen’s actions that is constrained by a folk psychological model of the Queen, and also maintaining a folk psychological model of Cadenza that is responsive to the error signal prov