[論文レビュー] From Control to Foresight: Simulation as a New Paradigm for Human-Agent Collaboration

Gaole He, B. Lim|arXiv (Cornell University)|Mar 12, 2026

Human-Automation Interaction and Safety被引用数 0

ひとこと要約

論文は人間とLLMエージェントの協働において予見される未来の軌跡を提供するためのシミュレーション・イン・ザ・ループを提唱し、介入をリアクティブな探索からプロアクティブな探索へと転換する。

ABSTRACT

Large Language Models (LLMs) are increasingly used to power autonomous agents for complex, multi-step tasks. However, human-agent interaction remains pointwise and reactive: users approve or correct individual actions to mitigate immediate risks, without visibility into subsequent consequences. This forces users to mentally simulate long-term effects, a cognitively demanding and often inaccurate process. Users have control over individual steps but lack the foresight to make informed decisions. We argue that effective collaboration requires foresight, not just control. We propose simulation-in-the-loop, an interaction paradigm that enables users and agents to explore simulated future trajectories before committing to decisions. Simulation transforms intervention from reactive guesswork into informed exploration, while helping users discover latent constraints and preferences along the way. This perspective paper characterizes the limitations of current paradigms, introduces a conceptual framework for simulation-based collaboration, and illustrates its potential through concrete human-agent collaboration scenarios.

研究の動機と目的

• 現在の点対点型の人間–エージェント相互作用パラダイムの限界を特定する。
• シミュレーションベースの協働の概念フレームワークとデザインスペースを定義する。
• シミュレートされた未来が、マルチステップタスクにおける単なる計画ではなく洞察を支えることを実証する。
• セレンディピティと潜在的制約発見を可能にする実践的な含意とトレードオフを強調する。

提案手法

• エージェンティックワークフロー、行動空間、シミュレーション、シミュレートされた影響の4つの中核概念を定義する。
• シミュレーションが内部の未来探索を外在化して、意味づけを支援する方法を説明する。
• 複数の未来と注釈付き成果を含む illustrativeなマルチシティの旅程計画シナリオを提供する。
• 先読み深度、探索の広さ、粒度の考慮事項を備えたデザインスペースを概説する。

Figure 1. Comparison of interaction paradigms at a decision point.

実験結果

リサーチクエスチョン

• RQ1 長期的なタスクにおける現在の点対点型相互作用パラダイムは人間–エージェント協働をどのように制限するか？
• RQ2 シミュレーションベースの相互作用のデザインスペースはどのようなもので、トレードオフは推論と信頼にどのような影響を与えるか？
• RQ3 シミュレーション・イン・ザ・ループは、人間–エージェントの能動的な探索と潜在的制約・ニーズの発見を可能にするか？

主な発見

• シミュレーション・イン・ザ・ループは介入を反応的な推測から能動的な探索へと変換する。
• ユーザーは複数のシミュレーション未来を注釈付き成果とともに比較して、時間対コスト、遅延リスクなどのトレードオフを情報に基づいて判断できる。
• シミュレーションは、従来のパラダイム下で見逃されがちな潜在的制約とセレンディピスな選択肢を明らかにする。
• デザインの選択肢（先読み深度、広さ、粒度）は、ユーザーの認知、信頼、認知負荷を決定的に形作る。