[논문 리뷰] From Control to Foresight: Simulation as a New Paradigm for Human-Agent Collaboration

Gaole He, B. Lim|arXiv (Cornell University)|2026. 03. 12.

Human-Automation Interaction and Safety인용 수 0

한 줄 요약

이 논문은 인간-LLM 에이전트 협업에서 예상되는 미래 경로를 제공하기 위해 시뮬레이션-루프를 옹호하며, 개입의 방향을 반응적 탐색에서 사전적 탐색으로 전환한다.

ABSTRACT

Large Language Models (LLMs) are increasingly used to power autonomous agents for complex, multi-step tasks. However, human-agent interaction remains pointwise and reactive: users approve or correct individual actions to mitigate immediate risks, without visibility into subsequent consequences. This forces users to mentally simulate long-term effects, a cognitively demanding and often inaccurate process. Users have control over individual steps but lack the foresight to make informed decisions. We argue that effective collaboration requires foresight, not just control. We propose simulation-in-the-loop, an interaction paradigm that enables users and agents to explore simulated future trajectories before committing to decisions. Simulation transforms intervention from reactive guesswork into informed exploration, while helping users discover latent constraints and preferences along the way. This perspective paper characterizes the limitations of current paradigms, introduces a conceptual framework for simulation-based collaboration, and illustrates its potential through concrete human-agent collaboration scenarios.

연구 동기 및 목표

• 현재 단일 시점(pointwise) 인간–에이전트 상호작용 패러다임의 한계를 식별한다.
• 시뮬레이션 기반 협업을 위한 개념적 프레임워크와 설계 공간을 정의한다.
• 다단계 작업에서 시뮬레이션된 미래가 단순한 계획이 아니라 선견지명을 어떻게 지원하는지 보여준다.
• 우발성과 잠재 제약 발견을 가능하게 하는 실용적 시사점과 트레이드오프를 강조한다.

제안 방법

• 네 가지 핵심 개념을 정의한다: 에이전트적 워크플로우(agentic workflow), 행동 공간(action space), 시뮬레이션, 그리고 시뮬레이션된 영향(simulated impact).
• 시뮬레이션이 내재된 미래 탐색을 외부화하여 인지적 이해를 돕는 방법을 설명한다.
• 다중 미래와 주석이 달린 결과를 포함한 다도시 여행 계획 시나리오를 제시한다.
• 전망 깊이(lookahead depth), 탐색 폭(exploration breadth), 그리고 정교함(granularity) 고려를 포함하는 설계 공간을 개요한다.

Figure 1. Comparison of interaction paradigms at a decision point.

실험 결과

연구 질문

• RQ1 현재 단일 시점 상호작용 패러다임이 장기적 과제에서 인간–에이전트 협업을 어떻게 제한하는가?
• RQ2 시뮬레이션 기반 상호작용의 설계 공간은 무엇이며, 트레이드오프가 추론과 신뢰에 어떤 영향을 미치는가?
• RQ3 시뮬레이션-루프가 사전적 인간–에이전트 탐색과 잠재 제약 및 필요의 발견을 가능하게 하는가?

주요 결과

• 시뮬레이션-루프는 개입을 반응적 추측에서 사전적 탐색으로 전환한다.
• 사용자는 주석이 달린 여러 시뮬레이션 미래를 비교하여 정보에 기반한 트레이드오프를 결정할 수 있다(예: 시간 vs. 비용, 지연 위험).
• 시뮬레이션은 전통적 패러다임에서 놓치기 쉬운 잠재 제약과 우발적인 옵션을 드러낸다.
• 설계 선택(전망 깊이, 폭, 정교함)이 사용자 인지, 신뢰, 인지 부하에 비판적으로 영향을 미친다.