[논문 리뷰] Environment Maps: Structured Environmental Representations for Long-Horizon Agents

Yenchia Feng, Chirag Sharma외 1명|arXiv (Cornell University)|2026. 03. 24.

Scientific Computing and Data Management인용 수 0

한 줄 요약

본 논문은 Environment Maps를 소개하는데, 이는 컨텍스트, 매개변수화된 행동, 워크플로우, 다중 모드 추적에서의 은밀한 지식을 쿼리 가능한 그래프로 조직하는 지속적이고 에이전트에 의존하지 않는 지식 베이스이며, 여러 도메인에 걸친 장기적 웹 자동화를 실질적으로 개선한다는 것을 보여준다.

ABSTRACT

Although large language models (LLMs) have advanced rapidly, robust automation of complex software workflows remains an open problem. In long-horizon settings, agents frequently suffer from cascading errors and environmental stochasticity; a single misstep in a dynamic interface can lead to task failure, resulting in hallucinations or trial-and-error. This paper introduces $ extit{Environment Maps}$: a persistent, agent-agnostic representation that mitigates these failures by consolidating heterogeneous evidence, such as screen recordings and execution traces, into a structured graph. The representation consists of four core components: (1) Contexts (abstracted locations), (2) Actions (parameterized affordances), (3) Workflows (observed trajectories), and (4) Tacit Knowledge (domain definitions and reusable procedures). We evaluate this framework on the WebArena benchmark across five domains. Agents equipped with environment maps achieve a 28.2% success rate, nearly doubling the performance of baselines limited to session-bound context (14.2%) and outperforming agents that have access to the raw trajectory data used to generate the environment maps (23.3%). By providing a structured interface between the model and the environment, Environment Maps establish a persistent foundation for long-horizon planning that is human-interpretable, editable, and incrementally refinable.

연구 동기 및 목표

• 장기적 웹 자동화에서의 연쇄적 오류와 환경적 드리프트를 동기부여하고 해결한다.
• 다양한 근거 소스를 그래프로 결합하는 통합되고 지속적인 표현을 제안한다.
• 여러 도메인에 걸친 장기 계획에서 Environment Maps의 이점을 입증한다.
• 고정된 에이전트 스택에서 환경 맵이 기준선 및 원시 궤적 사용을 능가함을 보여준다.
• 맵 기반 접근 방식의 해석가능성, 유지보수성, 확장성 이점을 논의한다.

제안 방법

• 환경 맵을 컨텍스트, 행동, 워크플로우, 은밀한 지식을 포함하는 4-튜플 M = (C, A, W, K)로 정의한다.
• 원시 관찰 및 인터페이스 표현으로부터 맵을 구성하기 위한 다섯 단계 파이프라인을 개발한다: 단계 시퀀스를 통합하고, 행동을 추출하고, 행동을 매개변수화된 형태로 일반화하고, 컨텍스트 및 은밀한 지식을 추출하고, 이를 안정적인 맵으로 병합한다.
• URL 패턴별로 컨텍스트를 클러스터링하고, URL을 정규화하며, 매개변수 값이 있는 매개변수화 템플릿으로 행동을 접지한다.
• WebArena에서 세 가지 조건(Baseline, Trajectory Access, Environment Map Access)으로 에이전트에 독립적 평가를 사용하여 맵의 영향을 측정한다.
• 맵 구조와 출처를 설명하는 JSON 스키마와 상세한 부록 시각 자료를 제공한다.

실험 결과

연구 질문

• RQ1 환경 맵 제공이 기준선 및 원시 궤적 사용에 비해 장기적 에이전트 성공을 향상시키는가?
• RQ2 환경 맵이 직접 시연되지 않은 작업에 대한 일반화에 어떤 영향을 미치는가?
• RQ3 UI가 밀집한 웹 환경과 더 간단한 웹 환경에서 환경 맵의 영향은 어떠한가?
• RQ4 세션 간의 이식성과 UI가 drift하는 환경에서 유지 관리 친화성은 어떤가?

주요 결과

• 환경 맵은 28.2%의 작업 성공률을 산출하여 기본값 14.2%의 거의 두 배에 달한다.
• 환경 맵은 원시 궤적 사용(23.3%)보다 약 4.9% 포인트 더 잘 수행한다.
• 맵은 대상 지식 검색을 향상시키며, 대부분의 도구 호출이 파일 관련(Read, Grep, Glob)이다.
• 성능 이점은 분기가 많고 UI가 밀집한 환경(GitLab, CMS 등)에서 가장 크다.
• 맵은 해석 가능하고, 편집 가능하며 점진적으로 정제 가능하고, 모델 간 재사용 가능한 이점으로 낮은 비용으로 구성될 수 있다.