[논문 리뷰] Urban Generative Intelligence (UGI): A Foundational Platform for Agents in Embodied City Environment

Fengli Xu, Jun Zhang외 3명|arXiv (Cornell University)|2023. 12. 19.

Human Mobility and Location-Based Analysis인용 수 6

한 줄 요약

이 논문은 복잡한 도시 과제를 위한 몸체적이고 언어 기반의 에이전트를 만들 수 있도록 대규모 언어 모델(Large Language Models, LLMs)과 도시 디지털 트윈을 통합한 기초 플랫폼인 도시 생성 지능(Urban Generative Intelligence, UGI)을 소개한다. CityGPT—다양한 소스의 도시 데이터로 훈련된 도메인 특화 LLM—를 활용하여 UGI는 지식 그래프와 도시 시뮬레이터를 통해 상호작용적이고 자연어 기반의 도시 시스템 시뮬레이션을 지원하며, 확장 가능하고 개방적인 도시 지능 연구 및 응용을 가능하게 한다.

ABSTRACT

Urban environments, characterized by their complex, multi-layered networks encompassing physical, social, economic, and environmental dimensions, face significant challenges in the face of rapid urbanization. These challenges, ranging from traffic congestion and pollution to social inequality, call for advanced technological interventions. Recent developments in big data, artificial intelligence, urban computing, and digital twins have laid the groundwork for sophisticated city modeling and simulation. However, a gap persists between these technological capabilities and their practical implementation in addressing urban challenges in an systemic-intelligent way. This paper proposes Urban Generative Intelligence (UGI), a novel foundational platform integrating Large Language Models (LLMs) into urban systems to foster a new paradigm of urban intelligence. UGI leverages CityGPT, a foundation model trained on city-specific multi-source data, to create embodied agents for various urban tasks. These agents, operating within a textual urban environment emulated by city simulator and urban knowledge graph, interact through a natural language interface, offering an open platform for diverse intelligent and embodied agent development. This platform not only addresses specific urban issues but also simulates complex urban systems, providing a multidisciplinary approach to understand and manage urban complexity. This work signifies a transformative step in city science and urban intelligence, harnessing the power of LLMs to unravel and address the intricate dynamics of urban systems. The code repository with demonstrations will soon be released here https://github.com/tsinghua-fib-lab/UGI.

연구 동기 및 목표

• 고도로 발전한 도시 시뮬레이션 기술과 복잡한 도시 과제 해결에 대한 실용적 적용 간의 체계적 격차를 해소하기 위해.
• 다양한 도시 과제를 위한 지능적이고 몸체적인 에이전트를 자연어를 통해 만들 수 있도록 통합적이고 개방적인 플랫폼을 개발하기 위해.
• 대규모 언어 모델을 도시 디지털 트윈과 지식 그래프에 통합하여 현실적이고 동적인 도시 상호작용을 시뮬레이션하기 위해.
• 확장 가능하고 개방적인 환경을 제공하여 도시 연구자와 개발자 간의 다학제적 협업을 촉진하기 위해.
• 실제 도시 환경에서 확장 가능하고 언어 기반의 에이전트 시스템을 통해 잠재적인 도시 행동을 시뮬레이션하기 위해.

제안 방법

• 도시 시뮬레이터, 도시 지식 그래프(UrbanKG), 자연어 인터페이스를 통합한 기초 플랫폼인 UGI를 제안한다.
• 일반 텍스트와 고품질의 도메인 특화 도시 데이터(도시 지식 및 과제 해결 프로세스 포함)로 사전 훈련된 기초 모델인 CityGPT를 도입한다.
• 자연어 인터페이스를 활용해 도시 환경과의 상호작용을 가능하게 하여, 프롬프트 또는 코드를 통한 에이전트 개발을 지원한다.
• 메타GPT에서 영감을 얻은 배치 프롬프팅 및 메시지 풀 아키텍처를 활용해 다중 에이전트 시뮬레이션에서 추론 효율성을 향상시키고 자원 소비를 감소시킨다.
• 도시 공간 구조, 용도, 인프라, 데이터 소스를 개방적으로 수정할 수 있도록 지원하여 맞춤형 도시 시뮬레이션을 가능하게 한다.
• 사용자가 새로운 도시 구성에서 인간 활동과 도시 역학을 생성할 수 있도록 맞춤형 알고리즘이나 데이터 소스를 통합할 수 있도록 한다.

Figure 1: Architecture of the foundational platform for urban generative intelligence.

실험 결과

연구 질문

• RQ1 대규모 언어 모델을 어떻게 도시 디지털 트윈에 효과적으로 통합하여 지능적이고 몸체적인 에이전트 행동을 가능하게 할 수 있는가?
• RQ2 다양한 도시 도메인을 넘나들 수 있는 추론 능력을 갖춘 기초 모델(CityGPT)을 구축하기 위해 필요한 아키텍처 및 훈련 전략은 무엇인가?
• RQ3 언어 기반 에이전트는 현실적이고 상호작용 가능한 도시 환경에서 얼마나 복잡하고 잠재적인 도시 역학을 시뮬레이션할 수 있는가?
• RQ4 개방적이고 확장 가능한 인프라는 도시 시뮬레이션 및 에이전트 개발 분야의 다학제적 혁신을 어떻게 지원할 수 있는가?
• RQ5 대규모 도시 시뮬레이션에서 LLM 기반 에이전트를 구현할 경우 발생하는 성능 및 확장성의 상충 관계는 무엇인가?

주요 결과

• UGI는 자연어로 시뮬레이션된 도시 환경과 상호작용하는 몸체적이고 언어 기반의 에이전트를 개발할 수 있도록 한다.
• 기초 모델인 CityGPT는 과제 해결 프로세스와 도메인 특화 지식을 포함한 다중 소스 도시 데이터로 사전 훈련되면서 다양한 도시 도메인에서 잠재적 추론 능력을 보여준다.
• 도시 시뮬레이터, UrbanKG, 자연어 인터페이스의 조합을 통해 실시간이고 상호작용 가능한 도시 시스템 시뮬레이션을 지원하며, 동적 피드백과 에이전트 적응을 가능하게 한다.
• UGI의 배치 프롬프팅 기법은 추론 속도와 비용 효율성을 최대 5배 향상시켜 다중 에이전트 도시 시뮬레이션의 확장성을 크게 향상시킨다.
• 개방적이고 확장 가능한 아키텍처는 도시 공간 구조, 인프라, 데이터 소스를 수정할 수 있도록 하여 맞춤형이고 재현 가능한 도시 실험을 가능하게 한다.
• 도시 데이터 과학자, 시뮬레이션 엔지니어, LLM 연구자, 도시 전문가가 참여할 수 있도록 기여를 가능하게 하여 다학제적 개발자 커뮤니티를 조성한다.

Figure 2: The framework of the open digital infrastructure.