[論文レビュー] Towards Urban General Intelligence: A Review and Outlook of Urban Foundation Models

Weijia Zhang, Jindong Han+5 more|arXiv (Cornell University)|Jan 30, 2024

Human Mobility and Location-Based Analysis被引用数 6

ひとこと要約

この論文は Urban Foundation Models (UFMs) を定義し、データ中心の分類法を提供し、データモダリティ別に現在の UFMs を概観し、Urban General Intelligence (UGI) の実現に向けた枠組みと今後の方向性を提案します。

ABSTRACT

The integration of machine learning techniques has become a cornerstone in the development of intelligent urban services, significantly contributing to the enhancement of urban efficiency, sustainability, and overall livability. Recent advancements in foundational models, such as ChatGPT, have introduced a paradigm shift within the fields of machine learning and artificial intelligence. These models, with their exceptional capacity for contextual comprehension, problem-solving, and task adaptability, present a transformative opportunity to reshape the future of smart cities and drive progress toward Urban General Intelligence (UGI). Despite increasing attention to Urban Foundation Models (UFMs), this rapidly evolving field faces critical challenges, including the lack of clear definitions, systematic reviews, and universalizable solutions. To address these issues, this paper first introduces the definition and concept of UFMs and highlights the distinctive challenges involved in their development. Furthermore, we present a data-centric taxonomy that classifies existing research on UFMs according to the various urban data modalities and types. In addition, we propose a prospective framework designed to facilitate the realization of versatile UFMs, aimed at overcoming the identified challenges and driving further progress in this field. Finally, this paper systematically summarizes and discusses existing benchmarks and datasets related to UFMs, and explores the wide-ranging applications of UFMs within urban contexts, illustrating their potential to significantly impact and transform urban systems. A comprehensive collection of relevant research papers and open-source resources have been collated and are continuously updated at: https://github.com/usail-hkust/Awesome-Urban-Foundation-Models.

研究の動機と目的

• Urban Foundation Models (UFMs) を定義し、Urban General Intelligence (UGI) の追求における役割を明確化する。
• 都市データモダリティを横断するデータ中心の UFMs の分類法を提供し、既存の研究を整理する。
• UFMs の構築における中核的な課題を特定し、汎用的な UFMs と広範な都市応用を見据えた将来的な枠組みを概説する。

提案手法

• UFMs の正式な定義と基本概念を提示する。
• 都市データモダリティ（言語、視覚、時系列、軌跡、地理ベクトル、マルチモーダル、その他）によって UFMs を分類するデータ中心の分類法を提案する。
• 事前学習と適応技術をレビューする（教師あり、生成、対比、ハイブリッド；ファインチューニング、プロンプト調整、プロンプト設計）。
• UFMs の現在のベンチマークとデータセットを要約し、地理ベクトルベースの UFMs について論じる。
• 複数の都市タスクと領域に適用可能な汎用 UFMs の構築を指向した将来志向の枠組みを提案する。

実験結果

リサーチクエスチョン

• RQ1 UFMs とは何で、Urban General Intelligence (UGI) とはどのように関連するのか？
• RQ2 UFMs を都市データモダリティと開発技術によって体系的に分類することはできるのか？
• RQ3 UFMs を妨げる主な課題は何か、都市アプリケーションに対して汎用的で一般化可能な UFMs を支援する枠組みは何か？

主な発見

• UFMs は多源・多粒度・マルチモーダルな都市データで事前学習され、さまざまな都市領域に対して汎用的な能力を提供する。
• データ中心の分類法は UFMs を seven data modalities: language, vision, time series, trajectory, geovector, multimodal, and others に分類する。
• UFMs は事前学習（ supervised, generative, contrastive, hybrid ）と適応（ファインチューニング、プロンプト調整、プロンプト設計）に依存して、タスクの汎用性を実現する。
• 主要な課題には、データのソース横断統合、時空推論、跨ドメインの汎用性、そしてプライバシー/セキュリティの懸念が含まれる。
• 汎用 UFMs の開発を指針とする将来の枠組みが提案され、都市タスクと領域を横断して一般化できるよう設計されている。