[论文解读] Philosophical Foundations of GeoAI: Exploring Sustainability, Diversity, and Bias in GeoAI and Spatial Data Science

Krzysztof Janowicz|arXiv (Cornell University)|Mar 27, 2023

Data-Driven Disease Surveillance被引用 5

一句话总结

本文通过将伦理、可持续性、偏见和多样性置于地理数据科学的核心，为GeoAI建立了哲学基础。文章主张GeoAI必须超越技术指标，直面人工智能在地理学中的伦理影响，倡导通过环境可持续性、数据代表性以及模型设计与部署的透明性等原则实现负责任的研究。

ABSTRACT

This chapter presents some of the fundamental assumptions and principles that could form the philosophical foundation of GeoAI and spatial data science. Instead of reviewing the well-established characteristics of spatial data (analysis), including interaction, neighborhoods, and autocorrelation, the chapter highlights themes such as sustainability, bias in training data, diversity in schema knowledge, and the (potential lack of) neutrality of GeoAI systems from a unifying ethical perspective. Reflecting on our profession's ethical implications will assist us in conducting potentially disruptive research more responsibly, identifying pitfalls in designing, training, and deploying GeoAI-based systems, and developing a shared understanding of the benefits but also potential dangers of artificial intelligence and machine learning research across academic fields, all while sharing our unique (geo)spatial perspective with others.

研究动机与目标

• 通过将伦理置于方法论和设计决策的核心，重新定义GeoAI研究。
• 解决GeoAI中尚未充分探索的伦理挑战，例如训练大型模型的环境成本以及评估数据的代表性问题。
• 阐明空间思维——尤其是基于场所和时间敏感的推理——如何促进更负责任的人工智能系统。
• 通过揭示设计选择如何隐含地嵌入关于空间、社会与权力的假设，挑战GeoAI系统的中立性。
• 推动一个统一的伦理框架，以整合地理学、人工智能和数据科学社区的多元视角。

提出的方法

• 采用汉斯·乔纳斯的“责任伦理”作为伦理基础，评估GeoAI系统的长期影响。
• 以大型语言模型（如ChatGPT错误计算乌克兰与俄罗斯之间距离）的实际失败案例，作为空间无知与几何过度简化的典型案例。
• 不仅将偏见视为统计不平衡，更将其视为历史数据漂移和训练数据中空间不连贯性的结果。
• 提出空间显式模型和地理知识图谱可增强人工智能系统的透明度与问责性。
• 运用“地理信息观测站”概念，将大型AI模型本身视为独立的研究对象，反映社会与空间认知。
• 倡导在解释AI生成的地理知识时，采用共识真理理论而非基于一致性的模型。

Figure 1: Distance between Ukraine and Russia according to Google Search and ChatGPT. Note that ChatGPT also changes the border length across queries. The proper answer should be zero, even though ChatGPT makes a very convincing statement that at the border where both countries touch , their distanc

实验结果

研究问题

• RQ1 如何将可持续性和责任等伦理原则嵌入GeoAI系统的基础设计之中？
• RQ2 训练数据和评估集中的偏见在何种方式下反映并强化了GeoAI应用中的空间与社会不平等？
• RQ3 为何大型语言模型无法识别基本的地理事实（例如边境相邻关系），这揭示了人工智能中空间推理的哪些问题？
• RQ4 关于数据可重用性和黑箱建模的假设，如何与空间数据科学中的伦理责任相冲突？
• RQ5 基于场所和时间限定的知识在确保人工智能驱动的地理洞察的正当性与公平性方面发挥何种作用？

主要发现

• 像ChatGPT这样的大型语言模型仍然无法识别乌克兰与俄罗斯接壤的事实，尽管存在明确的地理事实，却仍返回错误的距离值。
• 主要搜索引擎和LLM在正确计算边境距离方面持续失败，揭示了AI系统中几何思维对拓扑思维的系统性偏倚。
• 训练数据漂移和历史数据主导性导致‘历史拖拽’，使模型过时且难以适应当前的地缘政治现实。
• 模型输出缺乏空间连贯性，表明当前LLM更倾向于共识真理理论，而非逻辑一致或连贯的空间框架。
• GeoAI系统并非中立；其设计选择（如特征选择和评估数据）可能无意中影响用户行为并强化社会不平等。
• 在AI模型中嵌入空间、时间和场所维度，不仅对准确性至关重要，也对地理人工智能应用中的伦理问责与透明度具有关键意义。