[논문 리뷰] Philosophical Foundations of GeoAI: Exploring Sustainability, Diversity, and Bias in GeoAI and Spatial Data Science

Krzysztof Janowicz|arXiv (Cornell University)|2023. 03. 27.

Data-Driven Disease Surveillance인용 수 5

한 줄 요약

이 논문은 지리정보인공지능(GeoAI)에 철학적 기반을 마련하기 위해 공간 데이터 과학에서 윤리, 지속 가능성, 편향, 다양성을 중심에 두고 있다. GeoAI는 기술적 지표를 넘어서 지리학에서의 인공지능 윤리적 영향을 다뤄야 하며, 환경 지속 가능성, 데이터의 대표성, 모델 설계 및 구현의 투명성과 같은 원칙을 통해 책임감 있는 연구를 주장한다.

ABSTRACT

This chapter presents some of the fundamental assumptions and principles that could form the philosophical foundation of GeoAI and spatial data science. Instead of reviewing the well-established characteristics of spatial data (analysis), including interaction, neighborhoods, and autocorrelation, the chapter highlights themes such as sustainability, bias in training data, diversity in schema knowledge, and the (potential lack of) neutrality of GeoAI systems from a unifying ethical perspective. Reflecting on our profession's ethical implications will assist us in conducting potentially disruptive research more responsibly, identifying pitfalls in designing, training, and deploying GeoAI-based systems, and developing a shared understanding of the benefits but also potential dangers of artificial intelligence and machine learning research across academic fields, all while sharing our unique (geo)spatial perspective with others.

연구 동기 및 목표

• 메타적 및 설계 결정의 핵심에 윤리를 둠으로써 GeoAI 연구를 재정의하기.
• 대규모 모델 학습의 환경 비용과 평가 데이터의 대표성과 같은 GeoAI에서 다루지 않은 윤리적 과제 해결하기.
• 장소 기반 및 시간적 민감도가 있는 사고 방식이 더 책임감 있는 인공지능 시스템을 어떻게 정보 제공할 수 있는지 설명하기.
• GeoAI 시스템의 중립성에 도전하여, 공간, 사회, 권력에 대한 암묵적 가정이 설계 선택에 어떻게 내재되어 있는지 폭 드러내기.
• 지리학, 인공지능, 데이터 과학 공동체 간 다양한 시각을 통합하는 공통의 윤리적 프레임워크를 촉진하기.

제안 방법

• 한스 요나스의 '책임 윤리'에 기반한 윤리적 시각을 도입하여 GeoAI 시스템의 장기적 영향을 평가하기.
• 실제 사례로 대규모 언어 모델(예: ChatGPT의 우크라이나와 러시아 사이의 거리 계산 오류)의 실패를 분석하여 공간 무지와 기하학적 단순화의 사례로 삼기.
• 편향을 통계적 불균형을 넘어서, 기록된 데이터의 역사적 편향과 훈련 데이터의 공간적 일관성 부족의 결과로 간주하기.
• 공간적으로 명시적인 모델과 지리지식 그래프가 인공지능 시스템의 투명성과 책임감을 향상시킬 수 있음을 제안하기.
• 대규모 AI 모델을 자체적으로 연구 대상으로 삼기 위해 '지리정보 관측소' 개념을 활용하여 사회적 및 공간적 이해를 반영하기.
• AI가 생성한 지리지식을 해석할 때 일관성 기반 모델보다 공감대 이론의 진리 개념을 우선시할 것을 주장하기.

Figure 1: Distance between Ukraine and Russia according to Google Search and ChatGPT. Note that ChatGPT also changes the border length across queries. The proper answer should be zero, even though ChatGPT makes a very convincing statement that at the border where both countries touch , their distanc

실험 결과

연구 질문

• RQ1 지속 가능성과 책임감 같은 윤리 원칙은 GeoAI 시스템의 기초 설계에 어떻게 통합될 수 있는가?
• RQ2 훈련 데이터와 평가 세트의 편향은 GeoAI 응용에서 공간적·사회적 불평등을 어떻게 반영하고 강화하는가?
• RQ3 대규모 언어 모델이 기본적인 지리적 진실(예: 국경의 인접성)을 인식하지 못하는 이유는 무엇이며, 이는 AI의 공간적 사고 방식에 대해 무엇을 드러내는가?
• RQ4 데이터 재사용성과 블랙박스 모델링에 대한 가정은 공간 데이터 과학에서 윤리적 책임과 어떻게 충돌하는가?
• RQ5 장소 기반 및 시간적 범위가 있는 지식은 AI 기반 지리적 통찰의 정당성과 공정성을 확보하는 데 어떤 역할을 하는가?

주요 결과

• ChatGPT와 같은 대규모 언어 모델은 러시아와 우크라이나가 국경을 공유한다는 명백한 지리적 사실에도 불구하고 이를 인식하지 못하고 잘못된 거리 값을 반환한다.
• 주요 검색 엔진과 LLM이 국경 거리를 정확히 계산하지 못하는 지속적인 실패는 AI 시스템 내에서 기하학적 사고가 위상적 사고보다 우선시되는 체계적 편향을 드러낸다.
• 훈련 데이터의 편향과 역사적 데이터의 지배는 '역사적 끌림'을 유도하여 모델이 현재의 지리정치적 현실에 빠르게 적응하지 못하게 만든다.
• 모델 출력의 공간적 일관성 부족은 현재의 LLM이 일관성 있는 또는 논리적으로 일관된 공간적 프레임워크가 아니라 공감대 이론의 진리 개념을 기반으로 작동하고 있음을 시사한다.
• GeoAI 시스템은 중립적이지 않으며, 특징 선택 및 평가 데이터와 같은 설계 선택이 의도하지 않게 사용자 행동을 형성하고 사회적 불평등을 강화할 수 있다.
• 정확성뿐 아니라 윤리적 책임감과 투명성 확보를 위해 AI 모델에 공간적, 시간적, 장소적 차원을 통합하는 것이 필수적이다.