[論文レビュー] Philosophical Foundations of GeoAI: Exploring Sustainability, Diversity, and Bias in GeoAI and Spatial Data Science

Krzysztof Janowicz|arXiv (Cornell University)|Mar 27, 2023

Data-Driven Disease Surveillance被引用数 5

ひとこと要約

本論文は、空間的データ科学における倫理、持続可能性、バイアス、多様性を核とするGeoAIの哲学的基盤を確立する。GeoAIは技術的指標を超えて、地理におけるAIの倫理的影響に向き合う必要があると主張し、環境持続可能性、データの代表性、モデル設計・展開における透明性といった原則を通じて、責任ある研究を提唱する。

ABSTRACT

This chapter presents some of the fundamental assumptions and principles that could form the philosophical foundation of GeoAI and spatial data science. Instead of reviewing the well-established characteristics of spatial data (analysis), including interaction, neighborhoods, and autocorrelation, the chapter highlights themes such as sustainability, bias in training data, diversity in schema knowledge, and the (potential lack of) neutrality of GeoAI systems from a unifying ethical perspective. Reflecting on our profession's ethical implications will assist us in conducting potentially disruptive research more responsibly, identifying pitfalls in designing, training, and deploying GeoAI-based systems, and developing a shared understanding of the benefits but also potential dangers of artificial intelligence and machine learning research across academic fields, all while sharing our unique (geo)spatial perspective with others.

研究の動機と目的

• 方法論的および設計意思決定の根幹に倫理を据えることで、GeoAI研究を再定式化すること。
• 大規模モデルのトレーニングに伴う環境コストや評価データの代表性といった、未だ十分に検討されていないGeoAIの倫理的課題に取り組むこと。
• 空間的思考、特に場所に基づくおよび時間的センシティブな推論が、より責任あるAIシステムの構築にどのように寄与できるかを明らかにすること。
• 設計選択が空間、社会、力の関係についての暗黙の仮定を内包することを暴露することで、GeoAIシステムの『中立性』に疑問を呈すること。
• 地理学、AI、データサイエンスのコミュニティが多様に参加する枠組みを統合する共通の倫理的フレームワークを促進すること。

提案手法

• ハンス・ヨナスの『責任の倫理』に基づく倫理的視点を採用し、GeoAIシステムの長期的影響を評価すること。
• 実世界の大規模言語モデル（例：ChatGPTがウクライナとロシアの間隔を誤って計算した事例）を事例として、空間的無知や幾何的過剰簡略化の事例を分析すること。
• バイアスを単なる統計的不均衡としてではなく、訓練データにおける歴史的データドリフトと空間的整合性の欠如の結果としても考察すること。
• 空間的に明示的なモデルや地理的知識グラフが、AIシステムにおける透明性と説得責任を高められることを提唱すること。
• 大規模AIモデルを社会的・空間的理解を反映する対象として、自らが研究対象であると位置づける『地理的情報観測所』の概念を用いること。
• AI生成地理的知識を解釈する際には、一貫性に基づくモデルよりも共通理解理論の真理観を採用すべきであると提唱すること。

Figure 1: Distance between Ukraine and Russia according to Google Search and ChatGPT. Note that ChatGPT also changes the border length across queries. The proper answer should be zero, even though ChatGPT makes a very convincing statement that at the border where both countries touch , their distanc

実験結果

リサーチクエスチョン

• RQ1 持続可能性や責任といった倫理的原則を、GeoAIシステムの基礎的設計にどのように組み込むことができるか？
• RQ2 訓練データおよび評価セットにおけるバイアスが、GeoAI応用における空間的・社会的不平等をどのように反映・強化しているか？
• RQ3 大規模言語モデルが基本的な地理的事実（例：国境の隣接性）を認識できないのはなぜか？これはAIにおける空間的推論に何を明らかにしているか？
• RQ4 データ再利用可能性やブラックボックスモデル化に関する仮定が、空間的データ科学における倫理的責任とどのように衝突するか？
• RQ5 場所に基づく知識および時間的スコープを有する知識が、AI駆動の地理的インサイトの正当性と公平性を保証するために果たす役割は何か？

主な発見

• ChatGPTのような大規模言語モデルでさえ、ウクライナとロシアが国境を接していることを認識できず、明確な地理的事実にもかかわらず誤った距離値を返している。
• 主要な検索エンジンやLLMが境界距離を正しく計算できないという継続的失敗は、AIシステムにおける幾何的思考がトポロジカル思考を上回る構造的バイアスを示している。
• 訓練データのドリフトと歴史的データの優位性により、『歴史的引っ張り』が生じ、モデルが現在の地政的現実に適応するのに遅れる。
• モデル出力における空間的整合性の欠如は、現在のLLMが一貫性のある空間的フレームワークではなく、共通理解理論の真理観に基づいて動作していることを示唆している。
• GeoAIシステムは中立的ではない。特徴選択や評価データといった設計選択が、ユーザー行動を意図せず形作り、社会的不平等を強化する可能性がある。
• AIモデルに空間的・時間的・場所的次元を組み込むことは、正確性の向上だけでなく、地理的AI応用における倫理的説得責任と透明性の確保にとって不可欠である。