[论文解读] The Ethics of AI-Generated Maps: A Study of DALLE 2 and Implications for Cartography

Qianheng Zhang, Yuhao Kang+1 more|arXiv (Cornell University)|Jan 1, 2023

Ethics in Clinical Research被引用 14

一句话总结

本研究探讨了使用 DALL·E 2 生成的 AI 地图所涉及的伦理风险，构建了一个包含合成地图与人工设计地图的公开数据集，并开发了一种深度学习检测器，可在区分 AI 生成地图与真实地图方面达到 93.2% 的准确率，为生成式 AI 时代可信制图的发展做出贡献。

ABSTRACT

The rapid advancement of artificial intelligence (AI) such as the emergence of large language models ChatGPT and DALL·E 2 has brought both opportunities for improving productivity and raised ethical concerns. This paper investigates the ethics of using artificial intelligence (AI) in cartography, with a particular focus on the generation of maps using DALL·E 2. To accomplish this, we first created an open-sourced dataset that includes synthetic (AI-generated) and real-world (human-designed) maps at multiple scales with a variety of settings. We subsequently examined four potential ethical concerns that may arise from the characteristics of DALL·E 2 generated maps, namely inaccuracies, misleading information, unanticipated features, and irreproducibility. We then developed a deep learning-based model to identify those AI-generated maps. Our research emphasizes the importance of ethical considerations in the development and use of AI techniques in cartography, contributing to the growing body of work on trustworthy maps. We aim to raise public awareness of the potential risks associated with AI-generated maps and support the development of ethical guidelines for their future use.

研究动机与目标

• 调查使用 DALL·E 2 生成合成地图所引发的伦理问题，包括地图的不准确性、误导性内容、意外出现的特征以及不可重现性。
• 开发一种可靠的地图检测方法，以支持数字制图中的可信度，并减轻虚假信息传播的风险。
• 通过识别风险并提出检测机制，为制定 AI 在制图中应用的伦理准则提供支持。
• 提高公众对 AI 生成地图可能造成误导的认识，特别是在政治或文化敏感语境下。
• 通过检测工具和伦理框架，支持生成式 AI 在制图教育与实践中的负责任整合。

提出的方法

• 构建了一个公开的开源数据集，包含 1,848 幅地图——其中 616 幅由 DALL·E 2 生成，1,232 幅为人工作图，通过搜索引擎收集。
• 使用提示模板："在 {Place} 上的 {Region} 的 {MapType}，带有 {Description}"，以生成跨大陆、国家和美国州级的多样化、可扩展的地图。
• 训练一种基于深度学习的二分类器（采用 CNN 架构），以区分 AI 生成地图与人工设计地图。
• 在 1,232 幅地图的测试集上评估检测器，准确率达到 93.2%，精确率为 87.3%，召回率为 87.5%。
• 采用混淆矩阵和性能指标验证检测器在不同地图类型和比例尺下的鲁棒性。
• 将数据集和模型代码发布在 GitHub 上，以支持可复现性以及在 AI 伦理与制图学领域的进一步研究。

实验结果

研究问题

• RQ1 DALL·E 2 生成的地图在特征上存在哪些伦理问题，例如不准确性、误导性内容或意外出现的特征？
• RQ2 如何利用机器学习技术可靠地检测 AI 生成的地图，以确保地图的可信度？
• RQ3 深度学习模型在多大程度上能够区分 DALL·E 2 生成的合成地图与真实的人工设计地图？
• RQ4 AI 生成的地图对制图教育、虚假信息传播以及 GIScience 领域的伦理责任有何影响？
• RQ5 未来 AI 与通用人工智能（AGI）系统将如何重塑制图实践，需要哪些伦理保障措施？

主要发现

• AI 生成地图检测器在测试集上实现了 93.2% 的准确率、87.3% 的精确率和 87.5% 的召回率，表现出优异的性能，能够有效识别合成地图。
• 混淆矩阵显示，616 幅 AI 生成地图被正确分类，1,135 幅人工设计地图被正确分类，分别有 92 例假阳性和 86 例假阴性。
• 尽管外观逼真，DALL·E 2 生成的地图常包含不准确、误导性空间表达以及意外出现的特征。
• 本研究证实，AI 生成的地图缺乏可重现性，因为相同提示在不同运行中可能产生不同输出。
• 伦理风险包括在敏感政治或文化语境下被滥用以传播虚假信息的可能性。
• 数据集和检测模型已公开发布于 GitHub，可支持在 GIScience 领域进一步开展关于 AI 伦理与地图可信度的研究。