[论文解读] Developing Future Human-Centered Smart Cities: Critical Analysis of Smart City Security, Interpretability, and Ethical Challenges

Kashif Ahmad, Majdi Maabreh+4 more|arXiv (Cornell University)|Dec 14, 2020

Ethics and Social Impacts of AI被引用 11

一句话总结

本文批判性地分析了人工智能驱动的智慧城市在安全、可解释性及伦理方面面临的挑战，提出以人为本的设计——通过健全的数据治理、可解释的人工智能以及文化包容的伦理规范——对于构建可信的城市人工智能系统至关重要。本文识别出各项挑战之间的相互依赖关系，并为未来安全、公平且透明的智慧城市建设指明了研究空白。

ABSTRACT

As the globally increasing population drives rapid urbanisation in various parts of the world, there is a great need to deliberate on the future of the cities worth living. In particular, as modern smart cities embrace more and more data-driven artificial intelligence services, it is worth remembering that technology can facilitate prosperity, wellbeing, urban livability, or social justice, but only when it has the right analog complements (such as well-thought out policies, mature institutions, responsible governance); and the ultimate objective of these smart cities is to facilitate and enhance human welfare and social flourishing. Researchers have shown that various technological business models and features can in fact contribute to social problems such as extremism, polarization, misinformation, and Internet addiction. In the light of these observations, addressing the philosophical and ethical questions involved in ensuring the security, safety, and interpretability of such AI algorithms that will form the technological bedrock of future cities assumes paramount importance. Globally there are calls for technology to be made more humane and human-centered. In this paper, we analyze and explore key challenges including security, robustness, interpretability, and ethical (data and algorithmic) challenges to a successful deployment of AI in human-centric applications, with a particular emphasis on the convergence of these concepts/challenges. We provide a detailed review of existing literature on these key challenges and analyze how one of these challenges may lead to others or help in solving other challenges. The paper also advises on the current limitations, pitfalls, and future directions of research in these domains, and how it can fill the current gaps and lead to better solutions. We believe such rigorous analysis will provide a baseline for future research in the domain.

研究动机与目标

• 探讨人工智能在智慧城市应用中安全、可解释性与伦理挑战之间的相互作用。
• 识别数据偏见、对抗性攻击及透明度不足如何威胁人类福祉与社会繁荣。
• 解决人工智能伦理理论与城市科技部署实际应用之间的鸿沟。
• 倡导基于多元世界观（包括伊斯兰及非西方视角）的文化包容性、政策相关的人工智能伦理。
• 为未来在以人为本的城市环境中实现安全、可解释且伦理上正当的人工智能研究奠定基础。

提出的方法

• 对智慧城市背景下人工智能安全、可解释性与伦理问题开展全面的文献综述。
• 分析对抗性攻击（如逃避攻击、后门攻击、数据 poisoning）对城市系统中人工智能可靠性的影响。
• 评估可解释性技术（如 LIME、SHAP）在检测对抗性输入及提升模型透明度方面的效果。
• 整合数据管理实践，如数据审计、所有权模式与偏见缓解措施，以增强公平性。
• 提出一个将可解释性与鲁棒性及伦理合规性相联系的框架，以降低人工智能风险。
• 融入跨文化视角，特别是穆斯林占多数国家的视角，以拓展超越西方框架的人工智能伦理话语。

实验结果

研究问题

• RQ1 对抗性攻击在多大程度上破坏了人工智能在交通、医疗等关键城市应用中的可靠性与安全性？
• RQ2 可解释性技术在多大程度上能够提升对抗性输入的检测能力并增强对人工智能系统的信任？
• RQ3 在智慧城市中部署人工智能时，存在哪些关键的伦理与文化障碍？如何通过包容性政策与设计加以解决？
• RQ4 数据偏见与不良数据治理在多大程度上导致了以人为本的城市人工智能应用中出现歧视性结果？
• RQ5 跨学科协作在将人工智能发展与人类福祉、社会正义及制度治理相协调方面发挥何种作用？

主要发现

• LIME 和 SHAP 等可解释性技术有助于检测对抗性输入，但攻击者也可能利用这些技术设计出更具攻击性的策略。
• 训练数据集中的数据偏见会导致人工智能产生歧视性结果，尤其在刑事司法或医疗等敏感应用中，会加剧既有的社会不公。
• 当前的人工智能伦理话语主要由西方哲学框架主导，限制了其在非西方文化与宗教背景下的相关性与适用性。
• 学术界的人工智能伦理研究与实际应用之间存在显著差距，大多数产业机构更优先考虑经济利益而非伦理原则。
• 健全的数据治理——包括数据审计、所有权模式与偏见缓解措施——是确保人工智能驱动的城市服务公平性与问责性的关键。
• 安全、可解释性与伦理的融合至关重要：解决某一挑战通常需要同时应对其他挑战，凸显了整合性、以人为本的人工智能设计的必要性。