[论文解读] Responsible Urban Intelligence: Towards a Research Agenda

Rui Cao, Qili Gao+1 more|arXiv (Cornell University)|Aug 7, 2022

Smart Cities and Technologies被引用 1

一句话总结

本文提出了负责任城市智能（Responsible Urban Intelligence, RUI）框架，该框架整合了城市问题、使能技术（如人工智能和地理空间大数据）以及三大核心责任——透明性、公平性和环保性——形成一个四阶段实施流程。该研究推进了一个研究议程，涵盖数据/模型透明性、性能-公平性权衡以及可持续人工智能，以支持城市领域的联合国可持续发展目标。

ABSTRACT

Acceleration of urbanisation is posing great challenges to sustainable development. Growing accessibility to big data and artificial intelligence (AI) technologies have revolutionised many fields and offered great potential for addressing pressing urban problems. However, using these technologies without explicitly considering responsibilities would bring new societal and environmental issues. To maximise the benefits of big data and AI while minimising potential issues, we envisage a conceptual framework of Responsible Urban Intelligence (RUI) and advocate an agenda for action. We first define RUI as consisting of three major components including urban problems, enabling technologies, and responsibilities; then introduce transparency, fairness, and eco-friendliness as the three dimensions of responsibilities which naturally link with the human, space, and time dimensions of cities; and further develop a four-stage implementation framework for responsibilities as consisting of solution design, data preparation, model building, and practical application; and finally present a research agenda for RUI addressing challenging issues including data and model transparency, tension between performance and fairness, and solving urban problems in an eco-friendly manner.

研究动机与目标

• 为应对在城市环境中未经监管的人工智能和大数据使用日益增长的风险，这些风险可能加剧社会不平等和环境损害。
• 建立一种结构化、负责任的方法，利用数据驱动技术解决城市问题，使其与可持续发展目标（SDGs）保持一致。
• 通过将问责制、透明性和可持续性嵌入城市人工智能系统，弥合城市信息学中技术潜力与伦理责任之间的差距。
• 通过跨学科研究和负责任的创新，推动以人为本、公平且环境友好的城市发展。
• 制定一个研究议程，指导未来城市负责任人工智能的研究工作，重点关注透明性、公平性和能效。

提出的方法

• 提出一个由三部分构成的概念框架：城市问题、使能技术（如人工智能、地理信息系统、数据挖掘）以及责任（透明性、公平性、环保性）。
• 引入一个四阶段实施框架：解决方案设计、数据准备、模型构建和实际应用，每个阶段均以责任原则为指导。
• 将责任的三个维度与城市系统的三个维度——人（公平性）、空间（透明性）和时间（环保性）——相对应。
• 强调模型可解释性、偏差缓解和能效计算作为模型构建阶段的核心技术要求。
• 倡导开放城市数据、公民参与以及领域特定的计算基础设施，以支持负责任的部署。
• 通过各阶段之间的迭代反馈回路，动态优化解决方案，确保与伦理和实际目标保持一致。

实验结果

研究问题

• RQ1 如何系统性地将透明性、公平性和环保性整合到数据驱动的城市智能系统中？
• RQ2 在城市人工智能应用中，如何在保持高性能的同时实现模型可解释性？
• RQ3 在代表性不足或边缘化的城市社区中，如何缓解模型性能与公平性之间的张力？
• RQ4 在不牺牲实用性的前提下，有哪些策略可减少大规模人工智能模型在城市环境中的环境影响？
• RQ5 如何在城市人工智能系统的设计与部署中嵌入公民参与和包容性代表？

主要发现

• RUI框架为在城市人工智能应用中系统性地嵌入伦理与可持续原则提供了一种结构化、跨学科的方法。
• 数据和模型设计的透明性对于建立公众信任和问责制至关重要，但目前仍受限于数据质量、隐私担忧和模型不透明性。
• 在交通或住房分配等高风险城市应用中，模型准确性与可解释性之间存在显著权衡。
• 城市人工智能中的公平性受到缺乏标准化度量指标以及边缘化群体在数据和决策过程中的代表性不足的阻碍。
• 当前的深度学习模型对碳排放有显著贡献，凸显了对轻量化架构和优化、领域特定计算基础设施的需求。
• 在实施各阶段之间建立迭代反馈机制可提升解决方案的可靠性，并确保在整个人工智能生命周期中与伦理责任保持一致。