[论文解读] Roadmap Towards Responsible AI in Crisis Resilience Management

Cheng-Chun Lee, Tina Comes+2 more|arXiv (Cornell University)|Jul 20, 2022

Disaster Management and Resilience被引用 6

一句话总结

本文提出了一套六项主张的路线图，旨在将负责任的人工智能整合到危机韧性管理中，将公平、公正、透明度和问责制等伦理原则嵌入危机信息管理循环。该研究为研究人员和实践者提供了结构化的框架，以应对人工智能驱动的危机响应中的系统性挑战，确保在灾难各阶段实现伦理、可信且包容的决策。

ABSTRACT

Novel data sensing and AI technologies are finding practical use in the analysis of crisis resilience, revealing the need to consider how responsible artificial intelligence (AI) practices can mitigate harmful outcomes and protect vulnerable populations. In this paper, we present a responsible AI roadmap that is embedded in the Crisis Information Management Circle. This roadmap includes six propositions to highlight and address important challenges and considerations specifically related to responsible AI for crisis resilience management. We cover a wide spectrum of interwoven challenges and considerations pertaining to the responsible collection, analysis, sharing, and use of information such as equity, fairness, biases, explainability and transparency, accountability, privacy and security, inter-organizational coordination, and public engagement. Through examining issues around AI systems for crisis resilience management, we dissect the inherent complexities of information management and decision-making in crises and highlight the urgency of responsible AI research and practice. The ideas laid out in this paper are the first attempt in establishing a roadmap for researchers, practitioners, developers, emergency managers, humanitarian organizations, and public officials to address important considerations for responsible AI pertaining to crisis resilience management.

研究动机与目标

• 为弥合危机韧性管理（CRM）中负责任人工智能实践日益扩大的差距，特别是考虑到危机对弱势群体造成的不成比例影响。
• 识别并系统化人工智能在CRM中应用所特有的关键伦理挑战，如偏见、透明度、隐私和问责制。
• 提供一个结构化、跨学科的路线图，指导研究人员、开发者、应急管理人员和政策制定者将负责任人工智能原则嵌入CRM系统。
• 强调在动态、高风险的危机环境中，需要协调一致、以人为本并公开参与的人工智能设计。
• 通过案例研究和负责任人工智能在CRM中的标准化评估框架，激发未来的研究与实证验证。

提出的方法

• 在危机信息管理循环这一概念性框架内，提出嵌入六项主张的路线图，该框架用于描述危机信息流动。
• 将负责任人工智能的核心原则——公平、公正、透明度、可解释性、问责制、隐私以及跨组织协调——整合到CRM工作流程中。
• 开发一个全面的偏见识别框架及指标，适用于新兴数据源（如社交媒体、卫星图像、移动数据）。
• 提出一种协同创造模型，用于制定标准和文档，以增强模型透明度和利益相关者信任。
• 提出联邦人工智能和以人为本的人工智能流程，以支持跨组织数据共享，同时保护隐私和数据质量。
• 概述激励机制和同行评审系统，以鼓励公众和组织参与CRM中人工智能的开发。

实验结果

研究问题

• RQ1 如何系统性地将负责任人工智能原则嵌入危机韧性管理生命周期，以确保伦理和公平的结果？
• RQ2 在危机期间使用的人工智能系统中，公平、透明、问责和隐私之间的关键相互依赖关系是什么？
• RQ3 在动态危机环境中，如何识别、追踪并缓解数据、算法和决策链中的偏见？
• RQ4 哪些框架可以提升不同利益相关者（包括应急响应人员和受影响社区）对人工智能系统的可解释性和信任度？
• RQ5 如何制度化跨组织协调和公众参与，以支持多机构危机响应中的负责任人工智能？

主要发现

• 所提出的路线图提供了首个全面、跨学科的负责任人工智能在危机韧性管理中的框架，将伦理原则整合到危机全生命周期中。
• 危机韧性管理中的负责任人工智能不仅需要技术修复，更需要协调一致、注重价值观的设计，以应对权力失衡、利益相关者多样性以及情境差异。
• 可解释性和透明度并非孤立功能，而是危机期间建立信任和实现有效跨组织协调的基础。
• 人工智能系统中的偏见可能通过数据和决策链传播，因此需要针对危机情境量身定制的系统性偏见识别与去偏见流程。
• 跨组织协调和公众参与对于实现可持续、可问责的人工智能部署至关重要，需依赖标准化的数据共享协议和激励机制。
• 未来研究必须通过系统的案例研究和实证调查来验证该路线图，以完善其主张并确保其在现实世界中的适用性。