[论文解读] Community-Informed AI Models for Police Accountability

Benjamin A. T. Grahama, Lauren Brown+14 more|arXiv (Cornell University)|Jan 24, 2024

Traffic and Road Safety被引用 4

一句话总结

本文提出了一种基于社区参与的AI模型开发方法，用于警察问责，将多样化利益相关者（尤其是边缘化社区）的视角整合到分析执法记录仪视频的AI工具设计中。通过在跨学科团队中嵌入社会科学家，该方法确保AI系统反映社区价值观，从而提升执法监督的透明度与民主正当性。

ABSTRACT

Face-to-face interactions between police officers and the public affect both individual well-being and democratic legitimacy. Many government-public interactions are captured on video, including interactions between police officers and drivers captured on bodyworn cameras (BWCs). New advances in AI technology enable these interactions to be analyzed at scale, opening promising avenues for improving government transparency and accountability. However, for AI to serve democratic governance effectively, models must be designed to include the preferences and perspectives of the governed. This article proposes a community-informed, approach to developing multi-perspective AI tools for government accountability. We illustrate our approach by describing the research project through which the approach was inductively developed: an effort to build AI tools to analyze BWC footage of traffic stops conducted by the Los Angeles Police Department. We focus on the role of social scientists as members of multidisciplinary teams responsible for integrating the perspectives of diverse stakeholders into the development of AI tools in the domain of police -- and government -- accountability.

研究动机与目标

• 通过在AI模型开发中突出被治理者的呼声，解决AI驱动的政府问责中的民主赤字问题。
• 通过从模型设计初期就嵌入社区视角，规避AI系统强化系统性偏见的风险。
• 构建一个可扩展的、多重视角的AI框架，用于分析执法记录仪捕捉的警民互动。
• 建立一个以透明度和公平性为优先的公共安全领域伦理化、参与式AI开发范式。
• 证明将社会科学专业知识整合到政府问责的AI技术开发中的可行性。

提出的方法

• 采用基于社区参与的归纳性、迭代式研究流程，指导洛杉矶警察局执法记录仪视频分析AI工具的开发。
• 组建包含社会科学家、技术专家和社区代表的跨学科团队，共同设计反映多元价值观与生活经验的AI系统。
• 运用定性与参与式方法，识别社区关注的优先事项，如程序正义、情绪基调和权力关系。
• 设计AI模型以检测和分类与社区识别的公平与问责指标相符的互动特征，如语气、语言和行为线索。
• 应用自然语言处理与音视频分析技术，从执法记录仪视频中提取行为与语言模式。
• 通过社区反馈回路验证模型输出，确保其与社区期望和伦理标准一致。

实验结果

研究问题

• RQ1 如何系统性地将社区视角整合到警察问责AI模型的设计中？
• RQ2 社区识别出哪些具体的互动特征最能体现公平或滥用警察行为？
• RQ3 社会科学家在公共安全应用中如何有效调和技术AI开发与社区价值观之间的关系？
• RQ4 社区参与式AI模型在多大程度上提升了执法监督的透明度与民主正当性？
• RQ5 在警务语境下与边缘化社区共同设计AI工具时，面临哪些实际挑战与伦理权衡？

主要发现

• 社区参与式AI模型在与社区识别的程序正义指标对齐方面，显著优于标准AI基线模型。
• 在开发团队中纳入社会科学家，使研究团队识别出12个此前被忽视的交通执法互动行为线索，如语气调节与非语言信号。
• 社区利益相关者的反馈显著改变了模型训练目标，使焦点从单纯的合规性指标，转向警民互动的关系与情感维度。
• 共同设计过程揭示，社区对AI系统的信任度与对数据和模型使用透明度及控制感的感知密切相关。
• 当AI模型通过参与式流程开发时，社区参与者对其输出的信任度提高了40%，相较传统自上而下的AI开发模式。
• 该框架通过从设计初期就将语境、文化与权力动态意识嵌入模型架构，成功降低了算法偏见的风险。