[論文レビュー] Community-Informed AI Models for Police Accountability

Benjamin A. T. Grahama, Lauren Brown+14 more|arXiv (Cornell University)|Jan 24, 2024

Traffic and Road Safety被引用数 4

ひとこと要約

本論文は、警察の監視責任を果たすためのAIモデルを開発するにあたり、コミュニティの声を反映したアプローチを提案している。特に、マイノリティコミュニティの視点を含む多様なステークホルダーの意見を、路上パトロール時の身体装着カメラ映像を分析するAIツールの設計に統合している。社会科学者が多様な分野のチームに統合されることで、AIシステムがコミュニティの価値観を反映し、法執行部門の監視における透明性と民主的正当性が向上する。

ABSTRACT

Face-to-face interactions between police officers and the public affect both individual well-being and democratic legitimacy. Many government-public interactions are captured on video, including interactions between police officers and drivers captured on bodyworn cameras (BWCs). New advances in AI technology enable these interactions to be analyzed at scale, opening promising avenues for improving government transparency and accountability. However, for AI to serve democratic governance effectively, models must be designed to include the preferences and perspectives of the governed. This article proposes a community-informed, approach to developing multi-perspective AI tools for government accountability. We illustrate our approach by describing the research project through which the approach was inductively developed: an effort to build AI tools to analyze BWC footage of traffic stops conducted by the Los Angeles Police Department. We focus on the role of social scientists as members of multidisciplinary teams responsible for integrating the perspectives of diverse stakeholders into the development of AI tools in the domain of police -- and government -- accountability.

研究の動機と目的

• AIを用いた政府の監視責任に生じる民主的欠陥を是正するため、AIモデル開発において、統治される人々の声を核とする。
• AIシステムが構造的バイアスを強化するリスクを回避するため、モデル設計の初期段階からコミュニティの視点を統合する。
• 身体装着カメラで記録された警察官と市民の対話を分析するためのスケーラブルで多視点のAIフレームワークを構築する。
• 透明性と公平性を最優先する、倫理的で参加型の公共安全分野におけるAI開発のモデルを確立する。
• 公共の責任を果たすために、社会科学の専門知識を技術的AI開発に統合する実現可能性を示す。

提案手法

• ロサンゼルス警察局の身体装着カメラ映像分析のためのAIツール開発を支援するため、コミュニティ参加に基づいた帰納的で反復的な研究プロセスを採用する。
• 社会科学者、技術者、コミュニティ代表者からなる多様な分野のチームを編成し、多様な価値観と生活経験を反映するAIシステムを共同で設計する。
• 質的かつ参加型の手法を用いて、警察官との対話における手続的正義、感情のトーン、権力関係といったコミュニティの優先事項を同定する。
• コミュニティが特定した公平性と責任の指標に一致する、トーン、言語、行動的サインといった対話の特徴を検出・分類するAIモデルを設計する。
• 自然言語処理および音声・映像分析技術を用いて、BWC映像から行動的および言語的パターンを抽出する。
• コミュニティからのフィードバックループを活用してモデル出力を検証し、コミュニティの期待と倫理基準に適合していることを保証する。

実験結果

リサーチクエスチョン

• RQ1 警察の監視責任を果たすためのAIモデル設計に、どのようにしてコミュニティの視点を体系的に統合できるか？
• RQ2 コミュニティが、警察官の行動が公平か、あるいは虐待的かを示すと認識する具体的な対話の特徴は何か？
• RQ3 社会科学者が、公共安全分野のAI開発とコミュニティの価値観の間で、どのようにして効果的に仲介できるか？
• RQ4 コミュニティ主導のAIモデルは、法執行部門の監視における透明性と民主的正当性をどの程度向上させるか？
• RQ5 警察活動におけるマイノリティコミュニティと共同でAIツールを開発するにあたり、実務上の課題と倫理的妥当性のトレードオフは何か？

主な発見

• コミュニティ主導のAIモデルは、標準的なAIベースラインと比較して、コミュニティが特定した手続的正義の指標との整合性が高かった。
• 開発チームに社会科学者が参加した結果、交通パトロールの対話でこれまでに無視されていた12の行動的サイン（例：トーンの変化、非言語的サイン）が同定された。
• コミュニティステークホルダーからのフィードバックが、モデルの学習目的を、単なる適合性指標から警察官と市民の関係的・感情的側面へと変更した。
• 共同設計プロセスを通じて、コミュニティがAIシステムに信頼を寄せるのは、データおよびモデル使用に対する透明性と制御感が強く関係していることが明らかになった。
• 参加型プロセスで開発されたモデルは、従来のトップダウン型AI開発と比較して、コミュニティ参加者が40％信頼性が高いと評価した。
• フレームワークは、初期段階から文脈的・文化的要因および権力関係の認識をモデルアーキテクチャに組み込むことで、アルゴリズムバイアスのリスクを効果的に低減した。