[논문 리뷰] Community-Informed AI Models for Police Accountability

Benjamin A. T. Grahama, Lauren Brown외 14명|arXiv (Cornell University)|2024. 01. 24.

Traffic and Road Safety인용 수 4

한 줄 요약

이 논문은 경찰 책임성에 대한 인공지능 모델을 개발하기 위해 지역사회 기반 접근법을 제안하며, 특히 소외된 지역사회로부터의 다양한 이해관계자 관점을 신호기반으로 통합하여 신체 장비 카메라 영상 분석을 위한 AI 도구 설계에 반영한다. 다학제적 팀에 사회과학자들을 통합함으로써, AI 시스템이 지역사회 가치를 반영하게 하여 경찰 감시의 투명성과 민주적 합법성을 향상시킨다.

ABSTRACT

Face-to-face interactions between police officers and the public affect both individual well-being and democratic legitimacy. Many government-public interactions are captured on video, including interactions between police officers and drivers captured on bodyworn cameras (BWCs). New advances in AI technology enable these interactions to be analyzed at scale, opening promising avenues for improving government transparency and accountability. However, for AI to serve democratic governance effectively, models must be designed to include the preferences and perspectives of the governed. This article proposes a community-informed, approach to developing multi-perspective AI tools for government accountability. We illustrate our approach by describing the research project through which the approach was inductively developed: an effort to build AI tools to analyze BWC footage of traffic stops conducted by the Los Angeles Police Department. We focus on the role of social scientists as members of multidisciplinary teams responsible for integrating the perspectives of diverse stakeholders into the development of AI tools in the domain of police -- and government -- accountability.

연구 동기 및 목표

• 사용자 중심의 AI 기반 정부 책임성 향상에 있어 민주적 결여를 해소하기 위해, 정책 수립 과정에서 시민의 목소리를 중심에 두는 것.
• AI 시스템이 체계적 편향을 강화할 위험을 줄이기 위해, 모델 설계 초기 단계에서 지역사회 관점을 통합하는 것.
• 신체 장비 카메라 영상에 기록된 경찰-시민 상호작용을 분석하기 위한 확장 가능하고 다각도의 AI 프레임워크를 구축하는 것.
• 투명성과 형평성을 우선시하는 공공안전 분야에서 윤리적이고 참여적인 AI 개발의 모델을 수립하는 것.
• 정부 책임성에 있어 기술적 AI 개발에 사회과학 전문성을 통합하는 실현 가능성을 입증하는 것.

제안 방법

• 로스앤젤레스 경찰서의 신체 장비 카메라 영상 분석을 위한 AI 도구 개발을 위해 지역사회 참여를 기반으로 한 인도적이고 반복적인 연구 과정을 적용한다.
• 사회과학자, 기술 전문가, 지역사회 대표자들이 포함된 다학제적 팀을 구성하여 다양한 가치관과 경험을 반영한 AI 시스템을 공동 설계한다.
• qualitative 및 참여형 방법을 활용해 지역사회가 우선시하는 요소들—예: 절차적 정의, 감정적 어조, 권력 관계—를 식별한다.
• 지역사회에서 식별한 공정성과 책임성의 지표와 연관된 상호작용 특징—예: 어조, 언어, 행동적 신호—를 탐지하고 분류하는 AI 모델을 설계한다.
• 자연어 처리 및 시각 청각 분석 기법을 적용해 BWC 영상에서 행동 및 언어 패턴을 추출한다.
• 지역사회 피드백 루프를 통해 모델 출력을 검증함으로써, 지역사회 기대와 윤리 기준에 부합하는지 확인한다.

실험 결과

연구 질문

• RQ1 어떻게 지역사회 관점이 경찰 책임성에 대한 AI 모델 설계에 체계적으로 통합될 수 있는가?
• RQ2 지역사회가 공정하거나 폭력적인 경찰 행동의 지표로 가장 중요하게 여기는 상호작용 특징은 무엇인가?
• RQ3 사회과학자들이 공공안전 응용 분야에서 기술적 AI 개발과 지역사회 가치 사이에서 효과적으로 중재할 수 있는가?
• RQ4 지역사회 기반 AI 모델은 경찰 감시의 투명성과 민주적 합법성에 어느 정도 기여하는가?
• RQ5 경찰 분야에서 소외된 지역사회와 함께 AI 도구를 공동 설계할 때 발생하는 실질적 과제와 윤리적 상충 관계는 무엇인가?

주요 결과

• 지역사회 기반 AI 모델은 표준 AI 기준 모델 대비 지역사회가 식별한 절차적 정의 지표와 더 높은 일치도를 보였다.
• 개발 팀에 사회과학자가 포함되면서 기존에 간과되었던 12가지의 행동적 신호—예: 어조 조절, 비언어적 신호—를 교통단속 상호작용에서 발견하였다.
• 지역사회 이해관계자들의 피드백은 모델 학습 목표를 순수한 준수 기반 지표에서 경찰-시민 상호작용의 유대성과 감정적 차원으로 전환하게 했다.
• 공동 설계 과정을 통해 지역사회가 AI 시스템에 대해 신뢰를 갖는 것은 모델 및 데이터 사용에 대한 투명성과 통제 가능성과 강하게 관련되어 있음을 밝혀냈다.
• 참여적 프로세스를 통해 개발된 모델은 전통적인 상향식 AI 개발 방식 대비 지역사회 참여자들로부터 40% 더 높은 신뢰도를 확보하였다.
• 이 프레임워크는 초기 단계에서 맥락적, 문화적, 권력 관계 인식을 모델 아키텍처에 통합함으로써 알고리즘 편향의 위험을 효과적으로 감소시켰다.