[논문 리뷰] Ich wei{\ss}, was du n\"achsten Sommer getan haben wirst: Predictive Policing in \"Osterreich

Angelika Adensamer, Lukas Daniel Klausner|arXiv (Cornell University)|2019. 07. 01.

Policing Practices and Perceptions인용 수 1

한 줄 요약

이 논문은 오스트리아의 예측 경찰(Police, PP)을 비판적으로 분석하며, 데이터 편향, 체계적 차별에 대한 인식 부족, 잘못된 알고리즘 가정이 PP의 정당성을 약화시킨다고 주장한다. 연구는 PP를 범죄의 근본적 사회적 원인을 해결하는 데 투자하는 데로 전환해야 한다고 결론 내리며, 이는 기본적 권리 침해를 초래하고 오스트리아 법에 따라 법적 근거가 부족하기 때문이다.

ABSTRACT

Predictive policing is a data-based, predictive analytical technique used in law enforcement. In this paper, we give an overview of the current situation in Austria and discuss technical, sociopolitical and legal questions raised by the use of PP, such as the lack of awareness of discriminatory structures in society, the biases in data underlying PP and the lack of reflection on the basic premises and feedback mechanisms of PP. Violations of fundamental rights without cause are not allowed by the Austrian Code of Criminal Procedure (Strafproze{\ss}ordnung, StPO), the Security Police Act (Sicherheitspolizeigesetz, SPG) or the Act concerning Police Protection of the State (Polizeiliches Staatsschutzgesetz, PStSG); the principle of allowing police intervention only on the basis of concrete threats or suspicion must remain absolute. Considering the numerous problems (not least from the point of view of legal policy), we conclude that the use of PP should be eschewed and that resources and planning should instead be focussed on solving the social problems which actually cause crime. ----- Predictive Policing ist ein datenbasiertes und prognosegetriebenes Modell f\"ur Polizeiarbeit. Wir geben in diesem Artikel einen \"Uberblick \"uber den aktuellen Stand in \"Osterreich und diskutieren technische, politisch-gesellschaftliche und rechtliche Probleme, die sich daraus ergeben -- etwa das mangelhafte Bewusstsein f\"ur Prozesse gesellschaftlicher Diskriminierung, die verzerrte Datenbasis, die PP zugrundeliegt, und fehlende Reflexion \"uber zugrundeliegende Annahmen und R\"uckkopplungseffekte. Anlasslose Grundrechtseingriffe sind weder durch die StPO noch das SPG oder das PStSG gedeckt; dem Grundgedanken, dass Polizei erst bei konkreter Gefahrenlage oder Tatverdacht t\"atig werden darf, muss weiterhin Rechnung getragen werden. Aus unserer Sicht sollte angesichts der zahlreichen Probleme (und auch aus rechtspolitischen Erw\"agungen) auf PP verzichtet werden und stattdessen Ressourcen und \"Uberlegung in die L\"osung jener gesellschaftlicher Probleme investiert werden, die zu Kriminalit\"at f\"uhren.

연구 동기 및 목표

• 오스트리아의 예측 경찰(PP) 현황과 영향을 분석하기.
• 기술적, 사회정치적, 법적 과제를 특정하기, 특히 편향된 데이터와 투명성 부족을 포함하여.
• PP가 오스트리아 경찰 개입에 관한 법적 프레임워크에 부합하는지 검토하기.
• 법집행을 위한 알고리즘 예측 사용의 윤리적 및 인권적 영향 평가하기.
• PP 수용을 반대하고, 범죄의 구조적 원인을 해결하는 데에 투자할 것을 주장하기.

제안 방법

• 오스트리아에서 사용되는 기존 PP 시스템과 모델을 비판적으로 검토하며, 사례 연구 및 정책 분 析를 수행한다.
• PP의 합법성 평가를 위해 오스트리아 형사소송법(StPO), 보안경찰법(SPG), 국가 보호 경찰법(PStSG) 등의 법적 프레임워크를 분석한다.
• PP의 기술적 결함을 검토하며, '쓰레기 들어가면 쓰레기 나오는' 문제, 역사를 거쳐 편향된 경찰 활동에서 비롯된 편향된 데이터, 알고리즘 모델링에서의 잘못된 가정을 포함한다.
• 체계적 차별이 범죄 데이터를 형성하는 방식과 이를 PP 시스템이 어떻게 재생산하는지 평가한다.
• PP에서 피드백 루프와 확률 모델링을 평가하며, 특히 기존 불평등을 강화할 위험을 분석한다.
• 국제적 PP 구현 사례(예: 시카고, 오클랜드, 바덴뷔르템베르크)를 비교 분석하여 반복적인 문제를 부각한다.

실험 결과

연구 질문

• RQ1 편향된 역사를 기반으로 한 데이터와 차별적인 경찰 활동이 오스트리아 예측 경찰 시스템에서 사용되는 데이터를 어느 정도 왜곡하는가?
• RQ2 특히 기본적 권리와 구체적 의심 또는 위협이 요구되는 조건을 고려할 때, 오스트리아 법에 따라 예측 경찰을 법적으로 정당화할 수 있는가?
• RQ3 PP 시스템의 알고리즘 가정과 피드백 메커니즘은 사회적 불평등을 어떻게 재생산하거나 악화시키는가?
• RQ4 적절한 감시나 투명성이 부족한 상태에서 확률 모델을 법집행에 사용할 경우의 영향은 무엇인가?
• RQ5 예측 경찰은 범죄의 근본적 사회적 원인을 해결하는 데 있어 타당하거나 윤리적인 대안인가?

주요 결과

• 예측 경찰은 법적으로 의심스럽다. 이는 StPO, SPG, PStSG에 명시된 바와 같이 경찰 개입에 구체적 의심 또는 위협이 필요하다는 원칙을 위반할 수 있기 때문이다.
• PP 시스템에서 사용되는 데이터는 편향된 법집행 활동과 특정 범죄의 저신고로 인해 역사적 차별을 반영하고 재생산하며, 특히 소수자 집단에 대해 그렇다.
• 기술적 및 운영 직원들 간의 다양성 부족과 인식 부족은 알고리즘 편향을 악화시키고 차별적인 결과를 강화한다.
• 인구 밀도나 주변 인구를 대체 지표로 사용할 경우 기본적인 데이터 해석조차 잘못되어 경찰 자원의 잘못된 배분을 초래할 수 있다.
• 복잡한 예측 프레임워크가 아닌 이동 평균과 같은 단순화된 모델을 사용함으로써 PP 예측의 과학적 타당성이 떨어진다.
• 논문은 PP를 기술적·윤리적 이유 외에도 오스트리아 헌법 및 법적 원칙과의 불일치로 인해 기각해야 한다고 결론 내린다.