[논문 리뷰] An Algorithmic Equity Toolkit for Technology Audits by Community Advocates and Activists

Michael Katell, Meg Young외 7명|arXiv (Cornell University)|2019. 12. 06.

Ethics and Social Impacts of AI참고 문헌 41인용 수 6

한 줄 요약

이 논문은 알고리즘적 형평성 툴킷(AEKit)을 제안하며, 시민권 옹호자와 지역 사회 조직이 접근 가능한 히우리스틱과 위험 평가 도구를 통해 알고리즘 시스템을 평가하고 도전할 수 있도록 지원하는 参여형, 지역사회 중심의 프레임워크를 제공한다. 지역 사회 이해관계자들과의 반복적 공동 설계와 실제 경험을 중심으로 하여, 이 툴킷은 알고리즘의 이해 가능성(legibility)을 향상시키고, 특히 지방정부 감시 조례의 맥락에서 공공 기술 조달에 대한 책임성을 강화한다.

ABSTRACT

A wave of recent scholarship documenting the discriminatory harms of algorithmic systems has spurred widespread interest in algorithmic accountability and regulation. Yet effective accountability and regulation is stymied by a persistent lack of resources supporting public understanding of algorithms and artificial intelligence. Through interactions with a US-based civil rights organization and their coalition of community organizations, we identify a need for (i) heuristics that aid stakeholders in distinguishing between types of analytic and information systems in lay language, and (ii) risk assessment tools for such systems that begin by making algorithms more legible. The present work delivers a toolkit to achieve these aims. This paper both presents the Algorithmic Equity Toolkit (AEKit) Equity as an artifact, and details how our participatory process shaped its design. Our work fits within human-computer interaction scholarship as a demonstration of the value of HCI methods and approaches to problems in the area of algorithmic transparency and accountability.

연구 동기 및 목표

• 시민과 정책 입안자들이 머신러닝을 사용하지만도 알고리즘적 시스템으로 인식하지 못하는 알고리즘 이해 가능성의 위기를 해결하기 위해.
• 비전문가가 이해할 수 있는 실용적인 히우리스틱을 개발하여 지역 사회 옹호자들이 분석 및 정보 시스템의 유형을 구분할 수 있도록 돕기 위해.
• 비기술적 이해관계자들이 이해하고 도전할 수 있도록 알고리즘을 더 투명하고 실행 가능한 형태로 만드는 위험 평가 도구를 만들기 위해.
• 특히 감시 조례의 맥락에서 지방정부 기술 조달에 있어 지역 사회 주도의 책임성을 지원하기 위해.
• 참여형 설계가 사회기술적 시스템 내 알고리즘 투명성과 형평성을 향상시키는 데서 가치가 있음을 입증하기 위해.

제안 방법

• 지역 기반 시민권 단체와의 반복적 참여형 설계 세션을 통해 툴킷을 공동으로 개발하기 위해.
• 일상어를 사용하여 시스템을 알고리즘적 또는 비알고리즘적 시스템으로 분류하는 플로우차트 기반의 히우리스틱을 개발하기 위해.
• 공정성, 투명성, 감시 영향 등을 포함한 알고리즘 위험 평가를 위한 체크리스트를 설계하기 위해.
• 현장에서의 해로움과 편향을 설명하기 위해 얼굴 인식 기술에 초점을 맞춘 상호작용형 데모를 제작하기 위해.
• 다양한 목소리 패anel을 통해 이해관계자의 알고리즘 피해 경험을 반영하여 이해관계자 피드백을 통합하기 위해.
• 기술적 정확성과 접근성의 균형을 유지하면서도 과도한 전문 용어를 피하고 알고리즘 시스템의 개념적 충실성을 유지하기 위해.

실험 결과

연구 질문

• RQ1 어떻게 지역 사회 옹호자들이 공공 부문 기술 조달 과정에서 알고리즘 시스템을 식별하고 평가할 수 있도록 할 수 있는가?
• RQ2 어떤 설계 접근 방식이 비기술적 이해관계자가 투명하지 못한 알고리즘 시스템을 이해하고 도전할 수 있도록 할 수 있는가?
• RQ3 참여형 설계 과정은 기술적 현실과 지역 사회 가치를 모두 반영하는 도구를 어떻게 이끌 수 있는가?
• RQ4 기존의 감시 조례는 기술의 알고리즘적 구성 요소를 어떻게 규제하지 못하는가? 그리고 AEKit 같은 도구는 이러한 격차를 어떻게 메울 수 있는가?
• RQ5 복잡한 알고리즘 시스템을 체크리스트와 플로우차트로 단순화할 때 발생하는 위험은 무엇이며, 이를 어떻게 완화할 수 있는가?

주요 결과

• 시민과 도시 정무원들은 머신러닝을 사용하지만도 감시 기술을 알고리즘적이라고 인식하지 못하는 경우가 많으며, 이는 알고리즘 리터러시 부족 때문이다.
• AEKit는 시민사회 기관과의 참여형 공동 설계를 통해 복잡한 알고리즘 개념을 접근 가능하고 실행 가능한 도구로 성공적으로 번역하였다.
• 툴킷의 플로우차트 및 체크리스트 구성 요소는 지역 사회 옹호자들이 공정성, 투명성, 감시 위험을 체계적으로 평가할 수 있도록 한다.
• 얼굴 인식 데모는 편향과 해로움을 효과적으로 설명하지만, 정확도에 초점을 맞추다 보니 개인정보 침해와 프로파일링과 같은 더 넓은 해로움을 간과할 위험이 있다.
• 기술적 깊이와 단순성의 균형을 맞추는 데 도전가 있었음에도 불구하고, 이 툴킷은 지방 정부 거버넌스 내 지역 사회 주도의 알고리즘 책임성에 기초 자원을 제공한다.
• 연구는 기존 규제 프레임워크가 종종 알고리즘적 구성 요소를 간과하고 있음을 드러내며, 알고리즘 이해 가능성 격차를 메울 수 있는 도구들, 예를 들어 AEKit의 필요성을 강조한다.