[논문 리뷰] Artificial Intelligence as an Anti-Corruption Tool (AI-ACT) -- Potentials and Pitfalls for Top-down and Bottom-up Approaches

Nils Köbis, Christopher Starke외 1명|arXiv (Cornell University)|2021. 02. 23.

Ethics and Social Impacts of AI참고 문헌 58인용 수 17

한 줄 요약

이 논문은 상향식 및 하향식 거버넌스 접근 방식에서 인공지능을 반부패 도구(_AI-ACT_)로 활용하기 위한 개념적 프레임워크를 제안한다. 데이터 입력, 알고리즘 설계, 제도적 구현의 세 영역에서 AI-ACT의 잠재력과 단점을 분석하며, 윤리적이고 효과적인 반부패 결과를 확보하기 위해 사회적 시각을 통합할 필요성을 강조한다.

ABSTRACT

Corruption continues to be one of the biggest societal challenges of our time. New hope is placed in Artificial Intelligence (AI) to serve as an unbiased anti-corruption agent. Ever more available (open) government data paired with unprecedented performance of such algorithms render AI the next frontier in anti-corruption. Summarizing existing efforts to use AI-based anti-corruption tools (AI-ACT), we introduce a conceptual framework to advance research and policy. It outlines why AI presents a unique tool for top-down and bottom-up anti-corruption approaches. For both approaches, we outline in detail how AI-ACT present different potentials and pitfalls for (a) input data, (b) algorithmic design, and (c) institutional implementation. Finally, we venture a look into the future and flesh out key questions that need to be addressed to develop AI-ACT while considering citizens' views, hence putting "society in the loop".

연구 동기 및 목표

• 지속적인 세계적 부패 문제를 해결하기 위해 AI가 반부패 노력에 있어 변혁적 도구로 기능할 수 있는지를 평가하는 것.
• AI가 상향식 국가 주도 및 하향식 시민 주도 반부패 이니셔티브 양쪽 모두를 어떻게 지원할 수 있는지 분석하는 것.
• AI-ACT의 데이터 품질, 알고리즘 설계, 제도적 배치 측면에서의 주요 위험 요소와 한계를 특정하는 것.
• AI-ACT 개발 과정에 사회적 가치와 시민의 시각을 통합하여 '사회를 루프에 포함시키는' 방식을 주장하는 것.
• 미래의 연구 및 정책 설계를 위한 AI 기반 반부패 거버넌스 분야의 체계적 개념적 프레임워크를 제공하는 것.

제안 방법

• 입력 데이터, 알고리즘 설계, 제도적 구현의 세 차원에서 AI-ACT를 분석하기 위한 개념적 프레임워크를 개발하는 것.
• AI 배치의 맥락에서 상향식(국가 주도)과 하향식(시민 주도) 반부패 접근 방식을 비교하는 것.
• 공개 정부 데이터 및 행정 기록과 같은 데이터 원천이 AI-ACT의 기초 입력으로서의 역할을 분석하는 것.
• 부정확성, 투명성, 공정성 문제 등 AI 모델이 부패 탐지에 사용될 때 발생하는 알고리즘 설계 과제를 분석하는 것.
• AI-ACT의 법적 프레임워크, 감독 메커니즘, 책임 구조와 같은 제도적 요소를 평가하는 것.
• 공공가치와 시민 피드백을 통합하여 정당성과 신뢰를 확보하기 위한 참가형 AI 개발 접근 방식을 제안하는 것.

실험 결과

연구 질문

• RQ1 AI는 상향식 및 하향식 반부패 전략 양쪽에서 어떻게 효과적으로 활용될 수 있는가?
• RQ2 데이터 품질, 알고리즘 편향, 제도적 통합 측면에서 AI-ACT의 주요 위험 요소와 한계는 무엇인가?
• RQ3 시민의 시각은 AI-ACT 설계 및 구현 과정에 어떻게 의미 있게 통합될 수 있는가?
• RQ4 AI-ACT 시스템의 책임감과 투명성을 확보하기 위해 필요한 제도적 및 윤리적 보호 조치는 무엇인가?
• RQ5 데이터 가용성과 알고리즘 투명성은 AI-ACT의 정당성과 효과성에 어떤 방식으로 영향을 미치는가?

주요 결과

• AI-ACT는 대규모 정부 데이터의 자동 분석을 통해 부패 탐지 잠재력을 지닌다. 특히 데이터가 개방되어 접근 가능할 경우 더욱 그렇다.
• 상향식 AI-ACT 접근 방식은 제도적 인프라 덕분에 유리할 수 있지만, 중앙집중화와 공공 신뢰 부족의 위험을 안고 있다.
• 하향식 AI-ACT 이니셔티브는 시민 참여와 투명성을 강화할 수 있지만, 데이터 접근성과 기술 역량의 도전 과제를 겪는다.
• AI 모델의 편향성과 투명성 부족은 반부패 적용 분야에서 공정성과 정당성에 심각한 위협을 가한다.
• AI-ACT의 제도적 구현은 약한 감독, 명확하지 않은 책임 구조, 부족한 법적 프레임워크로 인해 빈약하게 이루어지는 경우가 많다.
• 윤리적인 배치와 장기적인 공공 수용을 보장하기 위해 AI-ACT 개발 과정에 사회적 가치와 시민의 기여를 통합하는 것이 필수적이다.