[论文解读] Artificial Intelligence as an Anti-Corruption Tool (AI-ACT) -- Potentials and Pitfalls for Top-down and Bottom-up Approaches

Nils Köbis, Christopher Starke+1 more|arXiv (Cornell University)|Feb 23, 2021

Ethics and Social Impacts of AI参考文献 58被引用 17

一句话总结

本文提出了一种概念框架，用于在自上而下和自下而上的治理模式中，将人工智能作为反腐败工具（AI-ACT）的应用。该研究分析了AI-ACT在数据输入、算法设计和制度实施三个层面的潜力与局限，强调必须融入社会视角，以确保反腐败结果的伦理性和有效性。

ABSTRACT

Corruption continues to be one of the biggest societal challenges of our time. New hope is placed in Artificial Intelligence (AI) to serve as an unbiased anti-corruption agent. Ever more available (open) government data paired with unprecedented performance of such algorithms render AI the next frontier in anti-corruption. Summarizing existing efforts to use AI-based anti-corruption tools (AI-ACT), we introduce a conceptual framework to advance research and policy. It outlines why AI presents a unique tool for top-down and bottom-up anti-corruption approaches. For both approaches, we outline in detail how AI-ACT present different potentials and pitfalls for (a) input data, (b) algorithmic design, and (c) institutional implementation. Finally, we venture a look into the future and flesh out key questions that need to be addressed to develop AI-ACT while considering citizens' views, hence putting "society in the loop".

研究动机与目标

• 为应对腐败这一持续存在的全球性挑战，评估人工智能作为反腐败努力变革性工具的潜力。
• 探讨人工智能如何支持自上而下的国家主导型和自下而上的公民驱动型反腐败举措。
• 识别AI-ACT在数据质量、算法设计和制度部署方面面临的关键风险与局限。
• 倡导在AI-ACT开发中融入社会价值观与公民视角，实现‘社会在回路’（society in the loop）的定位。
• 为未来基于人工智能的反腐败治理研究与政策设计提供结构化的概念框架。

提出的方法

• 构建一个概念框架，从输入数据、算法设计和制度实施三个维度分析AI-ACT。
• 在人工智能部署的背景下，比较自上而下（国家主导）与自下而上（公民主导）的反腐败方法。
• 考察开放政府数据和行政记录等数据源，作为AI-ACT的基础输入。
• 分析用于腐败检测的人工智能模型中，偏见、透明度和公平性等算法设计挑战。
• 评估AI-ACT的制度因素，包括法律框架、监督机制和问责结构。
• 提出一种参与式人工智能开发方法，融入公共价值与公民反馈，以确保合法性和信任。

实验结果

研究问题

• RQ1 人工智能如何在自上而下和自下而上的反腐败战略中得到有效利用？
• RQ2 在数据质量、算法偏见和制度整合方面，AI-ACT面临哪些关键风险与局限？
• RQ3 如何将公民的视角有意义地融入AI-ACT的设计与部署中？
• RQ4 为确保AI-ACT系统的问责制与透明度，需要哪些制度与伦理保障措施？
• RQ5 数据可得性与算法透明度在多大程度上影响AI-ACT的合法性和有效性？

主要发现

• AI-ACT在通过自动化分析大规模政府数据检测腐败方面具有独特潜力，尤其是在数据开放且可访问的情况下。
• 自上而下的AI-ACT方法更可能受益于制度基础设施，但存在集中化和公众信任缺失的风险。
• 自下而上的AI-ACT举措可增强公民参与和透明度，但面临数据获取与技术能力的挑战。
• 人工智能模型中的偏见与缺乏透明度，对反腐败应用中的公平性与合法性构成重大风险。
• AI-ACT的制度实施常因监督薄弱、责任不明确和法律框架不足而受阻。
• 在AI-ACT开发中融入社会价值观与公民参与，对于确保伦理化部署和长期公众接受至关重要。