[論文レビュー] Artificial Intelligence as an Anti-Corruption Tool (AI-ACT) -- Potentials and Pitfalls for Top-down and Bottom-up Approaches

Nils Köbis, Christopher Starke+1 more|arXiv (Cornell University)|Feb 23, 2021

Ethics and Social Impacts of AI参考文献 58被引用数 17

ひとこと要約

本稿は、上位から下位への統治と下位から上位への統治の両方のアプローチにおいて、人工知能（AI）を反腐堕落ツール（AI-ACT）として使用するための概念的枠組みを提唱する。AI-ACTの可能性と課題を、データ入力、アルゴリズム設計、制度的実装の観点から分析し、倫理的かつ効果的な反腐堕落の成果を確保するため、社会的視点を統合する必要性を強調する。

ABSTRACT

Corruption continues to be one of the biggest societal challenges of our time. New hope is placed in Artificial Intelligence (AI) to serve as an unbiased anti-corruption agent. Ever more available (open) government data paired with unprecedented performance of such algorithms render AI the next frontier in anti-corruption. Summarizing existing efforts to use AI-based anti-corruption tools (AI-ACT), we introduce a conceptual framework to advance research and policy. It outlines why AI presents a unique tool for top-down and bottom-up anti-corruption approaches. For both approaches, we outline in detail how AI-ACT present different potentials and pitfalls for (a) input data, (b) algorithmic design, and (c) institutional implementation. Finally, we venture a look into the future and flesh out key questions that need to be addressed to develop AI-ACT while considering citizens' views, hence putting "society in the loop".

研究の動機と目的

• 腐敗という持続的なグローバル的課題に応えるために、AIを反腐堕落活動における変革的ツールとして評価すること。
• AIが上位から下位への国家主導の取り組みと下位から上位への市民主導の取り組みの両方をどのように支援できるかを検討すること。
• AI-ACTのデータ品質、アルゴリズム設計、制度的展開における主なリスクと制限を特定すること。
• 社会的価値と市民の視点をAI-ACTの開発に組み込むことの重要性を主張し、「社会をループに組み込む」姿勢を位置づけること。
• AI駆動の反腐堕落統治分野における今後の研究と政策設計のための構造的で概念的な枠組みを提供すること。

提案手法

• 入力データ、アルゴリズム設計、制度的実装の3つの次元を通じてAI-ACTを分析する概念的枠組みを構築する。
• AIの導入文脈において、上位から下位（国家主導）と下位から上位（市民主導）の反腐堕落アプローチを比較する。
• オープン政府データや行政記録などのデータソースを、AI-ACTの基盤的入力として検討する。
• 腐敗検出に使用されるAIモデルにおけるバイアス、透明性、公平性といったアルゴリズム設計上の課題を分析する。
• AI-ACTのための法的枠組み、監視メカニズム、責任体制といった制度的要因を評価する。
• 公共価値と市民のフィードバックを統合する参加型のAI開発アプローチを提言し、正当性と信頼性を確保する。

実験結果

リサーチクエスチョン

• RQ1 AIは、上位から下位と下位から上位の両方の反腐堕落戦略において、どのように効果的に活用できるか？
• RQ2 データ品質、アルゴリズムバイアス、制度的統合の観点から、AI-ACTの主なリスクと制限は何か？
• RQ3 市民の視点をAI-ACTの設計と展開に意味的に統合するにはどうすればよいか？
• RQ4 AI-ACTシステムにおける責任と透明性を確保するための、必要な制度的・倫理的ガードレールは何か？
• RQ5 データの入手可能性とアルゴリズムの透明性は、AI-ACTの正当性と効果性にどのように影響を与えるか？

主な発見

• AI-ACTは、特にオープンでアクセス可能なデータが整っている場合、大規模な政府データの自動分析を通じて腐敗を検出する独自の可能性を有する。
• 上位から下位のAI-ACTアプローチは、制度的インfraストラクチャーの恩恵を受ける可能性が高いが、中央集権化と市民の信頼欠如のリスクを伴う。
• 下位から上位のAI-ACTイニシアチブは、市民参加と透明性を高められるが、データへのアクセスと技術的能力の課題に直面する。
• AIモデルにおけるバイアスと透明性の欠如は、反腐堕落応用における公平性と正当性に対する顕著なリスクをもたらす。
• AI-ACTの制度的実装は、監視が不十分で、責任の所在が不明瞭で、法的枠組みが不十分なためにしばしば妨げられる。
• AI-ACTの開発に社会的価値と市民の意見を統合することは、倫理的な実装と長期的な公的受容を確保する上で不可欠である。