[論文レビュー] Outlining Traceability: A Principle for Operationalizing Accountability in Computing Systems

Joshua A. Kroll|arXiv (Cornell University)|Jan 23, 2021

Ethics and Social Impacts of AI参考文献 141被引用数 56

ひとこと要約

本稿は、公平性や安全性といった規範的目標とシステム設計・開発・運用を結びつけることで、計算システムにおける責任の実装のための基盤的原則としてトレーサビリティを提唱する。トレーサビリティ要件を体系化し、既存のツールや技術をマッピングし、政策上の義務と実際の実装の間の重要なギャップを特定する。

ABSTRACT

Accountability is widely understood as a goal for well governed computer systems, and is a sought-after value in many governance contexts. But how can it be achieved? Recent work on standards for governable artificial intelligence systems offers a related principle: traceability. Traceability requires establishing not only how a system worked but how it was created and for what purpose, in a way that explains why a system has particular dynamics or behaviors. It connects records of how the system was constructed and what the system did mechanically to the broader goals of governance, in a way that highlights human understanding of that mechanical operation and the decision processes underlying it. We examine the various ways in which the principle of traceability has been articulated in AI principles and other policy documents from around the world, distill from these a set of requirements on software systems driven by the principle, and systematize the technologies available to meet those requirements. From our map of requirements to supporting tools, techniques, and procedures, we identify gaps and needs separating what traceability requires from the toolbox available for practitioners. This map reframes existing discussions around accountability and transparency, using the principle of traceability to show how, when, and why transparency can be deployed to serve accountability goals and thereby improve the normative fidelity of systems and their development processes.

研究の動機と目的

• トレーサビリティの原則を通じて、計算システムにおける責任を実装すること。
• 強固なトレーサビリティを達成するための技術的・手続的・ガバナンス的要件を特定・体系化すること。
• 政策レベルのトレーサビリティ義務と、それらを実装するための実用的ツールの間のギャップを埋めること。
• トレーサビリティが単なる透明性を超えて、システムの行動を設計意思決定および価値観と結びつけることで、責任をどのように支援するかを明確にすること。
• 実務者および政策立案者によるシステムのトレーサビリティの評価と改善を支援する構造的フレームワークを提供すること。

提案手法

• 世界中の政策文書およびAI原則を分析し、繰り返し現れるトレーサビリティ要件を抽出する。
• バージョン管理、プロバンス追跡、監査ログなどの既存の技術、ツール、開発手法とトレーサビリティ要件をマッピングする。
• トレーサビリティと説明可能性の違いを強調し、設計および運用意思決定の因果的・対照的・選択的説明に焦点を当てる。
• システム出力と開発プロセス、データソース、ガバナンス目標を結びつけるフレームワークを提案する。
• 技術的制限、ツール不足、プロセス統合の課題、ステークホルダーの理解の4つの主要なギャップカテゴリを特定する。
• 基準および政策指針の体系的レビューを通じて、トレーサビリティのニーズの分類法を導出する。

実験結果

リサーチクエスチョン

• RQ1 ソフトウェアおよびAIシステムにおいて、トレーサビリティをどのように体系的に実装し、責任の実現を支援できるか？
• RQ2 実際のトレーサビリティを達成するために必要な、具体的な技術的および手続的要件は何か？
• RQ3 トレーサビリティは、規範的ガバナンス目標を支援する上で、透明性や説明可能性とどのように異なるか？
• RQ4 政策レベルのトレーサビリティ義務と、現在利用可能なツールおよび実務の現状との間に、どのようなギャップが存在するか？
• RQ5 トレーサビリティは、公平性、安全性、差別ののない価値観への計算システムの規範的適合性を、どのような形で向上させることができるか？

主な発見

• 公平性や透明性といった抽象的価値よりも、トレーサビリティはより具体的かつ測定可能であるため、責任の実装に実用的な手段として有効である。
• バージョン管理、プロバンス追跡、監査ログといった既存のツールはトレーサビリティを支援できるが、しばしば未活用または誤用されている。
• トレーサビリティを義務付ける政策的義務と、開発チームの実際の実装能力との間に、深刻なギャップが存在する。
• 機械的ログ記録を超えて、設計意思決定、目的、価値のトレードオフに関する人間が理解可能な記録がトレーサビリティには不可欠である。
• トレーサビリティの原則により、システム行動とその起源を結びつけることで、責任の帰属と規範的評価を支援する。
• 本稿では、実装におけるギャップを4つの主要カテゴリに分類している：技術的制限、ツール不足、プロセス統合の課題、ステークホルダーの理解不足。