[論文レビュー] Bridging the Transparency Gap: What Can Explainable AI Learn From the AI Act?

Bálint Gyevnár, Nick Ferguson+1 more|arXiv (Cornell University)|Feb 21, 2023

Explainable Artificial Intelligence (XAI)参考文献 49被引用数 9

ひとこと要約

要約: 本論文は Explainable AI (XAI) を EU の規制上の透明性要件と対比し、 '透明性ギャップ' を定義し、法と XAI の間を埋める軸を概説する。

ABSTRACT

The European Union has proposed the Artificial Intelligence Act which introduces detailed requirements of transparency for AI systems. Many of these requirements can be addressed by the field of explainable AI (XAI), however, there is a fundamental difference between XAI and the Act regarding what transparency is. The Act views transparency as a means that supports wider values, such as accountability, human rights, and sustainable innovation. In contrast, XAI views transparency narrowly as an end in itself, focusing on explaining complex algorithmic properties without considering the socio-technical context. We call this difference the ``transparency gap''. Failing to address the transparency gap, XAI risks leaving a range of transparency issues unaddressed. To begin to bridge this gap, we overview and clarify the terminology of how XAI and European regulation -- the Act and the related General Data Protection Regulation (GDPR) -- view basic definitions of transparency. By comparing the disparate views of XAI and regulation, we arrive at four axes where practical work could bridge the transparency gap: defining the scope of transparency, clarifying the legal status of XAI, addressing issues with conformity assessment, and building explainability for datasets.

研究の動機と目的

• XAI と EU 規制（AI Act および GDPR）が透明性をどのように定義し、どのように不一致を生むかを明確にする。
• XAI と規制の透明性ギャップを埋める実践的軸を特定する。
• 規制の透明性目標に合わせて XAI の設計を具体的に方向付ける。
• 透明性の社会的技術的性質と、それが単なるアルゴリズム説明を超える規制目的を持つことを強調する。

提案手法

• XAI と EU 法（AI Act および GDPR）の透明性に関する用語と概念を比較する。
• 透明性を説明責任と人権の手段としての高級的・実践的含意を分析し、目的そのものではないことを示す。
• ギャップを埋める四つの実行可能な軸を特定する：透明性の範囲、XAI の法的地位、適合性評価、説明可能データ。
• 法の下での出力・AI システム・XAI ツールの関係を論じる。
• 法規定がユーザー権限付与と遵守志向の透明性要件へどのように翻訳されるかを検討する。

実験結果

リサーチクエスチョン

• RQ1 XAI と AI Act/GDPR は透明性をどのように定義・アプローチするか。
• RQ2 透明性ギャップが XAI 手法と規制目標の間に生む主な障壁は何か。
• RQ3 XAI の実践と AI Act の透明性要件を結ぶ具体的な軸は何か。
• RQ4 規制評価の一部として XAI ツールを AI システムの一部として扱うべきか、そしてそれが適合性プロセスにどう影響するか。
• RQ5 データ品質とガバナンスをどのように説明可能性に組み込み、規制基準を満たすべきか。

主な発見

• 法は透明性を説明責任・人権・持続可能なイノベーションへ向けた手段として扱うのに対し、XAI はアルゴリズム的特性を目的とする終点志向である。
• ギャップを埋める四軸の道筋：透明性の範囲を定義する、XAI の法的地位を明確にする、適合性評価に対処する、説明可能データを開発する。
• XAI は規制透明性を単なる設計指示として扱うのを避け、準拠を支える法的解釈を想定しておくべきである。
• 規制当局は整合的な適合評価を確保するために XAI ツールを別個のエンティティとしてではなく、全体の AI システムの一部として位置づけるべきである。
• 法はユーザー権限付与と遵守志向の透明性を区分しており、高リスクシステムには事前説明と事後説明の要件がある。