[論文レビュー] A Methodology and Software Architecture to Support Explainability-by-Design

Trung Dong Huynh, Niko Tsakalakis+3 more|ePrints Soton (University of Southampton)|Jun 13, 2022

Scientific Computing and Data Management被引用数 9

ひとこと要約

本論文は、意思決定システムに説明可能性を能動的に統合できるようにする「説明可能性設計による」手法とソフトウェアアーキテクチャを提案する。本稿では技術的設計に焦点を当てた三段階ワークフローを提示する。要件が再利用可能な設定に変換され、アプリケーションログからプロビジョナストレースを生成する。これにより、クエリ可能なデータを介して個別化された説明が可能になる。二つのシナリオで実証された結果、1文あたり最短で2時間の開発時間で説明が実現された。

ABSTRACT

Algorithms play a crucial role in many technological systems that control or affect various aspects of our lives. As a result, providing explanations for their decisions to address the needs of users and organisations is increasingly expected by laws, regulations, codes of conduct, and the public. However, as laws and regulations do not prescribe how to meet such expectations, organisations are often left to devise their own approaches to explainability, inevitably increasing the cost of compliance and good governance. Hence, we envision Explainability-by-Design, a holistic methodology characterised by proactive measures to include explanation capability in the design of decision-making systems. The methodology consists of three phases: (A) Explanation Requirement Analysis, (B) Explanation Technical Design, and (C) Explanation Validation. This paper describes phase (B), a technical workflow to implement explanation capability from requirements elicited by domain experts for a specific application context. Outputs of this phase are a set of configurations, allowing a reusable explanation service to exploit logs provided by the target application to create provenance traces of the application's decisions. The provenance then can be queried to extract relevant data points, which can be used in explanation plans to construct explanations personalised to their consumers. Following the workflow, organisations can design their decision-making systems to produce explanations that meet the specified requirements. To facilitate the process, we present a software architecture with reusable components to incorporate the resulting explanation capability into an application. Finally, we applied the workflow to two application scenarios and measured the associated development costs. It was shown that the approach is tractable in terms of development time, which can be as low as two hours per sentence.

研究の動機と目的

• 意思決定システムにおける説明可能なAIに対する増大する規制的・社会的要請に応えること。
• システム設計ライフサイクルの初期段階に説明機能を埋め込むことで、説明要件への適合にかかるコストと複雑さを低減すること。
• 多様な応用文脈に適応可能な再利用可能でモジュラーなソフトウェアアーキテクチャを提供すること。
• ドメインエキスパートと開発者が標準化された技術的ワークフローを通じて協働的に説明要件を定義・実装できること。
• 実世界の応用シナリオを通じて、本アプローチの実現可能性と効率性を測定可能な開発時間とともに実証すること。

提案手法

• 本手法は三段階に構造化されている：説明要件分析、説明技術的設計、説明検証。本稿では第二段階に焦点を当てる。
• 技術的ワークフローにより、ドメイン固有の説明要件が、ターゲットアプリケーションのログをどのように処理するかを定義するシステム設定に変換される。
• アプリケーションログを分析し、因果的依存関係を抽出することで、意思決定プロセスの履歴を記録するプロビジョナストレース（構造化された記録）が生成される。
• これらのプロビジョナストレースはクエリ可能な形式で保存され、実行時における説明生成に必要なデータポイントを抽出可能になる。
• 再利用可能なソフトウェアアーキテクチャが提案され、既存アプリケーションに統合可能なモジュラーなコンponentsで構成される。
• 消費者固有のニーズに基づくプロビジョナデータへのクエリを可能にすることで、動的で個別化された説明の提供が可能になる。

実験結果

リサーチクエスチョン

• RQ1 どのようにすれば、意思決定システムの設計段階で体系的かつ能動的に説明機能を統合できるか？
• RQ2 ドメイン固有の説明要件を実装可能なシステム設定に変換するための技術的ワークフローは何か？
• RQ3 アプリケーションログから自動的にプロビジョナストレースを生成する方法は何か？これにより説明生成がどのように支援されるか？
• RQ4 どのようなソフトウェアアーキテクチャが、異なるアプリケーション間で再利用可能でスケーラブルかつカスタマイズ可能な説明サービスを実現できるか？
• RQ5 本手法を用いた実世界のシナリオにおける説明機能の実装にかかる実際の開発コストはどの程度か？

主な発見

• 本手法により、実世界のシナリオにおいて、1文あたり最短で2時間という極めて短い開発時間で説明機能を実装できることが確認された。
• アプリケーションログから得られるプロビジョナストレースに対するターゲット指定クエリを可能にすることで、個別化された説明の作成が可能になった。
• 提案されたソフトウェアアーキテクチャにより、最小限のカスタマイズで既存アプリケーションに説明サービスをモジュラーに統合できる。
• ワークフローにより、高水準な説明要件が、説明生成に実行可能な具体的な設定に成功して変換された。
• 標準化された設計段階のアプローチを採用することで、恣意的または一貫性のない説明実装のリスクが低減された。
• 二つのアプリケーションシナリオにおける評価から、本アプローチが実用的導入に耐えうる実行可能性とスケーラビリティを有することが確認された。