[論文レビュー] How to Assess Trustworthy AI in Practice

Roberto V. Zicari, Julia Amann+18 more|arXiv (Cornell University)|Jun 20, 2022

Artificial Intelligence in Healthcare and Education被引用数 10

ひとこと要約

本論文は、EUハイレベル専門家グループの指針に基づき、AIライフサイクル全体にわたり信頼性のあるAIを評価する実用的で包括的な手法「Z-Inspection™」を提示する。社会的・技術的シナリオ分析を用いて倫理的リスクや対立を同定し、実世界の医療AI評価を通じてその応用を示し、実務者および研究者に実行可能な提言を提供する。

ABSTRACT

This report is a methodological reflection on Z-Inspection$^{\small{\circledR}}$. Z-Inspection$^{\small{\circledR}}$ is a holistic process used to evaluate the trustworthiness of AI-based technologies at different stages of the AI lifecycle. It focuses, in particular, on the identification and discussion of ethical issues and tensions through the elaboration of socio-technical scenarios. It uses the general European Union's High-Level Expert Group's (EU HLEG) guidelines for trustworthy AI. This report illustrates for both AI researchers and AI practitioners how the EU HLEG guidelines for trustworthy AI can be applied in practice. We share the lessons learned from conducting a series of independent assessments to evaluate the trustworthiness of AI systems in healthcare. We also share key recommendations and practical suggestions on how to ensure a rigorous trustworthy AI assessment throughout the life-cycle of an AI system.

研究の動機と目的

• AIシステムのライフサイクル段階にわたり、信頼性のあるAIを評価する実用的で実行可能な手法を開発すること。
• 信頼性のあるAIのためのEUハイレベル専門家グループの指針を、構造的な評価プロセスに具体化すること。
• シナリオベースの分析を通じて、AIシステムに内在する倫理的問題や対立を同定し、それらに対処すること。
• 実務者および研究者に、きめ細やかなAI信頼性評価を実施するための具体的なツールと提言を提供すること。
• 医療分野におけるAIの実世界評価から得た教訓を、広範な応用に活かせるようにすること。

提案手法

• Z-Inspection™ は、AIライフサイクル全体にわたり信頼性のあるAIを評価する包括的で反復的なプロセスを採用する。
• EU HLEGの信頼性のあるAIの主要要件（例えば、人的監視、耐性、公平性）を、構造的な評価フレームワークに統合する。
• 社会的・技術的シナリオの作成と分析を核として、文脈に即した倫理的対立やリスクを検討する。
• 倫理的および技術的側面の両方を多様な視点で評価できるよう、異分野のチームによる評価を実施する。
• 発見事項の文書化、ステークホルダーからのフィードバック、緩和策および改善策の提言を含むプロセスを経る。
• 分野に応じて柔軟に適応可能であり、医療AIシステムへの応用が実証済みである。

実験結果

リサーチクエスチョン

• RQ1 EU HLEGの信頼性のあるAIに関する指針を、実世界のAI開発および導入に実際にどう適用できるか。
• RQ2 AIシステムに内在する倫理的リスクや対立を体系的に同定するための方法論的アプローチは何か。
• RQ3 社会的・技術的シナリオは、開発段階で隠れた倫理的問題を効果的に明らかにできるか。
• RQ4 本フレームワークを用いた独立した医療AIシステムの評価から得られる教訓は何か。
• RQ5 AI開発ライフサイクル全体にわたり、スケーラブルできめ細やかな評価プロセスを制度化するにはどうすればよいか。

主な発見

• Z-Inspection™ は、EU HLEGの信頼性のあるAI基準を繰り返し可能で実用的な評価プロセスに具体化した。
• 社会的・技術的シナリオの活用は、技術的監査だけでは捉えきれない倫理的対立や文脈的リスクを効果的に明らかにした。
• 医療AI分野の評価から、データバイアス、透明性、人間とAIの協働に関する繰り返し発生する課題が明らかになった。
• 異分野の協働は、倫理的リスク同定の深さと関連性を顕著に向上させた。
• フレームワークは、さまざまなAIシステムおよび開発段階に適応可能であり、初期設計段階から導入後評価までをカバーした。
• 実務的提言が得られた。たとえば、開発初期段階に倫理的レビューを統合し、開発全般にわたりステークホルダーの関与を確保すること。