[論文レビュー] Trustworthy AI: From Principles to Practices

Bo Li, Peng Qi+6 more|arXiv (Cornell University)|Oct 4, 2021

Ethics and Social Impacts of AI被引用数 24

ひとこと要約

この調査は、信頼できるAIをライフサイクル全体で構築するための体系的なフレームワークを提示し、ロバスト性、一般化、説明性、透明性、再現性、公正、プライバシー、説明責任、そして実践的なガイダンスとトレードオフを詳述します。

ABSTRACT

The rapid development of Artificial Intelligence (AI) technology has enabled the deployment of various systems based on it. However, many current AI systems are found vulnerable to imperceptible attacks, biased against underrepresented groups, lacking in user privacy protection. These shortcomings degrade user experience and erode people's trust in all AI systems. In this review, we provide AI practitioners with a comprehensive guide for building trustworthy AI systems. We first introduce the theoretical framework of important aspects of AI trustworthiness, including robustness, generalization, explainability, transparency, reproducibility, fairness, privacy preservation, and accountability. To unify currently available but fragmented approaches toward trustworthy AI, we organize them in a systematic approach that considers the entire lifecycle of AI systems, ranging from data acquisition to model development, to system development and deployment, finally to continuous monitoring and governance. In this framework, we offer concrete action items for practitioners and societal stakeholders (e.g., researchers, engineers, and regulators) to improve AI trustworthiness. Finally, we identify key opportunities and challenges for the future development of trustworthy AI systems, where we identify the need for a paradigm shift toward comprehensively trustworthy AI systems.

研究の動機と目的

• データから展開、ガバナンスまで、AIの信頼性を高めるための総合的なライフサイクルフレームワークを提示する。
• 実務で複数の信頼性要素がどのように相互作用し、トレードオフされるかを分析する。
• 研究者、エンジニア、規制当局、関係者への具体的なアクション項目を提供する。
• 将来の信頼できるAI開発に向けた重要な課題と機会を特定する。

提案手法

• データ収集から展開・監視までのライフサイクルパイプライン内で、多分野のアプローチを体系的に整理する。
• ロバスト性、一般化、説明性、透明性、再現性、公正、プライバシー、説明責任の関係と相互作用を分析する。
• 各信頼性要素に関する既存の手法と評価を調査する。
• ライフサイクル各段階で継続的なワークフローとフィードバックの組み込みを提案する。

実験結果

リサーチクエスチョン

• RQ1 AIの信頼性の本質的な側面は何で、それらはどのように相互作用するのか。
• RQ2 信頼性をAI開発ライフサイクル全体に体系的に組み込むにはどうすればよいか。
• RQ3 ロバスト性、一般化、説明性、透明性、再現性、公正、プライバシー、説明責任の現在のアプローチと評価は何か。
• RQ4 将来の信頼できるAI実践を形作る課題と機会は何か。

主な発見

• データからモデル、展開、ガバナンスまで各段階でAIの信頼性を向上させるためには、総合的なライフサイクルフレームワークが必要である。
• 実世界のシステムには、信頼性の要素間で相互強化とトレードオフが存在する。
• 説明性と透明性は、設計時と事後のアプローチの双方を必要とし、定性的・人間中心の評価を含む。
• 再現性はAI研究・展開コミュニティからますます求められており、データ、方法、実験を含む。
• 公正性はデータ、モデル、手続き上のバイアスに対処し、複数の公正性概念（例：独立性、分離、十分性）を認識することを必要とする。
• 将来の信頼できるAIは、より深い理論的理解と学際的な協力を必要とする。