[論文レビュー] Technologies for Trustworthy Machine Learning: A Survey in a Socio-Technical Context

Ehsan Toreini, Mhairi Aitken+6 more|arXiv (Cornell University)|Jul 17, 2020

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

本論文は、機械学習ライフサイクル全体にわたり、Fairness（公平性）、Explainability（説明可能性）、Auditability（監査可能性）、Safety & Security（安全性・セキュリティ）（以下、FEAS）という4つの核心的信頼性特性を特定し、信頼性のある機械学習システムを構築するための社会的・技術的枠組みを提案する。本研究では、データ収集からモデル推論に至るまでの段階でこれらの特性を統合することを強調し、技術的システムがAI政策の目的と整合するようにするため、跨学科的で統合的な研究とツール開発の必要性を提言する。

ABSTRACT

Concerns about the societal impact of AI-based services and systems has encouraged governments and other organisations around the world to propose AI policy frameworks to address fairness, accountability, transparency and related topics. To achieve the objectives of these frameworks, the data and software engineers who build machine-learning systems require knowledge about a variety of relevant supporting tools and techniques. In this paper we provide an overview of technologies that support building trustworthy machine learning systems, i.e., systems whose properties justify that people place trust in them. We argue that four categories of system properties are instrumental in achieving the policy objectives, namely fairness, explainability, auditability and safety & security (FEAS). We discuss how these properties need to be considered across all stages of the machine learning life cycle, from data collection through run-time model inference. As a consequence, we survey in this paper the main technologies with respect to all four of the FEAS properties, for data-centric as well as model-centric stages of the machine learning system life cycle. We conclude with an identification of open research problems, with a particular focus on the connection between trustworthy machine learning technologies and their implications for individuals and society.

研究の動機と目的

• AIの公平性、責任性、透明性に関する社会的懸念が高まる中、技術的システムを新たなAI政策フレームワークと一致させるために、その影響を是正すること。
• 信頼性のある機械学習を支える4つの主要なシステム的特性—Fairness（公平性）、Explainability（説明可能性）、Auditability（監査可能性）、Safety & Security（安全性・セキュリティ）（以下、FEAS）—を特定し、体系化すること。
• 抽象的な政策的目標と具体的な技術的実装との間のギャップを埋めるために、機械学習ライフサイクルの全段階に適用可能な技術をサーベイすること。
• 実務者による理解と倫理的システム設計との間の乖離を解消するため、統合的なツール開発と教育の必要性を強調すること。
• 社会的・技術的統合、社会学的理論、形式的技法を含む研究を推進し、社会的品質目標を満たす信頼性のあるAIシステムを実現すること。

提案手法

• 信頼性のある機械学習技術を2つの主要なクラスに分類する：データ中心の信頼性（データ収集、前処理、特徴工学）とモデル中心の信頼性（モデル学習、テスト、推論）。
• 「信頼性の連鎖（chain of trust）」モデルを用いて、システム開発段階間の依存関係をマッピングし、入力データから実行時出力に至るまで信頼性が維持されることを保証する。
• FEASの各特性に適用可能な既存のツールと技術をサーベイし、実世界の機械学習パイプラインにおける実用的適用性に焦点を当てる。
• 安全性・セキュリティのカテゴリーにおいてプライバシーとセキュリティを強調する一方で、信頼性と耐障害性を二次的懸念として認識する。
• EU AI法、OECD AI原則などの政策フレームワークの知見と技術的能力を統合し、システム設計意思決定を支援する。
• 多様な分野の統合、データ処理のトレードオフの形式化、実務者向け教育を柱とする今後の研究方向性を提言する。

実験結果

リサーチクエスチョン

• RQ1 Fairness（公平性）、Explainability（説明可能性）、Auditability（監査可能性）、Safety & Security（安全性・セキュリティ）（以下、FEAS）という4つの信頼性特性を、機械学習ライフサイクル全体にわたり体系的かつ実装可能にどのように統合できるか？
• RQ2 特にデータ工学とモデルデプロイメントの分野において、機械学習システムを社会的・政策的目標に一致させるうえでの主な技術的ギャップは何か？
• RQ3 信頼に関する社会学的理論を、機械学習システム設計における技術的要件とどのように意味的に結びつけることができるか？
• RQ4 教育とツール開発は、データエンジニアおよびソフトウェアエンジニアによる倫理的AI政策と実装との間のギャップをどのように埋めるか？
• RQ5 機械学習パイプラインにおいて、正確性、効率性、FEAS特性の間のトレードオフを形式的にモデル化・管理するにはどうすればよいか？

主な発見

• Fairness（公平性）、Explainability（説明可能性）、Auditability（監査可能性）、Safety & Security（安全性・セキュリティ）（以下、FEAS）というフレームワークは、信頼性のある機械学習システムを構築するための包括的かつ実行可能な基盤を提供する。
• 機械学習パイプライン全体にわたり、FEAS特性を保持または強化するようにデータセットを変換するための、確立されたデータ工学およびソフトウェア工学の実務的実践が著しく不足している。
• 現在のFEAS向けツールや技術は、通常、段階や特性ごとに分断されており、データ中心とモデル中心の開発フェーズの間での統合が限定的である。
• Avizienisら（2004年）が提唱したような、信頼性のあるシステム設計の体系的取り組みは、AIベースのシステムが直面する独自の課題に対応できるよう拡張する必要がある。
• 教育と実務者向けトレーニングは極めて重要であり、調査では実務者による公平性や責任性の理解と、利用可能な技術的解決策との間に乖離が存在することが明らかになった。
• 今後の研究は、跨学科的連携、データ処理チェーンの形式化、政策志向の信頼性を実現化する統合的エンジニアリングツールの開発を最優先にすべきである。