[論文レビュー] A.I. Robustness: a Human-Centered Perspective on Technological Challenges and Opportunities

Andrea Tocchetti, Lorenzo Corti+5 more|arXiv (Cornell University)|Oct 17, 2022

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本稿は、AI分野のあらゆる分野において散在する用語の統一を通し、人間中心の枠組みを提示してAIの頑健性を理解することを目的としている。3つの分類体系——機械学習パイプライン段階ごとの頑健性、モデル／タスク固有の頑健性、評価手法——を導入し、頑健性の評価と向上における人間の関与を強調するとともに、信頼できるAIシステムのための主要な研究ギャップと今後の方向性を特定している。

ABSTRACT

Despite the impressive performance of Artificial Intelligence (AI) systems, their robustness remains elusive and constitutes a key issue that impedes large-scale adoption. Robustness has been studied in many domains of AI, yet with different interpretations across domains and contexts. In this work, we systematically survey the recent progress to provide a reconciled terminology of concepts around AI robustness. We introduce three taxonomies to organize and describe the literature both from a fundamental and applied point of view: 1) robustness by methods and approaches in different phases of the machine learning pipeline; 2) robustness for specific model architectures, tasks, and systems; and in addition, 3) robustness assessment methodologies and insights, particularly the trade-offs with other trustworthiness properties. Finally, we identify and discuss research gaps and opportunities and give an outlook on the field. We highlight the central role of humans in evaluating and enhancing AI robustness, considering the necessary knowledge humans can provide, and discuss the need for better understanding practices and developing supportive tools in the future.

研究の動機と目的

• 異なる分野や応用分野におけるAIの頑健性に関する一貫性のない用語や解釈を統一すること。
• AIシステムの大規模な展開を妨げるAIの頑健性に関する主要な課題を特定・体系化すること。
• 自動化されたメトリクスを超えて、AIの頑健性の評価と向上における人間の専門知識の重要な役割を強調すること。
• 機械学習ライフサイクル全体および特定のモデルアーキテクチャにわたる既存の頑健性手法をマッピングすること。
• 公平性、解釈可能性、効率性などの他の信頼性特性との間のトレードオフを浮き彫りにすること。

提案手法

• 多様な分野、モデルアーキテクチャ、応用文脈におけるAIの頑健性に関する最近の文献を体系的に調査すること。
• 3つの相互に関連する分類体系の構築：(1) 機械学習パイプライン段階（データ、学習、推論）ごとの頑健性、(2) モデルアーキテクチャおよびタスクごとの頑健性、(3) 頑健性の評価手法。
• 公平性、解釈可能性、効率性を含む、他のAIの信頼性特性との間のトレードオフの分析。
• ケーススタディおよび頑健性の評価に関する専門家の知見を通じて、人間を含めたプロセスの統合。
• 現在の頑健性評価実践におけるギャップの特定と、人間を考慮したツールおよびフレームワークの必要性の強調。
• 研究結果を統合し、信頼できるAIの今後の研究開発を導く包括的な概念的枠組みを構築すること。

実験結果

リサーチクエスチョン

• RQ1 分野ごとに一貫性のないAIの頑健性に関する用語や解釈をどのように統一できるか？
• RQ2 機械学習ライフサイクルの異なる段階に特有の頑健性課題は何か？
• RQ3 異なるモデルアーキテクチャおよびAIタスクにおける頑健性の違いは何か？
• RQ4 AIシステムにおける頑健性と他の信頼性特性（公平性、解釈可能性、効率性）との間のトレードオフは何か？
• RQ5 人間の専門知識は、AIの頑健性の評価と向上をどのように改善できるか？

主な発見

• 本稿は、AIの頑健性研究における顕著な用語の断片化を特定し、分野や応用分野ごとに定義が異なることを明らかにした。
• 頑健性は、ライフサイクルの視点から最も効果的に取り組める。データ準備、モデル学習、推論段階でそれぞれ異なる課題が顕在する。
• 深層ニューラルネットワークでは、特に視覚および自然言語処理タスクにおいて、敵対的例や分布シフトに敏感であるため、モデル固有の頑健性問題が顕著である。
• 評価手法はしばしば人間の知覚や認知バイアスを無視しており、実世界の状況では頑健性が過剰に評価されている傾向がある。
• 特にリソース制約のある環境では、頑健性とモデルの効率性や解釈可能性との間に強いトレードオフが存在する。
• 自動化されたメトリクスが見逃すエッジケースや文脈的障害を特定するために、人間の関与は、頑健性の評価の面でも向上の面でも不可欠である。