[論文レビュー] Trust in AI: Progress, Challenges, and Future Directions

Saleh Afroogh, Ali Akbari+3 more|arXiv (Cornell University)|Mar 12, 2024

Explainable Artificial Intelligence (XAI)被引用数 11

ひとこと要約

この論文はAIへの信頼に関する系統的文献レビューを実施し、信頼性指標の分類と主要な信頼崩れ要因、信頼を築く要因、将来の方向性を概説する。

ABSTRACT

The increasing use of artificial intelligence (AI) systems in our daily life through various applications, services, and products explains the significance of trust/distrust in AI from a user perspective. AI-driven systems (as opposed to other technologies) have ubiquitously diffused in our life not only as some beneficial tools to be used by human agents but also are going to be substitutive agents on our behalf, or manipulative minds that would influence human thought, decision, and agency. Trust/distrust in AI plays the role of a regulator and could significantly control the level of this diffusion, as trust can increase, and distrust may reduce the rate of adoption of AI. Recently, varieties of studies have paid attention to the variant dimension of trust/distrust in AI, and its relevant considerations. In this systematic literature review, after conceptualization of trust in the current AI literature review, we will investigate trust in different types of human-Machine interaction, and its impact on technology acceptance in different domains. In addition to that, we propose a taxonomy of technical (i.e., safety, accuracy, robustness) and non-technical axiological (i.e., ethical, legal, and mixed) trustworthiness metrics, and some trustworthy measurements. Moreover, we examine some major trust-breakers in AI (e.g., autonomy and dignity threat), and trust makers; and propose some future directions and probable solutions for the transition to a trustworthy AI.

研究の動機と目的

• AIにおける信頼/不信の重要性を、ユーザーの普及と規制のために動機づける。
• 人間と機械の相互作用全体で、現在のAI信頼概念を統合する。
• 技術的および非技術的（価値論的）信頼性指標の分類を提案する。
• 主要な信頼崩れ要因と信頼を築く要因を特定し、信頼できるAIの将来の方向性を概説する。

提案手法

• 現在のAI信頼文献の概念的統合を実施する。
• 信頼性指標を技術的（安全性、正確性、堅牢性）と非技術的/価値論的（倫理、法的、混合）カテゴリに分類する。
• 信頼測定と評価手法を論じる。
• AIシステムの信頼を損なうまたは高める要因を特定・分析する。
• 信頼できるAIへ移行するための将来の方向性と潜在的解決策を提示する。

実験結果

リサーチクエスチョン

• RQ1 文献におけるAIの信頼の主要な概念と次元は何か？
• RQ2 信頼性は技術的および公理的にどのように測定・評価できるか？
• RQ3 AIにおける信頼を形作る主要な要因（信頼崩れ要因と信頼を築く要因）は何か、信頼性を向上させる方向性は何か？

主な発見

• 信頼性指標の分類法が提案され、技術的（安全性、正確性、堅牢性）と非技術的（倫理、法的、混合）指標を分離する。
• 本論文は、AIの相互作用と分野全体で使用される信頼測定をレビューし、概念化する。
• 主要な信頼崩れ要因（例：自立性と尊厳の脅威）と信頼を築く要因が特定・議論される。
• 信頼できるAIへの移行を促進するための将来の方向性と可能な解決策が提案される。