[논문 리뷰] Trust in AI: Progress, Challenges, and Future Directions

Saleh Afroogh, Ali Akbari외 3명|arXiv (Cornell University)|2024. 03. 12.

Explainable Artificial Intelligence (XAI)인용 수 11

한 줄 요약

이 논문은 AI에 대한 신뢰에 관한 체계적인 문헌 고찰을 수행하고, 신뢰성 지표의 분류법을 제안하며 주요 trust-breakers, trust-makers 및 향후 방향을 제시한다.

ABSTRACT

The increasing use of artificial intelligence (AI) systems in our daily life through various applications, services, and products explains the significance of trust/distrust in AI from a user perspective. AI-driven systems (as opposed to other technologies) have ubiquitously diffused in our life not only as some beneficial tools to be used by human agents but also are going to be substitutive agents on our behalf, or manipulative minds that would influence human thought, decision, and agency. Trust/distrust in AI plays the role of a regulator and could significantly control the level of this diffusion, as trust can increase, and distrust may reduce the rate of adoption of AI. Recently, varieties of studies have paid attention to the variant dimension of trust/distrust in AI, and its relevant considerations. In this systematic literature review, after conceptualization of trust in the current AI literature review, we will investigate trust in different types of human-Machine interaction, and its impact on technology acceptance in different domains. In addition to that, we propose a taxonomy of technical (i.e., safety, accuracy, robustness) and non-technical axiological (i.e., ethical, legal, and mixed) trustworthiness metrics, and some trustworthy measurements. Moreover, we examine some major trust-breakers in AI (e.g., autonomy and dignity threat), and trust makers; and propose some future directions and probable solutions for the transition to a trustworthy AI.

연구 동기 및 목표

• 사용자 채택과 규제를 위한 AI의 신뢰/불신의 중요성을 동기화한다.
• 인간-기계 상호작용 전반에 걸친 현재의 AI 신뢰 개념을 종합한다.
• 기술적 및 비기술적(가치론적) 신뢰성 지표의 분류 체계를 제안한다.
• 주요 trust-breakers 및 trust-makers를 식별하고 신뢰할 수 있는 AI를 위한 향후 방향을 제시한다.

제안 방법

• 현재 AI 신뢰 문헌의 개념적 합성을 수행한다.
• 신뢰성 지표를 기술적(안전성, 정확성, 강건성)과 비기술적/가치론적(윤리적, 법적, 혼합) 범주로 분류한다.
• 신뢰 측정 및 평가 방법에 대해 논의한다.
• AI 시스템의 신뢰를 약화시키거나 강화하는 요인을 식별하고 분석한다.
• 신뢰할 수 있는 AI로의 전환을 위한 향후 방향과 잠재적 해결책을 제시한다.

실험 결과

연구 질문

• RQ1 문헌에서 AI에 대한 신뢰의 지배적 개념과 차원은 무엇인가?
• RQ2 기술적으로와 공리적으로 신뢰성은 어떻게 측정되고 평가될 수 있는가?
• RQ3 AI에서 신뢰를 형성하는 주요 요인들(trust-breakers 및 trust-makers)은 무엇이며, 신뢰성을 향상시킬 수 있는 방향은 무엇인가?

주요 결과

• 신뢰성 지표의 분류 체계가 제안되었으며, 기술적(안전성, 정확성, 강건성) 지표와 비기술적(윤리적, 법적, 혼합) 지표를 구분한다.
• 본 논문은 AI 상호작용 및 다양한 영역에서 사용되는 신뢰 측정 방법을 검토하고 개념화한다.
• 주요 trust-breakers(예: 자율성 및 존엄성 위협)와 trust-makers가 확인되고 논의된다.
• 신뢰할 수 있는 AI로의 전환을 촉진하기 위한 향후 방향과 가능한 해결책이 제시된다.