[논문 리뷰] The Challenges and Opportunities of Human-Centered AI for Trustworthy Robots and Autonomous Systems

Hongmei He, J. M. N. T. Gray외 4명|arXiv (Cornell University)|2021. 05. 07.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 신뢰할 수 있는 로봇 및 자율 시스템(RAS)을 설계하기 위해 인간 중심의 인공지능(HAI) 프레임워크를 제안한다. 이 프레임워크는 안전성, 보안성, 고장 내성, 인간-기계 상호작용(HMI) 신뢰성, 법적·윤리적 준수의 다섯 가지 핵심 성질을 강조한다. 이러한 성질을 구현하는 데 있어 도전 과제를 분석하고, AI가 신뢰성 향상에 기여하는 역할을 규명하며, 인간 수준의 지능 강화와 사회적 복리 강화를 우선시하는 설계 기반 신뢰성 모델을 제안한다.

ABSTRACT

The trustworthiness of Robots and Autonomous Systems (RAS) has gained a prominent position on many research agendas towards fully autonomous systems. This research systematically explores, for the first time, the key facets of human-centered AI (HAI) for trustworthy RAS. In this article, five key properties of a trustworthy RAS initially have been identified. RAS must be (i) safe in any uncertain and dynamic surrounding environments; (ii) secure, thus protecting itself from any cyber-threats; (iii) healthy with fault tolerance; (iv) trusted and easy to use to allow effective human-machine interaction (HMI), and (v) compliant with the law and ethical expectations. Then, the challenges in implementing trustworthy autonomous system are analytically reviewed, in respects of the five key properties, and the roles of AI technologies have been explored to ensure the trustiness of RAS with respects to safety, security, health and HMI, while reflecting the requirements of ethics in the design of RAS. While applications of RAS have mainly focused on performance and productivity, the risks posed by advanced AI in RAS have not received sufficient scientific attention. Hence, a new acceptance model of RAS is provided, as a framework for requirements to human-centered AI and for implementing trustworthy RAS by design. This approach promotes human-level intelligence to augment human's capacity. while focusing on contributions to humanity.

연구 동기 및 목표

• 동적인 불확실한 환경에서 신뢰할 수 있는 로봇 및 자율 시스템(RAS)의 증가하는 수요를 해결하기 위해.
• 안전성, 보안성, 건강성, HMI, 윤리적 준수 영역에서 RAS의 신뢰성 확보에 있어 핵심 과제를 특정하고 분석하기 위해.
• 윤리적 및 사회적 요구사항을 RAS 설계에 기본적으로 통합하는 인간 중심의 인공지능(HAI) 프레임워크를 제안하기 위해.
• 성과 및 생산성에 초점을 맞추는 것에서 인간 수준의 지능 강화와 사회적 복리 증대를 목표로 하는 RAS 개발로의 전환을 위해.
• HAI 원칙을 통해 설계 과정 전반에 걸쳐 신뢰성을 통합하는 새로운 RAS 수용 모델을 수립하기 위해.

제안 방법

• 신뢰할 수 있는 RAS의 다섯 가지 핵심 성질을 특정한다: 동적인 환경에서의 안전성, 사이버 보안성, 고장 내성(건강성), 효과적인 인간-기계 상호작용(HMI), 법적·윤리적 준수.
• 각 다섯 가지 신뢰성 성질을 구현하는 데 있어 기술적 및 사회적 과제를 분석한다.
• AI 기술이 안전성, 보안성, 시스템 건강성, HMI 효과성 향상에 기여하는 방식을 평가한다.
• 인간 중심의 인공지능에 기반한 새로운 RAS 수용 모델을 제안하며, 설계 단계에서의 탄탄한 신뢰성 통합을 강조한다.
• 윤리적 고려사항을 RAS 설계 수명주기 전반에 통합하여 사회 기대와 법적 기준에 부합하도록 보장한다.
• AI의 사용을 자동화를 넘어서 인간 능력 강화와 인류에 긍정적인 기여를 위한 수단으로 촉진한다.

실험 결과

연구 질문

• RQ1 인간 중심의 인공지능은 어떻게 체계적으로 적용되어 로봇 및 자율 시스템의 신뢰성을 확보할 수 있는가?
• RQ2 자율 시스템에서 안전성, 보안성, 고장 내성을 달성하기 위해 직면하는 주요 기술적 및 윤리적 과제는 무엇인가?
• RQ3 AI는 인간-기계 상호작용(HMI)을 어떻게 향상시켜 RAS의 신뢰성과 사용성 확보에 기여할 수 있는가?
• RQ4 법적 및 윤리적 준수를 자율 시스템 설계 초기 단계부터 어떻게 통합할 수 있는가?
• RQ5 인간 중심의 인공지능 원칙을 통해 설계된 신뢰할 수 있는 RAS의 개발을 이끄는 데 필요한 새로운 수용 모델은 무엇인가?

주요 결과

• 논문은 신뢰할 수 있는 RAS를 위한 다섯 가지 기초 성질을 설정한다: 안전성, 보안성, 고장 내성, HMI 신뢰성, 법적·윤리적 준수.
• 현재 RAS 응용은 종종 AI 리스크에 대한 과학적 검토보다 성과 및 생산성에 더 중점을 두고 있음을 밝혀낸다.
• 연구는 AI 기술이 적절히 통합될 경우 RAS의 안전성, 보안성, 시스템 건강성 향상에 상당한 기여를 할 수 있음을 강조한다.
• 효과적인 인간-기계 상호작용(HMI)은 신뢰를 확보하는 데 핵심적이며, AI는 직관적이고 신뢰성 있고 투명한 협업을 지원하도록 설계되어야 한다.
• 제안된 HAI 기반 수용 모델은 RAS가 설계 단계부터 핵심 요구사항으로 신뢰성을 내재화할 수 있도록 한다.
• 이 프레임워크는 인간 수준의 지능 강화를 핵심 목표로 삼아, RAS가 사회 및 인류에 긍정적인 기여를 할 수 있도록 한다.