[논문 리뷰] Assured Autonomy: Path Toward Living With Autonomous Systems We Can Trust

Ufuk Topcu, Nadya Bliss외 5명|arXiv (Cornell University)|2020. 10. 27.

Insurance and Financial Risk Management인용 수 14

한 줄 요약

이 논문은 방위, 이동성, 헬스케어, 인프라 분야에서 신뢰할 수 있는 자율 시스템을 구축하기 위한 핵심 과제, 연구 추세, 전략적 우선순위를 규명하는 일련의 워크숍을 통해 확보된 자율성에 대한 프레임워크를 제시한다. 안전성, 신뢰성, 인간-시스템 협업을 강조하는 통합 연구 의제를 제안하여 자율 기술의 사회적 수용을 가능하게 한다.

ABSTRACT

The challenge of establishing assurance in autonomy is rapidly attracting increasing interest in the industry, government, and academia. Autonomy is a broad and expansive capability that enables systems to behave without direct control by a human operator. To that end, it is expected to be present in a wide variety of systems and applications. A vast range of industrial sectors, including (but by no means limited to) defense, mobility, health care, manufacturing, and civilian infrastructure, are embracing the opportunities in autonomy yet face the similar barriers toward establishing the necessary level of assurance sooner or later. Numerous government agencies are poised to tackle the challenges in assured autonomy. Given the already immense interest and investment in autonomy, a series of workshops on Assured Autonomy was convened to facilitate dialogs and increase awareness among the stakeholders in the academia, industry, and government. This series of three workshops aimed to help create a unified understanding of the goals for assured autonomy, the research trends and needs, and a strategy that will facilitate sustained progress in autonomy. The first workshop, held in October 2019, focused on current and anticipated challenges and problems in assuring autonomous systems within and across applications and sectors. The second workshop held in February 2020, focused on existing capabilities, current research, and research trends that could address the challenges and problems identified in workshop. The third event was dedicated to a discussion of a draft of the major findings from the previous two workshops and the recommendations.

연구 동기 및 목표

• 방위, 헬스케어, 교통 분야 등 다양한 분야에서 자율 시스템에 대한 신뢰가 점점 더 필요로 하는 상황를 해결하기 위해.
• 안전성, 신뢰성, 인간-시스템 상호작용을 포함한 자율성 확보의 핵심 과제를 규명하기 위해.
• 기존 연구 및 능력을 통합하여 지속적인 발전을 위한 전략적 로드맵을 마련하기 위해.
• 학계, 산업계, 정부 이해관계자 간 협업을 촉진하여 신뢰할 수 있는 자율 시스템을 발전시키기 위해.
• 확보된 자율성의 목표, 연구 필요성, 구현 전략에 대한 통합된 이해를 수립하기 위해.

제안 방법

• 학계, 산업계, 정부 전문가들이 참여한 세 차례의 구조화된 워크숍을 통해 자율성 확보의 과제와 해결책을 논의하였다.
• 첫 번째 워크숍은 자율 시스템의 다분야적 과제를 규명하기 위해 집중되었다.
• 두 번째 워크숍은 식별된 과제를 해결하기 위한 기존 능력, 연구 추세, 기술적 솔루션을 평가하기 위해 활용되었다.
• 세 번째 워크숍은 초안 결과 및 권고안을 평가하여 통합된 연구 의제로 통합하였다.
• AI, 인간-컴퓨터 상호작용, 다에이전트 시스템, 사회적 영향 등 다양한 분야의 시각을 통합한 다학제적 접근을 사용하였다.
• 실행 가능한 권고안과 향후 연구를 위한 전략적 프레임워크를 담은 공식 보고서(CCC 워크숍 보고서 No. ccc2020report_5)를 제작하였다.

실험 결과

연구 질문

• RQ1 다양한 응용 분야에서 자율 시스템의 신뢰성과 안정성을 확보하기 위한 핵심 과제는 무엇인가?
• RQ2 자율성의 확보 격차를 메우기 위해 활용할 수 있는 기존 연구 및 기술 능력은 무엇인가?
• RQ3 인간 요소와 시스템 상호작용은 신뢰할 수 있는 자율 시스템 설계에 어떻게 통합될 수 있는가?
• RQ4 지속적인 발전을 달성하기 위해 필요한 전략적 우선순위와 연구 방향은 무엇인가?
• RQ5 정부, 산업계, 학계의 이해관계자들이 효과적으로 협업하여 신뢰할 수 있는 자율 시스템을 구축하기 위해선 어떻게 해야 하는가?

주요 결과

• 자율 시스템의 빠른 도입과 견고한 확보 프레임워크 개발 사이에 상당한 격차가 존재한다.
• 자율성에 대한 신뢰는 다양한 응용 분야에서 안전성, 신뢰성, 투명성, 효과적인 인간-시스템 상호작용에 달려 있다.
• 현재 AI, 인간-컴퓨터 상호작용, 다에이전트 시스템 분야의 연구는 기초 능력을 제공하지만, 통합과 표준화가 필요하다.
• 정부, 산업계, 학계 간 이해관계자 간 협업은 공통 목표를 정의하고 진전을 가속화하는 데 필수적이다.
• 연구 우선순위를 정하고, 자금을 조율하며, 자율 시스템의 확보를 위한 지표를 수립하기 위해 전략적 로드맵이 필요하다.
• 보고서는 자율 시스템 설계에서 장기적 투자 필요성을 강조하며, 확보 방법론, 형식적 검증, 윤리적 고려 사항을 포함한다.