[논문 리뷰] Designing Automated Vehicle and Traffic Systems towards Meaningful Human Control

Simeon C. Calvert, Stig Ole Johnsen외 1명|arXiv (Cornell University)|2023. 03. 09.

Safety Systems Engineering in Autonomy인용 수 4

한 줄 요약

이 논문은 연결형 자율주행차(CAV)에 의미 있는 인간 통제(MHC)를 통합적으로 내재화하기 위해 통합 시스템 근접성 프레임워크와 운영 프로세스 설계 접근법을 제안한다. 이는 차량 설계자와 정부가 인간 감시를 체계적으로 확보할 수 있도록 한다. 암시적 근접성 업데이트 및 명시적 원거리 업데이트 메커니즘을 통합함으로써 시스템의 안전성과 책임성 향상을 도모하며, 세 가지 실제 사례를 통해 이를 입증한다. 또한 MHC를 규정과 설계 과정에 공식적으로 통합할 것을 촉구한다.

ABSTRACT

Ensuring operational control over automated vehicles is not trivial and failing to do so severely endangers the lives of road users. An integrated approach is necessary to ensure that all agents play their part including drivers, occupants, vehicle designers and governments. While progress is being made, a comprehensive approach to the problem is being ignored, which can be solved in the main through considering Meaningful Human Control (MHC). In this research, an Integrated System Proximity framework and Operational Process Design approach to assist the development of Connected Automated Vehicles (CAV) under the consideration of MHC are introduced. These offer a greater understanding and basis for vehicle and traffic system design by vehicle designers and governments as two important influencing stakeholders. The framework includes an extension to a system approach, which also considers ways that MHC can be improved through updating: either implicit proximal updating or explicit distal updating. The process and importance are demonstrated in three recent cases from practice. Finally, a call for action is made to government and regulatory authorities, as well as the automotive industry, to ensure that MHC processes are explicitly included in policy, regulations, and design processes to ensure future ad-vancement of CAVs in a responsible, safe and humanly agreeable fashion.

연구 동기 및 목표

• 도로 이용자의 위험을 방지하기 위해 자율주행차 시스템에서 운영 통제를 유지하는 데 있어 핵심 과제를 해결하기 위해.
• 차량 설계자, 승객, 정부를 포함한 인간 감시를 보장하기 위한 통합적이고 포괄적인 접근법을 개발하기 위해.
• 체계적 시스템 및 프로세스 설계 프레임워크를 통해 의미 있는 인간 통제(MHC)를 실천하기 위해.
• 실제 CAV 사례를 활용하여 프레임워크의 실용적 적용 가능성을 입증하기 위해.
• MHC를 자율주행차 개발 및 정책 분야의 의무적 구성 요소로 산업 및 규제 분야에서 채택할 것을 주장하기 위해.

제안 방법

• 연결형 자율주행차(CAV)의 시스템 및 교통 시스템 전반에서 인간-에이전트 상호작용을 모델링하기 위한 통합 시스템 근접성 프레임워크 개발.
• 암시적 근접성 업데이트(실시간, 국소적 제어)와 명시적 원거리 업데이트(의도적, 정책 수준의 감시)의 두 가지 업데이트 메커니즘 통합.
• 시스템 수명주기 단계 전반에 걸쳐 인간 통제를 체계화하기 위한 운영 프로세스 설계 접근법 적용.
• 세 가지 최근 CAV 사례를 활용하여 프레임워크가 실질적으로 MHC를 어떻게 지원하는지 설명.
• 설계자, 규제 기관, 사용자 등 이해관계자 역할을 통합된 통제 아키텍처에 통합.
• MHC를 核심 원칙으로 삼아 시스템 설계를 규제 및 윤리 기준과 일치시킴.

실험 결과

연구 질문

• RQ1 의미 있는 인간 통제(MHC)는 연결형 자율주행차(CAV) 설계에 어떻게 체계적으로 내재화될 수 있는가?
• RQ2 자율주행차 및 교통 시스템에서 효과적인 인간 감시를 가능하게 하는 구조적 및 절차적 메커니즘은 무엇인가?
• RQ3 근접성(암시적) 및 원거리(명시적) 업데이트 메커니즘이 MHC를 유지하는 데 어떻게 기여하는가?
• RQ4 차량 설계자와 정부는 자율주행차 개발에서 MHC를 공동으로 어떻게 확보할 수 있는가?
• RQ5 실제 CAV 구현 사례에서 MHC 통합의 실현 가능성과 가치를 어떻게 입증할 수 있는가?

주요 결과

• 통합 시스템 근접성 프레임워크는 CAV 및 교통 시스템 설계에 MHC를 체계적으로 내재화하는 데 효과적인 방법을 제공한다.
• 암시적 근접성 업데이트와 명시적 원거리 업데이트의 조합은 실시간 반응성과 장기적 책임성 향상에 기여한다.
• 세 가지 실제 CAV 사례는 다양한 운영 환경에서 프레임워크의 실용적 타당성을 입증한다.
• 프레임워크는 안전성과 인간의 주도권을 우선시하는 통합적이고 이해관계자 참여형 시스템 설계를 지원한다.
• 책임 있는 CAV 발전을 위해 MHC를 규정 및 산업 분야의 공식적 요구사항으로 통합하는 것이 필수적이다.
• 본 연구는 정책 통합의 기초를 마련하며, 향후 표준 및 설계 과정에 MHC를 포함할 것을 촉구한다.