[논문 리뷰] Challenges of engineering safe and secure highly automated vehicles

Nadja Marko, Eike Möhlmann외 4명|arXiv (Cornell University)|2021. 03. 05.

Autonomous Vehicle Technology and Safety인용 수 4

한 줄 요약

이 논문은 안전하고 보안성이 높은 고도로 자동화된 차량(HAVs)의 실현을 저해하는 네 가지 핵심 기술적 과제를 규명하고 분석한다: 배포 후 지속적인 시스템 개선, 불확실성과 정보 부족 처리, 기계학습 구성 요소의 검증, 그리고 신뢰할 수 있는 예측. 저자는 산업계와 학계 간의 다학제적 협력을 통해 이러한 문제를 해결하기 위한 대응 전략을 제안하며, 자율주행차 배포에 대한 현재의 '실망'을 극복하고자 한다.

ABSTRACT

After more than a decade of intense focus on automated vehicles, we are still facing huge challenges for the vision of fully autonomous driving to become a reality. The same "disillusionment" is true in many other domains, in which autonomous Cyber-Physical Systems (CPS) could considerably help to overcome societal challenges and be highly beneficial to society and individuals. Taking the automotive domain, i.e. highly automated vehicles (HAV), as an example, this paper sets out to summarize the major challenges that are still to overcome for achieving safe, secure, reliable and trustworthy highly automated resp. autonomous CPS. We constrain ourselves to technical challenges, acknowledging the importance of (legal) regulations, certification, standardization, ethics, and societal acceptance, to name but a few, without delving deeper into them as this is beyond the scope of this paper. Four challenges have been identified as being the main obstacles to realizing HAV: Realization of continuous, post-deployment systems improvement, handling of uncertainties and incomplete information, verification of HAV with machine learning components, and prediction. Each of these challenges is described in detail, including sub-challenges and, where appropriate, possible approaches to overcome them. By working together in a common effort between industry and academy and focusing on these challenges, the authors hope to contribute to overcome the "disillusionment" for realizing HAV.

연구 동기 및 목표

• 안전하고 보안성이 높은 고도로 자동화된 차량(HAVs)의 배포를 저지하는 주요 기술적 장애 요인을 규명하고 분석하는 것.
• 법적, 윤리적, 사회적 요소를 제외하고 HAV 공학의 기술적 과제에 집중하여 진전을 위한 기술적 기반을 제공하는 것.
• 시스템 개선, 불확실성 관리, 기계학습 구성 요소의 검증, 예측 정확도 향상과 같은 핵심 과제를 해결하기 위한 실행 가능한 접근 방식을 제안하는 것.
• 신뢰할 수 있는 자율 사이버물리 시스템의 실현을 가속화하기 위해 산업계와 학계 간의 협력을 촉진하는 것.

제안 방법

• HAV 공학 분야의 네 가지 주요 기술적 과제를 체계적으로 규명: 지속적인 배포 후 개선, 불확실성과 정보 부족 처리, 기계학습 구성 요소의 검증, 불확실성 하에서의 예측.
• 각 주요 과제 내부의 부차적 과제를 분석하며, 예를 들어 데이터 부족, 모델 일반화, AI 구성 요소의 런타임 검증 등을 포함.
• 오버-the-에어 업데이트, 불확실성 인지 AI 아키텍처, 기계학습 모델을 위한 형식적 검증 기법, 확률적 예측 프레임워크와 같은 기술적 접근 방식을 제안.
• 배포 후 실제 데이터로부터 안전하게 학습할 수 있는 적응형, 자기 향상 시스템의 필요성을 강조.
• 에지 케이스와 분포 이탈을 고려한 강력한 테스트 및 검증 파이프라인의 중요성을 부각.
• HAV 공학을 위한 표준화되고 확장 가능하며 검증 가능한 공학 관행을 개발하기 위해 산업계와 학계의 공동 노력이 필요하다고 주장.

실험 결과

연구 질문

• RQ1 배포 후 안전하고 보안성이 확보된 상태에서 고도로 자동화된 차량을 어떻게 지속적으로 개선할 수 있는가?
• RQ2 실제 주행 환경에서 불확실성과 정보 부족을 다루는 데 있어 핵심 과제는 무엇인가?
• RQ3 자율주행 시스템의 기계학습 구성 요소의 정확성과 신뢰성을 검증하기 위해 사용할 수 있는 방법은 무엇인가?
• RQ4 안전한 의사결정을 보장하기 위해 미래의 주행 시나리오와 시스템 행동을 어떻게 정확하게 예측할 수 있는가?

주요 결과

• 안전하고 보안성 있으며 검증 가능한 오버-the-에어 업데이트 및 학습 메커니즘의 필요성으로 인해, 지속적인 배포 후 개선이 여전히 주요 과제로 남아 있다.
• 센서의 한계, 환경의 변동성, 희귀 사건을 고려한 강력한 모델링 기법이 불확실성과 정보 부족을 처리하는 데 필수적이다.
• 분포 이탈과 에지 케이스 상황에서의 행동 보장을 보장할 수 있는 형식적 방법의 부족으로 인해, HAV의 기계학습 구성 요소 검증이 저해된다.
• 장기적인 꼬리 시나리오와 장시간에 걸친 고신뢰도 예측이 요구되므로, 자율주행의 예측은 본질적으로 어려운 과제이다.
• 현재 HAV 공학 접근 방식은 전면적인 신뢰성 확보에 부족하여, 안전성, 보안성, 적응성을 통합하는 새로운 프레임워크가 필요하다.
• 이러한 과제를 해결하고 자율주행차 개발 분야의 현재 '실망'을 극복하기 위해 산업계와 학계 간의 협력이 필수적이다.