[논문 리뷰] Architecting Dependable Learning-enabled Autonomous Systems: A Survey

Chih‐Hong Cheng, Dhiraj Gulati외 1명|arXiv (Cornell University)|2019. 02. 27.

Adversarial Robustness in Machine Learning참고 문헌 62인용 수 4

한 줄 요약

이 종합 검토는 자율주행을 중심으로 신뢰할 수 있는 학습 기반 자율 시스템을 구축하기 위한 체계적인 아키텍처 프레임워크를 제안한다. 다양한 冗분성, 정보 융합, 런타임 모니터링, 그리고 신뢰할 수 있는 머신 러닝 기법—예를 들어 불확실성 추정, 해석 가능한 CNN, 강건 최적화—을 통합하여 시스템의 신뢰성을 향상시키며, 기여도의 핵심은 기존 접근법을 체계적으로 분류하고 검증, 적응형 융합, 해석 가능한 모니터링 분야의 핵심 연구 과제를 규명하는 데 있다.

ABSTRACT

We provide a summary over architectural approaches that can be used to construct dependable learning-enabled autonomous systems, with a focus on automated driving. We consider three technology pillars for architecting dependable autonomy, namely diverse redundancy, information fusion, and runtime monitoring. For learning-enabled components, we additionally summarize recent architectural approaches to increase the dependability beyond standard convolutional neural networks. We conclude the study with a list of promising research directions addressing the challenges of existing approaches.

연구 동기 및 목표

• 최근 유명한 자율주행 차량 사고 이후 학습 기반 자율 시스템에 대한 신뢰할 수 있는 아키텍처의 필수적 필요성을 해결한다.
• 자율주행 분야에서 신뢰성 확보를 위한 아키텍처 접근법을 체계적으로 분류하며, 네 가지 핵심 요소인 다양한 冗분성, 정보 융합, 런타임 모니터링, 그리고 신뢰할 수 있는 머신 러닝을 중심으로 한다.
• 기존의 신뢰성 확보 기법들과 자율 시스템을 위한 통합 참조 아키텍처 간 격차를 메운다.
• 검증, 융합 정밀도, 모니터링의 해석 가능성 분야의 과제를 부각시켜 향후 연구를 이끌어낸다.
• 연구자와 실무자들이 더 안전하고 신뢰할 수 있는 자율주행 시스템을 구축할 수 있도록 체계적인 기반을 제공한다.

제안 방법

• 아키텍처 접근법을 네 가지 핵심 요소로 분류한다: 다양한 冗분성, 정보 융합, 런타임 모니터링, 그리고 신뢰할 수 있는 머신 러닝.
• 동일한 기능적 작업을 위해 서로 다른 알고리즘(예: 스테레오 비전 대비 라이다, 규칙 기반 대비 머신러닝 기반 예측)을 사용하여 공통 모드 실패를 방지하기 위해 다양한 冗분성 전략을 적용한다.
• 이질적 센서에서 온 데이터를 활용해 칼만 필터 및 적응형 융합과 같은 정보 융합 기법을 적용하여 의사결정 정확도와 강건성을 향상시킨다.
• 학습 데이터 분포에서의 편차를 측정하거나 사양 기반 검증을 통해 머신러닝 구성 요소의 이질성을 탐지하기 위해 런타임 모니터링을 구현한다.
• 몬테 카를로 드롭아웃을 통한 불확실성 추정, 국소적 및 클래스별 뉴런 활성화를 보장하는 해석 가능한 CNN, 그리고 적대적 훈련을 통한 증명 가능하게 강건한 신경망을 포함한 신뢰할 수 있는 머신러닝 기법을 통합한다.
• 모니터링에서 유도된 피드백 루프를 융합 프로세스에 통합하여 불확실성 하에서 적응적이고 저항력 있는 의사결정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 자율주행 시스템에서 서로 다른 알고리즘 구현 간 공통 모드 실패를 방지하기 위해 다양한 冗분성을 어떻게 체계적으로 설계할 수 있는가?
• RQ2 비정규 분포 노이즈 및 모델 정확도 부족 상황에서 현재 정보 융합 기법의 한계는 무엇이며, 센서 장애 상황에 적응할 수 있도록 융합을 어떻게 개선할 수 있는가?
• RQ3 실행 시간 모니터링을 어떻게 설계하여 알려진 이상과 알려지지 않은 이상 모두를 높은 탐지율과 낮은 계산 오버헤드로 효율적으로 탐지할 수 있는가?
• RQ4 실행 시간 모니터링을 위한 사양 우선순위를 정할 때 고려해야 할 기준은 무엇인가? (실행 빈도, 영향도, 제어 가능성 기반)
• RQ5 실행 시간 모니터링을 어떻게 확장하여 실시간으로 위험한 행동을 수동으로 수정하거나 방지하는 실행 시간 강제 조치로 활용할 수 있는가?

주요 결과

• 다양한 알고리즘(예: 스테레오 비전, 라이다, 규칙 기반, 머신러닝 기반)을 사용해 인식, 예측, 계획 기능에 대해 다양한 冗분성을 적용하면 공통 실패 모드의 위험을 줄이며 시스템의 내성 강화에 기여한다.
• 칼만 필터 및 적응형 융합과 같은 정보 융합 기법은 의사결정 정확도를 향상시키지만, 비정규 분포 노이즈 또는 고정된 융합 아키텍처 상황에서는 성능이 저하되며, 이에 따라 런타임 모니터링에서 피드백이 필요하다.
• 몬테 카를로 드롭아웃은 딥 네트워크에서 불확실성 추정을 위한 실용적인 방법을 제공하며, 100개의 드롭아웃 네트워크 중 10%가 벗어나면 90% 신뢰도 추정이 가능하다.
• 해석 가능한 CNN은 특정 객체 유형과 공간적 위치에서만 뉴런이 활성화되도록 보장함으로써 모델의 투명성을 향상시키며, 인간이 이해할 수 있는 의사결정 트리 구축을 가능하게 한다.
• 적대적 최적화를 통해 훈련된 증명 가능하게 강건한 신경망은 훈련 데이터 주변의 유한한 이웃 내에서 일관된 행동을 유지하여 입력 변형에 대한 강건성을 향상시킨다.
• 해석 가능한 규칙(예: '객체는 비현실적으로 크기가 클 수 없다')을 통합하거나, 알려지지 않은 이상을 탐지하기 위해 머신러닝 기반 기법을 활용함으로써 런타임 모니터링을 향상시킬 수 있으나, 이는 아직 해결되지 않은 과제이다.