[논문 리뷰] Using Machine Learning Safely in Automotive Software: An Assessment and Adaption of Software Process Requirements in ISO 26262

Rick Salay, Krzysztof Czarnecki|arXiv (Cornell University)|2018. 08. 05.

Adversarial Robustness in Machine Learning참고 문헌 73인용 수 38

한 줄 요약

이 논문은 자동차 시스템에서 기계학습(ML)에 적합하도록 ISO 26262의 소프트웨어 프로세스 요구사항을 평가하고 적응시킨다. 주로 고도운 운전 보조(ADAS) 및 자율주행에서의 지도학습에 초점을 맞추며, 표준의 ML 적용 가능성에 대한 격차를 밝혀내고, 안전성, 추적 가능성, 검증을 보장하기 위한 새로운 맞춤형 요구사항을 제안한다. 이는 안전 중심의 자동차 소프트웨어 개발에 ML을 통합하기 위한 실용적인 프레임워크를 제공한다.

ABSTRACT

The use of machine learning (ML) is on the rise in many sectors of software development, and automotive software development is no different. In particular, Advanced Driver Assistance Systems (ADAS) and Automated Driving Systems (ADS) are two areas where ML plays a significant role. In automotive development, safety is a critical objective, and the emergence of standards such as ISO 26262 has helped focus industry practices to address safety in a systematic and consistent way. Unfortunately, these standards were not designed to accommodate technologies such as ML or the type of functionality that is provided by an ADS and this has created a conflict between the need to innovate and the need to improve safety. In this report, we take steps to address this conflict by doing a detailed assessment and adaption of ISO 26262 for ML, specifically in the context of supervised learning. First we analyze the key factors that are the source of the conflict. Then we assess each software development process requirement (Part 6 of ISO 26262) for applicability to ML. Where there are gaps, we propose new requirements to address the gaps. Finally we discuss the application of this adapted and extended variant of Part 6 to ML development scenarios.

연구 동기 및 목표

• 기계학습 기반 자동차 시스템의 혁신 증가와 안전 규정 준수의 필요성 간 갈등을 해결하기 위해.
• 기존의 ISO 26262 소프트웨어 프로세스 요구사항과 기계학습 개발 방식 간의 부적합성을 규명하기 위해.
• ISO 26262 제6부의 각 요구사항이 자동차 환경에서의 지도학습에 적용 가능한지 평가하기 위해.
• 안전성, 검증, 추적 가능성 분야의 격차를 메우기 위해 새로운 맞춤형 소프트웨어 프로세스 요구사항을 제안하기 위해.
• 안전 중심 자동차 응용 분야에서의 기계학습 개발에 특화된 실용적이고 확장된 ISO 26262 제6부의 변형을 제공하기 위해.

제안 방법

• 기계학습과 ISO 26262 간의 갈등 원인인 비결정성, 데이터 의존성, 형식적 명세 부재 등의 핵심 요소를 상세 분석하기 위해.
• ISO 26262 제6부의 소프트웨어 프로세스 요구사항을 지도학습 워크플로우에 적용 가능한지 체계적으로 평가하기 위해.
• 기계학습 특유의 과제(예: 모델 훈련, 데이터 드리프트, 블랙박스 행동)가 현재 표준에서 다루지 않는 특정 격차를 식별하기 위해.
• 데이터 관리, 모델 검증, 데이터에서 의사결정까지의 추적 가능성, 지속적 검증에 중점을 둔 새로운 요구사항을 제안하기 위해.
• 제안된 요구사항을 자동차 시스템에서의 기계학습에 특화된 일관된 확장된 ISO 26262 제6부 버전으로 통합하기 위해.
• ADAS 및 자율주행에서의 실제 사례를 통해 적응된 프레임워크의 적용을 구체적으로 설명하기 위해.

실험 결과

연구 질문

• RQ1 ISO 26262 제6부의 어떤 특정 요소들이 기계학습 기반 자동차 소프트웨어의 안전 확보에 부적합하거나 부족한가?
• RQ2 ISO 26262의 소프트웨어 프로세스 요구사항은 안전 중심 시스템에서의 지도학습의 고유한 과제를 어떻게 적응시킬 수 있는가?
• RQ3 자동차 응용 분야에서의 기계학습 모델의 추적 가능성, 검증 및 검수를 보장하기 위해 어떤 새로운 프로세스 요구사항이 필요한가?
• RQ4 적응된 프레임워크는 실제 ADAS 및 자율주행 개발 사례에 어떻게 실용적으로 적용될 수 있는가?
• RQ5 기존의 ISO 26262 관행으로는 충분히 보완되지 않는, 기계학습이 초래하는 주요 안전 중심 위험 요소는 무엇인가?

주요 결과

• ISO 26262 제6부는 지도학습 모델의 비결정성, 데이터 의존성, 블랙박스 성격을 충분히 다루지 못하는 심각한 격차를 포함하고 있다.
• 핵심으로 누락된 요소로는 데이터 품질 제어를 위한 공식 절차, 모델 일반화 테스트, 훈련 데이터에서 추론 결정까지의 종단 간 추적 가능성 등이 있다.
• 저자들은 안전성과 규정 준수를 향상시키기 위해 데이터 라인리지, 모델 버전 관리, 지속적 검증을 위한 새로운 요구사항을 제안한다.
• 적응된 프레임워크는 ISO 26262의 안전 목표를 유지하면서도 안전 중심 자동차 개발에 기계학습을 체계적으로 통합할 수 있도록 한다.
• 제안된 확장 사양은 실제 ADAS 및 자율주행 사용 사례에 적용 가능함을 입증하여 규제 및 산업 현장에서의 도입 가능성을 제시한다.
• 본 연구는 데이터 및 모델 라이프사이클 관리 분야에서 강화된 프로세스 제어를 적용할 경우 기계학습이 안전하게 자동차 소프트웨어에 통합될 수 있음을 입증한다.