[논문 리뷰] An Analysis of ISO 26262: Using Machine Learning Safely in Automotive Software

Rick Salay, Rodrigo Queiroz외 1명|arXiv (Cornell University)|2017. 09. 07.

Adversarial Robustness in Machine Learning참고 문헌 20인용 수 106

한 줄 요약

본 논문은 ML 기반 소프트웨어가 ISO 26262에 미치는 영향을 분석하고 자동차 시스템에서 안전한 ML을 위해 표준을 어떻게 적응시킬지에 대한 권고를 제시합니다.

ABSTRACT

Machine learning (ML) plays an ever-increasing role in advanced automotive functionality for driver assistance and autonomous operation; however, its adequacy from the perspective of safety certification remains controversial. In this paper, we analyze the impacts that the use of ML as an implementation approach has on ISO 26262 safety lifecycle and ask what could be done to address them. We then provide a set of recommendations on how to adapt the standard to accommodate ML.

연구 동기 및 목표

• 위험 분석 및 소프트웨어 개발 단계에서 ML 기반 소프트웨어가 ISO 26262에 미치는 영향을 식별합니다.
• 비투명성, 오차율, 학습 데이터, 안정성 등 ML 고유의 도전과제를 강조합니다.
• ML 기술을 수용하기 위해 ISO 26262를 구체적으로 개정하기 위한 권고안을 제시합니다.
• 위험 식별, 결함 분석, 학습 데이터 요건 및 소프트웨어 기법에 대한 시사점을 논의합니다.

제안 방법

• ML 구성요소와 관련하여 ISO 26262 Part 3 및 Part 6를 검토하고 분석합니다.
• 안전성 평가에 영향을 미치는 ML 특성(비투명성, 오차율, 학습 기반 개발, 불안정성)을 특징화합니다.
• ML 영향이 ISO 26262 프로세스에 미치는 영향을 매핑하고 다섯 가지 영향 영역을 식별합니다.
• 위험 식별, 결함 분석, 학습 데이터, ML 활용 범위 및 소프트웨어 기법에 대한 구체적 권고를 제시합니다.

실험 결과

연구 질문

• RQ1 ISO 26262가 완전히 다루지 못한 ML 고유의 위험 및 안전 문제는 무엇인가요?
• RQ2 ISO 26262 하에서 ML 사용이 위험 분석 및 소프트웨어 개발 생명주기에 어떤 영향을 미치나요?
• RQ3 자동차 소프트웨어의 ML 수용을 안전하게 하기 위해 표준의 어떤 개정이 권장되나요?
• RQ4 ML 사용 시 학습 데이터, 결함 탐지 및 아키텍처 결정에 대한 시사점은 무엇인가요?

주요 결과

• ML은 단순한 고장뿐만 아니라 인간–기계 상호작용 및 복잡한 행태 상호작용에서 새로운 위험을 초래할 수 있습니다.
• ML 구성요소는 전통적 소프트웨어와 다른 결함 유형과 고장 모드를 가지며 ML 고유의 결함 탐지 도구가 필요합니다.
• 학습 데이터와 ML 수명주기는 V-모델에서 완전히 명시된 동작의 가정을 위반하므로 기능에 따라 다른 안전 요건이 필요합니다.
• 종단 간(end-to-end) ML 접근 방식은 모듈식 계층적 아키텍처에 대한 ISO 26262의 가정에 도전하며 현재 지침 하에서 부적합할 수 있습니다.
• Part 6의 많은 단위 수준 기법은 ML에 여전히 적용 가능하지만 상당 부분은 직접적으로 적용되거나 적응이 필요합니다.
• 표준이 명령형 프로그래밍 언어에 편향되어 ML 구성요소에 격차를 만들며 기술 의도 기반 요건으로의 전환을 시사합니다.