[논문 리뷰] Open Problems in Engineering and Quality Assurance of Safety Critical Machine Learning Systems

Hiroshi Kuwajima, Hirotoshi Yasuoka외 1명|arXiv (Cornell University)|2018. 12. 07.

Safety Systems Engineering in Autonomy참고 문헌 5인용 수 5

한 줄 요약

이 논문은 자동차 주행 자동화를 주요 사례로 삼아, 안전 중심 기계학습 시스템의 공학 및 품질 보증 분야에서의 열린 문제들을 식별, 분류하고 체계화한다. 검증, 테스팅, 신뢰성 향상의 체계적 격차를 해결하기 위해 자동차 공학, 소프트웨어 공학, 통계학, 기계학습 분야의 통찰을 통합한 다학제적 프레임워크를 제안하며, 향후 보증 프레임워크의 기초 기준을 수립하는 것을 목표로 한다.

ABSTRACT

Fatal accidents are a major issue hindering the wide acceptance of safety-critical systems using machine-learning and deep-learning models, such as automated-driving vehicles. Quality assurance frameworks are required for such machine learning systems, but there are no widely accepted and established quality-assurance concepts and techniques. At the same time, open problems and the relevant technical fields are not organized. To establish standard quality assurance frameworks, it is necessary to visualize and organize these open problems in an interdisciplinary way, so that the experts from many different technical fields may discuss these problems in depth and develop solutions. In the present study, we identify, classify, and explore the open problems in quality assurance of safety-critical machine-learning systems, and their relevant corresponding industry and technological trends, using automated-driving vehicles as an example. Our results show that addressing these open problems requires incorporating knowledge from several different technological and industrial fields, including the automobile industry, statistics, software engineering, and machine learning.

연구 동기 및 목표

• 안전 중심 기계학습 시스템의 공학 및 품질 보증 분야에서의 열린 문제들을 식별하고 체계화하는 것.
• 자율주행 차량과 같은 고위험 분야에서 기계학습 기반 안전 시스템에 대한 표준화된 품질 보증 개념과 기법의 부재를 해결하는 것.
• 자동차 공학, 소프트웨어 공학, 기계학습, 통계학 분야 간의 격차를 열린 문제들을 통합된 프레임워크로 정리함으로써 메우는 것.
• ML 시스템의 신뢰성과 안전성에 대한 도전 과제들을 시각화하고 분류하여 다학제적 협업을 촉진하는 것.

제안 방법

• 저자는 자동차 주행 자동화를 사례로 삼아 안전 중심 기계학습 시스템에 대한 체계적 분석을 수행한다.
• 모델의 강건성, 테스팅, 검증, 시스템 수준의 안전성 등 다양한 분야에서 열린 문제들을 식별하고 분류한다.
• 소프트웨어 공학, 통계학, 기계학습, 자동차 산업 관행의 통찰을 통합한 프레임워크를 구축한다.
• 시스템 수명 주기, 고장 방식, 보증 요구사항 등의 차원에 따라 문제들을 분류한다.
• 기술적 과제를 관련 분야와 트렌드에 연결함으로써 다학제적 협업을 강조한다.
• 문제들을 체계적인 분류 체계로 표현하여, 목표 지향적인 연구 및 개발을 가능하게 한다.

실험 결과

연구 질문

• RQ1 안전 중심 기계학습 시스템의 공학 및 품질 보증 분야에서의 핵심 열린 문제들은 무엇인가?
• RQ2 자동차 공학, 소프트웨어 공학, 통계학, 기계학습 분야의 다학제 지식은 어떻게 통합되어 이러한 문제들을 해결할 수 있는가?
• RQ3 기계학습 기반 안전 시스템의 현재 검증 및 테스팅 방법론에서 가장 큰 격차는 무엇인가?
• RQ4 안전 중심 기계학습 시스템을 위한 통합된 품질 보증 프레임워크는 어떻게 개발될 수 있는가?
• RQ5 이러한 열린 문제를 해결하는 데 가장 관련성이 높은 기술적 및 산업 트렌드들은 무엇인가?

주요 결과

• 논문은 자율주행 차량을 포함한 안전 중심 기계학습 시스템에 대해 표준화된 품질 보증 개념과 기법의 현저한 부족을 규명한다.
• 열린 문제들은 모델의 강건성, 고장 탐지, 테스트 커버리지, 시스템 수준의 검증 등 다양한 분야를 아우른다.
• 이러한 과제들을 해결하기 위해서는 소프트웨어 공학, 통계학, 기계학습, 자동차 시스템 공학 분야의 지식 통합이 필요하다.
• 기존의 표준화된 프레임워크 부재로 인해 안전 중심 응용 분야에서 기계학습 시스템의 신뢰성 있는 구현이 저해된다.
• 제안된 분류 체계는 분야 간 명확한 소통과 협업을 가능하게 하여 체계적 보증 과제를 해결하는 데 기여한다.
• 본 연구는 이러한 문제들을 단독으로 해결할 수 있는 분야가 없으며, 이는 교차 분야 연구 및 표준화 노력이 필수적임을 강조한다.