[논문 리뷰] Practical Machine Learning Safety: A Survey and Primer

Sina Mohseni, Haotao Wang외 4명|arXiv (Cornell University)|2021. 06. 09.

Adversarial Robustness in Machine Learning참고 문헌 289인용 수 9

한 줄 요약

이 논문은 실세계의 머신러닝 응용 프로그램, 특히 자율주행차와 같은 안전이 핵심적인 시스템에서의 안전성과 신뢰성 향상을 위해 실용적인 머신러닝 기법들을 조사하고 체계화한다. 최신 기법들을 안전 전략과 연결하여 해석 가능성, 적대적 공격에 대한 강건성, 분포 이탈과 같은 취약점을 다루며, 머신러닝 신뢰성 향상을 위한 주요 연구 격차와 유망한 해결책을 규명한다.

ABSTRACT

The open-world deployment of Machine Learning (ML) algorithms in safety-critical applications such as autonomous vehicles needs to address a variety of ML vulnerabilities such as interpretability, verifiability, and performance limitations. Research explores different approaches to improve ML dependability by proposing new models and training techniques to reduce generalization error, achieve domain adaptation, and detect outlier examples and adversarial attacks. In this paper, we review and organize practical ML techniques that can improve the safety and dependability of ML algorithms and therefore ML-based software. Our organization maps state-of-the-art ML techniques to safety strategies in order to enhance the dependability of the ML algorithm from different aspects, and discuss research gaps as well as promising solutions.

연구 동기 및 목표

• 실세계의 머신러닝 구현에서 안전성과 신뢰성을 향상시키는 실용적인 머신러닝 기법을 식별하고 체계화하는 것.
• 적대적 공격과 분포 이탈과 같은 취약성을 완화하기 위한 특정 안전 전략에 최신 ML 방법을 매핑하는 것.
• 머신러닝 안전성 분야의 현재 연구 격차를 분석하고 향후 연구를 위한 유망한 방향을 제안하는 것.
• 안전이 핵심적인 분야에서 더 신뢰할 수 있고 검증 가능하며 강건한 ML 기반 소프트웨어 개발을 지원하는 것.

제안 방법

• 모델의 신뢰성, 해석 가능성, 강건성을 향상시키는 데 초점을 맞춘 기존 ML 기법들을 체계적으로 검토한다.
• 적대적 훈련, 불확실성 추정, 도메인 적응과 같은 안전 전략에 따라 기법들을 분류한다.
• 모노테카를 드롭아웃 및 분포 모델과 같은 특정 ML 방법들을 이상치 탐지 및 성능 검증과 같은 안전 핵심 요구사항과 매핑한다.
• 일반화 오차를 줄이고 분포 이탈 상황에서의 모델 행동을 향상시키는 데 기여하는 능력에 따라 기법들을 평가한다.
• 특히 검증, 해석 가능성, 실시간 구현 제약 조건에서의 현재 접근법의 격차를 규명한다.

실험 결과

연구 질문

• RQ1 어떤 머신러닝 기법이 적대적 예제와 분포 이탈에 대한 모델 강건성을 가장 효과적으로 향상시키는가?
• RQ2 안전 인증을 지원하기 위해 구현된 머신러닝 시스템에서 해석 가능성과 검증 가능성을 어떻게 향상시킬 수 있는가?
• RQ3 현재의 머신러닝 안전 기법들이 실세계의 개방형 환경에서 겪는 주요 제약은 무엇인가?
• RQ4 식별된 머신러닝 신뢰성 분야의 연구 격차를 메울 잠재력이 가장 높은 신규 기법은 무엇인가?

주요 결과

• 불확실성 추정과 적대적 훈련의 통합은 분포 이탈 상황에서 모델의 강건성을 크게 향상시킨다.
• 모노테카를 드롭아웃 및 분포 학습과 같은 기법들은 안전 핵심 환경에서 모델의 해석 가능성과 신뢰성을 향상시킨다.
• 현재의 방법들은 고위험 응용 분야에서 공식적 검증 및 실시간 성능 보장 측면에서 여전히 도전 과제를 안고 있다.
• 도메인 적응 및 이상치 탐지 기법들은 강력한 잠재력을 보이지만, 개방형 환경에서의 추가 검증이 필요하다.