[논문 리뷰] Engineering Reliable Deep Learning Systems

P. Santhanam, Eitan Farchi외 1명|arXiv (Cornell University)|2019. 10. 14.

Adversarial Robustness in Machine Learning참고 문헌 21인용 수 8

한 줄 요약

이 논문은 신뢰성, 신뢰도, 유지보수성 문제를 해결하기 위해 'AI 공학'을 학문으로 정립할 것을 주장한다. 임무 핵심 응용 분야에서의 딥러닝 시스템에 대해 체계적인 개발 및 인증 관행을 제안하며, 실제 구현에서 반복 가능성과 안전성을 보장하기 위한 체계적인 접근 방식을 강조한다.

ABSTRACT

Recent progress in artificial intelligence (AI) using deep learning techniques has triggered its wide-scale use across a broad range of applications. These systems can already perform tasks such as natural language processing of voice and text, visual recognition, question-answering, recommendations and decision support. However, at the current level of maturity, the use of an AI component in mission-critical or safety-critical applications can have unexpected consequences. Consequently, serious concerns about reliability, repeatability, trust, and maintainability of AI applications remain. As AI becomes pervasive despite its shortcomings, more systematic ways of approaching AI software development and certification are needed. These fundamental aspects establish the need for a discipline on "AI Engineering". This paper presents the current perspective of relevant AI engineering concepts and some key challenges that need to be overcome to make significant progress in this important area.

연구 동기 및 목표

• 안전 핵심 또는 임무 핵심 환경에 배포된 딥러닝 시스템에서의 신뢰성, 반복 가능성, 믿음에 대한 점점 커지는 우려를 다루기 위해.
• 인증 및 장기적 유지보수를 저해하는 현재의 AI 소프트웨어 개발 관행에서의 체계적 격차를 특정하기 위해.
• 딥러닝 시스템의 개발, 테스트, 검증을 표준화하기 위한 'AI 공학'이라는 공식화된 학문의 기반을 마련하기 위해.
• AI 응용 분야에서 일관된 성능과 책임성 보장을 위한 체계적 방법론의 긴급한 필요성을 강조하기 위해.
• 인증 및 규제 준수를 지원하기 위해 공학 원리를 AI 개발에 통합하기 위한 프레임워크를 제공하기 위해.

제안 방법

• 伝통적인 소프트웨어 공학 관행을 모델로 삼아 AI 시스템을 위한 체계적인 공학 학문을 제안한다.
• 딥러닝 모델의 개발, 테스트, 인증을 이끌기 위한 공식적 프레임워크로 'AI 공학' 개념을 도입한다.
• AI 시스템 개발에서 추적 가능성, 재현 가능성, 감사 가능성의 필요성을 강조한다.
• 요구사항 명세, 검증, 지속적 모니터링을 포함한 표준화된 라이프사이클 관리를 지지한다.
• 신뢰성을 향상시키기 위해 공식적 검증 및 테스트 전략을 AI 개발 파이프라인에 통합한다.
• 의료, 교통, 공공 서비스와 같은 고위험 응용 분야에 맞는 도메인 특화 지침 및 인증 기준을 마련할 것을 촉구한다.

실험 결과

연구 질문

• RQ1 임무 핵심 응용 분야에 배포된 딥러닝 시스템에서의 핵심적 신뢰성 및 믿음 문제는 무엇인가?
• RQ2 딥러닝 시스템의 고유한 특성에 맞게 체계적인 공학 관행을 어떻게 적응시킬 수 있는가?
• RQ3 AI 시스템의 인증 및 규제 승인을 가능하게 하기 위해 필요한 구조적 및 절차적 변화는 무엇인가?
• RQ4 현재의 AI 개발 관행은 반복 가능성과 유지보수성 확보에 있어 어떤 점에서 부족한가?
• RQ5 장기적인 시스템 신뢰성과 책임성을 지원하기 위해 AI 공학 원리는 어떻게 정착시킬 수 있는가?

주요 결과

• 통제된 환경에서 뛰어난 성능을 보이지만, 임무 핵심 응용 분야에 적합한 신뢰성과 반복 가능성 부족으로 인해 현재의 딥러닝 시스템은 여전히 문제를 야기한다.
• 공식적인 공학 관행의 부재로 인해 일관되지 않은 동작, 낮은 감사 가능성, 인증의 어려움이 발생한다.
• 개발, 테스트, 검증 프로세스를 표준화하기 위해 전용 학문인 'AI 공학'이 절실하게 필요하다.
• 신뢰성과 안전성을 향상시키기 위해 요구사항, 추적 가능성, 검증에 대한 체계적 접근이 필수적이다.
• AI 시스템을 위한 공식적 인증 경로는 여전히 개발이 부족하여 규제 도메인에서의 도입을 저해하는 장벽이 된다.
• 이 논문은 딥러닝 시스템의 고유한 과제를 해결하기 위해 소프트웨어 공학의 必요한 진화로 'AI 공학'을 위치시킨다.