[논문 리뷰] Tutorial: Safe and Reliable Machine Learning

Suchi Saria, Adarsh Subbaswamy|arXiv (Cornell University)|2019. 04. 15.

Adversarial Robustness in Machine Learning참고 문헌 17인용 수 40

한 줄 요약

높은 위험 환경에서의 신뢰성 원칙을 개요하는 튜토리얼로, 실패 예방, 실패 식별 및 신뢰성 모니터링, 유지 관리에 초점을 맞추고 공정성, 투명성, 해석가능성과의 연계성을 다룹니다.

ABSTRACT

This document serves as a brief overview of the "Safe and Reliable Machine Learning" tutorial given at the 2019 ACM Conference on Fairness, Accountability, and Transparency (FAT* 2019). The talk slides can be found here: https://bit.ly/2Gfsukp, while a video of the talk is available here: https://youtu.be/FGLOCkC4KmE, and a complete list of references for the tutorial here: https://bit.ly/2GdLPme.

연구 동기 및 목표

• 고위험 의사결정에 사용되는 ML 시스템의 신뢰성 필요성을 제고한다.
• 공정성, 투명성, 해석가능성과의 관련성을 바탕으로 핵심 신뢰성 원칙을 요약한다.
• 데이터, 모델, 보고에 걸친 신뢰성을 측정하고 보장하기 위한 기술적 접근법을 논의한다.
• 신뢰할 수 있는 ML 배치에서의 남은 문제와 향후 방향을 강조한다.

제안 방법

• 오류의 원인을 부적절한 데이터, 환경 변화, 모델 오류, 및 보고로 분류한다.
• DAGs와 선택 다이어그램을 이용한 환경 변화 분석을 통한 실패 예방을 위한 적극적 프레임워크를 설명한다.
• 모델 보호를 위한 적대적 학습(adversarial training) 및 강건성 인증(robustness certificates)과 같은 강건성 접근법을 논의한다.
• 데이터시트(datasheets), 모델 카드(model cards)와 신뢰성 문서화의 역할을 강조한다.
• 포인트-와이즈 신뢰도 점수(point-wise trust scores)와 이상분포 탐지(out-of-distribution detection)를 포함한 실패 식별 및 신뢰성 모니터링 방법을 개요한다.
• ML 시스템의 유지 관리 도전과 기술 부채(technical debt)라는 개념을 다룬다.

실험 결과

연구 질문

• RQ1 실제 현장 환경에 배치된 기계 학습 시스템에서 주요 실패 원인은 무엇인가?
• RQ2 환경 변화, 적대적 입력, 보고 격차에 대항하여 ML 시스템을 예방, 탐지 및 유지하기 위해 신뢰성 원칙을 어떻게 운영화할 수 있는가?
• RQ3 환경 변화에 대한 사전 불변성을 지원하는 프레임워크(예: DAGs, 선택 다이어그램)는 무엇인가?
• RQ4 보고 표준은 강건성 인증 및 모델 검증과 같은 신뢰성 고려 사항을 어떻게 포함해야 하는가?

주요 결과

• ML의 신뢰성은 실패 예방, 실패 식별 및 신뢰성 모니터링, 그리고 유지 관리의 세 원칙으로 구성될 수 있다.
• 환경 변화와 데이터셋 편향은 모델이 학습 조건 외에서 성능 저하를 보이게 할 수 있어 선제적 일반화 전략이 필요하다.
• 모델 관련 이슈로는 잘못된 가정과 고차원 입력에 대한 취약성이 포함되어 강건한 학습 및 검증 방법의 필요성을 촉진한다.
• 부실한 보고는 오용과 불일치를 초래하므로 datasheets, model cards, 및 신뢰성 중심의 문서화를 채택할 것을 시사한다.
• 포인트-와이즈 신뢰성과 신뢰 감사는 교육 후 신뢰할 수 없는 예측을 거부하도록 도와주어, 이상분포(out-of-distribution)와 지역적 적합도 문제를 다룰 수 있다.