[논문 리뷰] Estimating Uncertainty Online Against an Adversary

Volodymyr Kuleshov, Stefano Ermon|arXiv (Cornell University)|2016. 07. 13.

Anomaly Detection Techniques and Applications인용 수 12

한 줄 요약

이 논문은 기존의 온라인 캘리브레이션 기법을 기반으로 한 메타알고리즘을 사용하여, 적대적 또는 분포 외 데이터가 존재하는 상황에서도 캘리브레이션된 신뢰할 수 있는 확률 추정치를 제공하는 새로운 온라인 재캘리브레이션 방법을 제안한다. 이 방법은 기준 예측기와 거의 동일한 정확도를 유지하면서도 O(1/√ε) 수준의 수렴 속도 오버헤드를 가지며 강력한 캘리브레이션 성능을 달성한다.

ABSTRACT

Assessing uncertainty is an important step towards ensuring the safety and reliability of machine learning systems. Existing uncertainty estimation techniques may fail when their modeling assumptions are not met, e.g. when the data distribution differs from the one seen at training time. Here, we propose techniques that assess a classification algorithm's uncertainty via calibrated probabilities (i.e. probabilities that match empirical outcome frequencies in the long run) and which are guaranteed to be reliable (i.e. accurate and calibrated) on out-of-distribution input, including input generated by an adversary. This represents an extension of classical online learning that handles uncertainty in addition to guaranteeing accuracy under adversarial assumptions. We establish formal guarantees for our methods, and we validate them on two real-world problems: question answering and medical diagnosis from genomic data.

연구 동기 및 목표

• 데이터 분포가 변화하거나 적대적 입력이 존재할 경우 기존의 불확실성 추정 방법이 실패하는 문제를 해결하기 위해.
• i.i.d. 데이터가 아닌 조건 하에서도 경험적 결과 빈도와 일치하는 캘리브레이션된 확률을 생성할 수 있는 방법을 개발하기 위해.
• 온라인 및 순차적 학습 환경에서 높은 예측 정확도를 유지하면서도 캘리브레이션을 보장하기 위해.
• 온라인 및 배치 설정 모두에서 재캘리브레이션을 허용하는 손실 함수를 규명하기 위해.

제안 방법

• 이 방법은 기존의 온라인 캘리브레이션을 블랙박스 서브루틴으로 사용하여, 어떤 기준 분류기의 예측값도 재캘리브레이션할 수 있는 메타알고리즘을 사용한다.
• 시간이 지남에 따라 결과의 경험 빈도를 유지함으로써 캘리브레이션된 확률을 추정하며, 각 새로운 데이터 포인트를 온라인 방식으로 적응시는 방식이다.
• 내부 및 외부의 회귀 측정을 사용하여 전문가 조언 학습 프레임워크에서의 회귀를 최소화함으로써 강력한 캘리브레이션을 보장한다.
• 데이터 패턴이나 커널에 대한 사전 지식이 필요 없이, 어떤 캘리브레이션되지 않은 예측기라도 블랙박스 방식으로 재캘리브레이션할 수 있다.
• 이 방법은 온라인 최적화와 블랙웰 접근 가능성 이론에 기반하여, 적대적 조건 하에서도 캘리브레이션된 예측으로 수렴함을 보장한다.
• 기준 예측기 대비 O(1/√ε) 수준의 수렴 속도 오버헤드를 보이며 수렴함이 입증되었으며, 여기서 ε는 원하는 정확도 수준이다.

실험 결과

연구 질문

• RQ1 i.i.d. 가정에 의존하지 않고도, 적대적 또는 분포 외 데이터 하에서도 캘리브레이션된 불확실성 추정 방법을 설계할 수 있는가?
• RQ2 온라인 환경에서 캘리브레이션 정확도와 예측 정확도 사이의 이론적 트레이드오프는 무엇인가?
• RQ3 어떤 손실 함수들이 온라인 및 배치 설정 모두에서 재캘리브레이션을 지원하는가?
• RQ4 어떻게 하면 온라인 캘리브레이션의 강건성과 공변수 및 날카로운 예측의 예측 능력을 결합할 수 있는가?

주요 결과

• 제안된 온라인 재캘리브레이션 알고리즘은 질문 응답 및 유전자 진단 작업 모두에서 전체 학습 과정 동안 기준 방법보다 일관되게 낮은 캘리브레이션 오차를 기록했다.
• 3,443개의 유전자 샘플을 사용한 의료 진단 작업에서, 재캘리브레이션된 확률은 전체 범위에서 거의 완벽한 캘리브레이션을 달성했고, 원본 SVM 점수는 [0.4, 0.6] 외부에서는 빈약하게 캘리브레이션되었다.
• 모든 시간 단계에서 기준 예측기의 ℓ₂ 손실과의 정확도 차이가 0.01 이내로 유지되어 성능 저하가 최소화됨을 입증했다.
• 이론적 분석을 통해 캘리브레이션된 확률로의 수렴 속도가 기준 예측기 대비 O(1/√ε) 수준임을 밝혔으며, 여기서 ε는 원하는 정확도 수준이다.
• 표준 재캘리브레이션 기법이 분포 이탈 조건에서 실패하는 것과는 달리, 이 방법은 적대적 입력 조건에서도 증명 가능하게 캘리브레이션됨을 보였다.