[논문 리뷰] Learning from Untrusted Data

Moses Charikar, Jacob Steinhardt외 1명|arXiv (Cornell University)|2016. 11. 07.

Machine Learning and Algorithms참고 문헌 35인용 수 7

한 줄 요약

이 논문은 신뢰할 수 있는 데이터 비율이 매우 낮은(α) 데이터셋에서도 정확한 추정과 최적화를 가능하게 하는 두 가지 강건한 학습 프레임워크—리스트 복원 학습과 반-검증 학습—을 제안한다. 신뢰할 수 있는 데이터 비율 α가 매우 작을 경우(α ≪ 1)에도 강력한 이론적 보장을 확보하는 효율적인 알고리즘을 제시하며, 이는 적은 수의 가설(다항식(1/α))을 출력하거나, 작은 신뢰할 수 있는 데이터셋을 활용해 큰 비신뢰 데이터셋에서 정확한 정보를 추출함으로써, 강건한 평균 추정, 혼합 모델 학습, 그래프 분할 문제에 대해 적절한 이론적 성능을 달성한다.

ABSTRACT

The vast majority of theoretical results in machine learning and statistics assume that the available training data is a reasonably reliable reflection of the phenomena to be learned or estimated. Similarly, the majority of machine learning and statistical techniques used in practice are brittle to the presence of large amounts of biased or malicious data. In this work we consider two frameworks in which to study estimation, learning, and optimization in the presence of significant fractions of arbitrary data. The first framework, list-decodable learning, asks whether it is possible to return a list of answers, with the guarantee that at least one of them is accurate. For example, given a dataset of $n$ points for which an unknown subset of $αn$ points are drawn from a distribution of interest, and no assumptions are made about the remaining $(1-α)n$ points, is it possible to return a list of $\operatorname{poly}(1/α)$ answers, one of which is correct? The second framework, which we term the semi-verified learning model, considers the extent to which a small dataset of trusted data (drawn from the distribution in question) can be leveraged to enable the accurate extraction of information from a much larger but untrusted dataset (of which only an $α$-fraction is drawn from the distribution). We show strong positive results in both settings, and provide an algorithm for robust learning in a very general stochastic optimization setting. This general result has immediate implications for robust estimation in a number of settings, including for robustly estimating the mean of distributions with bounded second moments, robustly learning mixtures of such distributions, and robustly finding planted partitions in random graphs in which significant portions of the graph have been perturbed by an adversary.

연구 동기 및 목표

• 신뢰할 수 있는 학습 데이터 비율 α가 매우 작을 경우(특히 α < 1/2일 경우)에도 신뢰할 수 있는 학습을 수행하는 데 도전하는 문제를 다루기.
• 단일 정답이 아닌 짧은 후보 목록으로 요구 조건을 완화함으로써, 악성 또는 편향된 데이터 존재 하에서도 정확한 학습이 가능한지 탐구하기.
• 작은 신뢰할 수 있는 데이터셋을 활용해 훨씬 더 큰 비신뢰 데이터셋에서 정확한 정보를 추출할 수 있는 방법을 탐색함으로써, 확장 가능한 강건한 학습을 가능하게 하기.
• 데이터 품질에 대한 최소한의 가정 하에 고차원 환경에서의 강건한 추정에 대한 이론적 기초 제공하기.
• 혼합 모델 추정, 유한 분산 조건 하의 평균 추정, 악성 외란에 의한 그래프 분할 문제 등 실용적 문제에 강건한 학습의 적용 범위 확장하기.

제안 방법

• 리스트 복원 학습 모델을 도입하여, 최대 다항식(1/α)의 가설을 출력하는 것을 목표로 하며, 그 중 하나가 참 매개변수로부터 ε 이내에 있어야 한다는 조건을 설정한다.
• 기하학적 및 농도 기반 추론을 통해, 비신뢰 데이터가 분포를 심각하게 왜곡할 경우 이를 클러스터링 또는 모멘트 기반 방법을 통해 식별하고 분리할 수 있음을 보여준다.
• 작은 신뢰할 수 있는 데이터셋과 큰 비신뢰 데이터셋을 조합하는 반-검증 학습 모델을 제안하며, 신뢰 데이터를 활용해 비신뢰 데이터에서 유도된 추정치를 校정하거나 검증한다.
• 악성 외란에 강건한 학습을 지원하는 일반적인 확률적 최적화 프레임워크를 개발하며, 하이퍼지수 꼬리 경계와 행렬 역행렬 항등식을 활용한다.
• Woodbury 행렬 항등식과 모멘트 경계를 활용해 로그우도비의 하한을 도출함으로써, 강건한 추정에 필요한 충분조건을 유도한다.
• 하이퍼지수 꼬리 가정과 모멘트 생성 함수 경계를 사용해 제곱 하이퍼지수 변수의 분산을 제어하며, Y = Z² − E[Z²] 가 분산 지표 16σ⁴를 가진 하이퍼지수 분포임을 증명한다.

실험 결과

연구 질문

• RQ1 진정한 분포에서 유래한 데이터 비율 α가 매우 작을 경우, 나머지 데이터가 악성 외란에 의해 훼손된 상태에서도 정확한 추정이 가능할 수 있는가?
• RQ2 α ≪ 1/2일 경우조차도, 정확한 가설이 포함된 짧은 후보 목록을 효율적으로 출력할 수 있는 알고리즘을 설계할 수 있는가?
• RQ3 작은 신뢰할 수 있는 데이터셋을 얼마나 효과적으로 활용해 훨씬 더 큰 비신뢰 데이터셋에서 정확한 학습을 가능하게 할 수 있는가?
• RQ4 두 번째 모멘트 조건만을 가정할 경우, 일정 비율의 데이터가 훼손된 상태에서도 강건한 평균 추정이 가능할 수 있는가?
• RQ5 악성 간선 외란이 존재하는 무작위 그래프에서 식별된 분할을 찾는 복잡한 문제에 강건한 학습을 어떻게 적용할 수 있는가?

주요 결과

• 논문은 α ≪ 1/2일 경우에도 강건한 학습이 가능함을 입증하며, 참 매개변수로부터 ε 이내에 있는 가설이 포함된 다항식(1/α) 크기의 리스트를 계산할 수 있음을 보여준다.
• 유한한 두 번째 모멘트 조건 하에서의 강건한 평균 추정에 대해, 제안된 방법은 악성 외란이 존재하더라도 α에 비례하는 적절한 오차 경계를 달성한다.
• 반-검증 학습 모델은 작은 신뢰 데이터셋만으로도 큰 비신뢰 데이터셋에서 정확한 정보를 추출할 수 있으며, 오차와 표본 복잡도에 대한 이론적 보장을 제공한다.
• 혼합 모델 학습에 대해, 한 구성요소를 진짜 데이터로 간주하고 나머지를 비신뢰 데이터로 간주함으로써, i.i.d. 가정 하에서의 성능에 근접한 성능을 달성한다.
• 그래프 분할 문제에 대해, 악성 외란으로 인해 일정 비율의 간선이 수정된 상태에서도 식별된 분할을 식별함으로써 강건성을 확보한다.
• 핵심 기여 중 하나는, 중심화된 평균을 가진 하이퍼지수 랜덤 변수의 제곱이 분산 지표 16σ⁴를 가진 하이퍼지수 분포임을 증명한 것으로, 이는 분석에서 더 날카운 농도 경계를 가능하게 한다.