[논문 리뷰] Online Learning of Noisy Data with Kernels

Nicolò Cesa‐Bianchi, Shai Shalev‐Shwartz외 1명|arXiv (Cornell University)|2010. 05. 13.

Machine Learning and Algorithms참고 문헌 10인용 수 5

한 줄 요약

이 논문은 알려지지 않은 시간에 따라 변하는 분포를 가진 평균이 0이고 분산이 유계인 적대적 노이즈에 의해 각 인스턴스가 손상되는 상황에서 커널 기반 예측기의 새로운 온라인 학습 알고리즘을 제안한다. 각 인스턴스의 여러 개의 노이즈가 섞인 복제본을 쿼리하는 랜덤화된 비편향 추정기들을 사용함으로써, 분석적 볼록 손실 함수를 가진 어떤 내적 공간 또는 가우시안 커널 공간에서도 하한선 이하의 손실을 달성할 수 있으며, 인스턴스당 단 하나의 노이즈가 섞인 복제본만으로는 학습이 본질적으로 불가능하다는 것을 입증한다.

ABSTRACT

We study online learning when individual instances are corrupted by adversarially chosen random noise. We assume the noise distribution is unknown, and may change over time with no restriction other than having zero mean and bounded variance. Our technique relies on a family of unbiased estimators for non-linear functions, which may be of independent interest. We show that a variant of online gradient descent can learn functions in any dot-product (e.g., polynomial) or Gaussian kernel space with any analytic convex loss function. Our variant uses randomized estimates that need to query a random number of noisy copies of each instance, where with high probability this number is upper bounded by a constant. Allowing such multiple queries cannot be avoided: Indeed, we show that online learning is in general impossible when only one noisy copy of each instance can be accessed.

연구 동기 및 목표

• 알려지지 않은 분포와 유계 분산을 가진 적대적, i.i.d. 노이즈가 존재하는 상황에서의 온라인 학습 문제를 해결하기 위해.
• 학습 인스턴스가 노이즈에 의해 손상될 때 재생 커널 힐베르트 공간(RKHS)에서의 학습을 위한 일반적 프레임워크를 개발하기 위해.
• 간단한 볼록 손실 함수일지라도, 각 인스턴스당 단 하나의 노이즈가 섞인 복제본만 제공될 경우 온라인 학습이 본질적으로 불가능하다는 것을 보여주기 위해.
• 노이즈가 섞인 관측치에도 불구하고 낮은 손실을 달성하기 위해 랜덤화된 비편향 추정기를 사용하는 온라인 경사 하강법의 변종을 설계하기 위해.
• 노이즈에 대한 최소한의 가정 하에 손실과 쿼리 복잡도에 대한 이론적 경계를 설정하기 위해.

제안 방법

• 각 인스턴스의 독립적으로 편향된 복제본을 무작위로 쿼리하는 랜덤화된 추정기를 사용하여 커널 값과 손실 기울기의 비편향 추정치를 계산한다.
• 비선형 함수에 대한 비편향 추정기의 가족을 활용함으로써, 노이즈 분포가 알려지지 않았거나 시간에 따라 변하더라도 일관된 추정이 가능하다.
• 이 알고리즘은 이러한 랜덤화된 추정치를 사용하는 수정된 온라인 경사 하강법을 적용하여, 어떤 분석적 볼록 손실 함수에 대해서든 수렴을 보장한다.
• 인스턴스당 쿼리 수는 기대값과 높은 확률 하에서 상수로 유계이며, 표본 평균화가 필요 없음을 보장한다.
• 이 방법은 다항식과 같은 모든 내적 커널 또는 가우시안 커널으로 확장 가능하며, RKHS의 구조와 커널 트릭에 의존한다.
• 핵심 기술적 구성 요소는 쿼리 복잡도를 제어하면서도 저분산 추정치를 유지하기 위해 랜덤화된 정지 규칙을 사용하는 것이다.

실험 결과

연구 질문

• RQ1 학습 인스턴스가 알려지지 않은 시간에 따라 변하는 분포를 가진 적대적 노이즈에 의해 손상될 경우, 온라인 학습이 가능할 수 있는가?
• RQ2 각 인스턴스의 노이즈가 섞인 복제본만 제공될 경우, 예를 들어 RKHS와 같은 커널 공간에서 학습이 가능한가?
• RQ3 온라인 설정에서 성공적인 학습을 위해 각 인스턴스당 최소한의 노이즈가 섞인 복제본 수는 얼마인가?
• RQ4 일반적인 노이즈 가정 하에 커널 값과 손실 기울기의 비편향 추정기를 구성할 수 있는가?
• RQ5 각 인스턴스당 단 하나의 노이즈가 섞인 복제본만 접근 가능한 경우, 온라인 학습의 본질적 한계는 무엇인가?

주요 결과

• 랜덤화된 비편향 추정기를 사용하는 온라인 경사 하강법의 변종은 어떤 분석적 볼록 손실 함수에 대해서든 어떤 내적 공간 또는 가우시안 커널 공간에서도 하한선 이하의 손실을 달성한다.
• 인스턴스당 노이즈가 섞인 쿼리 수는 기대값과 높은 확률 하에서 상수로 유계이며, 대규모 표본 평균화가 필요 없음을 보장한다.
• 단 하나의 노이즈가 섞인 복제본만 제공될 경우, 간단한 볼록 손실 함수일지라도 온라인 설정에서 학습이 본질적으로 불가능하다는 것이 입증된다.
• 손실 경계는 노이즈 분산과 커널 구조에 의존하며, 특정 분포 조건 하에서는 0이 되지 않는 것으로 나타났다.
• 이 방법은 평균이 0이고 분산이 유계인 적대적 노이즈에 대해 강건하며, 노이즈 분포가 시간에 따라 변화하더라도 성능을 유지한다.
• 이론적 프레임워크는 다항식 및 가우시안 커널 이외의 다른 커널 유형으로도 확장 가능하다.