[논문 리뷰] Decentralized Online Big Data Classification - a Bandit Framework

Cem Tekin, Mihaela van der Schaar|arXiv (Cornell University)|2013. 08. 21.

Data Stream Mining Techniques참고 문헌 23인용 수 4

한 줄 요약

이 논문은 분산된 학습자가 비용이 많이 드는 통신을 통해 다른 이들의 분류 함수를 포함한 최적의 분류 함수를 동적으로 선택하여 개인 보상에서 비용을 뺀 값을 최대화하는 분산형 온라인 학습 프레임워크를 제안한다. 핵심 기여는 시간에 따라 변하는 분류 정확도와 통신 비용이 알려져 있지 않은 상황에서도 최적 성능으로 수렴함을 보여주는 하위선형의 회귀 한계를 증명하는 것이다.

ABSTRACT

Distributed, online data mining systems have emerged as a result of applications requiring analysis of large amounts of correlated and high-dimensional data produced by multiple distributed data sources. We propose a distributed online data classification framework where data is gathered by distributed data sources and processed by a heterogeneous set of distributed learners which learn online, at run-time, how to classify the different data streams either by using their locally available classification functions or by helping each other by classifying each other's data. Importantly, since the data is gathered at different locations, sending the data to another learner to process incurs additional costs such as delays, and hence this will be only beneficial if the benefits obtained from a better classification will exceed the costs. We assume that the classification functions available to each processing element are fixed, but their prediction accuracy for various types of incoming data are unknown and can change dynamically over time, and thus they need to be learned online. We model the problem of joint classification by the distributed and heterogeneous learners from multiple data sources as a distributed contextual bandit problem where each data is characterized by a specific context. We develop distributed online learning algorithms for which we can prove that they have sublinear regret. Compared to prior work in distributed online data mining, our work is the first to provide analytic regret results characterizing the performance of the proposed algorithms.

연구 동기 및 목표

• 다양한 분산된 소스에서 온 고차원의 스트리밍 대용량 데이터에 대해 분류 정확도가 알려져 있지 않고 시간에 따라 변하는 상황에서 분산형, 온라인 분류 문제를 해결하기 위해.
• 학습자들이 통신 비용과 처리 비용을 고려하여 탐색(다른 이들의 분류기 테스트)과 이용(기존에 알려진 최고의 분류기 사용)을 균형 잡는 조건에서 공동의 분류 결정 과정을 공동 연안적 밴딧 문제로 모델링하기 위해.
• 지연되거나 누락된 레이블과 개념 변화가 존재하는 상황에서도 수렴 가능한 이론적 보장을 갖춘 분산형 온라인 학습 알고리즘을 설계하기 위해.
• 학습자가 개인적 이윤을 극대화할 때 비용이 실제 자원 사용을 반영한다면 전체 시스템의 최적성에 도달함을 보여주기 위해.
• 개념 변화, 비동기적 데이터 도착, 앙상블/비지도 학습자와 같은 실제 문제에 프레임워크를 확장하기 위해.

제안 방법

• 각 데이터 인스턴스가 컨텍스트(예: 시간, 위치, 특징)와 연관된 조건부 분류 결정 과정을 공동 연안적 밴딧 문제로 모델링하며, 각 학습자는 컨텍스트에 기반해 행동(자신의 분류기 사용 또는 다른 이에게 위임)을 선택한다.
• 예상 보상(정확도 - 비용)을 추정하는 분산형 온라인 학습 알고리즘(CoS)을 도입하며, 각 가능한 행동(분류기)에 대해 보상을 추정하고, 상한 신뢰도 기반(UCB) 탐색을 통해 학습과 성능 간 균형을 이룬다.
• 누적 회귀에 대한 새로운 회귀 분석을 적용하여 장기적으로 평균 보상이 완전한 지식 하에서 달성 가능한 최적 보상으로 수렴함을 보장하는 하위선형 상한을 증명한다.
• 부분 피드백 하에서도 보상 추정의 정확성을 유지하기 위해, 레이블 누락 문제를 해결하기 위해 탐색 및 훈련 단계를 조정한다.
• 변화하는 데이터 분포를 변화하는 컨텍스트로 간주하여 개념 변화 적응 메커니즘을 도입함으로써 분류기 성능을 지속적으로 재추정할 수 있도록 한다.
• 앙상블 및 비지도 학습자를 지원하기 위해, 레이블을 수신하지 않고도 다른 이들의 예측에서 학습할 수 있도록 컨텍스트 기반 예측 선택을 허용한다.

실험 결과

연구 질문

• RQ1 알려져 있지 않고 시간에 따라 변하는 분류기 정확도와 통신 비용이 존재하는 대용량 데이터 시스템에서 분산형, 협동 학습 프레임워크가 근사 최적의 분류 성능을 달성할 수 있는가?
• RQ2 스트리밍이고 고차원적인 데이터 환경에서 비용 제약 하에 분산된 학습자들이 알려지지 않은 분류기를 테스트하는 탐색과 알려진 양호한 분류기를 사용하는 이용을 어떻게 균형 잡을 수 있는가?
• RQ3 지연되거나 누락된 피드백, 비동기적 도착, 개념 변화 존재 시 하위선형의 회귀 한계는 어느 정도 유지되는가?
• RQ4 다양한 분류기 품질을 가진 학습자의 포함이 시스템 전체 성능과 오류율에 어떤 영향을 미치는가?
• RQ5 오직 원천 데이터가 아닌 컨텍스트 정보만 공유될 경우 성능을 유지할 수 있는가, 만약 가능하면 어떤 조건에서 가능한가?

주요 결과

• 제안된 CoS 알고리즘은 하위선형의 회귀를 달성하여, 완전한 지식 하에서 평균 보상이 최적 보상으로 수렴함을 증명하며, 장기적 수렴을 뒷받침하는 이론적 한계를 제공한다.
• 네트워크 보안 데이터 분류에서 특정 설정 하에서 CoS는 총 오류율을 5.9%와 10.2%로 줄였고, DCZA 대비 각각 3.8%와 4.94%를 기록하여 컨텍스트 기반 학습을 통한 강력한 성능을 보였다.
• 레이블 관측 확률이 1에서 0.01로 감소했을 때 CoS의 오류율은 47.1%로 상승했고, DCZA는 56.6%로 상승하여 피드백 누락에 민감함을 보였지만 여전히 합리적인 성능을 유지했다.
• 더 나쁜 분류 함수를 가진 새로운 학습자를 추가했을 때 오류율이 증가했다(예: CoS에서 약 22%에서 약 50%로 상승), 반면 더 나은 학습자를 추가하면 오류율이 감소하여 학습자 품질이 시스템 성능에 미치는 영향을 확인했다.
• 통신 비용이 증가함에 따라 학습자들은 점점 자신의 열악한 분류기들에 의존하게 되었고, CoS에서 오류율은 0.9%에서 23.7%로 상승하여 비용 민감도를 보였다.
• 오직 컨텍스트 정보만 공유할 경우 오류율이 높아졌다(예: S2 설정에서 23.8%), 이는 원천 데이터 또는 고성능 분류기가 오직 컨텍스트 정보만 공유될 경우 낮은 회귀를 유지하기 위해 필수적임을 시사한다.