[논문 리뷰] A Tutorial on Online Supervised Learning with Applications to Node Classification in Social Networks

Alexander Rakhlin, Karthik Sridharan|arXiv (Cornell University)|2016. 08. 31.

Advanced Bandit Algorithms Research참고 문헌 11인용 수 6

한 줄 요약

이 튜토리얼은 데이터 생성 과정을 모델링하는 대신 해집합을 모델링하여 최적의 예측 성능을 달성하는 온라인 지도 학습 프레임워크를 제시한다. 이는 커버의 안정성 조건과 랜덤화된 예측 전략을 활용하여 정확한 최적화가 NP-난해한 경우에도 실수 한계를 보장한다. 응용 분야로는 레이먼처 샘플링을 사용한 비라벨 데이터를 활용한 사회망에서의 노드 분류가 포함된다.

ABSTRACT

We revisit the elegant observation of T. Cover '65 which, perhaps, is not as well-known to the broader community as it should be. The first goal of the tutorial is to explain---through the prism of this elementary result---how to solve certain sequence prediction problems by modeling sets of solutions rather than the unknown data-generating mechanism. We extend Cover's observation in several directions and focus on computational aspects of the proposed algorithms. The applicability of the methods is illustrated on several examples, including node classification in a network. The second aim of this tutorial is to demonstrate the following phenomenon: it is possible to predict as well as a combinatorial "benchmark" for which we have a certain multiplicative approximation algorithm, even if the exact computation of the benchmark given all the data is NP-hard. The proposed prediction methods, therefore, circumvent some of the computational difficulties associated with finding the best model given the data. These difficulties arise rather quickly when one attempts to develop a probabilistic model for graph-based or other problems with a combinatorial structure.

연구 동기 및 목표

• 데이터 생성 과정을 모델링하지 않더라도 최적의 실수 한계를 달성하는 온라인 예측 알고리즘을 설계하는 방법을 보여주기 위해.
• 최적의 모델을 계산하는 것이 NP-난해하더라도, 조합 기준과 예측 성능이 일치할 수 있음을 보여주기 위해.
• 랜덤화 전략과 비라벨 데이터를 사용하여 그래프와 같은 조합 구조에서의 온라인 학습을 위한 계산 가능 방법을 개발하기 위해.
• 커버의 고전적인 비트 예측 결과를 노드 특징이 있는 네트워크의 측면 정보를 가진 구조적 예측 문제로 확장하기 위해.
• 진정한 데이터 분포를 알지 못해도 랜덤 플레이아웃을 통한 근사로 인해 계산이 불가능한 최적화를 피하는 사회망에서의 온라인 노드 분류 프레임워크를 제공하기 위해.

제안 방법

• 목표 실수 함수 φ에 대한 안정성 조건을 사용하여, φ가 초입방정식의 각 좌표를 따라 너무 빠르게 변화하지 않도록 보장한다.
• 최적의 예측 평균 q*t를 후진 추론과 잠재 함수를 통해 유도하는 랜덤 전략에 대한 최소-최대 최적화 문제로 예측 문제를 공식화한다.
• 핵심 알고리즘은 랜덤 플레이아웃을 사용한다: 입력 x_{t+1:n}을 P_X에서 샘플링하고, ε_{t+1:n}을 레이먼처 변수로 사용하여 최적의 예측 평균 q*t를 추정한다.
• 최적 전략은 균형 전략이다: y_t = +1과 y_t = -1인 경우의 기대 손실이 동일하게 유지되어 적대적 선택에 대해 강건하다.
• 미래의 불확실성 하에서의 기대 실수 한계를 추적하기 위해 신뢰도 함수 Rel_t를 재귀적으로 뒤에서부터 계산한다.
• 최종 예측 규칙는 q*t(x_{1:t}, y_{1:t-1}) = n * E[φ(x_{1:n}, y_{1:t-1}, -1, ε_{t+1:n}) - φ(x_{1:n}, y_{1:t-1}, +1, ε_{t+1:n})]이며, 이는 안정성과 최적성을 보장한다.

실험 결과

연구 질문

• RQ1 φ가 다항 시간 내에 계산할 수 없더라도, 모든 수열 y에 대해 주어진 실수 한계 φ(y)를 보장하는 온라인 예측 알고리즘을 설계할 수 있는가?
• RQ2 최적의 모델을 계산하는 데 NP-난해한 조합 문제(예: 노드 분류)에서 최적의 예측 성능을 달성하는 방법은 무엇인가?
• RQ3 φ에 어떤 조건이 성립하면, 모든 수열 y에 대해 μ_A(y) ≤ φ(y)를 만족하는 랜덤화된 예측 전략이 존재하는가?
• RQ4 진짜 데이터 분포를 알지 못해도 비라벨 데이터와 랜덤 플레이아웃을 사용하여 최적의 예측 전략을 근사할 수 있는가?
• RQ5 φ에 대한 안정성 조건은 예측 알고리즘의 실현 가능성과 강건성과 어떤 관련이 있는가?

주요 결과

• 함수 φ가 실현 가능하다(모든 y에 대해 μ_A(y) ≤ φ(y)를 만족하는 예측 알고리즘이 존재함)는 조건은 φ가 안정적이며 E[φ] ≥ 1/2이어야만 한다.
• q*t(x_{1:t}, y_{1:t-1})로 정의된 랜덤화된 예측 전략은 정확한 φ 최소화자가 NP-난해하게 계산될 수 있을지라도, 기대 실수 비율이 φ(y) 이하로 제한됨을 보장한다.
• 랜덤 플레이아웃과 균형 전략의 특성 덕분에, 자연이 x_t와 q_t에 따라 선택을 조정하더라도 최적 전략과 동일한 기대 실수 한계를 달성한다.
• 알고리즘은 P_X에서의 샘플과 독립적인 레이먼처 변수만을 사용하여 실제로 실행 가능하며, P_X의 명시적 지식이 필요로 하지 않는다.
• 균일한 입력 하에서 φ의 기대값은 1/2이며, 이는 신뢰도 재귀의 일관성과 후진 추론 과정의 타당성을 보장한다.
• 이 프레임워크는 비라벨 특징과 안정적이며 근사 가능한 기준을 사용하여 사회망에서의 온라인 노드 분류를 가능하게 하며, NP-난해한 최적화를 피한다.