[论文解读] A Tutorial on Online Supervised Learning with Applications to Node Classification in Social Networks

Alexander Rakhlin, Karthik Sridharan|arXiv (Cornell University)|Aug 31, 2016

Advanced Bandit Algorithms Research参考文献 11被引用 6

一句话总结

本教程提出一种在线监督学习框架，通过建模解集而非数据生成过程，实现最优预测性能。该框架利用Cover的稳定性条件与随机预测策略，在精确优化为NP难时仍能保证错误界限，适用于利用未标记数据和Rademacher采样进行社交网络中的节点分类。

ABSTRACT

We revisit the elegant observation of T. Cover '65 which, perhaps, is not as well-known to the broader community as it should be. The first goal of the tutorial is to explain---through the prism of this elementary result---how to solve certain sequence prediction problems by modeling sets of solutions rather than the unknown data-generating mechanism. We extend Cover's observation in several directions and focus on computational aspects of the proposed algorithms. The applicability of the methods is illustrated on several examples, including node classification in a network. The second aim of this tutorial is to demonstrate the following phenomenon: it is possible to predict as well as a combinatorial "benchmark" for which we have a certain multiplicative approximation algorithm, even if the exact computation of the benchmark given all the data is NP-hard. The proposed prediction methods, therefore, circumvent some of the computational difficulties associated with finding the best model given the data. These difficulties arise rather quickly when one attempts to develop a probabilistic model for graph-based or other problems with a combinatorial structure.

研究动机与目标

• 展示如何设计在线预测算法，在不建模数据生成过程的情况下，实现最优错误界限。
• 证明即使计算基准本身为NP难，预测性能仍可匹配组合基准。
• 为图等组合结构中的在线学习开发一种计算上可行的方法，利用随机策略与未标记数据。
• 将Cover的经典比特预测结果扩展至具有附加信息（如网络中的节点特征）的结构化预测问题。
• 提供一种避免难以处理的优化问题的在线社交网络节点分类框架，通过随机重播实现近似。

提出的方法

• 该方法对目标错误函数φ施加稳定性条件，确保φ在超立方体的任一坐标方向上变化不过快。
• 将预测问题表述为对随机策略的极小化-极大化优化，通过逆向归纳与势函数推导最优预测均值q*t。
• 核心算法采用随机重播：从P_X中采样未来输入x_{t+1:n}与Rademacher变量ε_{t+1:n}，以估计最优预测均值q*t。
• 最优策略为均衡器：确保对y_t = +1与y_t = -1的期望损失相同，从而对对抗性选择具有鲁棒性。
• 该方法依赖于可靠性函数Rel_t的递归逆向计算，用于追踪未来不确定性下的期望错误界限。
• 最终预测规则为q*t(x_{1:t}, y_{1:t-1}) = n * E[φ(x_{1:n}, y_{1:t-1}, -1, ε_{t+1:n}) - φ(x_{1:n}, y_{1:t-1}, +1, ε_{t+1:n})]，确保稳定性和最优性。

实验结果

研究问题

• RQ1 我们能否设计一种在线预测算法，对每个序列y均保证给定的错误界限φ(y)，即使φ无法在多项式时间内计算？
• RQ2 当最优模型的计算为NP难时，如何在组合问题（如节点分类）中实现最优预测性能？
• RQ3 φ的何种条件可确保存在一种随机预测策略，使得对所有序列y均有μ_A(y) ≤ φ(y)？
• RQ4 我们能否利用未标记数据与随机重播，在未知真实数据分布的情况下近似最优预测策略？
• RQ5 φ的稳定性条件与预测算法的可行性及鲁棒性之间有何关系？

主要发现

• 当且仅当φ稳定且E[φ] ≥ 1/2时，φ是可实现的（即存在一种预测算法，使得对所有y均有μ_A(y) ≤ φ(y)）。
• 由q*t(x_{1:t}, y_{1:t-1})定义的随机预测策略，即使精确最小化φ的计算为NP难，仍能确保期望错误率被φ(y)所限制。
• 由于采用随机重播与均衡器特性，该方法在自然对手根据x_t与q_t调整选择时，仍能达到与最优策略相同的期望错误界限。
• 该算法仅需输入分布P_X的样本与独立的Rademacher变量即可实现，无需显式掌握P_X。
• 在均匀输入下，φ的期望值为1/2，这确保了可靠性递归的一致性与逆向归纳过程的有效性。
• 该框架通过利用未标记特征与稳定可近似的基准，实现了社交网络中的在线节点分类，从而绕过了NP难的优化问题。