[论文解读] Structured Learning from Partial Annotations

Xinghua Lou, Fred A. Hamprecht|arXiv (Cornell University)|Jun 27, 2012

Machine Learning and Data Classification参考文献 24被引用 24

一句话总结

本文提出了一种大间隔结构学习框架，可实现从部分标注数据中有效训练模型，其中仅对结构化输出的片段（例如序列或图的部分）进行标注。通过使用新型加速策略的凹-凸规划（CCCP），该方法实现了与全标注学习相当的性能——在可变目标跟踪任务中，仅使用25%的全标注数据即可达到相似的跟踪精度。

ABSTRACT

Structured learning is appropriate when predicting structured outputs such as trees, graphs, or sequences. Most prior work requires the training set to consist of complete trees, graphs or sequences. Specifying such detailed ground truth can be tedious or infeasible for large outputs. Our main contribution is a large margin formulation that makes structured learning from only partially annotated data possible. The resulting optimization problem is non-convex, yet can be efficiently solve by concave-convex procedure (CCCP) with novel speedup strategies. We apply our method to a challenging tracking-by-assignment problem of a variable number of divisible objects. On this benchmark, using only 25% of a full annotation we achieve a performance comparable to a model learned with a full annotation. Finally, we offer a unifying perspective of previous work using the hinge, ramp, or max loss for structured learning, followed by an empirical comparison on their practical performance.

研究动机与目标

• 解决在全真实标签标注成本高昂或不可行时，训练结构化预测模型的挑战。
• 实现从不完整或部分标注数据（如部分序列、图或树）进行结构学习。
• 开发一种高效的优化框架，以处理部分监督下学习问题的非凸性。
• 在具有可变对象数量的实际跟踪问题上，证明该方法的实用性。
• 在统一框架下，对现有结构化学习损失函数（合页损失、ramp损失、最大损失）进行统一并实证比较。

提出的方法

• 提出一种大间隔学习目标，通过放松对完整真实输出的要求，引入部分监督。
• 将学习问题建模为非凸优化任务，利用凹-凸规划（CCCP）进行迭代优化。
• 在CCCP中引入新型加速策略，以提升大规模结构化预测任务中的收敛速度与可扩展性。
• 定义一种结构化预测损失，通过考虑所有可能的观测部分标签的补全方式，来处理部分标注。
• 使用判别性评分函数预测结构化输出，其参数通过所提出的大型-margin准则进行优化。
• 将该框架应用于对象身份和轨迹部分可观测的分配式跟踪问题。

实验结果

研究问题

• RQ1 当仅存在部分标注而无需完整真实序列或图时，能否有效进行结构化学习？
• RQ2 所提出的基于部分监督的大间隔公式在性能上与全标注数据训练的模型相比如何？
• RQ3 在部分监督下，不同结构化损失函数（合页损失、ramp损失、最大损失）对模型性能有何影响？
• RQ4 基于CCCP的优化框架能否高效处理由部分标注引入的非凸性？
• RQ5 当仅使用全标注数据的少量比例（例如25%）时，模型性能能保留到何种程度？

主要发现

• 当仅使用全标注数据的25%时，所提方法在跟踪性能上与全标注训练的模型相当。
• 该方法显著降低了标注成本，同时在可变对象跟踪基准上保持了高预测准确性。
• 实证比较显示，在部分监督下，ramp损失在鲁棒性和准确性方面通常优于合页损失和最大损失。
• 结合加速策略的CCCP优化方法收敛高效，可实际应用于复杂的结构化预测任务。
• 该框架提供了一个统一视角，将先前的结构化学习损失函数统一并置于单一部分标注学习公式之下。