[论文解读] Multi-Resolution Weak Supervision for Sequential Data

Frédéric Sala, Paroma Varma+9 more|arXiv (Cornell University)|Oct 21, 2019

AI in cancer detection参考文献 56被引用 4

一句话总结

Dugong 是首个针对序列数据的多分辨率弱监督框架，通过建模帧级、窗口级和场景级标注源之间的复杂相关性，实现无需真实标签的源准确率与相关性估计。其采用线性系统求解与参数共享技术，在视频和传感器任务上相较现有弱监督方法提升 24.2 F1 分，相较传统监督方法提升 16.0 F1 分。

ABSTRACT

Since manually labeling training data is slow and expensive, recent industrial and scientific research efforts have turned to weaker or noisier forms of supervision sources. However, existing weak supervision approaches fail to model multi-resolution sources for sequential data, like video, that can assign labels to individual elements or collections of elements in a sequence. A key challenge in weak supervision is estimating the unknown accuracies and correlations of these sources without using labeled data. Multi-resolution sources exacerbate this challenge due to complex correlations and sample complexity that scales in the length of the sequence. We propose Dugong, the first framework to model multi-resolution weak supervision sources with complex correlations to assign probabilistic labels to training data. Theoretically, we prove that Dugong, under mild conditions, can uniquely recover the unobserved accuracy and correlation parameters and use parameter sharing to improve sample complexity. Our method assigns clinician-validated labels to population-scale biomedical video repositories, helping outperform traditional supervision by 36.8 F1 points and addressing a key use case where machine learning has been severely limited by the lack of expert labeled data. On average, Dugong improves over traditional supervision by 16.0 F1 points and existing weak supervision approaches by 24.2 F1 points across several video and sensor classification tasks.

研究动机与目标

• 解决现有弱监督框架在视频和传感器流等序列数据中缺乏对多分辨率标注源处理能力的问题。
• 在无真实标签的前提下，建模帧级、窗口级和场景级监督源之间的复杂相关性与未知准确率。
• 通过参数共享与源相关性结构假设，降低长序列中的样本复杂度。
• 引入分布先验（如标签频率）以提升低数据场景下标签估计的保真度。
• 在真实世界应用中，实现基于多样化、噪声源的弱监督数据的可扩展端到端深度学习模型训练。

提出的方法

• 将多分辨率弱监督形式化为具有跨分辨率（帧、窗口、场景）序列依赖性的隐变量模型。
• 通过求解源自源间一致与不一致关系的两个线性系统，估计源准确率与相关性参数。
• 在源相关性结构的温和条件下，确保模型可识别性，实现参数的唯一恢复。
• 在分辨率与时间步之间应用参数共享，以减少参数数量并提升样本效率。
• 整合用户定义或数据推导的类别先验，以正则化标签估计，提升对罕见事件的性能。
• 开发一种适用于 PyTorch 等深度学习框架的随机梯度下降（SGD）变体，实现 90 倍的推理速度提升。

实验结果

研究问题

• RQ1 弱监督框架能否在考虑复杂相关性的同时，有效建模序列数据中帧级、窗口级和场景级等多分辨率标注源？
• RQ2 在何种条件下，可从无标签数据中唯一恢复底层模型参数（准确率与相关性）？
• RQ3 在长序列中，分辨率间的参数共享如何影响样本复杂度与模型泛化能力？
• RQ4 分布先验在多大程度上可提升标签估计精度，特别是在序列数据中罕见事件检测方面？
• RQ5 在多种序列分类任务中，Dugong 相较于传统监督与现有弱监督基线方法的性能表现如何？

主要发现

• 在多个视频与传感器分类任务上，Dugong 平均相较传统监督方法提升 16.0 F1 分。
• Dugong 平均相较现有弱监督方法提升 24.2 F1 分，显著改善了标签质量。
• 消融实验表明，若移除参数共享，性能平均下降 9.2 F1 分，凸显参数共享的重要性。
• 移除时间依赖性导致 F1 分下降 10.2 分，表明建模序列相关性可防止对源可靠性的高估。
• 在 Shot 数据集上，用户定义的类别先验使性能提升 14.8 F1 分，凸显领域知识先验的价值，尤其在关键罕见过渡事件检测中。
• Dugong 的 SGD 变体相较标准实现实现 90 倍的运行速度提升，支持在现代深度学习流水线中的部署。