[论文解读] Using Program Synthesis for Social Recommendations

Alvin Cheung, Armando Solar-Lezama+1 more|arXiv (Cornell University)|Aug 14, 2012

Machine Learning and Algorithms参考文献 21被引用 13

一句话总结

本文提出了一种混合机器学习与程序综合的方法，用于个性化社交活动推荐，其中用户偏好被学习为人类可读的、可分解的逻辑程序。通过结合支持向量机（SVM）进行初始分类与程序综合以生成可解释、可执行的模型，该方法将训练时间减少了一个数量级，并在保持高效设备级数据收集的同时提高了预测准确率。

ABSTRACT

This paper presents a new approach to select events of interest to a user in a social media setting where events are generated by the activities of the user's friends through their mobile devices. We argue that given the unique requirements of the social media setting, the problem is best viewed as an inductive learning problem, where the goal is to first generalize from the users' expressed "likes" and "dislikes" of specific events, then to produce a program that can be manipulated by the system and distributed to the collection devices to collect only data of interest. The key contribution of this paper is a new algorithm that combines existing machine learning techniques with new program synthesis technology to learn users' preferences. We show that when compared with the more standard approaches, our new algorithm provides up to order-of-magnitude reductions in model training time, and significantly higher prediction accuracies for our target application. The approach also improves on standard machine learning techniques in that it produces clear programs that can be manipulated to optimize data collection and filtering.

研究动机与目标

• 解决在移动环境中为个性化社交活动推荐构建可解释、可分解模型的挑战。
• 通过实现模型透明性和用户反馈，克服协同过滤中黑箱模型的局限性。
• 通过学习用户偏好并过滤无关事件，减少移动数据收集中的能耗。
• 设计一种主动学习框架，选择最具信息量的事件进行标注，从而在低数据环境下最小化用户操作负担。
• 开发一种系统，能够从用户反馈中生成人类可理解、可执行的逻辑程序，用于在移动设备上运行。

提出的方法

• 使用支持向量机（SVM）对事件特征进行用户喜好/不喜好分类，通过过滤无关样本减少训练数据量。
• 利用Sketch工具进行程序综合，从SVM识别出的关键特征和标签中生成人类可读、可分解的逻辑程序。
• 通过布尔组合简单特征条件（如位置 ≠ 2，活动 = 1）构建逻辑谓词，以实现在设备端的过滤。
• 通过选择最具信息量的事件进行用户反馈，集成主动学习机制，最小化标注开销。
• 将模型分解为原子条件，可直接编译并执行于移动设备，以驱动选择性数据收集。
• 采用集成学习与反馈循环，迭代优化模型，在保持可解释性的同时提升准确率。

实验结果

研究问题

• RQ1 程序综合能否与机器学习有效结合，为社交推荐系统生成可解释、可分解的模型？
• RQ2 与标准分类技术相比，SVM + 程序综合的混合方法在训练时间和预测准确率方面表现如何？
• RQ3 通过SVM进行特征选择，能在多大程度上减少有效模型综合所需的训练样本数量？
• RQ4 生成的逻辑程序是否能在移动设备上高效执行，以实现选择性数据收集并节省能耗？
• RQ5 在真实社交媒体活动流中典型的噪声大、数据分布不均且高度个性化的数据条件下，该系统表现如何？

主要发现

• 与标准机器学习方法相比，该混合方法将模型训练时间减少了高达一个数量级。
• 预测准确率显著高于基线方法，尤其在低数据环境下，得益于SVM带来的有效特征选择。
• 在最佳情况下，仅使用原始训练数据的5%即可实现与原始兴趣函数的完全匹配。
• 合成的模型具有人类可读性且逻辑上可分解，使用户能够理解、验证并调整自身偏好。
• 该方法通过生成可执行逻辑代码来过滤无关事件，实现了高效的设备级数据收集，从而降低能耗。
• 系统支持主动学习，通过选择最具信息量的事件进行反馈，显著减少了用户标注工作量。