[论文解读] Science Driven Innovations Powering Mobile Product: Cloud AI vs. Device AI Solutions on Smart Device

Deguang Kong|arXiv (Cornell University)|Nov 20, 2017

IoT and Edge/Fog Computing参考文献 33被引用 8

一句话总结

本文提出了一套以科学为驱动的框架，通过集成云边端AI解决方案，提升移动AI性能，利用大数据科学、深度学习和用户建模技术，增强用户参与度、个性化体验与系统性能。主要贡献包括可扩展的推荐系统、隐私保护的设备端推理，以及混合云边架构，显著提升了实时响应能力与用户满意度。

ABSTRACT

Recent years have witnessed the increasing popularity of mobile devices (such as iphone) due to the convenience that it brings to human lives. On one hand, rich user profiling and behavior data (including per-app level, app-interaction level and system-interaction level) from heterogeneous information sources make it possible to provide much better services (such as recommendation, advertisement targeting) to customers, which further drives revenue from understanding users' behaviors and improving user' engagement. In order to delight the customers, intelligent personal assistants (such as Amazon Alexa, Google Home and Google Now) are highly desirable to provide real-time audio, video and image recognition, natural language understanding, comfortable user interaction interface, satisfactory recommendation and effective advertisement targeting. This paper presents the research efforts we have conducted on mobile devices which aim to provide much smarter and more convenient services by leveraging statistics and big data science, machine learning and deep learning, user modeling and marketing techniques to bring in significant user growth and user engagement and satisfactions (and happiness) on mobile devices. The developed new features are built at either cloud side or device side, harmonically working together to enhance the current service with the purpose of increasing users' happiness. We illustrate how we design these new features from system and algorithm perspective using different case studies, through which one can easily understand how science driven innovations help to provide much better service in technology and bring more revenue liftup in business. In the meantime, these research efforts have clear scientific contributions and published in top venues, which are playing more and more important roles for mobile AI products.

研究动机与目标

• 开发以科学为驱动的AI解决方案，通过数据驱动的个性化提升移动用户参与度与满意度。
• 通过平衡云与设备端计算，解决移动AI中设备资源受限与延迟问题。
• 通过AI赋能的风险评估与行为分析，提升移动应用的安全性、用户增长与变现能力。
• 设计高效且隐私保护的AI系统，使关键推理任务直接在移动设备上执行。
• 将基于云的训练与设备端推理相结合，为生产环境中的移动系统提供实时、可扩展且鲁棒的AI服务。

提出的方法

• 采用多模态特征融合技术，如应用描述、用户评论、权限信息与广告库，用于风险评估与恶意应用检测。
• 应用深度学习模型，包括GoogLeNet与LSTM，用于对话系统中的自然语言理解、词性标注与句法解析。
• 使用分布式机器学习框架并集成'学习排序'功能，基于项目特征、人口统计信息与行为数据建模用户偏好。
• 实施深度强化学习，结合Q函数优化与策略学习（π(s)），以提升对话系统决策能力与奖励最大化。
• 设计混合云边AI架构，由云负责复杂训练与模型调优，设备端执行低延迟推理，以保障隐私与响应速度。
• 采用模型压缩与优化技术，实现在资源受限移动设备上的高效深度学习推理。

实验结果

研究问题

• RQ1 如何实现云与设备AI的和谐集成，以提供实时、私密且高性能的移动AI服务？
• RQ2 哪些多模态特征与机器学习技术在检测恶意应用及评估用户生成内容风险方面最为有效？
• RQ3 深度学习与强化学习如何提升对话系统在自然语言理解与用户交互方面的性能？
• RQ4 用户建模与基于嵌入的表征在提升推荐准确率与用户参与度方面发挥何种作用？
• RQ5 设备端AI推理如何改善隐私保护、降低延迟并优化移动应用中的网络带宽使用？

主要发现

• 基于云的训练与设备端推理的结合显著提升了实时服务（如个人助手）的响应速度与系统可靠性。
• 结合应用描述、用户评论与权限数据的多模态风险评估，使恶意应用检测准确率超越传统基于签名的方法。
• GoogLeNet与LSTM等深度学习模型显著提升了对话系统在自然语言理解与词性标注方面的性能。
• 采用Q函数优化的深度强化学习使对话策略更具有效性与自适应性，提升了对话式AI中的用户满意度。
• 结合宽深神经网络的分布式学习排序框架提升了移动平台上的推荐准确率与用户参与度。
• 设备端推理减少了对网络连接的依赖，增强了用户隐私保护，并降低了移动AI工作负载中的带宽使用量。