[논문 리뷰] Science Driven Innovations Powering Mobile Product: Cloud AI vs. Device AI Solutions on Smart Device

Deguang Kong|arXiv (Cornell University)|2017. 11. 20.

IoT and Edge/Fog Computing참고 문헌 33인용 수 8

한 줄 요약

이 논문은 빅데이터 과학, 딥러닝 및 사용자 모델링을 활용하여 클라우드와 디바이스 양측의 AI 솔루션을 통합함으로써 모바일 AI를 향상시키는 과학 기반 프레임워크를 제시한다. 이는 사용자 참여도, 개인화 및 시스템 성능 향상에 기여한다. 주요 기여 사항으로는 확장 가능한 추천 시스템, 개인정보 보호를 고려한 디바이스 내 인퍼런스, 실시간 반응성과 사용자 만족도를 높이는 하이브리드 클라우드-디바이스 아키텍처가 포함된다.

ABSTRACT

Recent years have witnessed the increasing popularity of mobile devices (such as iphone) due to the convenience that it brings to human lives. On one hand, rich user profiling and behavior data (including per-app level, app-interaction level and system-interaction level) from heterogeneous information sources make it possible to provide much better services (such as recommendation, advertisement targeting) to customers, which further drives revenue from understanding users' behaviors and improving user' engagement. In order to delight the customers, intelligent personal assistants (such as Amazon Alexa, Google Home and Google Now) are highly desirable to provide real-time audio, video and image recognition, natural language understanding, comfortable user interaction interface, satisfactory recommendation and effective advertisement targeting. This paper presents the research efforts we have conducted on mobile devices which aim to provide much smarter and more convenient services by leveraging statistics and big data science, machine learning and deep learning, user modeling and marketing techniques to bring in significant user growth and user engagement and satisfactions (and happiness) on mobile devices. The developed new features are built at either cloud side or device side, harmonically working together to enhance the current service with the purpose of increasing users' happiness. We illustrate how we design these new features from system and algorithm perspective using different case studies, through which one can easily understand how science driven innovations help to provide much better service in technology and bring more revenue liftup in business. In the meantime, these research efforts have clear scientific contributions and published in top venues, which are playing more and more important roles for mobile AI products.

연구 동기 및 목표

• 데이터 기반 개인화를 통해 모바일 사용자 참여도와 만족도를 향상시키기 위한 과학 기반 AI 솔루션 개발.
• 클라우드와 디바이스 계산의 균형을 통해 모바일 AI에서 제한된 디바이스 자원과 지연 시간 문제를 해결.
• AI 기반 위험 평가 및 행동 분석을 통해 모바일 앱의 보안, 사용자 증가 및 수익화를 향상.
• 필수 인퍼런스 작업을 직접 모바일 디바이스에서 수행할 수 있는 효율적이고 프라이버시를 보장하는 AI 시스템 설계.
• 클라우드 기반 훈련과 디바이스 내 인퍼런스를 통합하여 실시간, 확장성 있고 견고한 AI 서비스를 생산 환경의 모바일 시스템에 구현.

제안 방법

• 위험 평가 및 악성 앱 탐지에 위해 앱 설명, 사용자 리뷰, 권한 및 광고 라이브러리와 같은 다중 모odal 특징 융합을 활용.
• 대화 시스템에서 자연어 이해, 품사 태깅 및 문법 분석을 위해 GoogLeNet 및 LSTM과 같은 딥러닝 모델을 적용.
• 항목 특징, 인구통계학적 정보 및 행동 데이터를 기반으로 사용자 선호도를 모델링하기 위해 '랭킹 학습' 기능을 갖춘 분산 기반 머신러닝 프레임워크 사용.
• 대화 시스템의 의사결정 향상과 보상 최적화를 위해 Q함수 최적화 및 정책 학습(π(s))을 활용한 딥 강화학습 구현.
• 클라우드는 복잡한 훈련과 모델 튜닝을 담당하고, 디바이스는 프라이버시와 반응성 향상을 위해 저지연 인퍼런스를 수행하는 하이브리드 클라우드-디바이스 AI 아키텍처 설계.
• 자원 제약이 있는 모바일 디바이스에서 효율적인 딥러닝 인퍼런스를 가능하게 하기 위해 모델 압축 및 최적화 기법 활용.

실험 결과

연구 질문

• RQ1 클라우드와 디바이스 AI는 어떻게 조화롭게 통합되어 실시간, 프라이버시 보장 및 고성능 모바일 AI 서비스를 제공할 수 있는가?
• RQ2 악성 앱 탐지 및 사용자 생성 콘텐츠의 위험 평가에 가장 효과적인 다중 모달 특징과 머신러닝 기법은 무엇인가?
• RQ3 딥러닝과 강화학습은 자연어 이해 및 사용자 상호작용에서 대화 시스템 성능을 어떻게 향상시킬 수 있는가?
• RQ4 사용자 모델링과 임베딩 기반 표현 방식은 추천 정확도 향상과 사용자 참여도 향상에 어떤 역할을 하는가?
• RQ5 디바이스 내 AI 인퍼런스는 모바일 애플리케이션에서 프라이버시 향상, 지연 시간 감소 및 네트워크 대역폭 최적화에 어떻게 기여하는가?

주요 결과

• 클라우드 기반 훈련과 디바이스 내 인퍼런스의 통합은 개인 비서와 같은 실시간 서비스의 응답 시간과 시스템 신뢰성을 크게 향상시켰다.
• 앱 설명, 사용자 리뷰 및 권한 데이터를 활용한 다중 모달 위험 평가 기법은 기존의 서명 기반 방법을 뛰어넘는 악성 앱 탐지 정확도를 달성했다.
• GoogLeNet 및 LSTM과 같은 딥러닝 모델은 대화 시스템에서 자연어 이해 및 품사 태깅 성능을 향상시켰다.
• Q함수 최적화를 적용한 딥 강화학습의 활용은 더 효과적이고 적응적인 대화 정책을 도출하여 대화형 AI에서 사용자 만족도를 향상시켰다.
• 와이드 및 딥 신경망을 활용한 분산 기반 랭킹 학습 프레임워크는 모바일 플랫폼에서 추천 정확도와 사용자 참여도를 높였다.
• 디바이스 내 인퍼런스는 네트워크 연결 의존도를 감소시키고, 사용자 프라이버시를 강화하며, 모바일 AI 워크로드에서 대역폭 사용량을 줄였다.