[논문 리뷰] Knowledge Distillation for Mobile Edge Computation Offloading

Haowei Chen, Liekang Zeng외 2명|arXiv (Cornell University)|2020. 08. 07.

IoT and Edge/Fog Computing인용 수 3

한 줄 요약

이 논문은 실시간 모바일 엣지 컴퓨팅 오프로딩을 위한 경량 딥 임itation 러닝(DIL) 프레임워크를 지식 정복(KD)으로 강화하여 제안한다. 오프로딩 결정을 다중 레이블 분류 문제로 변환하고, 더 큰 테이처 네트워크에서 작고 경량화된 모델을 정복함으로써, 기존 방법들과 비교해 더 낮은 추론 지연과 뛰어난 지연 성능을 달성한다.

ABSTRACT

Edge computation offloading allows mobile end devices to put execution of compute-intensive task on the edge servers. End devices can decide whether offload the tasks to edge servers, cloud servers or execute locally according to current network condition and devices' profile in an online manner. In this article, we propose an edge computation offloading framework based on Deep Imitation Learning (DIL) and Knowledge Distillation (KD), which assists end devices to quickly make fine-grained decisions to optimize the delay of computation tasks online. We formalize computation offloading problem into a multi-label classification problem. Training samples for our DIL model are generated in an offline manner. After model is trained, we leverage knowledge distillation to obtain a lightweight DIL model, by which we further reduce the model's inference delay. Numerical experiment shows that the offloading decisions made by our model outperforms those made by other related policies in latency metric. Also, our model has the shortest inference delay among all policies.

연구 동기 및 목표

• 모바일 엣지 환경에서 실시간으로 세밀한 수준의 컴퓨팅 오프로딩 결정을 내리는 데 도전 과제를 해결하기 위해.
• 자원이 제한된 모바일 디바이스를 위한 오프로딩 결정 모델에서 추론 지연을 줄이기 위해.
• 가벼운, 구현 가능한 모델을 통해 작업 완료 지연 측면에서 오프로딩 성능을 향상시키기 위해.
• 모방 학습을 사용해 동적인 네트워크 및 디바이스 조건 하에서 온라인 결정을 가능하게 하기 위해.

제안 방법

• 오프로딩 문제를 다중 레이블 분류 작업으로 수식화하여 지도 학습을 가능하게 한다.
• 시뮬레이션 또는 이력 데이터를 사용해 오프라인 학습 데이터를 생성하고, 대규모 DIL 테이처 모델을 훈련시킨다.
• 지식 정복을 적용하여 대규모 DIL 모델의 지식을 더 작은, 가벼운 학생 모델로 이전한다.
• 빠른 추론을 위해 학생 모델을 최적화하여 지연을 최소화하면서도 결정 정확도를 유지한다.
• 정복된 가벼운 모델을 사용해 자원이 제한된 모바일 디바이스에서 실시간 온라인 오프로딩 결정을 내린다.

실험 결과

연구 질문

• RQ1 딥 임itation 러닝은 동적인 엣지 환경에서 세밀한 수준의 컴퓨팅 오프로딩 결정을 효과적으로 모델링할 수 있는가?
• RQ2 지식 정복은 오프로딩 성능을 훼손하지 않으면서 추론 효율성을 어떻게 향상시키는가?
• RQ3 모델 크기, 추론 지연, 작업 지연 사이의 상호 상충 관계는 무엇인가?
• RQ4 이 논문에서 제안한 방법은 기존의 오프로딩 정책과 비교해 지연 시간과 추론 속도 측면에서 어떻게 다른가?

주요 결과

• 제안된 모델은 다른 관련 오프로딩 정책보다 낮은 작업 완료 지연을 달성한다.
• 정복된 경량 모델은 평가된 모든 정책 중에서 가장 짧은 추론 지연을 보인다.
• 지식 정복은 오프로딩에 대한 높은 결정 정확도를 유지하면서도 모델 크기를 효과적으로 줄였다.
• 이 프레임워크는 자원이 제한된 모바일 디바이스에 적합한 실시간 온라인 오프로딩 결정을 가능하게 한다.