[논문 리뷰] Joint Service Pricing and Cooperative Relay Communication for Federated Learning

Shaohan Feng, Dusit Niyato외 3명|arXiv (Cornell University)|2018. 11. 29.

Privacy-Preserving Technologies in Data참고 문헌 4인용 수 9

한 줄 요약

이 논문은 피어드된 학습에서 에너지 효율성을 향상시키고 모바일 디바이스를 유인하기 위해 공동 서비스 가격 설정 및 협동 릴레이 통신 프레임워크를 제안한다. 스택엘베르크 게임을 통해 상호작용을 모델링함으로써, 모바일 디바이스는 전략적으로 데이터 가격을 설정하고 릴레이 노드를 선택하며, 모델 소유자는 데이터 구독을 최적화함으로써 간섭 인식형 전력 제어를 통한 자율적 릴레이를 통해 통과량을 향상시키고 혼잡도를 감소시킨다.

ABSTRACT

For the sake of protecting data privacy and due to the rapid development of mobile devices, e.g., powerful central processing unit (CPU) and nascent neural processing unit (NPU), collaborative machine learning on mobile devices, e.g., federated learning, has been envisioned as a new AI approach with broad application prospects. However, the learning process of the existing federated learning platforms rely on the direct communication between the model owner, e.g., central cloud or edge server, and the mobile devices for transferring the model update. Such a direct communication may be energy inefficient or even unavailable in mobile environments. In this paper, we consider adopting the relay network to construct a cooperative communication platform for supporting model update transfer and trading. In the system, the mobile devices generate model updates based on their training data. The model updates are then forwarded to the model owner through the cooperative relay network. The model owner enjoys the learning service provided by the mobile devices. In return, the mobile devices charge the model owner certain prices. Due to the coupled interference of wireless transmission among the mobile devices that use the same relay node, the rational mobile devices have to choose their relay nodes as well as deciding on their transmission powers. Thus, we formulate a Stackelberg game model to investigate the interaction among the mobile devices and that between the mobile devices and the model owner. The Stackelberg equilibrium is investigated by capitalizing on the exterior point method. Moreover, we provide a series of insightful analytical and numerical results on the equilibrium of the Stackelberg game.

연구 동기 및 목표

• 피어드된 학습에서 모바일 디바이스와 모델 소유자 간 직접적인 모델 업데이트 전송 시 에너지 비효율성과 통신 범위 제한 문제를 해결하기 위해.
• 이성적이고 에너지가 제한된 모바일 디바이스들이 서비스 가격 설정 메커니즘을 통해 피어드된 학습에 참여하도록 유인하기 위해.
• 모바일 디바이스들이 협동적으로 릴레이 네트워크를 형성하여 모델 업데이트 전송을 가능하게 함으로써 네트워크 혼잡도를 감소시키고 통과량을 향상시키기 위해.
• 모바일 디바이스의 가격 전략과 릴레이 선택을 함께 최적화하여 간섭 인식형 전력 제어를 통해 디바이스 수익과 모델 소유자 유틸리티를 모두 극대화하기 위해.

제안 방법

• 모델 소유자가 리더 역할을 하여 데이터 구독 크기를 설정하고, 모바일 디바이스가 팔로워 역할을 하여 데이터 가격과 릴레이 전략을 설정하는 스택엘베르크 게임 모델을 수립한다.
• 경로 손실과 레이일리 페이딩을 고려한 신호 대 간섭 및 노이즈 비율(SINR) 표현식을 사용하여 전송 속도와 간섭 영향을 모델링한다.
• 외부점 방법을 적용하여 스택엘베르크 균형을 해소하고, 모바일 디바이스와 모델 소유자의 최적 전략을 도출한다.
• 자율적 릴레이 네트워크를 도입하여 모바일 디바이스들이 중계 노드를 통해 업데이트를 전달함으로써 직접 전송의 에너지 소비를 감소시키고 장거리 통신을 가능하게 한다.
• 에너지 비용을 추가로 유발하지 않도록 릴레이 병합 규칙(예: 증폭 및 전달 또는 디코딩 및 전달)을 사용하여 모델 업데이트 크기를 유지한다.
• 더 높은 데이터 가격은 더 많은 데이터를 유치하지만 간섭으로 인해 릴레이 가용성이 감소하므로, 데이터 가격(수익)과 릴레이 효율성 간의 트레이드오프를 최적화한다.

실험 결과

연구 질문

• RQ1 이성적이고 에너지가 제한된 모바일 디바이스들이 피어드된 학습에 참여하도록 어떻게 유인할 수 있는가?
• RQ2 수익 극대화와 릴레이 네트워크 효율성 간의 균형을 고려할 때 모바일 디바이스의 최적 가격 전략은 무엇인가?
• RQ3 모바일 디바이스들이 릴레이 노드를 선택할 경우 협동 통신 모델에서 간섭과 에너지 소비에 어떤 영향을 미치는가?
• RQ4 훈련 데이터 크기가 릴레이 지원 피어드된 학습 시스템에서 모델 소유자의 유틸리티와 모바일 디바이스의 수익에 어떤 영향을 미치는가?
• RQ5 모바일 디바이스와 모델 소유자 간의 간섭 상호작용이 상호의존적인 시스템에서 스택엘베르크 게임 균형은 어떻게 계산할 수 있는가?

주요 결과

• 모바일 디바이스 7은 여러 디바이스의 릴레이 역할을 하므로 모델 업데이트의 정보 가치가 증가하여 가장 높은 데이터 가격을 기록한다.
• 모바일 디바이스 4는 가장 낮은 가격을 기록하고도 높은 릴레이 용량과 낮은 처리 속도 덕분에 모델 소유자로부터 가장 큰 데이터 크기를 유치한다. 이는 중심 릴레이로 기능할 수 있음을 의미한다.
• 모바일 디바이스 5와 6은 동일한 릴레이(디바이스 4)를 선택하여 상호 간섭을 일으키지만, 이는 액세스 포인트로의 직접 전송보다 더 에너지 효율적이다.
• 자율적 릴레이 네트워크는 다중 홉 및 협동 모델 업데이트 전송을 가능하게 하여 에너지 소비를 크게 감소시키고 통과량을 향상시킨다.
• 모델 소유자의 유틸리티는 저가격과 높은 릴레이 효율성을 갖춘 디바이스를 선택할 때 극대화되며, 이는 대량의 데이터를 처리할 수 있는 디바이스 4와 같은 디바이스를 포함한다.
• 외부점 방법은 간섭 제약 조건 하에서 최적의 가격 전략과 릴레이 전략으로 수렴할 수 있도록 스택엘베르크 균형을 성공적으로 계산하였다.