[논문 리뷰] Incentive Mechanism Design for Resource Sharing in Collaborative Edge Learning

Wei Yang Bryan Lim, Jer Shyuan Ng외 5명|arXiv (Cornell University)|2020. 05. 31.

Privacy-Preserving Technologies in Data참고 문헌 14인용 수 29

한 줄 요약

이 논문은 엣지 사용자가 최신 데이터 기여에 대해 보상받는 공동 엣지 학습 환경에서 자원 공유를 위한 딥러닝 기반 인센티브 메커니즘을 제안한다. 단일 판매자, 다수 입찰자 경매를 단조성 변환 함수와 소프트맥스 기반 승자 결정 방식으로 모델링함으로써, 판매자 수익을 극대화하면서도 개인적 합리성과 인센티브 호환성을 확보한다. 기존의 밀봉입찰 경매보다 수익 창출 측면에서 뛰어나다.

ABSTRACT

In 5G and Beyond networks, Artificial Intelligence applications are expected to be increasingly ubiquitous. This necessitates a paradigm shift from the current cloud-centric model training approach to the Edge Computing based collaborative learning scheme known as edge learning, in which model training is executed at the edge of the network. In this article, we first introduce the principles and technologies of collaborative edge learning. Then, we establish that a successful, scalable implementation of edge learning requires the communication, caching, computation, and learning resources (3C-L) of end devices and edge servers to be leveraged jointly in an efficient manner. However, users may not consent to contribute their resources without receiving adequate compensation. In consideration of the heterogeneity of edge nodes, e.g., in terms of available computation resources, we discuss the challenges of incentive mechanism design to facilitate resource sharing for edge learning. Furthermore, we present a case study involving optimal auction design using Deep Learning to price fresh data contributed for edge learning. The performance evaluation shows the revenue maximizing properties of our proposed auction over the benchmark schemes.

연구 동기 및 목표

• 공동 엣지 학습 환경에서 엣지 디바이스와 엣지 서버가 3C-L(통신, 캐싱, 컴퓨팅, 학습) 자원 기여를 유도하기 위한 과제를 해결하기 위해.
• 이질적이고 프라이버시를 고려한 엣지 환경에서 개인적 합리성과 인센티브 호환성을 보장하는 인센티브 메커니즘을 설계하기 위해.
• 모델 소유주가 엣지 워커로부터 최신 데이터를 확보하기 위해 경쟁하는 다수 입찰자, 단일 판매자 경매 프레임워크에서 수익을 모델링하고 최적화하기 위해.
• 전통적인 밀봉입찰 경매(SPA) 기반 기법들과의 비교를 통해 제안된 메커니즘의 수익 극대화 성능을 평가하기 위해.

제안 방법

• 개인적 합리성과 인센티브 호환성을 보장하기 위해 입찰자들의 입찰를 변환된 입찰로 매핑하는 단조성 변환 함수를 학습하기 위해 두 층의 피드포워드 신경망을 사용한다.
• 승자 결정은 더미 입력을 사용한 소프트맥스 근사치를 통해 승자 확률을 계산하고, 가장 높은 변환된 입찰을 승자로 선정한다.
• 조건부 지불은 입찰자 가격에 대해 ReLU 활성화 함수를 사용하고, 승자에 대한 지불에는 역단조성 변환 함수를 적용한다.
• 경매 프레임워크는 데이터 신선도를 반영하기 위해 정보의 나이(AoI)를 대체 지표로 통합한다.
• TensorFlow를 사용하여 경매 프레임워크를 구현하였으며, 입찰자 수와 워커의 AoI 수준을 변화시킨 조건에서 성능을 평가하였다.
• 손실 함수는 워커의 수익의 음수로 정의되어 있으며, 신경망을 학습시켜 판매자 수익을 극대화하도록 한다.

실험 결과

연구 질문

• RQ1 이질적이고 프라이버시를 고려한 참가자가 있는 엣지 학습 환경에서 개인적 합리성과 인센티브 호환성을 보장하는 인센티브 메커니즘을 어떻게 설계할 수 있는가?
• RQ2 AoI를 통한 데이터 신선도를 통합할 경우, 엣지 데이터 공유 경매에서 수익 창출에 얼마나 기여하는가?
• RQ3 경쟁하는 모델 소유주의 수가 증가할수록 한 명의 엣지 워커의 수익은 어떻게 변화하는가?
• RQ4 딥러닝 기반 경매가 전통적인 밀봉입찰 경매(SPA) 기반 기법들보다 판매자 수익 측면에서 뛰어나다고 볼 수 있는가?

주요 결과

• 제안된 딥러닝 기반 경매는 동일한 조건에서 기존의 밀봉입찰 경매(SPA)보다 워커의 수익을 더 높게 달성한다.
• 워커의 데이터가 더 신선할수록(낮은 AoI일수록) 수익이 크게 증가하며, 특히 모델 소유주의 선호 범위 내에 들어갈 경우 두드러진다.
• 워커의 AoI가 모든 모델 소유주의 최소 요구 수준 이하일 경우 승자가 선정되지 않으며, 이는 데이터 신선도가 기준 수준에 도달해야 가치 있는 자원이 될 수 있음을 시사한다.
• 모델 소유주(입찰자) 수가 10명에서 20명으로 증가함에 따라 입찰자 간 경쟁이 심화되면서 워커의 수익이 증가한다.
• 학습된 단조성 변환 함수와 적절한 지불 규칙을 통해 개인적 합리성과 인센티브 호환성이 성공적으로 확보된다.