[论文解读] Incentive Mechanism Design for Resource Sharing in Collaborative Edge Learning

Wei Yang Bryan Lim, Jer Shyuan Ng+5 more|arXiv (Cornell University)|May 31, 2020

Privacy-Preserving Technologies in Data参考文献 14被引用 29

一句话总结

本文提出了一种基于深度学习的激励机制，用于协作式边缘学习中的资源共享，其中边缘用户因其贡献新鲜数据而获得补偿。通过使用单调变换函数和基于Softmax的胜出者确定方法对多投标者、单卖家拍卖进行建模，该机制在确保个体理性与激励相容性的同时，最大化卖家收益，其收益生成表现优于传统密封投标拍卖。

ABSTRACT

In 5G and Beyond networks, Artificial Intelligence applications are expected to be increasingly ubiquitous. This necessitates a paradigm shift from the current cloud-centric model training approach to the Edge Computing based collaborative learning scheme known as edge learning, in which model training is executed at the edge of the network. In this article, we first introduce the principles and technologies of collaborative edge learning. Then, we establish that a successful, scalable implementation of edge learning requires the communication, caching, computation, and learning resources (3C-L) of end devices and edge servers to be leveraged jointly in an efficient manner. However, users may not consent to contribute their resources without receiving adequate compensation. In consideration of the heterogeneity of edge nodes, e.g., in terms of available computation resources, we discuss the challenges of incentive mechanism design to facilitate resource sharing for edge learning. Furthermore, we present a case study involving optimal auction design using Deep Learning to price fresh data contributed for edge learning. The performance evaluation shows the revenue maximizing properties of our proposed auction over the benchmark schemes.

研究动机与目标

• 为解决在协作式边缘学习中激励终端设备和边缘服务器贡献3C-L（通信、缓存、计算、学习）资源的挑战。
• 设计一种激励机制，确保在异构、隐私感知的边缘环境中具备个体理性和激励相容性。
• 在多投标者、单卖家拍卖框架下对收益进行建模与优化，其中模型所有者竞争获取边缘工作者提供的新鲜数据。
• 评估所提机制在收益最大化方面相对于经典密封投标拍卖（SPA）方案的性能表现。

提出的方法

• 训练一个两层前馈神经网络，以学习单调变换函数，将投标者的出价映射为变换后的出价，从而确保个体理性和激励相容性。
• 胜出者确定采用带有虚拟输入的Softmax近似方法，计算中标的概率，选择变换后出价最高的投标者作为胜出者。
• 使用ReLU激活函数计算投标者的出价价格，使用逆单调变换函数计算中标的投标者支付金额。
• 将信息年龄（AoI）作为数据新鲜度的代理指标，反映模型所有者对最新数据的偏好。
• 使用TensorFlow实现拍卖框架，评估在不同投标者数量和工作节点AoI水平下的性能表现。
• 损失函数定义为工作节点收益的负值，通过训练网络以最大化卖家收益。

实验结果

研究问题

• RQ1 如何设计一种激励机制，以确保在具有异构性与隐私感知特性的边缘学习环境中，实现个体理性和激励相容性？
• RQ2 通过AoI引入数据新鲜度在多大程度上能提升边缘数据共享拍卖中的收益？
• RQ3 竞争的模型所有者数量如何影响单个边缘工作节点在数据拍卖中的收益？
• RQ4 基于深度学习的拍卖机制在卖家收益方面是否优于经典密封投标拍卖（SPA）方案？

主要发现

• 在相同条件下，所提出的基于深度学习的拍卖机制相比经典密封投标拍卖（SPA）能为工作节点带来更高的收益。
• 当工作节点的数据更加新鲜（AoI更低）时，其收益显著增加，尤其是在AoI处于模型所有者偏好的范围内时。
• 当工作节点的AoI低于所有模型所有者的最低要求时，不会选择任何胜出者，表明数据新鲜度必须达到阈值期望才能具有价值。
• 当模型所有者（投标者）数量从10增加到20时，由于投标者之间竞争加剧，工作节点的收益随之上升。
• 通过学习到的单调变换函数和合理的支付规则，该机制成功确保了个体理性和激励相容性。