[论文解读] Joint Service Pricing and Cooperative Relay Communication for Federated Learning

Shaohan Feng, Dusit Niyato+3 more|arXiv (Cornell University)|Nov 29, 2018

Privacy-Preserving Technologies in Data参考文献 4被引用 9

一句话总结

本文提出了一种联合服务定价与协作中继通信框架，用于联邦学习，以提升能效并激励移动设备参与。通过建立斯塔克尔伯格博弈模型，移动设备战略性地设定数据价格并选择中继节点，而模型所有者则优化数据订阅，通过具备干扰感知功率控制的自组织中继机制，实现吞吐量提升与拥塞减少。

ABSTRACT

For the sake of protecting data privacy and due to the rapid development of mobile devices, e.g., powerful central processing unit (CPU) and nascent neural processing unit (NPU), collaborative machine learning on mobile devices, e.g., federated learning, has been envisioned as a new AI approach with broad application prospects. However, the learning process of the existing federated learning platforms rely on the direct communication between the model owner, e.g., central cloud or edge server, and the mobile devices for transferring the model update. Such a direct communication may be energy inefficient or even unavailable in mobile environments. In this paper, we consider adopting the relay network to construct a cooperative communication platform for supporting model update transfer and trading. In the system, the mobile devices generate model updates based on their training data. The model updates are then forwarded to the model owner through the cooperative relay network. The model owner enjoys the learning service provided by the mobile devices. In return, the mobile devices charge the model owner certain prices. Due to the coupled interference of wireless transmission among the mobile devices that use the same relay node, the rational mobile devices have to choose their relay nodes as well as deciding on their transmission powers. Thus, we formulate a Stackelberg game model to investigate the interaction among the mobile devices and that between the mobile devices and the model owner. The Stackelberg equilibrium is investigated by capitalizing on the exterior point method. Moreover, we provide a series of insightful analytical and numerical results on the equilibrium of the Stackelberg game.

研究动机与目标

• 解决在联邦学习中移动设备与模型所有者之间直接传输模型更新时存在的能效低下与通信范围受限问题。
• 通过服务定价机制，激励理性且资源受限的移动设备参与联邦学习。
• 通过使移动设备协作形成中继网络以传输模型更新，降低网络拥塞并提升吞吐量。
• 联合优化移动设备的定价策略与中继选择，结合干扰感知功率控制，以最大化设备利润与模型所有者效用。

提出的方法

• 构建斯塔克尔伯格博弈模型，其中模型所有者作为领导者设定数据订阅规模，移动设备作为跟随者设定其数据价格与中继策略。
• 利用信干噪比（SINR）表达式建模传输速率与干扰对移动设备的影响，结合路径损耗与瑞利衰落信道特性。
• 采用外点法求解斯塔克尔伯格均衡，确定移动设备与模型所有者各自的最优策略。
• 引入自组织中继网络，移动设备通过中间节点转发更新，降低直接传输能耗，实现更长距离通信。
• 采用中继合并规则（如放大转发或解码转发），保持模型更新大小不变，避免额外能耗。
• 优化数据价格（利润）与中继效率之间的权衡，其中更高的数据价格可吸引更多数据，但因干扰增加而降低中继可用性。

实验结果

研究问题

• RQ1 当移动设备为理性且能量受限时，如何激励其参与联邦学习？
• RQ2 移动设备应采用何种最优定价策略，以在利润最大化与中继网络效率之间取得平衡？
• RQ3 移动设备选择中继节点的行为如何影响协作通信模型中的干扰与能耗？
• RQ4 在中继辅助的联邦学习系统中，训练数据大小对模型所有者效用与移动设备利润有何影响？
• RQ5 在移动设备与模型所有者之间存在耦合干扰与战略互动的系统中，如何计算斯塔克尔伯格博弈均衡？

主要发现

• 移动设备7因作为多个设备的中继，其模型更新的信息价值更高，因而实现了最高数据价格。
• 尽管移动设备4的价格最低，但因其高中继容量与低处理速率，吸引了模型所有者最大的数据量，使其成为核心中继节点。
• 移动设备5与6选择了同一中继（设备4），导致相互干扰，但整体仍比直接传输至接入点更节能。
• 自组织中继网络通过实现多跳协作的模型更新传输，显著降低能耗并提升吞吐量。
• 当模型所有者选择价格较低且中继效率更高的设备（如设备4）时，其效用达到最大，该设备可支持大量数据传输。
• 外点法成功计算出斯塔克尔伯格均衡，在干扰约束下实现定价与中继策略的最优收敛。