[論文レビュー] Incentive Mechanism Design for Resource Sharing in Collaborative Edge Learning

Wei Yang Bryan Lim, Jer Shyuan Ng+5 more|arXiv (Cornell University)|May 31, 2020

Privacy-Preserving Technologies in Data参考文献 14被引用数 29

ひとこと要約

本稿では、エッジユーザーが新鮮なデータを貢献する際に報酬を与える、ディープラーニングベースのインcentiveメカニズムを提案する。単一売り手、複数入札者のオークションを、単調変換関数とソフトマックスベースの勝者決定法でモデル化することで、売り手の収益を最大化するとともに、個人的合理性とインcentive適合性を確保する。従来の密封入札オークションに比べ、収益生成において優れている。

ABSTRACT

In 5G and Beyond networks, Artificial Intelligence applications are expected to be increasingly ubiquitous. This necessitates a paradigm shift from the current cloud-centric model training approach to the Edge Computing based collaborative learning scheme known as edge learning, in which model training is executed at the edge of the network. In this article, we first introduce the principles and technologies of collaborative edge learning. Then, we establish that a successful, scalable implementation of edge learning requires the communication, caching, computation, and learning resources (3C-L) of end devices and edge servers to be leveraged jointly in an efficient manner. However, users may not consent to contribute their resources without receiving adequate compensation. In consideration of the heterogeneity of edge nodes, e.g., in terms of available computation resources, we discuss the challenges of incentive mechanism design to facilitate resource sharing for edge learning. Furthermore, we present a case study involving optimal auction design using Deep Learning to price fresh data contributed for edge learning. The performance evaluation shows the revenue maximizing properties of our proposed auction over the benchmark schemes.

研究の動機と目的

• 共同エッジ学習におけるエンドデバイスおよびエッジサーバーが3C-L（通信、キャッシュ、計算、学習）リソースを貢献するのを促す課題に対処すること。
• 多様でプライバシーに配慮したエッジ環境において、個人的合理性とインcentive適合性を保証するインcentiveメカニズムを設計すること。
• モデル所有者がエッジワーカーから新鮮なデータを獲得するために競い合う、複数入札者、単一売り手のオークション枠組みとして、収益をモデル化・最適化すること。
• 収益最大化の観点から、提案されたメカニズムと古典的密封入札オークション（SPA）方式の性能を比較評価すること。

提案手法

• 2層の順方向ニューラルネットワークを訓練し、入札者による入札を変換後の入札にマップする単調変換関数を学習させ、個人的合理性とインcentive適合性を保証する。
• 勝者決定には、ダミー入力を用いたソフトマックス近似を用い、当選確率を計算し、変換後の入札が最も高い者を勝者として選ぶ。
• 条件付き支払いは、入札者の価格にReLU活性化関数を用い、当選者の支払いには逆単調変換関数を用いる。
• 情報の新鮮さの指標として、Age of Information（AoI）を統合し、モデル所有者が最新のデータを好む傾向を反映する。
• オークションフレームワークはTensorFlowを用いて実装され、入札者数やワーカーのAoIレベルの変動に対する性能が評価される。
• 損失関数はワーカーの収益の負の値として定義され、ネットワークは売り手の収益を最大化するように訓練される。

実験結果

リサーチクエスチョン

• RQ1 多様でプライバシーに配慮した参加者が関与するエッジ学習において、個人的合理性とインcentive適合性を保証するインcentiveメカニズムはどのように設計できるか？
• RQ2 AoIを用いたデータ新鮮さの組み込みが、エッジデータ共有オークションにおける収益生成にどの程度寄与するか？
• RQ3 競合するモデル所有者の数が、1人のエッジワーカーの収益にどのように影響するか？
• RQ4 ディープラーニングベースのオークションは、古典的密封入札オークション（SPA）方式に比べ、売り手の収益において優れているか？

主な発見

• 同じ条件下で、提案されたディープラーニングベースのオークションは、古典的密封入札オークション（SPA）に比べ、ワーカーの収益が高くなる。
• ワーカーのデータが新鮮である（AoIが低い）ほど、特にモデル所有者の好む範囲内にAoIが入ると、収益が顕著に増加する。
• ワーカーのAoIがすべてのモデル所有者の最小要件を下回っている場合、当選者は選ばれない。これは、データ新鮮さが閾値を満たさなければ価値がないことを示している。
• モデル所有者（入札者）の数が10から20に増加するにつれて、入札者の競争が激しくなるため、ワーカーの収益が上昇する。
• 学習された単調変換関数と適切な支払いルールにより、メカニズムは個人的合理性とインcentive適合性を効果的に確保している。