[論文レビュー] FedPOIRec: Privacy Preserving Federated POI Recommendation with Social Influence

Vasileios Perifanis, George Drosatos+2 more|arXiv (Cornell University)|Dec 21, 2021

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

FedPOIRec は、CKKS 完全準同型暗号方式を用いた暗号化された集約により、ユーザーの好みを安全に統合することで、プライバシー保護型のフェデレーテッドラーニングフレームワークを提案する。このフレームワークは、中央集権的な方法と同等の推薦品質を達成しながら、重い処理をサーバーに移譲することで、ユーザー側の計算および通信のオーバーヘッドを最小限に抑える。データはユーザーのデバイスから一切漏れることなく、常にユーザーのデバイス上に保持される。

ABSTRACT

With the growing number of Location-Based Social Networks, privacy preserving location prediction has become a primary task for helping users discover new points-of-interest (POIs). Traditional systems consider a centralized approach that requires the transmission and collection of users' private data. In this work, we present FedPOIRec, a privacy preserving federated learning approach enhanced with features from users' social circles for top-$N$ POI recommendations. First, the FedPOIRec framework is built on the principle that local data never leave the owner's device, while the local updates are blindly aggregated by a parameter server. Second, the local recommenders get personalized by allowing users to exchange their learned parameters, enabling knowledge transfer among friends. To this end, we propose a privacy preserving protocol for integrating the preferences of a user's friends after the federated computation, by exploiting the properties of the CKKS fully homomorphic encryption scheme. To evaluate FedPOIRec, we apply our approach into five real-world datasets using two recommendation models. Extensive experiments demonstrate that FedPOIRec achieves comparable recommendation quality to centralized approaches, while the social integration protocol incurs low computation and communication overhead on the user side.

研究の動機と目的

• ユーザーのチェックインデータという機微な情報を収集・保存する中央集権型 POI 推奨システムにおけるプライバシー懸念に対処すること。
• ユーザーの友人からの社会的影響を、生の好みが露呈しない形で統合することで、推薦品質を向上させること。
• 計算可能な暗号化されたユーザーベクトルの処理を可能にする、安全で通信効率の良いプロトコルを設計すること。
• データ機密性を保持しつつ、クライアントデバイスにおける計算および通信のオーバーヘッドを最小限に抑えること。
• フェデレーテッドでプライバシー保護型の推薦フレームワークに社会的影響を統合する実現可能性とパフォーマンスを評価すること。

提案手法

• フレームワークは、中央サーバーに生データを送信せずに、ユーザーのデバイス上でローカルモデルを学習するフェデレーテッドラーニングを用いる。
• ローカルモデルの更新が集約された後、CKKS 完全準同型暗号方式を用いて、ユーザーの社交圈权限内のユーザーベクトルの重み付き平均を安全に計算するプロトコルが実行される。
• サーバーは、個々のユーザーのデータを復号せずに、暗号化されたベクトル上で同型演算を実行し、社会的影響特徴を計算する。
• 2ラウンドの通信プロトコルが用いられる：ユーザーは暗号化されたベクトルをサーバーに送信し、サーバーは復号用の2つの暗号化結果を返す。
• 重み付き平均計算に必要な同型加算および回転演算を実現するために、CKKS FHE の性質が活用される。
• 本システムは汎用的であり、POI 推奨に適した任意の協調フィルタリングモデルと統合可能である。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングと社会的影響を組み合わせることで、ユーザーのプライバシーを保護しつつ POI 推奨の品質を向上させることは可能か？
• RQ2 ユーザーの友人の社会的好みを、個々のユーザーのデータが露呈しない形で安全に集約する方法は何か？
• RQ3 フェデレーテッド環境下で、完全準同型暗号を用いて社会的影響を統合する際の計算および通信のオーバーヘッドはどの程度か？
• RQ4 FedPOIRec の推薦パフォーマンスは、中央集権的および非社会的フェデレーテッドベースラインと比べてどうか？
• RQ5 提案されたプライバシー保護型プロトコルは、実世界の環境で大規模なユーザー数を効率的にサポートできるか？

主な発見

• FedPOIRec は、中央集権的学習手法と同等の推薦品質を達成しており、プライバシー保護型フェデレーテッドラーニングが高精度を維持できることを示している。
• 暗号化された重み付き平均計算による社会的影響の統合により、標準的なフェデレーテッドラーニングを上回る推薦品質が実現された。
• 1ユーザーあたりの通信は2ラウンドに限定され、ユーザー側の通信オーバーヘッドが最小限に抑えられている。
• 100人のユーザーが関与しても、1つの暗号化文に128の値をパッケージングした場合、重み付き平均計算のサーバーサイド実行時間は90秒未満で維持される。
• 計算およびストレージのオーバーヘッドはすべてサーバーに移譲され、クライアントデバイスへの影響は最小限に抑えられている。
• 実験により、復号誤差が低く抑えられ、実世界の展開にも実用的であることが確認された。5つの実世界データセットを用いた実験で裏付けられている。