[論文レビュー] Blockchain-based Trustworthy Federated Learning Architecture

Sin Kit Lo, Yue Liu+5 more|arXiv (Cornell University)|Aug 16, 2021

Privacy-Preserving Technologies in Data参考文献 31被引用数 15

ひとこと要約

本稿では、医療AIにおける責任性と公平性を向上させるために、ブロックチェーンベースのフェデレーテッドラーニングアーキテクチャを提案する。スマートコントラクト駆動のデータ・モデルプロバンスレジストリと重み付き公平なデータサンプラーを用いる。COVID-19X線画像検出タスクにおける評価では、標準的なフェデレーテッドラーニングと比較して、モデルの精度、一般化性能、公平性が向上した。

ABSTRACT

Federated learning is an emerging privacy-preserving AI technique where clients (i.e., organisations or devices) train models locally and formulate a global model based on the local model updates without transferring local data externally. However, federated learning systems struggle to achieve trustworthiness and embody responsible AI principles. In particular, federated learning systems face accountability and fairness challenges due to multi-stakeholder involvement and heterogeneity in client data distribution. To enhance the accountability and fairness of federated learning systems, we present a blockchain-based trustworthy federated learning architecture. We first design a smart contract-based data-model provenance registry to enable accountability. Additionally, we propose a weighted fair data sampler algorithm to enhance fairness in training data. We evaluate the proposed approach using a COVID-19 X-ray detection use case. The evaluation results show that the approach is feasible to enable accountability and improve fairness. The proposed algorithm can achieve better performance than the default federated learning setting in terms of the model's generalisation and accuracy.

研究の動機と目的

• 複数のステークホルダーが関与する異種のデータを扱うフェデレーテッドラーニングシステムにおける責任性と公平性の課題に対処すること。
• 透明で改ざん不能なブロックチェーンベースのレジストリを用いて、ローカルデータおよびモデル更新の監査可能性を実現すること。
• 重み付き公平なサンプリングアルゴリズムを用いて、フェデレーテッドラーニングにおけるデータ分布バイアスを軽減すること。
• データプライバシーと公平性が重要な現実世界の医療シナリオ—COVID-19X線画像検出—において、アプローチを検証すること。
• ブロックチェーン統合が、パフォーマンスに悪影響を及げないまま、フェデレーテッドラーニングにおける信頼性を向上させることを示すこと。

提案手法

• 監査可能性を実現するために、ローカルデータ、ローカルモデル更新、グローバルモデルバージョンをブロックチェーン上にログ記録・マッピングするスマートコントラクト駆動のデータ・モデルプロバンスレジストリを実装する。
• データプロバンスとモデルラインレージを記録することで、データの出どころとモデルトレーニングの完全性の検証が可能になる。
• 非IID（非同一かつ独立）データからのバイアスを軽減するために、クライアント間でのクラス分布をバランスさせる重み付き公平なデータサンプラーを設計する。
• 各クライアントごとのクラス頻度に基づいて、動的にサンプリング確率を調整することで、グローバルモデルの公平性を向上させる。
• 分散型の信頼性と改ざん不能なトレーニングイベントのログ記録を可能にするために、ブロックチェーンとフェデレーテッドラーニングを統合する。
• 複数の病院をクライアントとして用いた現実世界のCOVID-19X線画像検出ユースケースを用いて、システムを評価する。

実験結果

リサーチクエスチョン

• RQ1 ブロックチェーンベースのシステムは、フェデレーテッドラーニングにおける責任性を高めるために、検証可能で改ざん不能なデータおよびモデル更新のログ記録を提供できるか？
• RQ2 データの非同一性（Non-IID分布）はどのように軽減可能か？ これにより、フェデレーテッドモデルトレーニングの公平性がどのように向上するか？
• RQ3 提案された重み付き公平なデータサンプラーは、標準的なフェデレーテッドラーニングと比較して、モデルの一般化性能と公平性をどの程度向上させるか？
• RQ4 スマートコントラクトとブロックチェーンの統合により、フェデレーテッドラーニングにおける信頼性が向上するが、パフォーマンスに悪影響を及げないか？
• RQ5 提案されたアーキテクチャは、医療画像認識タスクにおいて、精度、公平性、耐障害性という観点で、従来のフェデレーテッドラーニングを上回るか？

主な発見

• ブロックチェーンベースのデータ・モデルプロバンスレジストリは、マルチパーティフェデレーテッドラーニングにおけるデータおよびモデルラインレージのエンドツーエンド監査可能性を実現し、責任性を支援した。
• 重み付き公平なデータサンプラーは、クライアント間での偏ったデータ分布に起因するバイアスを顕著に低減させ、モデルの公平性を向上させた。
• 提案されたアーキテクチャは、COVID-19X線画像検出タスクにおいて、標準的なフェデレーテッドラーニングと比較して、より高いモデル精度と優れた一般化性能を達成した。
• 評価結果から、システムはデータプライバシーを維持しながらも、ブロックチェーンログを用いた透明で検証可能なモデルトレーニングを実現していることが確認された。
• スマートコントラクトとブロックチェーンの統合により、フェデレーテッドラーニングパイプラインにおける信頼性が向上したが、許容できないオーバーヘッドは発生しなかった。
• 本アプローチは、現実世界の医療シナリオにおいて実現可能性と有効性を示し、責任あるAIの導入を支援した。