[論文レビュー] Federated AI for building AI Solutions across Multiple Agencies

Dinesh Verma, Simon Julier+1 more|arXiv (Cornell University)|Sep 20, 2018

Privacy-Preserving Technologies in Data参考文献 5被引用数 15

ひとこと要約

本論文は、機密データを共有せずに政府機関間で共同でAIモデルを開発できるようにするため、分散型トレーニングによりモデルのパラメータのみを交換する、フェデレーテッドAIを提案する。このアプローチは、厳格なデータプライバシー規制下でも機関間のAIモデルトレーニングを成功裏に実現し、高いパフォーマンスを達成しながらデータ主権を保証する。

ABSTRACT

The different sets of regulations existing for differ-ent agencies within the government make the task of creating AI enabled solutions in government dif-ficult. Regulatory restrictions inhibit sharing of da-ta across different agencies, which could be a significant impediment to training AI models. We discuss the challenges that exist in environments where data cannot be freely shared and assess tech-nologies which can be used to work around these challenges. We present results on building AI models using the concept of federated AI, which al-lows creation of models without moving the training data around.

研究の動機と目的

• 機密データ共有規制が厳しい政府機関においてAIソリューションを開発する課題に対処すること。
• AIトレーニングのための機関間データ共有を妨げる規制的障壁を克服すること。
• 複数機関間で協働してAIモデルをトレーニングできるスケーラブルでプライバシー保護型のフレームワークを開発すること。
• 中央集権的なデータ集約なしに、効果的なAIモデルをトレーニングする可能性を実証すること。
• 公共部門のAIアプリケーションにおけるデータガバナンスおよびプライバシー規制に準拠すること。

提案手法

• 各機関が自らのデータでローカルモデルをトレーニングし、データ移転を行わないフェデレーテッドラーニングアーキテクチャを実装する。
• 中央サーバーを介して複数機関からのモデル更新を集約し、グローバルモデルを精緻化する。
• モデル更新の送信中に機密性を保護するため、セキュアアグリゲーション技術を用いる。
• データ主権を保つことを前提に、厳格な規制制約下でシステムを運用する。
• 政府のデータポリシーに適合するよう調整を加えた既存のフェデレーテッドラーニングフレームワークを活用する。
• 現実的なデータアクセス制限を想定したシミュレーテッドマルチ機関環境で、アプローチの妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 規制上の制約によりデータ共有が不可能な状況下で、政府機関間でどのように効果的にAIモデルをトレーニングできるか？
• RQ2 機密データを中央集権的に集約せずに、どのように協働的なモデルトレーニングを実現できるか？
• RQ3 フェデレーテッドラーニングは、データプライバシーとコンプライアンスを確保しつつ、どの程度のモデルパフォーマンスを維持できるか？
• RQ4 複数の公共部門機関が関与する分散型AIトレーニング環境において、信頼性とセキュリティをどのように維持できるか？
• RQ5 政府環境におけるフェデレーテッドAIの実用的導入課題は何か？

主な発見

• フェデレーテッドAIは、生のデータを移転せずに機関間で効果的なAIモデルトレーニングを可能にし、データプライバシーを保証する。
• 本アプローチは、機関間データ共有を禁止する厳しいデータ規制にも的確に準拠している。
• 機関間でのモデルパフォーマンスは、中央集権的トレーニングと同等であり、実現可能性と有効性が実証された。
• モデル更新のセキュアアグリゲーションにより、共同作業中に個々の機関のデータが露呈することはない。
• フレームワークはスケーラブルであり、異なるデータポリシーを持つ多様な政府機関環境に適応可能である。
• 本システムは、データ主権と規制遵守を維持したまま、協働的なAI開発を可能にする。