[論文レビュー] Trustworthy AI in the Age of Pervasive Computing and Big Data

Abhishek Kumar, Tristan Braud+2 more|arXiv (Cornell University)|Jan 30, 2020

Privacy-Preserving Technologies in Data参考文献 54被引用数 8

ひとこと要約

本論文は、パーソナルコンピューティングおよびビッグデータ環境を想定した信頼性のあるAIフレームワークを提案し、アルゴリズム、データ、実践における倫理的配慮を強調している。スマートシティの応用において、フェデレーテッドラーニングや微分プライバシーといったプライバシー保護技術を推進することで、透明性、公平性、説明責任を確保しながら、ユーザーのデータを保護する。

ABSTRACT

The era of pervasive computing has resulted in countless devices that continuously monitor users and their environment, generating an abundance of user behavioural data. Such data may support improving the quality of service, but may also lead to adverse usages such as surveillance and advertisement. In parallel, Artificial Intelligence (AI) systems are being applied to sensitive fields such as healthcare, justice, or human resources, raising multiple concerns on the trustworthiness of such systems. Trust in AI systems is thus intrinsically linked to ethics, including the ethics of algorithms, the ethics of data, or the ethics of practice. In this paper, we formalise the requirements of trustworthy AI systems through an ethics perspective. We specifically focus on the aspects that can be integrated into the design and development of AI systems. After discussing the state of research and the remaining challenges, we show how a concrete use-case in smart cities can benefit from these methods.

研究の動機と目的

• データ集約的かつパーソナルコンピューティング環境におけるAIの信頼性に関する懸念を解決すること。
• アルゴリズムの公平性、データのプライバシー、責任ある実践を焦点としたAIシステムの倫理的要件を形式化すること。
• AIシステムの設計および開発ライフサイクルに倫理を統合し、「設計段階から信頼性のあるAI」を実現すること。
• 電気自動車充電インフラの展開を含むスマートシティユースケースを通じて、実用的適用性を示すこと。
• 技術的および倫理的ガードレールを用いて、監視、バイアス、データの不正利用のリスクを低減すること。

提案手法

• 信頼性のあるAIのための三要素フレームワーク（アルゴリズムの倫理、データの倫理、実践の倫理）を提案すること。
• EUハイレベルエキスパートグループの倫理指針（人間の自律性、害の防止、公平性、説明可能性）を根幹の原則として採用すること。
• フェデレーテッドラーニングを活用し、デバイス上でモデルを訓練することで、生データがユーザーのデバイスを離れることを防ぐ。
• 微分プライバシーと同型暗号化をトレーニングパイプラインに統合し、データプライバシーを強化すること。
• ブロックチェーン技術を用いてモデル更新履歴を記録し、分散かつ改ざん不能な記録により説明責任を確保すること。
• 分散アーキテクチャとコンSENSUSメカニズムを組み合わせることで、大規模なIoT展開におけるスケーラビリティとレジリエンスを支援すること。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、パーソナルコンピューティング環境におけるAIシステムの設計に、倫理的原則を体系的に統合できるか？
• RQ2 どのようにして、感受性の高い行動データを用いたAIシステムにおいて、プライバシーと公平性を確保できるか？
• RQ3 フェデレーテッドラーニングと暗号技術は、データ漏洩や監視のリスクをどの程度軽減できるか？
• RQ4 パフォーマンスを損なわせることなく、AIモデルの透明性と説明可能性をどのように達成できるか？
• RQ5 大規模かつ分散型のAIシステムにおいて、説明責任とレジリエンスを支えるアーキテクチャパターンは何か？

主な発見

• フェデレーテッドラーニングにより、デバイス上でモデルを訓練できるため、生のユーザーのデータが個人デバイスから出ることを防ぎ、プライバシーリスクを顕著に低減できる。
• 微分プライバシーと同型暗号化をフェデレーテッドラーニングに統合することで、モデル更新中におけるユーザーのデータ保護をさらに強化できる。
• ブロックチェーンを用いたモデル更新ログは、改ざん不能で検証可能な記録を提供することで、説明責任を確保する。
• フェデレーテッドラーニングとプライバシー保護技術の組み合わせにより、中央集権的なデータ収集なしにスマートシティにおける信頼性のあるAIの展開が可能になる。
• 分散アーキテクチャは、システムのレジリエンスを高め、単一障害点を減少させ、攻撃者による攻撃に対しても耐性を向上させる。
• コンセンサスメカニズムにおけるスケーラビリティの課題は依然として存在するが、管理ハブを備えたハイブリッドアーキテクチャにより、大規模なIoTネットワークにおけるパフォーマンスボトルネックを緩和できる。