[論文レビュー] Is Decentralized AI Safer?

Casey Clifton, Richard Blythman+1 more|arXiv (Cornell University)|Nov 4, 2022

Blockchain Technology Applications and Security被引用数 4

ひとこと要約

この論文は、DAOによる分散型ガバナンス、改ざん不能な監査証跡、民主的でアクセス可能なデータへのアクセスを可能にするブロックチェーン技術を活用することで、AIの分散化が安全性および倫理性を高めるかを調査している。分散化はバイアスを低減し、多様な道徳的見解に整合させることを可能にするが、アクセス性の低さ、セキュリティ上の脆弱性、データの商業化に関する倫理的課題といった新たなリスクを引き起こす可能性がある。

ABSTRACT

Artificial Intelligence (AI) has the potential to significantly benefit or harm humanity. At present, a few for-profit companies largely control the development and use of this technology, and therefore determine its outcomes. In an effort to diversify and democratize work on AI, various groups are building open AI systems, investigating their risks, and discussing their ethics. In this paper, we demonstrate how blockchain technology can facilitate and formalize these efforts. Concretely, we analyze multiple use-cases for blockchain in AI research and development, including decentralized governance, the creation of immutable audit trails, and access to more diverse and representative datasets. We argue that decentralizing AI can help mitigate AI risks and ethical concerns, while also introducing new issues that should be considered in future work.

研究の動機と目的

• ブロックチェーン技術を用いたAIの分散化が、安全性、倫理性、多様な人間の価値観との整合性を高めることを評価すること。
• 分散型自律組織（DAO）がAI研究開発における包摂的ガバナンスを形式化する方法を検討すること。
• ブロックチェーンがAIモデルに向けた改ざん不能な監査証跡と、安全で代表的なデータ共有を可能にする役割を評価すること。
• 分散化によって生じる新たなリスク、特にアクセス性のギャップとデータセキュリティの脅威を特定・分析すること。
• 今後の研究が、公平で監査可能で耐障害性のある分散型AIシステムの構築に向けて導かれるようにすること。

提案手法

• AIにおけるブロックチェーンの既存応用の事例研究と分析を通じて、ガバナンス、データアクセス、監査可能性の分野での活用事例を評価すること。
• 分散型自律組織（DAO）の概念を応用し、コミュニティ主導のAI研究開発意思決定の調整とインcentivizationを図ること。
• ブロックチェーンの改ざん不能性を活用し、AIモデルの学習履歴、データのルート、意思決定プロセスの改ざん不能なログを構築すること。
• 個人データをトークン化する既存のデータ共有モデルを分析し、安全でインcentivizedな形でのAI学習への参加を可能にする仕組みを検討すること。
• 現在の分散型AI実装の非公式なアンケートとリスクアセスメントを通じて、技術的および社会的課題を評価すること。
• フェデレーテッドラーニングや説明可能なAIといった、既に確立されたAIセーフティ技術を統合し、分散型システムにおけるバイアス低減とプライバシー強化を図ること。

実験結果

リサーチクエスチョン

• RQ1 DAOによる分散型ガバナンスは、中央集権的な企業モデルに比べ、より倫理的かつ代表的なAI開発を可能にするか？
• RQ2 ブロックチェーンは、改ざん不能なデータトレースを通じて、AIシステムの透明性と監査可能性をどのように高めるか？
• RQ3 分散型データ所有権は、AIシステムにおけるモデルバイアスの低減と公平性の向上にどの程度寄与するか？
• RQ4 AIの分散化によって生じる新たなリスク、特にアクセス性とセキュリティの観点から、どのようなものがあるか？
• RQ5 分散型AIシステムは、個人データの商業化によって脆弱な集団が搧取されのを防ぐために、どのように設計すべきか？

主な発見

• DAOによる分散型AIガバナンスは、参加型意思決定を可能にすることで、Googleの従業員主導の倫理的行動の事例が示すように、社会的価値とAI開発を整合させることができる。
• ブロックチェーンは改ざん不能な監査証跡を提供し、AIモデル開発および展開における透明性と責任性を高める。
• 分散型データ共有はデータセットの多様性を向上させ、フェデレーテッドラーニングなどのプライバシー保護技術と組み合わせることでバイアス低減に寄与する。
• 利点が見込まれる一方で、調査されたDAO参加者の79％が20〜40歳の男性であり、現在の分散型ガバナンスモデルにおける顕著なアクセス性と多様性のギャップが示された。
• ブロックチェーンの改ざん不能性に対する誤解や、データトークン化における詐欺の可能性により、エンドユーザーのセキュリティリスクが高まっている。これは暗号通貨スキャンダルと同様のリスクを伴う。
• ブロックチェーンを介した個人データの商業化は、脆弱な集団を搧取する可能性があり、特に差別の的変数が適切に制御されない場合、既存の社会的バイアスを強化するおそれがある。