[論文レビュー] Defining the Collective Intelligence Supply Chain

Iain Barclay, Alun Preece+1 more|arXiv (Cornell University)|Sep 25, 2018

Big Data and Business Intelligence参考文献 16被引用数 5

ひとこと要約

本論文は、AIシステムで使用される集団知能—クラウドソーシングによるデータおよび知識—のルーツ、公平性、責任の追跡を目的としたブロックチェーンベースのサプライチェーンモデルを提唱する。集団知能を追跡可能な資産として扱うことで、分散型検証を通じて、倫理的なデータ利用、透明性、検証可能な責任を確保するフレームワークを提供する。

ABSTRACT

Organisations are increasingly open to scrutiny, and need to be able to prove that they operate in a fair and ethical way. Accountability should extend to the production and use of the data and knowledge assets used in AI systems, as it would for any raw material or process used in production of physical goods. This paper considers collective intelligence, comprising data and knowledge generated by crowd-sourced workforces, which can be used as core components of AI systems. A proposal is made for the development of a supply chain model for tracking the creation and use of crowdsourced collective intelligence assets, with a blockchain based decentralised architecture identified as an appropriate means of providing validation, accountability and fairness.

研究の動機と目的

• 公共および政府分野における倫理的かつ責任あるAIシステムの増大するニーズに対応する。
• AIシステムにおけるクラウドソーシングによるデータおよび知識の出どころと利用状況を追跡するうえでのギャップを特定する。
• 集団知能の生産および展開における透明性、公平性、検証可能性を保証するサプライチェーンモデルを開発する。
• 集団知能資産のライフサイクルにわたり監査および検証可能なフレームワークを構築する。
• 物理的製品のサプライチェーンに類似した形で、データおよび知識の供給源に対しても責任を拡大することで、倫理的なAIを促進する。

提案手法

• 産業サプライチェーンを模倣した集団知能サプライチェーンモデルを提唱し、データおよび知識資産に適応したものである。
• 改ざん検知可能な記録を提供する不変性、透明性、検証可能なルーツを確保するため、分散型でブロックチェーンベースのアーキテクチャを導入する。
• サプライチェーンの主要段階を定義する：データ生成、キュレーティング、ラベリング、集約、AIシステムへの統合。
• 各プロセス段階を改ざんを検知可能な記録に束ねるために、暗号ハッシュおよび分散型台帳技術を用いる。
• 貢献者、キュレーター、システム運用者にわたり責任を確保するため、ロールベースのアクセス制御および監査ログを組み込む。
• 各段階においてデータガバナンスおよび倫理的AIの原則を適用し、バイアスや搾取を防止する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムにおける集団知能資産を、そのライフサイクルにわたり体系的かつ検証可能に追跡・確認することは可能か？
• RQ2 クラウドソーシングによるデータおよび知識の生産および利用における透明性と責任を実現するためのアーキテクチャモデルは何か？
• RQ3 ブロックチェーン技術は、集団知能サプライチェーンにおける公平性および倫理的整合性をどのように支援できるか？
• RQ4 既存のAIサプライチェーンモデルを、人間が生成するインサイトなどの非物理的で知識ベースの資産を含めるようにどのように適合できるか？
• RQ5 公共部門におけるAI応用において、集団知能の倫理的な調達および利用を確保するためのガバナンスメカニズムは何か？

主な発見

• ブロックチェーンベースのサプライチェーンモデルは、集団知能資産の追跡可能性および検証可能性を効果的に実現する。
• フレームワークは、生産の全段階にわたりデータおよび知識のルーツを記録することで、倫理的責任を果たす。
• 独立した監査が貢献およびデータ利用意思決定の履歴を確認可能にすることで、透明性が向上する。
• 改ざん不能な参加記録を通じて、貢献者に対する公正な報酬および評価を実現できる。
• 公平性、透明性、監査可能性をシステム設計に組み込むことで、公共部門におけるAIガバナンスのニーズと整合する。
• 本モデルは、規制対象のAIアプリケーションへの集団知能の統合に向け、スケーラブルかつ拡張可能な基盤を提供する。