[论文解读] Defining the Collective Intelligence Supply Chain

Iain Barclay, Alun Preece+1 more|arXiv (Cornell University)|Sep 25, 2018

Big Data and Business Intelligence参考文献 16被引用 5

一句话总结

本文提出了一种基于区块链的供应链模型，用于追踪人工智能系统中使用的集体智能——众包数据与知识——的来源、公平性与问责性。通过将集体智能视为可追溯的资产，该框架通过去中心化验证确保了伦理数据使用、透明度以及可验证的问责性。

ABSTRACT

Organisations are increasingly open to scrutiny, and need to be able to prove that they operate in a fair and ethical way. Accountability should extend to the production and use of the data and knowledge assets used in AI systems, as it would for any raw material or process used in production of physical goods. This paper considers collective intelligence, comprising data and knowledge generated by crowd-sourced workforces, which can be used as core components of AI systems. A proposal is made for the development of a supply chain model for tracking the creation and use of crowdsourced collective intelligence assets, with a blockchain based decentralised architecture identified as an appropriate means of providing validation, accountability and fairness.

研究动机与目标

• 应对公共及政府领域对伦理化与可问责AI系统日益增长的需求。
• 识别现有AI系统中众包数据与知识来源及使用情况追踪方面的缺口。
• 开发一种供应链模型，以确保集体智能生产与部署过程中的透明度、公平性与可验证性。
• 建立一个框架，用于在整个生命周期中审计与验证集体智能资产。
• 通过将问责性延伸至数据与知识来源（类似于实物商品的供应链），推动伦理AI的发展。

提出的方法

• 提出一种受工业供应链启发的集体智能供应链模型，专为数据与知识资产进行适配。
• 引入一种去中心化、基于区块链的架构，以实现不可篡改性、透明性以及集体智能的可验证来源。
• 定义供应链中的关键阶段：数据生成、数据整理、标注、聚合，以及整合至AI系统。
• 使用密码学哈希与分布式账本技术，将每个流程阶段绑定至防篡改的记录。
• 整合基于角色的访问控制与审计日志，以确保贡献者、整理者与系统操作员之间的问责性。
• 在供应链的每个阶段应用数据治理与伦理AI原则，以防止偏见与剥削。

实验结果

研究问题

• RQ1 如何在AI系统中对集体智能资产进行系统性追踪与验证，以贯穿其整个生命周期？
• RQ2 何种架构模型能够实现众包数据与知识生产与使用过程中的透明度与问责性？
• RQ3 区块链技术在何种方式下可支持集体智能供应链中的公平性与伦理完整性？
• RQ4 如何将现有AI供应链模型进行改造，以纳入人类生成的见解等非实体、基于知识的资产？
• RQ5 为确保公共部门AI应用中集体智能的伦理化获取与使用，需要哪些治理机制？

主要发现

• 基于区块链的供应链模型能有效实现集体智能资产的可追溯性与可验证性。
• 该框架通过记录数据与知识在生产各阶段的来源，支持伦理问责。
• 该模型通过允许对贡献与数据使用决策进行独立审计，增强了透明度。
• 该架构通过不可篡改的参与记录，实现了对贡献者的公平补偿与认可。
• 该方法通过在系统设计中嵌入公平性、透明度与可审计性，契合公共部门AI治理需求。
• 该模型为将集体智能集成至受监管的AI应用提供了可扩展且可扩展的基础。