[论文解读] Is Decentralized AI Safer?

Casey Clifton, Richard Blythman+1 more|arXiv (Cornell University)|Nov 4, 2022

Blockchain Technology Applications and Security被引用 4

一句话总结

本文研究了通过区块链技术去中心化人工智能是否能通过DAO实现去中心化治理、不可篡改的审计记录以及数据访问的民主化，从而提升安全性和伦理水平。研究发现，去中心化可减少偏见并更好地契合多元道德视角，但同时也带来了新的风险，如可访问性差、安全漏洞以及数据货币化伦理问题。

ABSTRACT

Artificial Intelligence (AI) has the potential to significantly benefit or harm humanity. At present, a few for-profit companies largely control the development and use of this technology, and therefore determine its outcomes. In an effort to diversify and democratize work on AI, various groups are building open AI systems, investigating their risks, and discussing their ethics. In this paper, we demonstrate how blockchain technology can facilitate and formalize these efforts. Concretely, we analyze multiple use-cases for blockchain in AI research and development, including decentralized governance, the creation of immutable audit trails, and access to more diverse and representative datasets. We argue that decentralizing AI can help mitigate AI risks and ethical concerns, while also introducing new issues that should be considered in future work.

研究动机与目标

• 评估使用区块链技术去中心化人工智能是否能提升安全性、伦理性和与多元人类价值观的一致性。
• 研究去中心化自治组织（DAO）如何形式化人工智能研究与开发中的包容性治理。
• 评估区块链在实现不可篡改的审计记录以及安全、具代表性的数据共享方面的作用，以支持人工智能模型。
• 识别并分析去中心化引入的新风险，包括可访问性差距和数据安全威胁。
• 为未来研究提供指导，推动构建公平、可审计且具有韧性的去中心化人工智能系统。

提出的方法

• 通过分析现有区块链在人工智能中的应用案例，评估其在治理、数据访问和可审计性方面的应用场景。
• 应用去中心化自治组织（DAO）的概念，协调并激励社区驱动的人工智能研发决策。
• 利用区块链的不可篡改性，创建人工智能模型训练、数据来源和决策过程的防篡改日志。
• 分析现有的数据共享模式，这些模式通过代币化个人数据，实现安全且具有激励性的参与人工智能训练。
• 通过非正式调查和对当前去中心化人工智能实现的风险评估，评估技术与社会挑战。
• 整合联邦学习和可解释人工智能等既有的人工智能安全技术，以减轻去中心化系统中的偏见并增强隐私保护。

实验结果

研究问题

• RQ1 通过DAO实现的去中心化治理是否能比集中化的公司模式带来更合乎伦理且更具代表性的AI发展？
• RQ2 区块链如何通过不可篡改的数据轨迹实现更透明、可审计的人工智能系统？
• RQ3 去中心化的数据所有权在多大程度上能减少模型偏见并提升人工智能系统的公平性？
• RQ4 去中心化人工智能会带来哪些新风险，特别是在可访问性和安全性方面？
• RQ5 如何设计去中心化人工智能系统，以防止通过数据货币化剥削弱势群体？

主要发现

• 通过DAO实现的去中心化AI治理可通过促进参与式决策，使AI发展与更广泛的社会价值观保持一致，如谷歌员工主导的伦理行动所证明的那样。
• 区块链可实现不可篡改的审计记录，从而增强人工智能模型开发与部署过程中的透明度和问责性。
• 去中心化的数据共享可提升数据集的多样性并减少偏见，尤其当与联邦学习等隐私保护技术结合时效果更显著。
• 尽管存在潜在优势，但调查发现79%的DAO参与者为20至40岁的男性，表明当前去中心化治理模式在可访问性和多样性方面存在显著差距。
• 由于对区块链不可篡改性的误解以及数据代币化中欺诈行为的潜在风险，终端用户的安全风险被加剧，此类风险与加密货币诈骗类似。
• 通过区块链对个人数据进行货币化可能剥削弱势群体，并强化现有社会偏见，尤其当歧视性变量未得到妥善控制时。