[论文解读] A Proof of Useful Work for Artificial Intelligence on the Blockchain

Andrei Lihu, Jincheng Du+3 more|arXiv (Cornell University)|Jan 25, 2020

Blockchain Technology Applications and Security参考文献 25被引用 7

一句话总结

本文提出了一种有用工作证明（PoUW）协议，用区块链上的深度神经网络（DNN）训练替代比特币的高能耗哈希运算，矿工通过执行诚实且可验证的机器学习工作获得奖励。通过从机器学习训练迭代中派生随机数，并支持确定性验证，该系统确保计算工作既具实用性又具备安全性，为传统PoW挖矿提供了一种更可持续且更具盈利性的替代方案。

ABSTRACT

Bitcoin mining is a wasteful and resource-intensive process. To add a block of transactions to the blockchain, miners spend a considerable amount of energy. The Bitcoin protocol, named 'proof of work' (PoW), resembles a lottery and the underlying computational work is not useful otherwise. In this paper, we describe a novel 'proof of useful work' (PoUW) protocol based on training a machine learning model on the blockchain. Miners get a chance to create new coins after performing honest ML training work. Clients submit tasks and pay all training contributors. This is an extra incentive to participate in the network because the system does not rely only on the lottery procedure. Using our consensus protocol, interested parties can order, complete, and verify useful work in a distributed environment. We outline mechanisms to reward useful work and punish malicious actors. We aim to build better AI systems using the security of the blockchain.

研究动机与目标

• 解决比特币高能耗工作量证明（PoW）挖矿带来的环境与经济低效问题。
• 设计一种去中心化共识协议，使矿工执行有用的机器学习（ML）工作，而非任意哈希运算。
• 确保在无信任的区块链环境中，机器学习训练的完整性和可验证性。
• 建立激励机制，奖励诚实参与行为，并惩罚分布式机器学习训练系统中的恶意行为者。
• 证明通过该PoUW框架，通用硬件可协同训练出高性能的深度神经网络（DNN）。

提出的方法

• 协议使用混合PoW/POS区块链（PAI区块链）协调跨工作节点的分布式DNN训练。
• 矿工执行数据并行的DNN训练，每个节点维护一个本地模型副本，并使用分配的数据批次更新模型。
• 区块挖矿的随机数通过基于每次迭代的模型权重和梯度的公式，从机器学习训练过程中派生。
• 验证过程通过重新运行矿工声称的特定训练迭代实现，确保确定性与高效性验证。
• 通过暂停/恢复机制应对拒绝服务（DoS）攻击，允许诚实节点在攻击期间离线协调，并在共识恢复后仅从断点处恢复。
• 安全机制包括对无效区块没收质押金、区块生成速率限制，以及每1024个区块设置一次检查点，以防止长程攻击。

实验结果

研究问题

• RQ1 能否以机器学习训练为基础，构建一种在区块链上安全、可验证且具有激励相容性的共识协议？
• RQ2 如何在不依赖可信第三方的前提下，对分布式机器学习中的有用工作实现确定性验证？
• RQ3 哪些机制可防止恶意矿工执行低成本甚至无工作量的训练，同时仍保证高效的区块挖矿？
• RQ4 将机器学习训练集成到区块链挖矿中，与传统PoW相比，对成本、性能和去中心化程度有何影响？
• RQ5 使用通用硬件的PoUW系统能否实现与集中式云环境下的机器学习训练相当的性能？

主要发现

• PoUW协议成功以可验证的DNN训练替代传统哈希运算，使挖矿既具实用性又具备安全性。
• 矿工工作验证高效且确定，仅需重新执行其声称的训练迭代即可完成。
• 该系统表明，基于通用硬件的分布式DNN训练可达到适用于现实世界AI应用的性能水平。
• 客户因采用去中心化且激励对齐的模型，相比传统云机器学习训练，可显著降低使用成本。
• 矿工因获得客户端补偿与区块奖励，其收益高于比特币挖矿，从而增强网络长期参与度。
• 通过质押金惩罚、速率限制和周期性检查点，该协议有效抵御常见攻击，如DoS攻击与长程攻击。