[논문 리뷰] A Proof of Useful Work for Artificial Intelligence on the Blockchain

Andrei Lihu, Jincheng Du외 3명|arXiv (Cornell University)|2020. 01. 25.

Blockchain Technology Applications and Security참고 문헌 25인용 수 7

한 줄 요약

이 논문은 블록체인에서 깊이 있는 신경망(DNN)을 훈련시켜 에너지 소모가 심한 해싱 대신 유용한 기계학습 작업을 수행하는 Proof of Useful Work (PoUW) 프로토콜을 제안한다. 마이너는 정직하고 검증 가능한 기계학습 작업을 수행함으로써 보상을 얻는다. ML 훈련 반복 횟수에서 유도된 노난스(nonc)와 결정론적 검증을 통해 계산 작업이 유용하고 안전함을 보장하며, 기존의 PoW 마이닝보다 더 지속 가능하고 수익성이 높은 대안을 제공한다.

ABSTRACT

Bitcoin mining is a wasteful and resource-intensive process. To add a block of transactions to the blockchain, miners spend a considerable amount of energy. The Bitcoin protocol, named 'proof of work' (PoW), resembles a lottery and the underlying computational work is not useful otherwise. In this paper, we describe a novel 'proof of useful work' (PoUW) protocol based on training a machine learning model on the blockchain. Miners get a chance to create new coins after performing honest ML training work. Clients submit tasks and pay all training contributors. This is an extra incentive to participate in the network because the system does not rely only on the lottery procedure. Using our consensus protocol, interested parties can order, complete, and verify useful work in a distributed environment. We outline mechanisms to reward useful work and punish malicious actors. We aim to build better AI systems using the security of the blockchain.

연구 동기 및 목표

• 비트코인의 에너지 소모가 심한 작업 증명(PoW) 마이닝의 환경적 및 경제적 비효율성을 해결하기 위해.
• 마이너가 임의의 해싱 대신 유용한 기계학습(ML) 작업을 수행하는 탈중앙화된 합의 프로토콜을 설계하기 위해.
• 신뢰할 수 없는 블록체인 기반 환경에서 기계학습 훈련의 무결성과 검증 가능성을 확보하기 위해.
• 분산 기계학습 훈련 시스템에서 정직한 참여를 보상하고 악성 행위자를 제재할 수 있는 인centive 메커니즘을 만들기 위해.
• 이 PoUW 프레임워크를 통해 일반 하드웨어가 함께 고성능 DNN을 훈련시킬 수 있음을 입증하기 위해.

제안 방법

• 프로토콜은 마이너가 분산된 DNN 훈련을 수행할 수 있도록 조율하는 하이브리드 PoW/POS 블록체인(PAI 블록체인)을 사용한다.
• 마이너는 데이터 병렬 DNN 훈련을 수행하며, 각 노드는 로컬 모델 복제본을 유지하고 할당된 데이터 배치를 사용해 이를 업데이트한다.
• 블록 마이닝을 위한 노난스는 각 반복의 모델 가중치와 기울기를 기반으로 하는 공식을 통해 ML 훈련 과정에서 유도된다.
• 검증은 마이너가 주장한 특정 훈련 반복을 재실행함으로써 이루어지며, 결정론적이고 효율적인 검증을 보장한다.
• DoS 공격에 대응하기 위해 일시정지/재개 메커니즘이 도입되어, 정직한 노드들이 공격 기간 동안 오프체인으로 협업하고 합의가 복구된 후에만 재개할 수 있도록 한다.
• 보안 메커니즘으로는 잘못된 블록에 대한 스테이크 몰수, 블록 생성 빈도 제한, 그리고 1024개 블록마다 갱신되는 주기적 체크포인트를 통해 장기 범위 공격을 방지한다.

실험 결과

연구 질문

• RQ1 기계학습 훈련이 블록체인에서 안전하고 검증 가능하며 인센티브 호환성이 있는 합의 프로토콜의 기초가 될 수 있는가?
• RQ2 신뢰할 수 없는 제3자에 의존하지 않고도 분산 기계학습에서의 유용한 작업을 결정론적으로 검증할 수 있는 방법은 무엇인가?
• RQ3 저비용 또는 무작위 작업만 수행하는 악성 마이너가 여전히 효율적인 블록 마이닝을 할 수 없도록 방지할 수 있는 메커니즘은 무엇인가?
• RQ4 블록체인 마이닝에 기계학습 훈련을 통합할 경우, 기존의 PoW 대비 비용, 성능, 탈중앙화 수준에 어떤 영향을 미치는가?
• RQ5 일반 하드웨어를 사용한 PoUW 시스템이 중심화된 클라우드 기반 기계학습 훈련과 비교해 유사한 성능을 달성할 수 있는가?

주요 결과

• PoUW 프로토콜은 기존의 해싱을 검증 가능한 DNN 훈련으로 성공적으로 대체하여 마이닝이 동시에 유용하고 안전함을 입증했다.
• 마이너의 작업 검증은 효율적이고 결정론적이며, 주장한 훈련 반복을 재실행하기만 하면 된다.
• 시스템은 일반 하드웨어를 사용한 분산 DNN 훈련이 실제 AI 응용 분야에 적합한 성능을 달성할 수 있음을 보여주었다.
• 분산형이고 인센티브가 일치하는 모델 덕분에 클라이언트는 기존의 클라우드 기반 ML 훈련 대비 낮은 비용으로 혜택을 볼 수 있다.
• 클라이언트 보상과 블록 보상 덕분에 마이너는 비트코인 마이닝보다 더 높은 수익을 올릴 수 있어 장기적인 네트워크 참여를 촉진한다.
• 스테이크 몰수, 빈도 제한, 주기적 체크포인트를 통해 DoS 공격 및 장기 범위 공격에 효과적으로 대응할 수 있었다.