[논문 리뷰] Dynamic Large Language Models on Blockchains

Yuanhao Gong|arXiv (Cornell University)|2023. 07. 20.

Topic Modeling인용 수 4

한 줄 요약

이 논문은 블록체인 상에서 동적 대규모 언어 모델(DLLM)을 훈련하고 배포하여 지속적이고 탈중앙화되며 안전한 모델 업데이트를 가능하게 하는 것을 제안한다. 블록체인의 탈중앙화, 투명성 및 인cent라이브 메커니즘을 활용함으로써, 사용자는 데이터 기여를 하고 개발자는 반복적으로 모델을 향상시킬 수 있으며, 이는 가치 기여에 기반해 경제적으로 보상받는 자율적 생태계를 창출한다.

ABSTRACT

Training and deploying the large language models requires a large mount of computational resource because the language models contain billions of parameters and the text has thousands of tokens. Another problem is that the large language models are static. They are fixed after the training process. To tackle these issues, in this paper, we propose to train and deploy the dynamic large language model on blockchains, which have high computation performance and are distributed across a network of computers. A blockchain is a secure, decentralized, and transparent system that allows for the creation of a tamper-proof ledger for transactions without the need for intermediaries. The dynamic large language models can continuously learn from the user input after the training process. Our method provides a new way to develop the large language models and also sheds a light on the next generation artificial intelligence systems.

연구 동기 및 목표

• 훈련 후에 적응할 수 없는 고정된 성격을 띠는 전통적인 대규모 언어 모델(LLM)의 높은 계산 비용과 정적 성격을 해결하기 위해.
• 기업이 사용자 데이터 접근 제어를 통해 개인정보 유출 및 중앙집중화 리스크를 초래하는 문제를 극복하기 위해.
• 블록체인 암호화를 통해 사용자 입력에서의 지속적 학습을 가능하게 하면서도 데이터 기밀성을 유지하기 위해.
• 사용자는 유용한 입력에 대해 보상받고, 개발자는 고품질 모델을 통해 수익을 얻는 경제적 인센티브 모델을 수립하기 위해.
• 블록체인 인프라를 활용해 훈련 및 배포 과정이 투명하고 변조 불가능하며 탈중앙화된 시스템을 구축하기 위해.

제안 방법

• 런타임 적응 및 매개변수 업데이트를 지원하기 위해 블록체인 네트워크 상에 동적 대규모 언어 모델(DLLM)을 구현한다.
• 블록체인의 분산 원장 기반으로 모델 가중치, 사용자 입력 및 훈련 로그를密码적으로 안전하고 변조 불가능한 방식으로 저장한다.
• 사용자가 제공한 데이터에 대해 종단 간 암호화를 구현하여 기밀성을 확보하고 무단 접근을 방지한다.
• 토큰 기반 경제적 인센티브를 통합: 고급 품질의 입력에 대해 사용자는 토큰을 수령하고, 효과적인 모델을 배포한 개발자는 수익을 얻는다.
• 스마트 계약을 활용해 기여도 기반으로 모델 업데이트, 보상 배분 및 접근 제어를 자동화한다.
• 유용하고 활발히 사용되는 모델과 입력만 유지되는 탈중앙화된 모델 레지스트리 구조를 설계한다. 이는 시스템의 효율성을 보장한다.

실험 결과

연구 질문

• RQ1 초기 훈련 이후에도 중앙 집중적 제어에 의존하지 않고 대규모 언어 모델을 어떻게 동적으로 업데이트할 수 있는가?
• RQ2 어떤 아키텍처적 및 암호 기반 메커니즘이 블록체인 상에서 안전하고 기밀성 보장된 탈중앙화된 모델 훈련을 가능하게 하는가?
• RQ3 어떻게 경제적 인센티브를 구성함으로써 사용자 기여도와 모델 품질, 개발자 보상 간의 일치를 이룰 수 있는가?
• RQ4 기존의 LLM 배포 방식과 비교해 블록체인 탈중앙화가 데이터 기밀성과 시스템 내성에 어떤 방식으로 기여하는가?
• RQ5 사용자와 개발자가 모두 모델 진화에 기여할 경제적 동기를 가진 자율적 생태계가 형성될 수 있는가?

주요 결과

• 제안된 블록체인 기반 DLLM 시스템은 사용자 입력을 통해 지속적인 모델 업데이트를 가능하게 하여 정적 LLM을 적응형 시스템으로 전환한다.
• 사용자 데이터는 암호화되어 블록체인 네트워크 전역에 안전하게 저장되어 노출 위험을 최소화하고 기밀성을 보장한다.
• 토큰 기반 인센티브 메커니즘을 통해 고급 품질의 입력에 대해 사용자는 보상을 수령하고, 개발자는 모델 사용으로부터 수익을 얻는다.
• 시스템은 유용한 입력과 모델만 유지되도록 하여 저품질 기여를 걸러내는 자율 조절 생태계를 조성한다.
• 탈중앙화로 단일 기관에 대한 의존도가 감소하여 데이터 유출, 검열, 모델 독점화 등의 리스크가 완화된다.
• 블록체인 통합을 통해 투명성과 변조 불가능성이 확보되어 모델 훈련 및 배포 과정에 대한 신뢰도가 향상된다.