[论文解读] Dynamic Large Language Models on Blockchains

Yuanhao Gong|arXiv (Cornell University)|Jul 20, 2023

Topic Modeling被引用 4

一句话总结

本文提出在区块链上训练和部署动态大语言模型（DLLMs），以实现持续的、去中心化的、安全的模型更新。通过利用区块链的去中心化、透明性和激励机制，该系统使用户能够贡献数据，开发者可迭代改进模型，从而构建一个自我维持的生态系统，用户和开发者均根据其价值贡献获得经济回报。

ABSTRACT

Training and deploying the large language models requires a large mount of computational resource because the language models contain billions of parameters and the text has thousands of tokens. Another problem is that the large language models are static. They are fixed after the training process. To tackle these issues, in this paper, we propose to train and deploy the dynamic large language model on blockchains, which have high computation performance and are distributed across a network of computers. A blockchain is a secure, decentralized, and transparent system that allows for the creation of a tamper-proof ledger for transactions without the need for intermediaries. The dynamic large language models can continuously learn from the user input after the training process. Our method provides a new way to develop the large language models and also sheds a light on the next generation artificial intelligence systems.

研究动机与目标

• 解决传统大语言模型（LLMs）计算成本高且训练后无法适应的静态问题。
• 克服LLMs中心化带来的风险，如数据隐私泄露和企业对用户访问的控制。
• 在保护数据隐私的前提下，通过区块链加密实现从用户输入中持续学习。
• 建立经济激励模型，使用户因提供有价值输入而获得奖励，开发者因高质量模型而获益。
• 利用区块链基础设施，创建透明、防篡改且去中心化的LLM训练与部署系统。

提出的方法

• 在区块链网络上部署动态大语言模型（DLLMs），以支持运行时自适应和参数更新。
• 利用区块链的分布式账本，以密码学安全且不可篡改的方式存储模型权重、用户输入和训练日志。
• 对用户提供的数据实施端到端加密，确保隐私并防止未授权访问。
• 集成基于代币的经济激励机制：用户因提供高质量输入而获得代币，开发者因成功部署有效模型而获得收益。
• 利用智能合约自动执行模型更新、奖励分配和基于贡献价值的访问控制。
• 设计去中心化模型注册表，仅保留有价值且被持续使用的模型和输入，确保系统效率。

实验结果

研究问题

• RQ1 如何在不依赖中心化控制的前提下，使大语言模型在初始训练后仍可动态更新？
• RQ2 哪些架构和密码学机制能够实现区块链上安全、私密且去中心化的模型训练？
• RQ3 如何设计经济激励机制，使用户贡献与模型质量及开发者回报保持一致？
• RQ4 与传统LLM部署方式相比，区块链的去中心化在提升数据隐私和系统韧性方面有何优势？
• RQ5 能否形成一个自我维持的生态系统，使用户和开发者均因经济动机而持续参与模型的演进？

主要发现

• 所提出的基于区块链的DLLM系统可通过用户输入实现持续模型更新，将静态LLMs转变为自适应系统。
• 用户数据经加密后安全存储于区块链网络中，最大限度减少暴露，确保隐私。
• 基于代币的激励机制使用户因高质量输入获得奖励，开发者则因模型使用而获益。
• 系统确保仅高价值的输入和模型保持活跃，形成自我调节的生态系统，自动过滤低质量贡献。
• 去中心化降低了对单一实体的依赖，减轻了数据丢失、审查和模型垄断的风险。
• 区块链的集成提升了模型训练与部署过程的透明度和不可篡改性，增强了信任。