[論文レビュー] Dynamic Large Language Models on Blockchains

Yuanhao Gong|arXiv (Cornell University)|Jul 20, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、ブロックチェーン上で動的大規模言語モデル（DLLM）のトレーニングおよびデプロイを提案し、継続的で分散型かつ安全なモデル更新を可能にする。ブロックチェーンの分散性、透明性、インcentiveメカニズムを活用することで、ユーザーがデータを寄付し、開発者が段階的にモデルを改善できるようになり、価値貢献に応じて経済的に報酬が得られる自己持続的エコシステムを構築する。

ABSTRACT

Training and deploying the large language models requires a large mount of computational resource because the language models contain billions of parameters and the text has thousands of tokens. Another problem is that the large language models are static. They are fixed after the training process. To tackle these issues, in this paper, we propose to train and deploy the dynamic large language model on blockchains, which have high computation performance and are distributed across a network of computers. A blockchain is a secure, decentralized, and transparent system that allows for the creation of a tamper-proof ledger for transactions without the need for intermediaries. The dynamic large language models can continuously learn from the user input after the training process. Our method provides a new way to develop the large language models and also sheds a light on the next generation artificial intelligence systems.

研究の動機と目的

• トレーニング後も適応できない従来の大規模言語モデル（LLM）の高い計算コストと静的特性を是正すること。
• 企業によるデータプライバシーの喪失やユーザーのアクセス制御といった、LLMにおける中央集権的リスクを克服すること。
• ブロックチェーン暗号化を活用して、ユーザー入力からの継続的学習を可能にしつつ、データプライバシーを保持すること。
• 価値貢献に応じて報酬が得られる経済的インcentiveモデルを構築し、ユーザーは高品質な入力に対して報酬を受け取り、開発者は高品質なモデルの販売で収益を得ること。
• ブロックチェーンインfraストラクチャを活用して、トレーニングおよびデプロイの透明性・改ざん不能性・分散性を確保する、分散型のシステムを構築すること。

提案手法

• 実行時における適応性とパラメータ更新を可能にするために、ブロックチェーンネットワーク上に動的大規模言語モデル（DLLM）をデプロイする。
• ブロックチェーンの分散型レコーディングを活用し、モデル重み、ユーザー入力、トレーニングログを暗号的に安全かつ改ざん不能な方法で保存する。
• ユーザーが提供するデータに対してエンドツーエンド暗号化を実装し、プライバシーを確保するとともに、不正アクセスを防止する。
• トークンベースの経済的インcentiveを統合：高品質な入力に対してユーザーがトークンを獲得し、効果的なモデルをデプロイした開発者は報酬を得る。
• スマートコントラクトを活用して、貢献度に応じたモデル更新、報酬分配、アクセス制御を自動化する。
• 価値があり、活発に使用されているモデルおよび入力のみが保持される分散型モデルレジストリを設計し、システムの効率性を確保する。

実験結果

リサーチクエスチョン

• RQ1 初期トレーニング後も中央集権的制御に依存せずに、大規模言語モデルを動的に更新可能にする方法は何か？
• RQ2 ブロックチェーン上での安全でプライベートかつ分散型のモデルトレーニングを可能にするアーキテクチャ的・暗号的メカニズムは何か？
• RQ3 ユーザーの貢献とモデル品質、開発者の報酬を一致させるために、どのように経済的インcentiveを設計すべきか？
• RQ4 従来のLLMデプロイと比較して、ブロックチェーンの分散性は、データプライバシーとシステムのレジリエンスをどのように向上させるか？
• RQ5 ユーザーと開発者が両者ともモデル進化に経済的動機付けをもって貢献する自己持続的エコシステムが形成可能か？

主な発見

• 提案されたDLLM-on-blockchainシステムにより、ユーザー入力に基づく継続的モデル更新が可能となり、静的LLMが適応的システムに進化する。
• ユーザーのデータは暗号化され、ブロックチェーンネットワーク全体に安全に保存され、露出を最小限に抑えつつプライバシーを確保する。
• トークンベースのインcentiveメカニズムにより、高品質な入力に対してユーザーが報酬を受け取り、モデル使用に対して開発者が報酬を得られる。
• システムは価値のある入力およびモデルのみをアクティブに保つことで、低品質な貢献をフィルタリングする自己調整型エコシステムを形成する。
• 分散化により、単一のエージェントへの依存が低減され、データ損失、検閲、モデル独占のリスクが軽減される。
• ブロックチェーンの統合により、透明性と改ざん不能性が向上し、モデルトレーニングおよびデプロイプロセスへの信頼性が強化される。