[論文レビュー] The Universal NFT Vector Database: A Scaleable Vector Database for NFT Similarity Matching

Samrat Smrutiranjan Sahoo, Nitin Paul+3 more|arXiv (Cornell University)|Mar 23, 2023

Conservation Techniques and Studies被引用数 5

ひとこと要約

本稿では、RegNetY-080を用いてNFTを2016次元の埋め込み表現として表現することで、スケーラブルな類似性照合を実現する、クラウドベースでハードウェアに依存しないベクトルデータベースを提案する。AlchemyとPineconeを介してERC-721コントラクトからのNFTメディアをインデックス化することで、GUIを介した効率的な類似性検索と可視化が可能となり、オンチェーンの制限を超えてNFTの独自性検出とデータのアクセス性が著しく向上する。

ABSTRACT

Non-Fungible Tokens (NFTs) are a type of digital asset that represents a proof of ownership over a particular digital item such as art, music, or real estate. Due to the non-fungible nature of NFTs, duplicate tokens should not possess the same value. However, with the surge of new blockchains and a massive influx of NFTs being created, a wealth of NFT data is being generated without a method of tracking similarity. This enables people to create almost identical NFTs by changing one pixel or one byte of data. Despite the similarity among NFTs, each NFT is assigned a completely different token ID. To address the NFT duplication issue, we developed a modular, easily-extendable, hardware-agnostic, cloud-centered NFT processing system that represents NFTs as vectors. We established a database containing a vector representation of the NFTs in accordance with the Ethereum Request for Comment 721 (ERC-721) token standards to initiate the process of aggregating NFT data from various blockchains. Finally, we developed an NFT visualization dashboard application with a user-friendly graphical user interface (GUI) to provide non-technical users access to the aggregated NFT data. The Universal NFT Vector Database is an off-chain framework for NFT data aggregation based on similarity, which provides an organized way to query and analyze NFT data that was previously unavailable through on-chain solutions.

研究の動機と目的

• 暗号的独自性の主張にもかかわらず、NFTの重複検出のための堅牢なメカニズムの欠如に応えること。
• ブロックチェーン across でNFTデータを集約・標準化するためのモジュラーでハードウェアに依存しないクラウド中心のシステムを構築すること。
• 画像メディアから導出されたベクトル埋め込みを用いて、NFTのスケーラブルな類似性照合を可能にすること。
• 研究者や非技術者ユーザーがNFT類似性データを照会・可視化できるユーザーフレンドリーなWebインターフェースを提供すること。
• NFT独自性の強化と、デジタルアセット認証分野における将来的なイノベーションを支援する基盤を構築すること。

提案手法

• 分散型クエリを可能にするGraph Protocolを用いてERC-721コントラクトデータを抽出する。
• AlchemyのNFTインfraストラクチャを介して個々のNFTメタデータとメディアURLを収集する。
• RegNetY-080モデルを用いて2016次元の画像埋め込みを生成し、ベクトル表現を実現する。
• Pinecone（マネージドベクトルデータベース）にNFTベクトルを格納し、効率的な類似性照合を実現する。
• AWS SQSとCeleryワーカーを用いたタスクキュー・アーキテクチャを実装し、水平スケーリングと処理のオフロードを可能にする。
• Google Cloud RunとFirebaseを用いたサーバess関数で公開用の検索および可視化APIをデプロイし、可視化における2次元への次元削減にt-SNEを活用する。

実験結果

リサーチクエスチョン

• RQ1 大規模なNFTコレクションにわたり、スケーラブルな類似性照合を実現するため、NFTを体系的にどのようにベクトルとして表現できるか？
• RQ2 複数のブロックチェーンにまたがるNFTメタデータおよびメディアの処理において、効率的で水平スケーラブルなアーキテクチャはどのようなものか？
• RQ3 オフチェーンのベクトルデータベースは、オンチェーンソリューションに比べて、NFTの重複検出および独自性の保証においてどのように改善できるか？
• RQ4 モジュラーでクラウドネイティブなシステムは、NFTを越えた将来のデジタルアセットユースケースの拡張性をどの程度サポートできるか？
• RQ5 非技術者ユーザーは、直感的な可視化と検索インターフェースを通じて、複雑なNFT類似性データをどの程度効果的に操作できるか？

主な発見

• RegNetY-080埋め込みを用いて、ERC-721コントラクトからのNFTを効果的にインジェストおよびベクトル化し、高精度な類似性照合を実現した。
• Pineconeをマネージドベクトルデータベースとして採用することで、低レベルのインfraストラクチャ管理の必要がなくなり、システムの保守性とスケーラビリティが向上した。
• AWS SQSとCeleryワーカーを用いたタスクキュー・アーキテクチャにより、水平スケーリングと効率的な負荷分散が実現され、APIの過負荷を回避できた。
• 検索APIは、クエリ画像ベクトルとデータベース内のインデックス化されたNFTベクトルとの間でコサイン距離を用いて、リアルタイムの類似性照合を達成した。
• 可視化APIはt-SNEを用いて高次元ベクトルを2次元に低次元化し、NFT類似性クラスタの直感的な探索を可能にした。
• WebアプリケーションのGUIは、非技術者ユーザーがNFT類似性データ、メトリクス、検索機能に直接アクセスできるようにし、使いやすさと研究のアクセシビリティを向上させた。