[논문 리뷰] The Universal NFT Vector Database: A Scaleable Vector Database for NFT Similarity Matching

Samrat Smrutiranjan Sahoo, Nitin Paul외 3명|arXiv (Cornell University)|2023. 03. 23.

Conservation Techniques and Studies인용 수 5

한 줄 요약

이 논문은 RegNetY-080를 사용하여 NFT를 2016차원 임bedding으로 표현함으로써, 확장 가능한 유사도 매칭을 가능하게 하는 클라우드 기반의 하드웨어에 종속되지 않는 벡터 데이터베이스를 제안한다. Alchemy와 Pinecone를 통해 ERC-721 컨트랙트에서 NFT 미디어를 인덱싱함으로써, GUI를 통한 효율적인 유사도 검색 및 시각화를 가능하게 하여, 블록체인 외부의 제약을 초월해 NFT의 고유성 검출 및 데이터 접근성에 크게 기여한다.

ABSTRACT

Non-Fungible Tokens (NFTs) are a type of digital asset that represents a proof of ownership over a particular digital item such as art, music, or real estate. Due to the non-fungible nature of NFTs, duplicate tokens should not possess the same value. However, with the surge of new blockchains and a massive influx of NFTs being created, a wealth of NFT data is being generated without a method of tracking similarity. This enables people to create almost identical NFTs by changing one pixel or one byte of data. Despite the similarity among NFTs, each NFT is assigned a completely different token ID. To address the NFT duplication issue, we developed a modular, easily-extendable, hardware-agnostic, cloud-centered NFT processing system that represents NFTs as vectors. We established a database containing a vector representation of the NFTs in accordance with the Ethereum Request for Comment 721 (ERC-721) token standards to initiate the process of aggregating NFT data from various blockchains. Finally, we developed an NFT visualization dashboard application with a user-friendly graphical user interface (GUI) to provide non-technical users access to the aggregated NFT data. The Universal NFT Vector Database is an off-chain framework for NFT data aggregation based on similarity, which provides an organized way to query and analyze NFT data that was previously unavailable through on-chain solutions.

연구 동기 및 목표

• 암호학적 고유성 주장에도 불구하고 NFT 중복 검출을 위한 강력한 메커니즘이 부족한 문제를 해결하기 위해.
• 다양한 블록체인 간 NFT 데이터를 집계하고 표준화하기 위한 모듈형이며 하드웨어에 종속되지 않는 클라우드 중심의 시스템을 개발하기 위해.
• 이미지 미디어에서 유도된 벡터 임베딩을 사용하여 NFT 간의 확장 가능한 유사도 매칭을 가능하게 하기 위해.
• 연구자 및 비기술 사용자가 NFT 유사도 데이터를 쿼리하고 시각화할 수 있도록 사용자 우아한 웹 인터페이스를 제공하기 위해.
• 디지털 자산 인증 분야의 향후 혁신을 지원하고 NFT 고유성 강화 기반을 마련하기 위해.

제안 방법

• 분산형 쿼리가 가능한 Graph Protocol를 사용하여 ERC-721 컨트랙트 데이터를 추출한다.
• Alchemy의 NFT 인프라를 통해 개별 NFT 메타데이터 및 미디어 URL을 수집한다.
• 이미지 임베딩을 생성하기 위해 RegNetY-080 모델을 사용하여 2016차원의 벡터 표현을 도출한다.
• 유사도 검색에 효율적인 관리형 벡터 데이터베이스인 Pinecone에 NFT 벡터를 저장한다.
• 수평 확장성과 처리 작업을 이관하기 위해 AWS SQS와 Celery 워커를 사용한 작업 큐 아키텍처를 구현한다.
• Google Cloud Run과 Firebase를 사용한 서버리스 함수를 통해 공개 검색 및 시각화 API를 배포하고, 시각화에서 2차원 차원 축소를 위해 t-SNE를 적용한다.

실험 결과

연구 질문

• RQ1 대규모 NFT 컬렉션 전반에서 확장 가능한 유사도 매칭을 가능하게 하기 위해 NFT를 체계적으로 벡터로 표현하는 방법은 무엇인가?
• RQ2 다양한 블록체인을 통해 NFT 메타데이터 및 미디어를 효율적이고 수평적으로 처리할 수 있는 아키텍처는 무엇인가?
• RQ3 오프체인 벡터 데이터베이스는 NFT 중복 검출 및 고유성 보장 측면에서 온체인 솔루션보다 어떻게 개선될 수 있는가?
• RQ4 모듈형이며 클라우드 네이티브인 시스템은 NFT를 초월한 향후 디지털 자산 사용 사례의 확장성에 얼마나 기여할 수 있는가?
• RQ5 비기술 사용자가 직관적인 시각화 및 검색 인터페이스를 통해 복잡한 NFT 유사도 데이터를 효과적으로 상호작용할 수 있는가?

주요 결과

• 시스템은 RegNetY-080 임베딩을 사용하여 ERC-721 컨트랙트에서 NFT를 성공적으로 수용하고 벡터화하여 고정밀도의 유사도 매칭을 가능하게 하였다.
• 관리형 벡터 데이터베이스인 Pinecone의 사용으로 저수준 인프라 관리의 필요성을 제거하여 시스템 유지보수성과 확장성 향상을 달성하였다.
• AWS SQS와 Celery 워커를 사용한 작업 큐 아키텍처는 수평 확장을 가능하게 하여 효율적인 로드 분배를 실현하였고, API 오버로드를 방지하였다.
• 검색 API는 데이터베이스에 인덱싱된 NFT 벡터와 쿼리 이미지 벡터 간 코사인 거리 계산을 통해 실시간으로 유사도 검색을 수행하였다.
• 시각화 API는 t-SNE를 활용하여 고차원 벡터를 2차원으로 축소하여 NFT 유사도 클러스터의 직관적 탐색을 가능하게 하였다.
• 웹 애플리케이션 GUI는 비기술 사용자에게 NFT 유사도 데이터, 메트릭스, 검색 기능에 직접 접근할 수 있는 기회를 제공하여 사용성과 연구 접근성 향상을 높였다.