[논문 리뷰] Task-Based Graph Signal Compression

Pei Li, Nir Shlezinger외 3명|arXiv (Cornell University)|2021. 10. 24.

Advanced Graph Neural Networks참고 문헌 37인용 수 4

한 줄 요약

이 논문은 스펙트럼 복원을 목표로 하는 작업 기반 양자화 문제로 압축을 모델링하여, 밴드제한된 그래프 신호를 압축하기 위한 공동 샘플링 및 양자화 프레임워크를 제안한다. 반복적 비트 할당 알고리즘과 그래프 필터 기반 샘플링을 도입하여 분산 및 저복잡도 구현을 가능하게 하며, 유한 비트 표현을 사용함에도 불구하고 무한 해상도 양자화기의 재구성 정확도에 매우 가까운 성능을 달성한다.

ABSTRACT

Graph signals arise in various applications, ranging from sensor networks to social media data. The high-dimensional nature of these signals implies that they often need to be compressed in order to be stored and transmitted. The common framework for graph signal compression is based on sampling, resulting in a set of continuous-amplitude samples, which in turn have to be quantized into a finite bit representation. In this work we study the joint design of graph signal sampling along with quantization, for graph signal compression. We focus on bandlimited graph signals, and show that the compression problem can be represented as a task-based quantization setup, in which the task is to recover the spectrum of the signal. Based on this equivalence, we propose a joint design of the sampling and recovery mechanisms for a fixed quantization mapping, and present an iterative algorithm for dividing the available bit budget among the discretized samples. Furthermore, we show how the proposed approach can be realized using graph filters combining elements corresponding the neighbouring nodes of the graph, thus facilitating distributed implementation at reduced complexity. Our numerical evaluations on both synthetic and real world data shows that the joint sampling and quantization method yields a compact finite bit representation of high-dimensional graph signals, which allows reconstruction of the original signal with accuracy within a small gap of that achievable with infinite resolution quantizers.

연구 동기 및 목표

• 기존 그래프 신호 압축 방법이 샘플링과 양자화를 별개의 단계로 다루는 데에 초점을 맞추지 않고, 비트 효율성을 공동으로 최적화하는 데에 초점을 맞춘다.
• 샘플링 및 양자화된 데이터로부터 신호의 스펙트럼을 복원하는 것을 목표로 하는 작업 기반 양자화 문제로 그래프 신호 압축을 재구성한다.
• 고정된 비트 예산 하에서 재구성 오차의 평균 제곱오차(MSE)를 최소화하는 공동 샘플링 및 양자화 전략을 설계한다.
• 이웃 노드의 정보를 조합하는 그래프 필터를 활용하여 분산 구현을 가능하게 하여 계산 복잡도를 감소시킨다.
• 재구성 오차를 최소화하기 위해 가용 비트를 샘플된 신호 성분 간에 최적으로 할당하는 반복적 비트 할당 알고리즘을 개발한다.

제안 방법

• 샘플링 및 양자화된 데이터로부터 밴드제한된 그래프 신호의 스펙트럼을 복원하는 것을 목표로 하는 작업 기반 양자화 문제로 그래프 신호 압축을 모델링한다.
• 양자화 이전에 국소적이고 분산 가능한 계산을 가능하게 하기 위해 이웃 노드의 신호를 조합하는 그래프 필터를 도입한다.
• 제약 조건이 없는 그래프 필터에 대해, 각 샘플에 할당된 고정된 비트 수 하에서 MSE를 최소화하는 최적의 샘플링 행렬을 유도한다.
• 재구성 정확도 향상에 기여도가 높은 샘플에 비트를 재할당함으로써 재구성 오차를 최소화하는 반복적 비트 할당 알고리즘을 제안한다.
• 신호 공분산과 노이즈 공분산에 대한 추적 최대화를 통해 최적화 문제를 수립하여 복구 필터에 대한 닫힌 형태의 해를 가능하게 한다.
• 원래 최적화 문제와 스펙트럼 도메인에서 변환된 문제 사이의 동치성을 증명함으로써 고유값 분해를 통한 효율적 계산을 가능하게 한다.

실험 결과

연구 질문

• RQ1 그래프 신호의 공동 샘플링 및 양자화 설계를 스펙트럼 복원을 목표로 하는 작업 기반 양자화 문제로 재구성할 수 있는가?
• RQ2 재구성 오차를 최소화하기 위해 가용 비트 예산을 샘플된 그래프 신호 성분 간에 어떻게 최적으로 할당할 수 있는가?
• RQ3 샘플링 과정에서 그래프 필터를 사용할 경우 압축 시스템의 성능과 복잡도에 어떤 영향을 미치는가?
• RQ4 제안된 방법은 기존의 별도의 샘플링 및 양자화 접근 방식과 비교해 재구성 정확도와 비트 효율성 측면에서 어떻게 다른가?
• RQ5 공동 설계는 국소적 노드 상호작용을 통해 분산 방식으로 구현 가능하며, 그로 인해 발생하는 복잡도 감소는 어떠한가?

주요 결과

• 제안된 공동 샘플링 및 양자화 방법은 유한 비트 표현을 사용함에도 불구하고 무한 해상도 양자화기에서 달성 가능한 재구성 정확도에 매우 가까운 성능을 달성한다.
• 반복적 비트 할당 알고리즘이 재구성 민감도가 높은 샘플에 비트를 재할당하여 균일한 비트 할당 대비 전체 정확도를 크게 향상시킨다.
• 그래프 필터를 사용함으로써 샘플링 과정의 분산 구현이 가능해져 계산 복잡도를 감소시키고 대규모 그래프에 대한 확장성을 확보한다.
• 통합된 비트 예산 제약 조건 하에서 두 단계를 공동으로 최적화함으로써 기존의 별도의 샘플링 및 양자화 접근 방식보다 우수한 성능을 발휘한다.
• 이론적 분석을 통해 제안된 알고리즘이 근사 최적해로 수렴하며, 최종 비트 할당이 기울기 기반 향상에 기반한 종료 조건을 만족함을 증명한다.
• 합성 및 실세계 그래프 신호에 대한 수치적 평가 결과, 이 방법은 압축된 유한 비트 표현으로도 고정밀 재구성을 달성함을 확인하였다.