[논문 리뷰] Modelling Graph Errors: Towards Robust Graph Signal Processing

J.K. Miettinen, Sergiy A. Vorobyov외 1명|arXiv (Cornell University)|2019. 03. 20.

Advanced Graph Neural Networks참고 문헌 47인용 수 4

한 줄 요약

이 논문은 그래프 신호 처리(GSP) 작업에서 인접행렬 추정 오차의 영향을 연구하기 위해 실용적인 그래프 오차 모델을 제안한다. 에르도스-레니 모델과 그래프론 이론을 기반으로 한 프레임워크를 통해 인접행렬의 변동을 모델링하고, 그래프 필터링 및 독립성 성분 분석과 같은 GSP 방법에 대한 영향을 분석적으로 및 수치적으로 평가한다. 주요 결과로는 오차 영향이 그래프 구조와 신호 구조에 따라 달라진다는 점을 확인할 수 있다.

ABSTRACT

The first step for any graph signal processing (GSP) procedure is to learn the graph signal representation, i.e., to capture the dependence structure of the data into an adjacency matrix. Indeed, the adjacency matrix is typically not known a priori and has to be learned. However, it is learned with errors. A little attention has been paid to modelling such errors in the adjacency matrix, and studying their effects on GSP methods. However, modelling errors in the adjacency matrix will enable both to study the graph error effects in GSP and to develop robust GSP algorithms. In this paper, we therefore introduce practically justifiable graph error models. We also study, both analytically when possible and numerically, the graph error effect on the performance of GSP methods in different types of problems such as filtering of graph signals and independent component analysis of graph signals (graph decorrelation).

연구 동기 및 목표

• 그래프 신호 처리(GSP)에서 학습된 인접행렬의 오차에 대한 체계적인 모델링 부족을 해결하기 위해.
• 특히 인접행렬의 오차가 GSP 방법의 성능에 미치는 영향을 연구하기 위해.
• 강건한 GSP 알고리즘 설계를 가능하게 하기 위해 이론적으로 타당하고 실용적으로 타당한 그래프 오차 모델을 개발하기 위해.
• 인접행렬의 불확실성 영향이 그래프 필터링 및 그래프 신호의 독립성 성분 분석(ICA)과 같은 주요 GSP 작업에 미치는 영향을 분석하기 위해.
• 그래프의 위상적 변동에 대한 GSP 방법의 민감도를 평가하기 위한 분석적 및 수치적 도구를 제공하기 위해.

제안 방법

• 인접행렬 불확실성 모델링을 위한 기준선으로 에르도스-레니 무작위 그래프 모델을 사용한다.
• 진짜 인접행렬이 알려진 확률로 무작위로 간선을 추가하거나 삭제당하는 변동 모델을 도입한다.
• 대규모 그래프 구조를 모델링하고 고유값 및 고유함수의 渐近적 행동을 유도하기 위해 그래프론 이론을 적용한다.
• 진짜 그래프와 추정된 그래프 간의 차이를 측정하기 위해 최소 거리 지수를 활용한다.
• 확률론적 기법과 행렬 대수 기법을 사용해 그래프 오차 모델 하에서 기대 신호 에너지 및 자기상관을 분석적으로 유도한다.
• 대수의 법칙과 무작위 그래프 모델의 대칭성 특성을 활용해 그래프 신호 처리 연산의 기대 행동을 근사한다.

실험 결과

연구 질문

• RQ1 학습된 인접행렬의 오차가 그래프 필터링 및 그래프 신호 분해에 어떤 영향을 미치는가?
• RQ2 에르도스-레니 및 그래프론 기반 모델을 사용한 그래프 오차 모델링의 이론적 및 실용적 함의는 무엇인가?
• RQ3 그래프의 구조(예: 차수 분포, 고유값 스펙트럼)는 GSP 방법의 인접행렬 오차에 대한 민감도에 어떻게 영향을 미치는가?
• RQ4 무작위 행렬 이론과 그래프론 모델을 사용해 그래프 오차의 영향을 얼마나 분석적으로 정량화할 수 있는가?
• RQ5 다양한 오차 모델(예: 간선 삭제, 간선 추가)은 그래프 ICA 및 필터링과 같은 GSP 알고리즘의 안정성에 어떻게 영향을 미치는가?

주요 결과

• 필터링된 신호의 기대 제곱노름은 $ \frac{1}{N} \mathbb{E}\{\|\mathbf{z}\|^2\} \approx \sigma_y^2 \left( (\alpha - \alpha^2)\theta^2 a^2 N - 2\alpha\theta a + 1 \right) $ 로 근사되며, 이는 그래프 밀도 $\alpha$, 필터 이득 $\theta$, 신호 분산에 의존함을 보여준다.
• 에르도스-레니 모델 하에서 그래프 오차 영향은 분석적으로 다룰 수 있으며, 대수의 법칙에 의해 인접행렬 변동의 기대값이 $ c\epsilon $ 로 수렴함을 보였다.
• 그래프론 커널을 사용해 인접행렬의 고유값과 고유함수를 근사함으로써 대규모 그래프에 대한 渐近적 분석이 가능해졌다.
• 최소 거리 지수는 진짜 그래프와 추정된 그래프 간의 차이를 측정하는 지표로 기능하여 오차 모델링 및 강건성 분석을 지원한다.
• 분석 결과, 그래프 오차 영향은 신호 측정 오차와 동일하지 않으며, GSP에서 별도의 모델링 접근이 필요함을 확인하였다.
• 수치적 결과는 그래프 오차 영향이 비트리비얼하며, 특히 필터링 및 ICA 작업에서 신호 구조와 그래프 위상 간의 상호작용에 따라 달라짐을 확인하였다.